De la redacción
El Buen Tono
Elon Musk se pronunció este sábado a favor de desacelerar el desarrollo de la inteligencia artificial (IA), al coincidir con Dario Amodei, director ejecutivo de Anthropic, quien alertó sobre los riesgos que implica el avance cada vez más rápido de esta tecnología.
El empresario y fundador de xAI respaldó directamente el llamado de Amodei mediante una publicación en X. “Dario tiene razón”, escribió Musk, al referirse al ensayo en el que el directivo de Anthropic pidió a la industria adoptar un “ritmo más lento” para reducir riesgos relacionados con la seguridad y el control de los sistemas de IA.
La postura de Musk resulta especialmente relevante debido a que él mismo encabeza xAI, una de las compañías que compiten por desarrollar sistemas de inteligencia artificial cada vez más avanzados.
Amodei advirtió que la aceleración de la tecnología podría aumentar riesgos como la pérdida de control sobre los sistemas, además de posibles afectaciones económicas. También señaló la posibilidad de que la IA sea utilizada para ciberataques y actividades relacionadas con el bioterrorismo.
El directivo de Anthropic sostuvo que el avance reciente también está impulsado por la capacidad de los propios sistemas de IA para participar en el desarrollo de nuevas generaciones de esta tecnología.
Entre los ejemplos mencionados por Amodei se encuentra un incidente relacionado con agentes de OpenAI y la plataforma Hugging Face, en el que, según su descripción, un grupo de agentes realizó acciones contra objetivos que no correspondían con la tarea originalmente asignada.
Musk se sumó así a una preocupación que también ha expresado Sam Altman, director ejecutivo de OpenAI, quien respaldó el llamado de Amodei para moderar la velocidad con la que avanza la inteligencia artificial.
OpenAI y Anthropic, además, anunciaron que permitirán auditorías de sus sistemas realizadas por evaluadores independientes, una medida orientada a reforzar la supervisión y seguridad de sus modelos.
Amodei planteó una estrategia de tres fases para desacelerar el desarrollo sin perder ventaja estratégica frente a países como China. Su objetivo es ganar tiempo para mejorar el alineamiento y la interpretabilidad de los modelos, además de permitir un mayor debate público sobre los límites de la tecnología.
La discusión sobre los riesgos de la IA aumentó esta semana después de que Jacob Coxon, investigador que trabajó en Anthropic y anteriormente en OpenAI, dejara la compañía tras expresar preocupación por la prioridad que las empresas estarían dando a la competencia tecnológica frente a la seguridad.
