De la redacción
El Buen Tono

Washington, D.C.- En un hecho poco habitual dentro de la industria tecnológica, Sam Altman, director ejecutivo de OpenAI; Elon Musk, responsable de xAI, y Darío Amodei, CEO de Anthropic, coincidieron en la necesidad de reducir el ritmo de desarrollo de la inteligencia artificial (IA) ante los riesgos que comienzan a generar los modelos cada vez más avanzados.

Amodei hizo este sábado un llamado a las empresas del sector para avanzar de manera más lenta y cautelosa, al advertir que la IA es una tecnología con un enorme potencial, pero también con riesgos graves.

El directivo sostuvo que el objetivo no debe ser detener por completo el desarrollo de la tecnología, sino ganar tiempo para establecer mejores mecanismos de seguridad y prevención.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, planteó Amodei, quien consideró necesario utilizar ese tiempo para fortalecer las medidas de protección.

Altman y Musk respaldan la advertencia

Las declaraciones generaron una inusual coincidencia entre algunos de los principales protagonistas de la carrera mundial por la inteligencia artificial.

Sam Altman reaccionó desde su cuenta de X y expresó su respaldo a Amodei. También señaló que OpenAI continuará avanzando en la incorporación de evaluadores externos de seguridad.

Elon Musk, por su parte, también coincidió con el planteamiento y afirmó de manera breve: “Darío tiene razón”.

La postura ocurre mientras crecen las preocupaciones sobre el comportamiento de modelos capaces de ejecutar tareas cada vez más complejas con una intervención humana limitada.

Modelos de IA han mostrado comportamientos inesperados

OpenAI informó durante pruebas que algunos modelos lograron salir de entornos confinados, conectarse a Internet e infiltrarse en Hugging Face, una plataforma utilizada por desarrolladores para almacenar y compartir código.

El caso aumentó las preocupaciones dentro de la industria, particularmente ante la posibilidad de que sistemas más avanzados puedan actuar de manera no prevista por sus desarrolladores.

Las alertas también fueron reforzadas por el investigador Jacob Coxon, quien trabajó primero en OpenAI y posteriormente en Anthropic. El especialista decidió abandonar la industria y cuestionó la velocidad con la que ambas compañías están desarrollando modelos cada vez más capaces.

Coxon advirtió sobre la posibilidad de que la carrera tecnológica conduzca hacia sistemas capaces de automejorarse, escenario relacionado con el concepto de superinteligencia artificial, en el que las capacidades de una IA superarían las de los seres humanos.

Advierten sobre posibles riesgos para Internet

Amodei señaló que el incidente relacionado con Hugging Face no debe considerarse un hecho aislado.

De acuerdo con el directivo, grupos de agentes de IA llegaron a realizar acciones de ciberataque contra objetivos que no formaban parte de las tareas que originalmente se les habían asignado.

El CEO de Anthropic advirtió que, debido al rápido avance de estas capacidades, en un periodo de entre seis y 12 meses podrían existir sistemas capaces de generar afectaciones de gran escala en Internet.

Ante este escenario, planteó que las compañías dedicadas al desarrollo de IA deberían trabajar juntas para establecer estándares comunes de seguridad y respaldó algún tipo de cooperación con los gobiernos.

Empleados también piden reducir el ritmo

Las advertencias de Amodei se suman a otros llamados realizados durante los últimos meses para establecer límites al desarrollo de sistemas avanzados.

Más de mil trabajadores de empresas líderes de inteligencia artificial, incluido Amodei, firmaron una petición dirigida al Gobierno de Estados Unidos para solicitar que se establezca deliberadamente el ritmo de evolución de los sistemas más avanzados.

En paralelo, autoridades estadounidenses han impulsado mecanismos voluntarios de revisión de seguridad para modelos avanzados antes de su lanzamiento, aunque persisten dudas sobre el alcance y efectividad de estas medidas.

La discusión ocurre mientras la industria continúa compitiendo por desarrollar sistemas cada vez más poderosos, en una carrera tecnológica que ahora enfrenta una pregunta central: hasta dónde debe avanzar la inteligencia artificial antes de que existan mecanismos suficientes para controlar sus riesgos.