AGENCIAS
Estados Unidos.- Dario Amodei, CEO y cofundador de Anthropic, advirtió sobre los riesgos que podría representar el desarrollo acelerado de sistemas de inteligencia artificial sin suficientes mecanismos de supervisión y control.
En un ensayo titulado “We Must Pace the Frontier”, difundido en su sitio personal y posteriormente en la red social X, Amodei planteó que la industria tecnológica debe reducir el ritmo de la carrera por desarrollar modelos cada vez más avanzados, sin detener la investigación, pero permitiendo que empresas y gobiernos implementen medidas de seguridad.
El directivo señaló que, si la competencia continúa sin salvaguardas suficientes, sistemas de inteligencia artificial con capacidades avanzadas podrían generar riesgos para la infraestructura tecnológica mundial.
ADVIERTE SOBRE POSIBLE CONTROL DE INTERNET
Amodei proyectó que, de mantenerse el ritmo actual de desarrollo y sin establecer controles inmediatos, en un periodo de entre seis y 12 meses un conjunto de agentes de inteligencia artificial fuera de control podría generar redes automatizadas de bots capaces de tomar el control de infraestructura de internet.
El escenario planteado podría provocar importantes afectaciones económicas a escala global, de acuerdo con la advertencia del empresario.
Entre los riesgos señalados también se encuentran el desarrollo de herramientas relacionadas con bioterrorismo, ciberataques coordinados y sistemas de vigilancia masiva.
El propio sector tecnológico ha advertido que los modelos con capacidad de automejora podrían eventualmente superar la capacidad de supervisión de sus desarrolladores si no se establecen mecanismos adecuados.
PROPONE SUPERVISIÓN INTERNACIONAL
Ante este panorama, Amodei propuso un esquema basado en tres ejes para reducir los riesgos.
El primero consiste en permitir que evaluadores externos e independientes, como la organización METR, tengan acceso permanente a las empresas tecnológicas para analizar los riesgos de seguridad de sus sistemas.
El segundo plantea una mayor coordinación entre países democráticos para establecer límites y estándares comunes en el desarrollo de inteligencia artificial.
El tercero propone acuerdos internacionales que incluyan también a potencias como China, con el objetivo de prohibir los usos considerados más peligrosos de esta tecnología.
Amodei aclaró que su propuesta no busca congelar la investigación ni detener el desarrollo de nuevos modelos, sino establecer un ritmo que permita implementar medidas de seguridad antes de que las capacidades de estos sistemas aumenten de manera significativa.
ELON MUSK RESPALDA LA ADVERTENCIA
La postura del CEO de Anthropic recibió respaldo público de otras figuras de la industria tecnológica. Elon Musk coincidió con el diagnóstico de Amodei y manifestó públicamente que consideraba acertada su advertencia.
El debate vuelve a poner sobre la mesa uno de los principales desafíos de la inteligencia artificial: cómo aprovechar sus avances tecnológicos sin permitir que sistemas cada vez más autónomos desarrollen capacidades que puedan superar los mecanismos humanos de supervisión y control.
Por ahora, la advertencia de Amodei representa un escenario de riesgo planteado por uno de los principales directivos de la industria, y no una predicción confirmada de que la inteligencia artificial vaya a tomar el control de internet en ese plazo.
