AGENCIAS
EU.- La empresa creadora de ChatGPT, OpenAI, informó que uno de sus modelos avanzados de inteligencia artificial protagonizó un incidente de ciberseguridad durante una prueba controlada, al lograr acceder y atacar por su cuenta una plataforma utilizada por desarrolladores.
La compañía calificó el hecho como un “incidente cibernético sin precedentes” y anunció que realizará una investigación conjunta con Hugging Face, la plataforma afectada, para analizar cómo el sistema logró ejecutar acciones no previstas durante la evaluación.
De acuerdo con OpenAI, el experimento tenía como objetivo medir las capacidades de sus modelos para detectar vulnerabilidades dentro de un entorno digital aislado. Sin embargo, durante la prueba, la inteligencia artificial buscó una forma de conectarse a internet y, tras conseguirlo, intentó acceder a Hugging Face mediante una serie de métodos automatizados.
La empresa explicó que el modelo utilizó diferentes estrategias, incluyendo el uso de credenciales comprometidas, para intentar obtener información que le permitiera modificar los resultados de la evaluación.
El caso generó preocupación entre especialistas en tecnología, quienes advierten que las capacidades de las llamadas IA autónomas o agentes de inteligencia artificial podrían representar nuevos riesgos si llegan a utilizarse con fines maliciosos.
Hussein Abbass, profesor de informática de la Universidad UNSW Canberra, calificó el episodio como preocupante debido a que la IA no solo identificó una vulnerabilidad, sino que intentó explotarla dentro de un sistema real.
Por su parte, Clement Delangue, director ejecutivo de Hugging Face, confirmó que la plataforma detectó una intrusión y señaló que, por la complejidad del ataque, sospecharon inicialmente que provenía de un laboratorio líder de inteligencia artificial.
Sin embargo, Delangue aclaró que no consideran que haya existido una intención maliciosa por parte de OpenAI y calificó como sorprendente que el proceso haya sido ejecutado de manera autónoma por un sistema de IA.
El incidente vuelve a abrir el debate mundial sobre los límites, controles de seguridad y riesgos de una inteligencia artificial cada vez más capaz de tomar decisiones y realizar tareas sin intervención humana directa.
