De la redacción
El Buen Tono

Un ingeniero británico que trabaja en Anthropic y que durante los últimos tres años también colaboró con OpenAI, empresa creadora de ChatGPT, presentó su renuncia al considerar que ambas compañías no están actuando con la responsabilidad necesaria ante los riesgos del desarrollo acelerado de la inteligencia artificial.

Jacob Coxon, ingeniero de software de 27 años identificado por distintos medios como uno de los desarrolladores que participaron en proyectos relacionados con GPT-4o y GPT-4.5, expuso su postura en un hilo publicado en X.

El especialista afirmó que quienes trabajan en el desarrollo de sistemas avanzados de IA consideran seriamente la posibilidad de que esta tecnología pueda representar una amenaza extrema para la humanidad durante la próxima década.

Coxon sostuvo que se está subestimando el potencial de estos sistemas, pues considera que podrían convertirse próximamente en tecnologías sobrehumanas capaces de vulnerar sistemas informáticos, transformar distintas actividades y acumular un nivel de poder y recursos sin precedentes.

El ingeniero señaló que tanto OpenAI como Anthropic conocen los riesgos asociados con el desarrollo de modelos cada vez más avanzados. Sin embargo, cuestionó que ambas compañías continúen inmersas en una carrera tecnológica por alcanzar primero nuevos niveles de capacidad.

Ante este escenario, Coxon planteó la necesidad de una mayor coordinación entre las empresas y proyectos dedicados al desarrollo de IA. Incluso respaldó medidas consideradas costosas, como una pausa temporal en el incremento de las capacidades de los modelos, mientras se desarrolla una comprensión más rigurosa de su funcionamiento.

También cuestionó que los investigadores continúen acelerando el desarrollo de sistemas de aprendizaje por refuerzo cada vez más avanzados sin contar con un conocimiento suficiente sobre el comportamiento y funcionamiento de estas tecnologías.

Las advertencias fueron respaldadas públicamente por Evan Hubinger, investigador de Anthropic, quien respondió a Coxon y afirmó que dentro de la empresa existe una preocupación real sobre la posibilidad de que una IA avanzada pueda representar una amenaza para la humanidad.

Hubinger señaló, además, que considera superior al 10 por ciento la posibilidad de que ocurra un escenario de ese tipo durante la próxima década, aunque aclaró que el riesgo asociado con los modelos actuales es bajo.

El investigador identificó como una preocupación mayor el eventual surgimiento de sistemas de superinteligencia mediante procesos de automejoramiento recursivo, cuyo desarrollo, dijo, estaría avanzando con mayor rapidez de la prevista.

Coxon se suma así a otros especialistas que han abandonado puestos dentro de grandes compañías tecnológicas para advertir públicamente sobre los riesgos de la inteligencia artificial.

Entre ellos se encuentra Geoffrey Hinton, ganador del Premio Nobel de Física, quien dejó Google en 2023 y posteriormente expresó públicamente sus preocupaciones sobre las consecuencias del desarrollo acelerado de esta tecnología.

En 2024, además, exempleados de OpenAI difundieron una carta abierta en la que expresaron preocupación por la velocidad con la que avanzaba el desarrollo de la IA y por la falta de mecanismos legales suficientes para proteger a quienes alertan sobre posibles riesgos dentro de estas empresas.