De la redacción
El Buen Tono

El secretario general de la Organización de las Naciones Unidas (ONU), António Guterres, pidió a los gobiernos y a las principales empresas tecnológicas aumentar la cooperación para enfrentar los riesgos asociados con el desarrollo acelerado de la inteligencia artificial (IA).

Durante una conferencia con reporteros de la ONU, Guterres advirtió que el avance de esta tecnología está ocurriendo a un ritmo superior a la capacidad mundial para comprender y gestionar sus posibles consecuencias.

“el mundo no puede permitirse una carrera hacia el abismo en materia de seguridad de la IA”, señaló el secretario general, al considerar que los países con mayores capacidades tecnológicas deben establecer mecanismos de comunicación y acordar medidas comunes de seguridad.

Guterres sostuvo que los gobiernos tienen la responsabilidad de proteger a la población, por lo que las acciones nacionales son necesarias, aunque insistió en que también se requiere una coordinación internacional.

En ese sentido, planteó la necesidad de establecer barreras de seguridad que permitan desarrollar sistemas de inteligencia artificial de manera segura, transparente y responsable, colocando la dignidad humana como uno de los principios centrales.

El secretario general también hizo referencia a una propuesta de Dario Amodei, director ejecutivo de Anthropic, quien ha planteado coordinar una desaceleración en el desarrollo de la IA entre las principales compañías tecnológicas y los gobiernos.

En los últimos días, Sam Altman, de OpenAI, y Elon Musk, de xAI, también han hablado sobre la necesidad de reducir el ritmo de desarrollo de determinados sistemas de inteligencia artificial. Sin embargo, el director ejecutivo de Meta, Mark Zuckerberg, se distanció de esa postura y sostuvo que cada compañía debe asumir la responsabilidad de garantizar la seguridad de sus propias tecnologías.

La coordinación internacional enfrenta además obstáculos derivados de la competencia económica y tecnológica entre países, particularmente entre Estados Unidos y China, así como de los intereses comerciales de las empresas del sector.

El presidente estadounidense Donald Trump también ha rechazado las advertencias más extremas sobre los riesgos de la inteligencia artificial. Esta semana calificó como “un engaño” las amenazas de que la tecnología pueda provocar la destrucción de la humanidad y cuestionó los esfuerzos destinados a limitar su desarrollo.

Guterres ha reconocido al mismo tiempo el potencial de la IA para impulsar el crecimiento económico, la educación y los sistemas de salud, aunque ha advertido sobre los riesgos asociados con sistemas que pudieran quedar fuera de control.

El tema será abordado durante las próximas reuniones de líderes mundiales con motivo del periodo de sesiones de la Asamblea General de la ONU. Guterres adelantó que Naciones Unidas continuará analizando mecanismos para impulsar un desarrollo seguro y responsable de esta tecnología.

En 2025, por iniciativa del secretario general, la Asamblea General estableció el primer organismo científico mundial dedicado a la inteligencia artificial. En un informe preliminar publicado en julio, el panel de 40 integrantes alertó sobre posibles daños relacionados con el uso acelerado y sin control de la IA, entre ellos afectaciones a la salud mental, posibles usos destructivos, impactos sociales, económicos y ambientales, además de dificultades relacionadas con el control de sistemas cada vez más avanzados.

Guterres reconoció que las actuales divisiones geopolíticas dificultan alcanzar acuerdos, pero insistió en que los países con mayores capacidades en inteligencia artificial deben intercambiar información y establecer medidas de seguridad comunes.

Aunque descartó que la reunión de la próxima semana de los 193 países miembros de la ONU pueda convertirse en una cumbre internacional sobre IA debido a la falta de tiempo para prepararla adecuadamente, consideró que en el futuro sería conveniente realizar un encuentro de ese nivel.

El secretario general planteó que una eventual cumbre debería reunir a gobiernos, empresas, científicos y representantes de la sociedad civil para discutir reglas y mecanismos destinados a reducir los riesgos asociados con el desarrollo de sistemas de inteligencia artificial cada vez más poderosos.

Como siguiente paso informativo, conviene dar seguimiento a las propuestas que surjan en la Asamblea General de la ONU sobre regulación y seguridad de la IA.