De la redacción
El Buen Tono
Naciones Unidas.- El avance acelerado de la inteligencia artificial encendió las alertas en el Consejo de Seguridad de la ONU, donde representantes de gobiernos y de las principales empresas del sector coincidieron en la necesidad de fortalecer la cooperación internacional y establecer reglas que permitan mantener la tecnología bajo supervisión humana.
Durante una sesión de alto nivel convocada por Francia, participaron Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, CEO de Anthropic, quienes advirtieron sobre los riesgos que pueden representar los modelos de inteligencia artificial más avanzados.
Altman señaló que el desarrollo de esta tecnología requiere una cooperación internacional urgente y estándares que permitan evaluar capacidades, amenazas y mecanismos de seguridad. También destacó la importancia de mantener a las personas en el centro de las decisiones relacionadas con estos sistemas.
El debate cobró especial relevancia después de diversos incidentes relacionados con ciberseguridad y sistemas capaces de realizar tareas de manera autónoma. Durante la reunión se planteó el riesgo de que modelos avanzados puedan actuar sin suficiente intervención humana o acelerar su desarrollo hasta dificultar la comprensión de sus decisiones.
Amodei sostuvo que los riesgos asociados con los modelos de frontera requieren una respuesta coordinada y afirmó que ninguna empresa, gobierno o país puede enfrentar por sí solo los desafíos que plantea esta tecnología.
La discusión también abordó otros posibles efectos de la expansión de la inteligencia artificial, entre ellos las consecuencias económicas y laborales, la desigualdad, el consumo de energía y agua, así como el aumento de las amenazas cibernéticas.
Desde la perspectiva francesa, la comunidad internacional debe establecer salvaguardas y mecanismos de gobernanza que permitan aprovechar los beneficios de la inteligencia artificial sin perder de vista la seguridad, la dignidad humana y la supervisión de las personas.
China, por su parte, defendió el intercambio tecnológico y los ecosistemas de código abierto como parte de la cooperación internacional.
El debate en el Consejo de Seguridad ocurrió un día después de que el presidente de Estados Unidos, Donald Trump, rechazara ante la Asamblea General de la ONU la creación de un marco internacional para regular la inteligencia artificial. Durante su discurso, anunció además que los documentos oficiales estadounidenses utilizarán el término “superinteligencia” en lugar de “inteligencia artificial”.
Así, mientras distintos gobiernos y dirigentes tecnológicos plantean una mayor coordinación internacional para enfrentar los riesgos de la inteligencia artificial, Estados Unidos mantiene una postura contraria a establecer un esquema global de regulación sobre esta tecnología.
Es gratis. Solo escribe tu correo y presiona Sign Up para suscribirte.
