De la redacción
El Buen Tono

El rey Carlos III lanzó una advertencia sobre los riesgos que puede representar la inteligencia artificial (IA), especialmente cuando esta tecnología es utilizada de manera indebida o cae en manos equivocadas.

Durante una conferencia celebrada este jueves en la finca de Dumfries House, en Escocia, el monarca destacó la necesidad de analizar escenarios en los que el desarrollo acelerado de la IA pueda generar consecuencias potencialmente catastróficas.

Al encuentro acudieron representantes de algunas de las principales empresas tecnológicas del mundo, entre ellas Nvidia, Google DeepMind, OpenAI y Anthropic, además del ministro británico encargado de inteligencia artificial.

Carlos III sostuvo que las personas que valoran la dimensión moral de la humanidad esperan garantías de que los avances tecnológicos no terminen provocando que las sociedades pierdan el control sobre su propio destino.

Ante este panorama, planteó que el desarrollo de la inteligencia artificial debe acompañarse de mecanismos que permitan mantenerla al servicio de las personas, las comunidades y la naturaleza.

Alertan por nuevos riesgos de la IA

Demis Hassabis, presidente de Google DeepMind, señaló que la posibilidad de que ocurra un incidente derivado de errores durante el desarrollo de estos sistemas no puede considerarse inexistente.

El especialista mencionó incidentes cibernéticos recientes relacionados con agentes de inteligencia artificial y advirtió que, conforme aumenten sus capacidades, también podrían surgir riesgos vinculados con amenazas biológicas y nucleares.

Durante la reunión también se abordaron otras preocupaciones relacionadas con esta tecnología, como la posible pérdida de empleos, el elevado consumo de energía y el impacto ambiental provocado por los centros de datos necesarios para operar los sistemas de IA.

Por su parte, Jensen Huang, director ejecutivo de Nvidia, resaltó las aplicaciones de la inteligencia artificial en campos como la investigación y la medicina, además de señalar su potencial para impulsar la creación de nuevas industrias y empleos.

Empresas buscan reforzar la supervisión

Entre los participantes de la conferencia estuvieron Demis Hassabis, Jensen Huang, Sarah Friar, directora financiera de OpenAI; Paolo Benanti, asesor del Vaticano en inteligencia artificial, y el escritor e historiador Yuval Noah Harari.

En paralelo al encuentro, OpenAI, Anthropic y Google DeepMind anunciaron que trabajan en la creación de un órgano destinado a supervisar los riesgos asociados con el desarrollo de la inteligencia artificial.

Microsoft también dio a conocer un código de conducta humanista relacionado con esta tecnología.

El debate internacional sobre los límites y mecanismos de supervisión de la IA continúa creciendo a medida que estos sistemas adquieren mayores capacidades y son incorporados en más ámbitos de la vida cotidiana.