De la redacción
El Buen Tono

El fiscal general de Florida, James Uthmeier, solicitó a un juez que impida a OpenAI desarrollar nuevos modelos de inteligencia artificial sin supervisión externa, como parte de una demanda en la que el estado acusa a la empresa de poner en riesgo a menores de edad.

Florida presentó la demanda contra OpenAI en junio, señalando presuntas deficiencias en las medidas de seguridad de ChatGPT. Entre los señalamientos se encuentran acusaciones de que la plataforma habría proporcionado información relacionada con tiroteos escolares, ofrecido orientación sobre autolesiones y generado comportamientos de dependencia entre usuarios jóvenes.

En el escrito presentado ante el tribunal, Uthmeier pidió además que se ordene a OpenAI impedir el acceso de menores de edad a ChatGPT y que se prohíba incorporar a la plataforma características que puedan hacer que el sistema sea percibido con atributos humanos.

Hasta el momento, la empresa no había emitido una respuesta inmediata a las solicitudes de comentarios sobre la petición presentada por el fiscal.

El caso se suma al debate internacional sobre los límites y mecanismos de supervisión para el desarrollo de sistemas de inteligencia artificial cada vez más avanzados.

La preocupación aumentó después de que un investigador de Anthropic, al abandonar la empresa, advirtiera sobre la necesidad de establecer controles para el desarrollo de nuevos modelos. Dario Amodei, cofundador de la compañía, respaldó públicamente esa postura.

El debate también involucró a otros empresarios tecnológicos, entre ellos Elon Musk y Mark Zuckerberg, en medio de llamados para reforzar las medidas de seguridad relacionadas con la inteligencia artificial.

El presidente Donald Trump ha señalado que Estados Unidos no debe detener el desarrollo de esta tecnología debido a la competencia con China, aunque también ha planteado la necesidad de establecer mecanismos de supervisión. Trump se ha referido al desarrollo de sistemas más avanzados como “superinteligencia”.