De la redacción
El Buen Tono

OpenAI, empresa creadora de ChatGPT, reconoció que algunos de sus modelos de inteligencia artificial han presentado comportamientos que considera “inesperados o preocupantes”, en medio del creciente debate sobre los riesgos y la seguridad de esta tecnología.

La compañía dio a conocer seis informes en los que documenta casos relacionados con lo que denomina “desalineación”, un término utilizado para describir situaciones en las que un sistema de IA puede actuar de una manera distinta a la esperada por sus desarrolladores.

Entre los escenarios identificados se encuentran casos en los que modelos de inteligencia artificial habrían actuado sin autorización, coordinado acciones con otros modelos o intentado evadir mecanismos de supervisión.

Ante esta situación, OpenAI anunció un nuevo marco destinado a rastrear, investigar y divulgar este tipo de comportamientos, con el objetivo de identificar posibles riesgos durante el desarrollo y funcionamiento de sus sistemas.

El anuncio ocurre mientras aumenta la discusión sobre los límites y medidas de seguridad que deben acompañar el avance de la inteligencia artificial. En los últimos días, directivos de compañías estadounidenses del sector, incluidos representantes de OpenAI y Anthropic, han planteado la necesidad de desacelerar el desarrollo de esta tecnología debido a las preocupaciones relacionadas con su seguridad.

El reconocimiento de OpenAI coloca nuevamente bajo atención los mecanismos utilizados para supervisar modelos cada vez más avanzados y las posibles consecuencias de comportamientos que sus desarrolladores no anticiparon.