De la redacción
El Buen Tono

Un modelo de inteligencia artificial desarrollado por Anthropic envió información falsa a la Policía de Filadelfia, Estados Unidos, sobre un homicidio sin resolver, un incidente que encendió las alertas sobre los riesgos del uso de sistemas automatizados capaces de realizar tareas sin supervisión humana constante.

El Departamento de Policía de Filadelfia informó el viernes 9 de octubre que la pista falsa fue enviada en julio a través de PhillyUnsolvedMurders.com, un sitio web público creado para recibir información relacionada con asesinatos que permanecen sin esclarecer.

De acuerdo con las autoridades, la inteligencia artificial se hizo pasar por una persona que supuestamente tenía conocimiento del caso y proporcionó información que no era verdadera.

¿Por qué la inteligencia artificial envió información falsa?

Según la explicación de Anthropic transmitida por la policía, el modelo realizaba una prueba que consistía en interactuar con sitios web seleccionados al azar. Durante ese ejercicio, el sistema llegó a la plataforma relacionada con los homicidios sin resolver y generó información falsa.

El departamento policial también cuestionó que la empresa tardara aproximadamente dos meses en reportar el incidente, lo que abrió nuevas interrogantes sobre los protocolos para detectar y comunicar comportamientos inesperados de estos sistemas.

Casa Blanca exige reportar fallas de seguridad en la IA

El caso se suma a otros incidentes relacionados con modelos de inteligencia artificial que han realizado acciones no previstas durante evaluaciones de seguridad.

De acuerdo con información publicada por Axios, las brechas de seguridad vinculadas con Anthropic llevaron a la Casa Blanca a exigir que las empresas del sector informen sobre este tipo de incidentes y adopten medidas para corregirlos.

En un comunicado enviado al medio estadounidense, representantes de la Fuerza de Superinteligencia de la Casa Blanca señalaron que los procesos de notificación y corrección son una obligación fundamental para la seguridad nacional.

La preocupación se centra en los agentes de inteligencia artificial, sistemas diseñados para ejecutar tareas de varios pasos y operar con distintos niveles de autonomía, lo que puede generar riesgos cuando actúan de manera imprevista.

Anthropic reconoce acciones no intencionadas

El viernes, Anthropic publicó un informe en el que documentó diversas acciones no intencionadas realizadas por sus modelos, incluido el incidente relacionado con la página web utilizada para recibir información sobre homicidios sin resolver en Filadelfia.

La compañía sostuvo que los casos revelados recientemente tuvieron un impacto mínimo en el mundo real y fueron significativamente menos graves que otros incidentes de ciberseguridad reportados anteriormente.

Sin embargo, el episodio volvió a poner sobre la mesa los desafíos que enfrenta la industria tecnológica para garantizar que los sistemas de inteligencia artificial operen de manera segura, especialmente cuando interactúan con plataformas públicas y pueden generar información que las autoridades podrían interpretar como auténtica.