De la redacción
El Buen Tono

La empresa de inteligencia artificial Anthropic informó que durante este año detectó y bloqueó varios posibles usos indebidos de sus modelos que involucraban investigaciones capaces de contribuir al desarrollo de armas biológicas.

De acuerdo con un informe de la compañía, los sistemas de seguridad identificaron actividades relacionadas con investigación biológica que representaban un riesgo potencial. Sin embargo, Anthropic reconoció que no pudo establecer si los trabajos tenían objetivos legítimos o si estaban relacionados con intenciones maliciosas.

Ante la posibilidad de que sus modelos pudieran facilitar el desarrollo de patógenos peligrosos, la empresa decidió bloquear dichas actividades.

Anthropic señaló que las evaluaciones realizadas permiten identificar las capacidades que pueden alcanzar sus modelos, pero no demuestran que esas capacidades hayan sido utilizadas para desarrollar armas biológicas en el mundo real.

La compañía también indicó que, hasta ahora, no tiene conocimiento de que alguna empresa privada haya hecho público algún caso que constituya evidencia del posible uso de sus plataformas para fabricar este tipo de armas.

En otro comunicado, Anthropic presentó una lista de casos detectados durante los últimos ocho meses en los que sus modelos, incluido el chatbot Claude, habrían sido utilizados de manera indebida desde países como China, Rusia y Yemen.

El reporte se conoce en medio del creciente debate sobre los riesgos del uso dual de la inteligencia artificial, debido a que las mismas herramientas capaces de apoyar investigaciones científicas también podrían ser utilizadas para actividades peligrosas.

Anthropic aseguró que ha desarrollado sistemas de detección destinados a identificar y bloquear usos que puedan representar riesgos relacionados con sus modelos de inteligencia artificial.