De la redacción
El Buen Tono

Actores vinculados al gobierno de Irán utilizaron el modelo de inteligencia artificial Claude para apoyar actividades de vigilancia, propaganda y la planeación de posibles ataques contra objetivos estadounidenses, de acuerdo con un informe publicado este jueves por Anthropic.

La empresa estadounidense documentó durante los últimos ocho meses diversos usos indebidos de sus modelos de inteligencia artificial por parte de actores estatales y grupos relacionados con actividades cibernéticas.

En un informe de 154 páginas, Anthropic advirtió que herramientas de este tipo pueden facilitar la identificación de objetivos y el procesamiento de grandes cantidades de información relacionada con disidentes, periodistas, activistas y políticos, haciendo más eficientes los sistemas de vigilancia existentes.

En el caso de Irán, los usuarios recurrieron a mecanismos para evadir las restricciones de acceso a Claude, servicio que no está disponible oficialmente en ese país. Para ello utilizaron redes privadas virtuales y números telefónicos extranjeros.

Según Anthropic, un grupo de ciberdelincuentes vinculado con Irán empleó una cuenta de Claude para elaborar recomendaciones relacionadas con posibles ataques contra fuerzas navales estadounidenses desplegadas en la región.

El informe también documenta otros usos indebidos del modelo relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.

Anthropic señaló que bloqueó las actividades detectadas debido al riesgo de que sus modelos pudieran contribuir a investigaciones relacionadas con patógenos peligrosos. Sin embargo, la compañía reconoció que no siempre fue posible determinar si las investigaciones tenían objetivos legítimos o maliciosos.

La empresa explicó que las evaluaciones de capacidad permiten conocer hasta dónde pueden llegar estos sistemas, pero no demuestran por sí mismas que dichas capacidades vayan a utilizarse para desarrollar armas biológicas en el mundo real.

Anthropic alertó además que el aumento de la capacidad y autonomía de los modelos de inteligencia artificial está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían mayores conocimientos especializados y recursos.

El informe se publica en medio de una creciente preocupación dentro del sector tecnológico por el uso dual de la inteligencia artificial, debido a que las mismas herramientas que pueden apoyar investigaciones científicas también pueden ser utilizadas para actividades peligrosas.