De la redacción
El Buen Tono

Anthropic anunció una nueva estrategia para reforzar la supervisión de sus modelos de inteligencia artificial (IA), al asociarse con la consultora Accenture para realizar evaluaciones independientes sobre la seguridad de sus sistemas.

La decisión forma parte del compromiso asumido por el director ejecutivo de Anthropic, Dario Amodei, quien ha planteado que los modelos de IA más avanzados de la compañía sean revisados por especialistas externos y no únicamente por sus propios equipos.

Para este proceso, los evaluadores de Accenture tendrán acceso a los sistemas de Anthropic bajo condiciones similares a las de los empleados de la empresa. El objetivo será revisar el funcionamiento de los modelos, verificar el cumplimiento de las medidas de seguridad e identificar posibles puntos ciegos.

Los especialistas pertenecen a Faculty, división de Accenture enfocada en inteligencia artificial y que fue incorporada al grupo de consultoría tras una adquisición realizada este año.

Anthropic señaló que los evaluadores también podrán documentar incidentes y generar información sobre los posibles beneficios y riesgos relacionados con el uso de sus modelos de IA.

La empresa prevé destinar al menos mil millones de dólares durante los próximos cinco años para actividades relacionadas con la evaluación de sus sistemas. Accenture, por su parte, planea invertir una cantidad similar durante ese periodo.

En una primera etapa, Anthropic pagará a Accenture por los trabajos de evaluación, aunque la compañía considera que, a largo plazo, este tipo de supervisión independiente debería contar con financiamiento público o mediante un fondo específico debido a la relevancia que ha adquirido el desarrollo de la inteligencia artificial.

La colaboración entre ambas empresas no será exclusiva. Anthropic adelantó que durante las próximas semanas dará a conocer acuerdos con otros evaluadores externos.

Entre las organizaciones con las que mantiene conversaciones se encuentra METR, especializada en analizar riesgos asociados con modelos avanzados de inteligencia artificial.

La incorporación de evaluadores externos ocurre mientras las principales empresas tecnológicas enfrentan una creciente atención sobre la seguridad, autonomía y posibles riesgos de los sistemas de IA más avanzados.