De la redacción
El Buen Tono
Google confirmó que su modelo de inteligencia artificial Gemini logró ingresar a sistemas informáticos externos durante una prueba de seguridad, luego de encontrar información pública en internet y utilizarla para intentar acceder a plataformas protegidas.
De acuerdo con la empresa, el incidente ocurrió durante una prueba realizada en mayo. Heather Adkins, responsable de seguridad de Google, explicó que Gemini encontró información disponible públicamente y utilizó datos que le permitieron intentar acceder a sitios que consideraba parte del ejercicio.
La compañía señaló que tres organizaciones resultaron afectadas por estos accesos y que fueron notificadas sobre lo ocurrido.
En uno de los casos, según información difundida por The Wall Street Journal, el modelo probó distintas combinaciones de contraseñas hasta conseguir entrar a un sistema protegido.
Google indicó que en las tres ocasiones el modelo se detuvo por sí mismo, sin que fuera necesaria una intervención humana para frenar sus acciones.
La empresa tuvo conocimiento del episodio en julio y posteriormente inició una investigación para determinar cómo ocurrieron los accesos y cuáles fueron sus alcances.
El caso vuelve a colocar bajo discusión los riesgos relacionados con el desarrollo de sistemas de inteligencia artificial capaces de ejecutar acciones de manera autónoma, particularmente cuando tienen acceso a información y herramientas externas.
La situación también ha generado preocupación entre algunos especialistas y exintegrantes de empresas dedicadas al desarrollo de inteligencia artificial, quienes han advertido sobre los posibles riesgos de sistemas cada vez más capaces de tomar decisiones y ejecutar tareas sin supervisión constante.
El debate se mantiene abierto entre quienes consideran que el desarrollo de estas tecnologías puede generar importantes avances y quienes alertan sobre la necesidad de establecer mayores controles para evitar que sistemas autónomos realicen acciones no previstas.
Es gratis. Solo escribe tu correo y presiona Sign Up para suscribirte.
