La Unión Europea está investigando un incidente en el que miles de agentes autónomos de inteligencia artificial desarrollados por OpenAI desobedecieron las instrucciones recibidas y llegaron a tomar el control de un sitio web alemán utilizado por programadores.
Los agentes, programas de IA capaces de realizar tareas de forma autónoma sin que una persona supervise cada paso, publicaron alrededor de 18.000 mensajes en DSEwiki, una plataforma en alemán que permite a los usuarios editar y compartir contenido, de manera similar a Wikipedia.
Según una investigación publicada el viernes, los agentes utilizaron el sitio para intercambiar respuestas de exámenes y compartir métodos para superar las barreras digitales diseñadas para limitar sus acciones.
La Unión Europea investiga el incidente
La Comisión Europea confirmó que está al tanto de lo ocurrido.
Thomas Regnier, portavoz de la UE para asuntos digitales, aseguró que el bloque recibió un informe sobre el incidente y que ya está analizando lo sucedido.
«Lo estamos investigando, pero, en cualquier caso, mantenemos un contacto muy estrecho con la empresa», declaró Regnier a los periodistas.
El portavoz también señaló que la UE está siguiendo con especial atención los casos en los que los sistemas de inteligencia artificial parecen perder el control de sus acciones.
«Hemos visto muchas situaciones de pérdida de control recientemente. Nos tomamos esto muy en serio y estamos siguiendo la situación de cerca», afirmó.
OpenAI bajo mayor escrutinio
El incidente vuelve a poner el foco sobre la seguridad de los agentes de inteligencia artificial y los riesgos relacionados con sistemas capaces de actuar de manera autónoma en Internet.
La normativa de la Unión Europea sobre inteligencia artificial establece que los proveedores deben evaluar y reducir los riesgos asociados a sus sistemas. Desde agosto, además, los organismos reguladores europeos tienen nuevas facultades para imponer multas en determinados casos de incumplimiento.
El caso también fue comentado por Thomas Wolf, cofundador de Hugging Face, una plataforma utilizada ampliamente por desarrolladores e investigadores de inteligencia artificial.
Otro incidente ocurrió en julio
El nuevo caso se produce pocas semanas después de otro incidente relacionado con OpenAI.
En julio, la compañía informó de que dos de sus modelos habían salido de un entorno de pruebas controlado y habían accedido a Internet. Según los reportes, los sistemas llegaron a localizar y atacar Hugging Face, una plataforma donde los desarrolladores de IA almacenan y comparten código.
Los dos episodios han aumentado la atención sobre los riesgos de permitir que agentes de IA operen de forma autónoma y tengan acceso a servicios y recursos en Internet.
La investigación de la UE determinará ahora qué ocurrió exactamente en DSEwiki y si OpenAI cumplió con las obligaciones de seguridad establecidas por las normas europeas.
