Los agentes autónomos de inteligencia artificial podrían provocar incidentes graves en uno o dos años si las empresas y los gobiernos no adoptan medidas adecuadas de seguridad, advirtió Demis Hassabis, presidente de Google DeepMind, durante la cumbre internacional de inteligencia artificial celebrada el 14 de octubre de 2026 en Dublín, Irlanda.

Hassabis señaló que los episodios recientes en los que sistemas de IA mostraron capacidad para evadir instrucciones o actuar fuera de los entornos de prueba deben considerarse señales de alerta. Sin embargo, sostuvo que los modelos actuales todavía tienen capacidades limitadas y que los incidentes registrados hasta ahora no han sido graves.

Proponen probar los modelos sin conexión

Ante el avance de los agentes autónomos, el directivo planteó que los nuevos modelos deberían evaluarse inicialmente en entornos aislados, conocidos como “sandboxes”, y sin conexión a internet. La medida busca reducir el riesgo de que un sistema pueda interactuar con servicios externos o escapar de los límites establecidos durante las pruebas.

La preocupación por la seguridad de la inteligencia artificial aumentó después de que modelos desarrollados por OpenAI y Anthropic fueran vinculados con incidentes de seguridad durante evaluaciones. Estos casos han intensificado el debate sobre los controles técnicos y regulatorios necesarios para mantener bajo supervisión a los sistemas más avanzados.

La Unión Europea pide más controles

Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea para Soberanía Tecnológica, Seguridad y Democracia, afirmó que las empresas deben dedicar más tiempo y recursos a probar sus modelos. También indicó que la Comisión Europea ha solicitado información a las principales compañías de inteligencia artificial sobre sus medidas de seguridad, evaluaciones externas y sistemas de monitoreo.

La Comisión Europea obtuvo nuevas competencias regulatorias en agosto, en el marco de la Ley de Inteligencia Artificial de la Unión Europea. La normativa busca limitar los usos potencialmente peligrosos de esta tecnología y reforzar la responsabilidad de las empresas que desarrollan y despliegan sistemas avanzados.

Las advertencias planteadas en Dublín reflejan la presión para que la carrera internacional por desarrollar modelos de IA avance junto con mecanismos sólidos de evaluación, supervisión y control.