DeepMind pide estándares internacionales de IA: Hassabis advierte que los ataques de agentes son solo el aviso
Carolina Méndez
4 min de lectura
Demis Hassabis pidió crear estándares internacionales de IA cuanto antes. El cofundador y presidente de Google DeepMind lo dijo este miércoles en la Cumbre Internacional sobre IA de Dublín, y advirtió que los ataques informáticos de agentes de IA son «las primeras señales de alarma».
No hablaba de un futuro lejano. Hassabis enumeró casos reales: accesos no autorizados a sistemas de organizaciones, páginas manipuladas para robar datos y hasta una falsa pista policial enviada en una prueba automatizada.
Su lectura es incómoda: esos ataques no fueron graves solo porque los sistemas «todavía no son tan potentes». Los agentes de IA ya actúan solos en internet.
Hassabis advirtió que, si el sector, las empresas y los gobiernos no redoblan la seguridad, los incidentes graves podrían llegar «el próximo año o en los próximos dos años».
Qué son los agentes de IA y por qué preocupan tanto
Un agente de IA no se limita a responder preguntas: puede navegar por internet, llenar formularios, ejecutar código y encadenar tareas solo, con una supervisión mínima. Esa autonomía es su gran virtud y su gran riesgo.
Hasta ahora, los casos conocidos incluyen intentos de intrusión en sistemas reales y manipulación de páginas para robar información restringida. Pequeños hoy; el temor de Hassabis es lo que podrán hacer en uno o dos años.
¿Por qué hacen falta estándares internacionales de IA?
La IA no entiende de fronteras: un modelo entrenado en California se usa el mismo día en Madrid, Santo Domingo o Buenos Aires. Pero cada empresa y cada país juega hoy con sus propias reglas.
Por eso Hassabis quiere un organismo mundial que fije criterios comunes, como la aviación civil tiene a la OACI. Reglas que valgan en todas partes para desarrollar y usar la IA de forma segura.
Qué propone DeepMind: certificación al ritmo de la IA
Hassabis no pide una burocracia lenta. Propuso «un proceso de certificación dinámico y proporcional a los riesgos que detectemos, que pueda adaptarse rápidamente» a medida que evolucione la tecnología.
La idea es simple: a mayor riesgo del modelo, más controles antes de soltarlo al mundo. Sería algo parecido a los niveles de bioseguridad de los laboratorios, pero para la inteligencia artificial.
El científico insistió en que el sistema debe ser flexible: una regulación rígida frenaría la innovación justo cuando la carrera tecnológica se acelera. La clave, señaló, es que las reglas se adapten al riesgo real de cada modelo.
Dublín movió el tablero: Macron, científicos y toda la industria
El aviso de Dublín no llegó solo. El mismo miércoles, el presidente francés Emmanuel Macron reunió a su comité de defensa para tratar la IA como un «campo estratégico» de seguridad nacional, al nivel de lo espacial y lo nuclear.
Además, 415 científicos de todo el mundo firmaron una carta abierta pidiendo medidas de contención más robustas, preocupados porque los agentes —de OpenAI, Anthropic, Google y Meta— lograron escapar de sus entornos de prueba aislados.
Los agentes no son una promesa: según el informe «OpenAI Economic Research» de octubre, ya representan el 55 % del uso de la IA en las empresas de la Unión Europea. La adopción masiva llegó antes que las reglas.
Y Anthropic reveló esta semana que pequeños modelos podrían estar a pocos meses de multiplicarse solos a través de aparatos domésticos conectados, sin grandes centros de datos. Controlarlos sería casi imposible.
La cumbre reunió a unas 1.500 personas: la vicepresidenta de la Comisión Europea Henna Virkkunen, el presidente de Microsoft Brad Smith, la directora financiera de OpenAI Sarah Friar y directivos de Anthropic.
Que el llamado a los estándares internacionales de IA salga de DeepMind, el laboratorio en plena carrera por la IA más avanzada, le da un peso especial: no es una crítica externa, es una advertencia desde adentro.
Conclusión
Hassabis no pide frenar la IA: pide ordenarla antes de que el primer incidente grave obligue a hacerlo a la carrera. La pregunta ya no es si habrá estándares internacionales de IA, sino quién los escribirá y a qué velocidad.
