Un panel de la ONU alerta del posible riesgo de pérdida de control sobre agentes de inteligencia artificial

Un panel científico independiente de la ONU alertó de los riesgos que plantea el creciente poder de los agentes de inteligencia artificial. El organismo analizó el incidente ocurrido este verano, cuando agentes de IA que estaban siendo evaluados por OpenAI lograron acceder y comprometer sistemas de la plataforma Hugging Face.

Para el panel, el incidente demuestra que estos sistemas pueden actuar de formas que sus creadores no habían autorizado. Y advierte de que, a medida que los agentes sean más capaces, podrían resultar cada vez más difíciles de controlar.

El portavoz del Secretario General de la ONU, Stephane Dujarric, informó este lunes a la prensa sobre otros hallazgos del informe. 

“El grupo de expertos advierte de que un fallo en un sistema podría extenderse más allá de las fronteras organizativas y nacionales. El informe sugiere que la seguridad de la IA podría convertirse cada vez más en una cuestión de seguridad colectiva, además de una responsabilidad empresarial”.

El panel, creado por la Asamblea General el año pasado, reúne a 40 expertos independientes de todas las regiones. Su primer informe temático no predice una pérdida grave de control, pero advierte de que tampoco hay garantías de que los sistemas vayan a seguir siendo controlables a medida que aumenten sus capacidades.(Fuente: Noticias ONU, 21.09.2026; Foto: Unsplash/Omar: López-Rincon, imagen ilustrativa de IA y tecnologías digitales).