Fallos en servicios
esenciales, infraestructuras críticas desestabilizadas, instituciones
democráticas debilitadas: en una carta dirigida a los Estados y a los líderes
de las corporaciones de que han lanzado sin salvaguardas la
inteligencia artificial al mercado, el Alto Comisionado de las
Naciones Unidas para los Derechos Humanos, Volker Türk, ha trazado un
inventario de los peligros relacionados con los sistemas más
avanzados.
Le preocupa en particular la
aparición de una inteligencia artificial denominada "agéntica",
capaz de actuar de forma autónoma para realizar tareas y alcanzar
objetivos. "Los fallos que impliquen sistemas de IA
agéntica podrían paralizar servicios esenciales, interrumpir las
comunicaciones, desestabilizar infraestructuras críticas y atentar
contra el corazón mismo de las instituciones democráticas", ha
advertido.
Todos los derechos humanos
amenazados
El escenario descrito
por el alto responsable alcanza incluso las necesidades más
elementales. "Poblaciones enteras podrían verse privadas de
agua potable, calefacción y servicios financieros", ha proseguido.
"La IA agéntica ya está acelerando el ritmo y la magnitud
de los conflictos armados, al tiempo que erosiona las
salvaguardias que nos separan del lanzamiento de armas de destrucción
masiva".
Para Volker Türk, que a
principios de año advirtió del peligro de crear “un monstruo de Frankenstein”,
el desarrollo de los modelos más potentes marca así un cambio de
escala. "Estamos en el umbral de un cambio irreversible, que
nos afectará no solo a nosotros mismos, sino también a las
generaciones futuras", ha declarado, estimando que "todos los derechos humanos
están amenazados", incluido el derecho a la vida.
Su advertencia llega cuando se
inaugura el lunes en Riad, Arabia Saudita, el cuarto foro mundial de
la UNESCO sobre la ética de la IA. Hasta
el 17 de septiembre, gobiernos, investigadores, empresas, organizaciones
internacionales y representantes de la sociedad civil deben precisamente
intentar reducir la brecha entre los principios éticos ya
enunciados y su traducción en reglas concretas.
Riesgos que ya no son teóricos
La advertencia, sin embargo, no
se refiere solo a lo que la IA podría provocar mañana. Parte de
los daños que describe ya son observables. "Los perjuicios relacionados
con la IA no son hipotéticos: ya se están produciendo, a la vista de
todos", ha subrayado el Alto Comisionado.
Automatización de servicios
esenciales en detrimento de las
poblaciones marginadas, explotación masiva de datos personales,
tecnologías de vigilancia, campañas de desinformación. ONU Derechos Humanos ve
en estos usos otras tantas amenazas para las libertades individuales,
la cohesión social y las instituciones democráticas, puestas a
dura prueba "de manera insidiosa e inédita".
La alerta de la ONU llega
sobre todo en el momento en que las interrogantes alcanzan a las empresas
desarrolladoras de esta tecnología. Dario Amodei, responsable de uno
de los modelos líderes en el mercado, Anthropic, habló de ralentizar los
avances para da más tiempo a las sociedades para comprender y dominar los
riesgos asociados a sus nuevas capacidades, que sin más
salvaguardias podrían conducir a la extinción de la humanidad.
En estas condiciones, la IA representaría un riesgo comparable, o
incluso mayor, que el asociado al arma nuclear.
Los Estados deben regular
Para Türk, estas incertidumbres
hacen más urgente el establecimiento de reglas. Insta a "los
Estados y las empresas a movilizarse con urgencia en el marco
de instancias multilaterales para definir una vía de acción destinada a
encuadrar los modelos de IA de vanguardia".
Las empresas que
desarrollan estos sistemas tienen, según él, tanto los medios como
la responsabilidad de actuar. Pero no pueden fijar solas los
límites de tecnologías cuyas consecuencias superan ampliamente a sus
usuarios o a sus accionistas. Los gobiernos deben imponerles
obligaciones y exigirles responsabilidades por sus
incumplimientos.
¿Quién fija los límites?
El Alto Comisionado reclama
en particular una verificación independiente de las capacidades de los
agentes de IA, llevada a cabo por expertos que dispongan de las
competencias técnicas necesarias y de un acceso a los modelos, a su
documentación y a sus entornos de prueba. También pide a las
empresas que evalúen permanentemente las consecuencias de sus productos sobre
los derechos humanos.
Sobre todo, esta regulación no
puede, a su juicio, detenerse en las fronteras nacionales. Ningún
país puede encuadrar solo una tecnología desarrollada y desplegada a
escala mundial; ninguna empresa debería poder determinar sola el
nivel de riesgo que el resto de la sociedad deberá aceptar.
"Nadie debería verse
obligado a renunciar a sus derechos humanos en nombre de un supuesto
progreso tecnológico", ha insistido Türk.
No es una cuestión técnica sino
política
Detrás de la cuestión
técnica de la seguridad de los modelos aparece así una
cuestión más política: ¿quién decidirá lo que una inteligencia
artificial puede hacer, los riesgos considerados aceptables y el momento
en que una capacidad se vuelve demasiado peligrosa para ser desplegada?
El tiempo apremia tanto
más, según el Alto Comisionado, cuanto que las elecciones efectuadas hoy
podrían ser difíciles de deshacer. Y sus consecuencias serán
soportadas por quienes apenas participaron en su elaboración.
"La generación que
hoy entra en la edad adulta heredará las consecuencias de las
decisiones tomadas sobre esta cuestión sin haber tenido voz ni voto",
ha advertido, llamando a la comunidad internacional a "velar por que estas decisiones se tomen con total
transparencia, con respeto a sus derechos y con la humildad que
exige la magnitud de esta empresa".(Fuente: Noticias ONU, 14.09.2026, Foto:Unsplash/Aidin Geranrekab).
