¿Puede la IA servir a la humanidad sin dominarla? Un panel de la ONU analiza cómo gobernarla

El Panel Científico Internacional Independiente de las Naciones Unidas sobre la IA —el primer organismo mundial de este tipo— se está preparando para celebrar su primera cumbre presencial.

Con el objetivo de abordar la compleja relación entre innovación y ética, este grupo de expertos de renombre mundial pone en marcha un estudio histórico sobre las fuerzas que están transformando la vida moderna.

«No nos centramos únicamente en la IA como un campo matemático o algorítmico: también nos preocupamos por garantizar que los seres humanos ocupen un lugar central en la toma de decisiones», afirma Menna El-Assady, profesora adjunta del Instituto Federal Suizo de Tecnología (ETH) de Zúrich.

El-Assady es una de las miembros fundadoras del panel independiente, recomendado por el Secretario General de la ONU.

De nacionalidad egipcia, es una de los 40 miembros, que fueron nombrados formalmente por la Asamblea General en febrero. Proceden de diversos ámbitos, entre ellos el mundo académico, el sector privado, la sociedad civil, organizaciones gubernamentales e internacionales y la comunidad técnica, y cuentan con experiencia en conocimientos técnicos básicos de IA; experiencia en IA aplicada, seguridad e infraestructura; y en políticas, ética e impacto de la IA.

Inteligencia aumentada

«Un humano en la máquina» es una frase que se utiliza a menudo en relación con el uso de la IA. Se refiere a la idea de que un humano siempre debe participar en las decisiones tomadas por las herramientas de IA. 

«Estamos tratando de determinar cuándo debemos confiar en los seres humanos y su experiencia, y cuándo las cosas pueden automatizarse», afirma. «Necesitamos comprender el vínculo entre la IA y los modelos humanos, lo que se conoce como el bucle de coadaptación, y la evolución que se produce cada vez que los seres humanos reciben nueva información, o cuando lo hace la IA».

En Zúrich, El-Assady ha desarrollado el concepto de «inteligencia aumentada», que utiliza la IA para potenciar las capacidades humanas en lugar de sustituir por completo a las personas, y fomenta la cooperación entre la IA y las personas en diversos campos.

Esta experiencia resulta especialmente útil para la labor del Panel, que está examinando las formas en que el uso de la IA está afectando a diferentes ámbitos de la sociedad, como el mercado laboral y el sistema sanitario.

El-Assady aboga por una «infraestructura digital pública», de modo que todo aquel que desee desarrollar IA disponga de los recursos necesarios. 

«También debemos estudiar cómo incorporar diferentes mercado laboral  e idiomas en los modelos de IA para que no se limiten a un pequeño número de países», añade.

Confianza, ética y marcas de agua

La creación del panel fue un reflejo de la creciente preocupación por los riesgos de una IA no regulada, sobre todo en el seno de la ONU. 

El Secretario General de la ONU, António Guterres, advirtió al Consejo de Seguridad en septiembre de 2025 que «el destino de la humanidad no puede dejarse en manos de un algoritmo», mientras que Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, afirmó en febrero que los desarrolladores de IA que crean modelos sin comprender los principios sociales y éticos fundamentales corren el riesgo de crear el «monstruo de Frankenstein».

El-Assady coincide en que la ética y la confianza son cruciales para el sector, al igual que la conciencia de las limitaciones de los modelos de IA.

Marca de agua para la IA

Una posible solución propuesta por El-Assady es el «marcado de agua de la IA», que dejaría claro si un contenido ha sido creado por humanos o generado por IA, y cómo distinguir entre ambos.

Estos son ejemplos del tipo de temas que podrían incluirse en el primer informe del Panel Científico, cuya publicación está prevista para el Diálogo Global sobre la Gobernanza de la IA, que tendrá lugar los días 6 y 7 de julio en Ginebra.

El Panel Científico Internacional Independiente sobre IA

• El Panel Científico Internacional Independiente sobre IA es el primer organismo científico mundial dedicado a la inteligencia artificial (IA), que reúne a expertos de primer orden para evaluar cómo la IA está transformando nuestras vidas

• El Panel tiene el mandato de elaborar un informe anual con evaluaciones científicas basadas en datos empíricos sobre las oportunidades, los riesgos y los impactos de la inteligencia artificial, que se presentará en el Diálogo Mundial de las Naciones Unidas sobre la Gobernanza de la IA

• El Panel no es un organismo regulador y no establecerá normas, aplicará estándares ni prescribirá políticas. Proporcionará el análisis riguroso, basado en pruebas, relevante para las políticas pero no prescriptivo que requiere una toma de decisiones informada.(Fuente: Noticias ONU/Conor Lennon y Khaled Mohamed, 13.04.2026; Foto: Unsplash/Igor Omilaev).

• Obtenga más información sobre la labor del Panel aquí

La sentencia sobre cambio climático permitirá responsabilizar jurídicamente a los Estados

El Alto Comisionado para los Derechos Humanos, Volker Türk, calificó como un “triunfo rotundo” la opinión consultiva emitida por la Corte Internacional de Justicia (CIJ), que afirma las obligaciones legales de los Estados en materia de  cambio climático y derechos humanos.

“El fallo de la máxima instancia judicial del mundo es una afirmación clara, indiscutible y con autoridad sobre el impacto del cambio climático y el deber urgente de los Estados de actuar para proteger a la humanidad y al planeta”, declaró Türk.

El fallo advierte que no actuar ante las emisiones puede constituir una “violación internacionalmente ilícita”, por la cual un Estado podría ser responsabilizado.

“La Corte ha proporcionado una hoja de ruta jurídica para exigir rendición de cuentas y lograr un cambio transformador frente a la crisis climática”, señaló Türk. También instó a los Estados a reflejar esta posición en sus compromisos climáticos nacionales, que deben presentarse en septiembre, así como en las negociaciones de la COP30 en Brasil este noviembre.(Fuente: Noticias ONU, 2.07.2025; Foto: UNDP Costa Rica).

Los derechos humanos deben ser la base de la era digital, señala Türk

A medida que las tecnologías digitales remodelan rápidamente todos los aspectos de la sociedad, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos ha pedido que los derechos humanos se sitúen en el centro de esta transformación.

Las tecnologías digitales tienen el potencial de impulsar el progreso y reforzar los derechos, por ejemplo, conectando a las personas, mejorando el acceso a la sanidad y la educación, y mucho más.

Pero el ritmo de su evolución también plantea graves riesgos, advirtió Volker Türk. Desde restricciones a la libertad de expresión y violaciones de la privacidad hasta discriminación y amenazas crecientes a nuestro sentido compartido de la verdad y la realidad.

“Precisamente ante el cambio masivo, necesitamos más derechos humanos, no menos”, afirmó este lunes en un acto de alto nivel con motivo del vigésimo aniversario de la Cumbre Mundial sobre la Sociedad de la Información en Ginebra.

Dar prioridad a las garantías fundamentales

En esta época de cambios radicales, hay que dar prioridad a los derechos humanos y utilizarlos como modelo de actuación.

“Las obligaciones jurídicas de los Estados y los deberes de las empresas de respetar los derechos humanos ofrecen orientación para hacer frente a la desinformación y proteger nuestros datos de usos ilícitos”, subrayó Türk.

Esta orientación también ayuda a contrarrestar los prejuicios algorítmicos y la incitación al odio digital, y fomenta la confianza y la toma de decisiones digitales inclusivas, añadió.

Papel de la Cumbre

La Cumbre Mundial inaugural data de 2001 y se celebró en dos fases en diciembre de 2003 (Ginebra) y noviembre de 2005 (Túnez, Italia).

Desde entonces, el foro ha reunido a diversas partes interesadas para colaborar en la gobernanza digital y promover un panorama digital centrado en las personas, integrador y orientado al desarrollo.

“[La Cumbre Mundial sobre la Sociedad de la Información] ayudó a crear un espacio para que los Estados, las empresas tecnológicas, la sociedad civil y otros aprovecharan el poder de las tecnologías de la información y la comunicación para el desarrollo”, afirmó Türk.

Mirando al futuro

El Alto Comisionado subrayó que en los próximos meses se tomarán decisiones cruciales sobre la regulación de la esfera digital, incluidos nuevos mecanismos de la ONU sobre inteligencia artificial y gobernanza de datos.

“Tenemos una ventana de oportunidad para marcar la diferencia”.

“Debemos unir fuerzas -Estados, empresas tecnológicas, organizaciones internacionales, sociedad civil y otros- para trabajar por un entorno digital inclusivo y abierto para todos, en todas partes”, concluyó Türk.(Fuente: Noticias ONU,07.07.2025; Foto: ONU/Elma Okic).

 

Voces y votos para impulsar los derechos humanos

Bajo el lema Nuestros derechos, nuestro futuro ¡Ya!, este 10 de diciembre se conmemora el Día de los Derechos Humanos. Coincide con el aniversario de la adopción de la Declaración Universal de los Derechos Humanos e invita a reflexionar sobre los logros y las luchas actuales en este ámbito.

El Alto Comisionado de la ONU para los Derechos Humanos recalcó en su mensaje que los derechos fundamentales son ideas sencillas y poderosas que motivan a la gente a defenderse por sí misma, por lo que suponen una amenaza para los autócratas, los populistas y los autoritarios de todo tipo.

“Nuestros antepasados se lanzaron a la calle, fueron a los parlamentos y a los tribunales para luchar contra el colonialismo y el apartheid, la discriminación, la desigualdad, la esclavitud y el racismo”, dijo Volker Türk, refiriéndose también a los que hoy luchan por la protección del medioambiente, los derechos de las mujeres y la paz.

Aunque la plena promesa de los derechos humanos aún está por cumplirse, Türk pidió mantener el rumbo.

“Movilícense, utilicen sus voces y votos, acérquense y conecten para construir movimientos sociales fuertes que defiendan sus derechos y los de las generaciones futuras. Pidan a sus líderes que trabajen por la igualdad, la justicia, la paz y todos sus derechos humanos”, enfatizó.

Los derechos humanos no los conceden los Estados, sino que pertenecen a todos, en todas partes, por el mero hecho de ser humanos. Trascienden la raza, el sexo, la nacionalidad o las creencias, y garantizan la igualdad y la dignidad inherentes a todas las personas. (Fuente. Noticias ONU, Foto: Laura Quiñones).

En el 75 aniversario de la Declaración Universal de los Derechos Humanos, el Alto Comisionado llama a superar la polarización

El Alto Comisionado para los Derechos Humanos inauguró este lunes un evento para conmemorar el 75 aniversario de la adopción de la Declaración Universal, donde hizo un llamamiento a “superar la polarización” y a “trabajar unidos”.

“Junto a los avances que han transformado muchas de nuestras sociedades, en los últimos 75 años también se han producido numerosos fracasos en la defensa de los derechos humanos”, señaló Volker Türk, haciendo referencia a la guerra, el hambre, la discriminación, la represión y a las amenazas a las garantías fundamentales generadas por el cambio climático, la contaminación y la pérdida de biodiversidad.

“Son retos profundos e interrelacionados que se derivan del incumplimiento de los derechos humanos”, señaló, añadiendo que “la guía para solucionar esos retos existe”.

“En un momento de tan poca solidaridad, y de tantas visiones divisorias y miopes, [este acto de conmemoración] es una llamada a superar la polarización. Una llamada a trabajar juntos, con valentía y principios, para resolver los enormes retos a los que nos enfrentamos”.

El Alto Comisionado instó, además, a “recuperar el espíritu que llevó a todos los Estados miembros a adoptar la Declaración Universal y a basar las decisiones locales, nacionales y mundiales en todos los ámbitos de la política, en el valor intrínseco e igual de toda vida humana”. (Fuente: Noticias ONU, Foto: ACNUDH/Irina Popa).

La inteligencia artificial requiere una gobernanza basada en los derechos humanos

A pocos días de cumplirse el 75 aniversario de la Declaración Universal de los Derechos Humanos, el máximo representante de las Naciones Unidas para el resguardo de esos derechos expresó alarma por la capacidad de las tecnologías digitales para remodelar las sociedades e influir en la política global y alertó de los riesgos que implican tales avances para las garantías fundamentales de las personas.

En un discurso pronunciado este jueves en la Cumbre sobre Inteligencia Artificial Generativa y Derechos Humanos, Volker Türk, afirmó que el surgimiento de dicha tecnología es una paradoja del progreso.

“Por un lado, podría revolucionar la forma en que vivimos, trabajamos y solucionamos algunos de nuestros desafíos más complejos. Por otro, aumenta los riesgos profundos de socavar la dignidad y los derechos humanos”, dijo.

Posibles efectos negativos

El Alto Comisionado de la ONU para los Derechos Humanos argumentó que se deben evaluar los múltiples campos en los que la inteligencia artificial puede tener efectos transformadores en sentido negativo, como en el combate a la discriminación, la participación política, las libertades civiles o el acceso a servicios públicos.

En este sentido, consideró crucial que los derechos humanos se integren a todo el ciclo de vida de las tecnologías de inteligencia artificial, y explicó que esto requiere de un esfuerzo concertado de los gobiernos y las corporaciones para establecer marcos eficaces de gestión de riesgos y barreras operativas.

Responsabilidad y rendición de cuentas empresariales

“Más que ninguna otra cosa, la inteligencia artificial generativa precisa gobernanza. Y esa gobernanza debe basarse en los derechos humanos. También debe ser capaz de promover una conducta empresarial responsable y la rendición de cuentas por los daños a los que contribuyen las empresas”, puntualizó.

Türk agregó que si bien en la actualidad existe un reconocimiento generalizado de la urgencia de gobernanza de esas tecnologías, las variadas iniciativas políticas para establecerla son inconsistentes y con frecuencia no dan a los derechos humanos el énfasis adecuado, lo que podría resultar en un marco regulatorio fragmentado y con diferentes definiciones de conducta ética. 

Ante esta falta de consistencia, recalcó que hace falta que todos los Estados protejan a las personas de los abusos contra los derechos humanos inducidos por la inteligencia artificial, y abundó que eso significa que todos los Estados deben alinear sus marcos regulatorios con sus obligaciones marcadas en las leyes de derechos humanos. 

En cuanto a las empresas, subrayó que deben garantizar que sus algoritmos de inteligencia artificial, procesos operativos y modelos de negocio garanticen el respeto de los derechos humanos, teniendo en cuenta a las poblaciones de mayor riesgo y evitando los abusos contra las garantías fundamentales en la decisiones comerciales y de diseño.

Reparación por abuso de los derechos humanos

El Alto Comisionado también pugnó por un remedio efectivo para las víctimas de abusos inducidos por la inteligencia artificial. 

“Las empresas de tecnología deben reconocer su responsabilidad y los beneficios sociales de contribuir a sistemas de reparación que funcionen. Y, en última instancia, los Estados tienen el deber fundamental de garantizar la reparación de los daños a los derechos humanos, incluso obligando a las empresas a tomar las medidas adecuadas”, puntualizó.

Türk insistió en que la inteligencia artificial generativa tendrá un impacto en toda la gente y que, por lo mismo, exige un enfoque global y colaborativo. 

“Tenemos que asegurarnos de que la protección de los derechos de las personas esté en el centro de ese enfoque. Esto requiere no sólo diálogo, sino una acción que se base en la sabiduría colectiva y la orientación de los marcos establecidos”, apuntó.

Türk explicó los Estados, las corporaciones, la sociedad civil y los individuos se deben unir en una misión compartida: garantizar que la inteligencia artificial sirva a los mejores intereses de la humanidad, “creando un mundo en el que la tecnología no sólo sirva a los intereses de los ricos y poderosos, sino que permita la promoción de la dignidad y los derechos humanos”.(Fuente: Noticias ONU, Foto: Unsplash/Steve Johnson).

 

250 millones de personas viven en condiciones extremas de injusticia

Durante una sesión informativa sobre la nueva visión del estado de derecho, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos advirtió que, según las estimaciones, 250 millones de personas viven “en condiciones extremas de injusticia, privadas de cualquier protección significativa de la ley”. 

Volker Türk recordó que la justicia es vital para la paz, para un contrato social justo y duradero y para el desarrollo sostenible. “Esta relación entrelazada se refleja en la promesa del Objetivo de Desarrollo Sostenible 16, que compromete a los Estados a promover sociedades pacíficas e inclusivas para el desarrollo sostenible, proporcionar acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles". 

Sin embargo, el Objetivo 16 “no va por buen camino”, señaló el Alto Comisionado. La Oficina de Derechos Humanos calcula que 4500 millones de personas, el 60% de los habitantes del planeta, están excluidas de la protección social, económica y política y de las oportunidades que la ley debería proporcionar. 

Además, el informe Desarrollo Sostenible 2022 revela que el 15% de las empresas de todo el mundo, una de cada siete empresas, se han enfrentado a peticiones de sobornos por parte de funcionarios públicos. 

“La corrupción en el poder judicial, por su parte, socava gravemente la legitimidad y la confianza en el sistema judicial, un principio básico del estado de derecho", declaró Türk. 

Para hacer frente a la situación, el Alto Comisionado aboga por una financiación mundial adecuada para la consecución del Objetivo 16, más información sobre sus indicadores y una mayor prioridad al cumplimiento de sus compromisos.(Fuente: Noticias ONU; 04.08.2023, Foto: Unsplash).

 

El cambio climático, una amenaza para los derechos humanos

El Secretario General se encuentra en Trinidad y Tobago, donde tiene lugar una reunión de la Comunidad del Caribe, CARICOM. Desde allí Guterres ha pedido medidas más ambiciosas contra la crisis climática que “amenaza la supervivencia de las islas pequeñas”.

António Guterres dijo que todavía es posible recortar las emisiones un 45% en esta década para limitar el calentamiento a 1,5 grados Celsius y “evitar los peores efectos del cambio climático”, pero serán necesarias acciones “de todos y en todos los frentes”.

“Estamos unidos pidiendo acciones más ambiciosas contra la crisis climática que amenaza incluso la supervivencia de las islas pequeñas y los Estados costeros”, explicó.

Por eso, Guterres volvió a pedir un Pacto de Solidaridad Climática, en el que todos los grandes emisores hagan esfuerzos adicionales para reducir las emisiones y los países más ricos movilicen recursos financieros y técnicos para apoyar a las economías emergentes.

Por su parte, el Alto Comisionado para los Derechos Humanos participó en un debate sobre los efectos de la crisis climática en las garantías fundamentales. Volker Türk dijo que se ha terminado el tiempo de las promesas y hay que actuar ya.

“Podemos defender nuestro derecho a un medio ambiente limpio, sano y sostenible, como aprobó la Asamblea General el año pasado. Podemos hacerlo. Porque aún estamos a tiempo de actuar. Pero ese tiempo es ahora. No debemos dejar que lo arreglen nuestros hijos, por muy inspirador que sea su activismo. Las personas que deben actuar -que tienen la responsabilidad de actuar- son nuestros líderes, hoy”, sostuvo ante el Consejo de Derechos Humanos. (Fuente: Noticias ONU, Foto: GEF/Patrizia Cocca).