Grupo regional analizará desinformación e Inteligencia Artificial

[MONTEVIDEO, SciDev.Net] Países de América Latina y el Caribe acordaron crear un Grupo Regional de Especialistas en Desinformación e Inteligencia Artificial (IA) y aprobar una nueva hoja de ruta para impulsar, durante los próximos 12 meses, políticas de IA ética con acciones en gobernanza, infraestructura, sostenibilidad y protección de grupos vulnerables.

Las iniciativas forman parte de la Declaración de Santo Domingo, aprobada en la Tercera Cumbre Ministerial y de Altas Autoridades sobre la Ética de la Inteligencia Artificial, realizada el 25 y 26 de junio en República Dominicana con ministros y altas autoridades de más de 20 países.

La cumbre, organizada con apoyo de la UNESCO y del Banco de Desarrollo de América Latina y el Caribe (CAF), buscó planear e implementar acciones concretas para una inteligencia artificial “ética, responsable y productiva para el desarrollo sostenible”, centrada en las personas, los derechos humanos y el desarrollo sostenible.

“América Latina y el Caribe es una de las regiones más desiguales del mundo, y la IA puede tanto profundizar como reducir esas brechas según cómo sea su gobernanza”.

Gisselle Burbano, jefa para América Latina de Ética de la Inteligencia Artificial en la Oficina Regional de la UNESCO en Montevideo

La declaración impulsa una Hoja de Ruta 2026-2027 con cinco ejes estratégicos: gobernanza y regulación; talento y futuro del trabajo; protección de grupos vulnerables; ambiente, sostenibilidad y cambio climático; e infraestructura.

Consultada por SciDev.Net, Gisselle Burbano, jefa para América Latina de Ética de la Inteligencia Artificial en la Oficina Regional de la UNESCO en Montevideo, explicó que uno de los principales desafíos fue construir una hoja de ruta que fuera “a la vez ambiciosa y operativa” pese a la diversidad de infraestructura, marcos regulatorios y niveles de preparación institucional de los países participantes.

“América Latina y el Caribe es una de las regiones más desiguales del mundo, y la IA puede tanto profundizar como reducir esas brechas según cómo sea su gobernanza”, afirmó.

Burbano señaló que la velocidad de adopción tecnológica suele superar la capacidad institucional para regularla, exponiendo especialmente a mujeres, comunidades afrodescendientes e indígenas, trabajadores informales, niñas y niños a riesgos como sesgos algorítmicos, desplazamiento laboral o impactos ambientales derivados de la creciente demanda energética de la infraestructura digital.

Desde la perspectiva de la UNESCO, añadió, una gobernanza responsable “no debería ser un freno a la innovación, sino favorecer su desarrollo mientras los beneficios asociados se distribuyen de forma justa”.

Para Federico Lecumberry, profesor de la Facultad de Ingeniería de la Universidad de la República (Uruguay), que no participó en el evento, alcanzar acuerdos regionales es fundamental porque “es un tema geopolítico”. Entrevistado por SciDev.Net hizo referencia a que Europa, China y Japón ya avanzaron con marcos regulatorios propios y sostuvo que, en una región tan desigual, resulta clave una acción coordinada.

Lecumberry, integrante del comité directivo de Khipu —grupo latinoamericano que nuclea a estudiantes, investigadores e innovadores en IA y Aprendizaje Automático—, también vinculó la Declaración de Santo Domingo con la Declaración de Montevideo sobre Inteligencia Artificial y su impacto en América Latina, elaborada durante el Encuentro Latinoamericano de IA realizado en 2023.

Desinformación en la mira

Entre las acciones previstas en la hoja de ruta figura la creación del Grupo Regional de Especialistas en Desinformación e IA, un manual de respuesta rápida (playbook) para incidentes de desinformación, un curso abierto sobre competencias en IA y capacitaciones para incorporar la perspectiva de género en las políticas públicas.

Según Burbano, América Latina y el Caribe, “una región caracterizada por frecuentes procesos electorales y una alta penetración de redes sociales”, enfrenta una creciente exposición a la desinformación amplificada por la IA.

“Para la UNESCO, que lleva años trabajando en libertad de prensa y alfabetización mediática e informacional, este fenómeno representa una amenaza directa a los derechos humanos y a la calidad de los procesos democráticos”, afirmó.

El nuevo grupo buscará crear una capacidad de respuesta regional, que hoy no existe, de forma coordinada. Reunirá a especialistas técnicos, académicos y representantes de organismos internacionales para monitorear el fenómeno, producir evidencia y desarrollar herramientas prácticas.

Para Luciana Benotti, profesora asociada de la Universidad Nacional de Córdoba y especialista en inteligencia artificial multimodal y modelos de lenguaje, la desinformación constituye “un problema grave” porque los modelos de IA generativa producen información verdadera con la misma certeza expresiva y narrativa que información falsa, sin forma matemática de distinguir entre una cosa y la otra.

“Por ahora nadie que trabaje en IA conoce la solución para este problema, y por eso es un riesgo real que ocurre a nivel global”, sostuvo a SciDev.Net.

Benotti, quien no participó en la Cumbre, advirtió además que, en América Latina, el problema se agrava por vulnerabilidades estructurales. Si escuelas o medios adoptan herramientas de IA sin reflexión, dijo, incorporan sistemas que pueden homogeneizar el pensamiento, borrar la memoria histórica regional y validar discursos desinformativos, impulsados además por la promesa de reducir costos.

Lecumberry coincidió en que el foco sobre la desinformación es especialmente relevante para la democracia. “Sin duda, las noticias falsas son uno de los peligros para la democracia, y la existencia de este grupo que genere herramientas y alfabetización sobre el tema es muy valiosa”, señaló.

Riesgos, resultados y desafíos pendientes

Matías Jackson, consultor en Derechos Humanos en Internet en Cainfo espera que en los próximos dos años surjan muchas leyes, normas y regulaciones que busquen atender los principales desafíos desde las cinco líneas de acción estratégicas señaladas en la Declaración.

“Parlamentos y reguladores más activos probablemente generarán ruido, tanto a favor como en contra, pero de a poco irá tomando forma un entorno diferente al que estamos viendo actualmente”, dijo a SciDev.Net.

La declaración también consolida un Grupo de Trabajo sobre la Ética de la IA como instancia permanente de coordinación y seguimiento de la hoja de ruta, y establece la realización anual de las cumbres ministeriales para evaluar avances y aprobar nuevas iniciativas.

Entre los aspectos ausentes en el documento, Lecumberry destacó la palabra soberanía, un concepto clave que implica aprovechar conocimiento generado por la región y para la región. También consideró prioritario fortalecer la alfabetización de la población para comprender el funcionamiento de estos sistemas y el rol de las personas como usuarios, para “prevenir abusos y fomentar el pensamiento crítico”.

Benotti, por su parte, alertó que la IA está profundizando la explotación laboral. Ejemplificó  que la IA está dificultando el acceso de egresados universitarios del sector de desarrollo tecnológico a empleos junior y aumentando la presión sobre los trabajadores más experimentados, debido a las expectativas de mayor productividad derivadas del uso de estas herramientas.

“Este es un aspecto concreto y relacionado a derechos humanos y sería muy necesaria una coordinación regional”, afirmó.

Consultada sobre los próximos pasos, Burbano señaló que la expectativa es que la Hoja de Ruta 2026-2027 genere herramientas prácticas para que los gobiernos diseñen y evalúen marcos regulatorios y otras políticas públicas sobre IA.

“Para la UNESCO, el indicador más importante no es cuántos documentos se producen, sino cuántos países logran traducir estos compromisos en políticas públicas concretas que mejoren la gobernanza de la IA”, concluyó.

Este artículo fue producido por la edición de América Latina y el Caribe de SciDev.Net