La pervivencia de la memoria del Holocausto está “amenazada” por la inteligencia artificial (IA) generativa, que con frecuencia se alimenta de fuentes distorsionadas o maliciosas para crear sus contenidos, alertó este martes la Unesco.
Un informe conjunto publicado hoy por la Unesco y el Congreso Mundial Judío (CMJ) señala que los desarrolladores de IA, al entrenar sus herramientas con información que circula por internet, pueden exponerlas, por falta de supervisión adecuada, a fuentes con datos falsos o tendenciosos.
Además, y sobre esa base, las propias herramientas de IA pueden terminar generando contenidos falsos sobre el Holocausto, algo que ya ha ocurrido en algunos casos con ChatGPT y con Bard, la herramienta de Google.
Ambas han producido contenido sobre acontecimientos relacionados con el Holocausto “que nunca ocurrieron”, afirma la Unesco en un comunicado.
Otro problema encontrado es que la IA tiende a “simplificar el contexto histórico”, privilegiando “un rango reducido de fuentes y una pequeña elección de acontecimientos”.
Por ejemplo, en páginas de búsqueda alimentadas por IA, entre un 60 y un 80 % de las principales imágenes en búsquedas se refieren al campo de exterminio de Auschwitz-Birkenau.
Debido a que el 80 % de los jóvenes entre los 10 y 24 años usan la IA varias veces al día con propósitos educativos o de entretenimiento, hace falta una acción “rápida” para que estas tecnologías se guíen por principios éticos, insistió la Unesco.
Por ello, la organización urgió a los Estados y a las empresas tecnológicas a acelerar la implementación de sus recomendaciones sobre la ética de la IA, y que ya ha sido integrada en la legislación de unos cincuenta países.
