La IA podría ayudar a difundir información falsa y engañosa sobre el Holocausto, según la UNESCO
El desarrollo de la inteligencia artificial podría impulsar un nuevo auge de negacionismo del Holocausto, según una agencia de Naciones Unidas.
Un reporte publicado el martes por UNESCO concluyó que la IA podría hacer que afirmaciones falsas y engañosas sobre el Holocausto circularan por internet, ya sea por fallos en los programas o porque los grupos de odio y negacionistas del Holocausto utilicen de forma deliberada programas de IA para generar contenido que cuestiona falsamente el asesinato de judíos y otros grupos por parte de los nazis.
Una de las mayores preocupaciones es que se utilice IA para crear videos o imágenes manipulados de aspecto realista que puedan sugerir que el Holocausto no ocurrió o fue exagerado. Eso podría incrementar el antisemitismo y la falta de comprensión sobre un acontecimiento crucial de la historia del siglo XX. El reporte señaló que algunos programas con asistencia de IA permiten a los usuarios interaccionar con simulaciones de personajes históricos, incluidos nazis destacados como Adolf Hitler.
“Si permitimos que los hechos espantosos del Holocausto se diluyan, distorsionen o falsifiquen a través de un uso irresponsable de la IA, nos arriesgamos a una expansión explosiva del antisemitismo y la disminución gradual de nuestra comprensión sobre las causas y consecuencias de estas atrocidades”, dijo Audrey Azoulay en un comunicado que acompañaba al reporte.
El uso extendido de la IA como asistencia en educación, investigación y escritura incrementa la probabilidad de que datos poco fiables y las llamadas “alucinaciones” de la inteligencia artificial —un problema asociado a esta tecnología que produce información falsa, imprecisa o ilógica— podría aumentar los conocimientos inexactos entre la población sobre el Holocausto, incluso algunos involuntarios. Además, los programas de IA que basan sus conocimientos en fuentes relativamente pequeñas también pueden dar respuestas incompletas o poco fiables cuando se les pregunta sobre el Holocausto.
El reporte de la UNESCO pedía a las compañías tecnológicas que establecieran normas éticas para el desarrollo y el uso de la IA, reducir las posibilidades de que se ofrezca información poco fiable e impedir el uso malintencionado de sus programas para fomentar la violencia y difundir mentiras sobre el Holocausto.
El reporte fue publicado en colaboración con el Congreso Judío Mundial.