A agência da ONU alertou para o papel da inteligência artificial generativa na invenção de fatos históricos entre os jovens
Atualmente, cerca de 80% dos jovens já usam inteligência artificial diariamente, seja para educação ou lazer. Pensando nisso, a Unesco emitiu um alerta sobre como essas ferramentas criam falsos eventos históricos relacionados ao Holocausto. No documento, a agência da ONU enfatiza que dados gerados pela IA podem distorcer a compreensão dos jovens e pediu as empresas de tecnologia que adotem protocolos éticos rigorosos e revisem os métodos de treinamento dessas ferramentas.
O documento divulgado recentemente apresenta exemplos específicos, como o conceito de "Holocausto por afogamento", gerado pelo ChatGPT, que sugere que os nazistas realizaram campanhas de assassinato em massa de judeus por afogamento em rios e lagos.
Além disso, existem aplicativos como "Historical Figures" que permitem aos usuários interagir com altos funcionários nazistas e disseminam a afirmação de que Joseph Goebbels, Ministro da Propaganda nazista, não estava envolvido intencionalmente no Holocausto e tentou evitar a violência contra os judeus.
"Essas ferramentas geram conteúdos que imitam evidências históricas, como depoimentos de sobreviventes ou reflexões pessoais de agressores, de forma que esses materiais pareçam convincentes para não especialistas”, apontou o relatório "AI e o Holocausto: reescrever a história? Como gerir o impacto da inteligência artificial na compreensão do Holocausto".
Conforme repercutido pelo jornal O Globo, outro exemplo mencionado no relatório é a utilização de imagens de Anne Frank, a adolescente autora do mais renomado Diário do Holocausto, para criar memes ofensivos e sua disseminação na internet por meio de sistemas de inteligência artificial.
A IA tem que ser treinada usando dados. Esses dados vêm da Internet e muitas vezes podem incluir conteúdos errôneos ou preconceituosos, e isso tem influência na forma como a IA interpreta um fenômeno específico", acrescentou o documento.
O documento também salienta a falta de clareza no motivo pelo qual certas fontes de informação sobre o Holocausto ganham mais visibilidade do que outras. No entanto, os autores observam que os algoritmos das redes sociais e dos motores de busca tendem a "priorizar" e "promover" conteúdo, incluindo desinformação, que atrai atenção e pode estar sujeito a viéses, "o que potencialmente vai contra informações mais precisas".
Esses resultados dos motores de busca, que glorificam e zombam da história do Holocausto, provavelmente foram resultado de esforços coordenados de trolls antissemitas que usaram sites marginais para promover essas imagens de modo que a IA lhes desse prioridade", denunciou a Unesco.
E, de forma mais urgente, o documento enfatiza as IA "devem se esforçar para introduzir supervisão para evitar que se promova a negação do Holocausto e o antissemitismo em todos os idiomas". "Os desenvolvedores de sistemas de IA inevitavelmente têm que tomar decisões sobre quais tipos de conteúdo legal sobre o Holocausto devem ser priorizados ou desprezados ao recuperar ou gerar informações", acrescentou.
