Estudante queria uma foto para o LinkedIn — mas a inteligência artificial acabou mudando mais do que simples detalhes em sua imagem
Uma estudante do Instituto de Tecnologia de Massachusetts (MIT), nos Estados Unidos, decidiu recentemente utilizar um gerador de imagens de inteligência artificial (IA) para editar uma foto sua e usá-la como perfil profissional no LinkedIn. No entanto, o resultado obtido foi inesperado e problemático, já que a IA criou uma "versão branca" da garota, que é de origem asiática.
Rona Wang, de 24 anos, graduada em matemática e ciência da computação — e que está prestes a iniciar sua pós-graduação no MIT — compartilhou a imagem, na qual surge com pele clara e olhos azuis, em 14 de julho no Twitter. A publicação já recebeu quase 100 mil curtidas e mais de 4 mil compartilhamentos.
Wang mencionou que sua reação inicial ao ver o resultado foi de surpresa e divertimento. Porém, a jovem também destacou que a situação gerou uma discussão mais ampla sobre o viés da IA e sobre quem está sendo incluído ou excluído nessa nova onda de tecnologia.
A estudante apontou que o viés racial é um problema recorrente nas ferramentas de IA, que já falharam com ela em outras ocasiões. "Ainda não obtive nenhum resultado utilizável de geradores ou editores de fotos de IA, então terei que ficar sem uma nova foto de perfil do LinkedIn por enquanto!", disse a jovem, segundo a revista Galileu.
Em entrevista ao Boston Globe, Wang revelou que sua "versão branca" pode ter sido gerada aleatoriamente com base nas características faciais de uma mulher branca. Ela acredita que a inteligência artificial (IA) pode ter sido treinada usando um conjunto de fotos em que a maioria das pessoas retratadas no LinkedIn ou em cenários "profissionais" eram brancas.
Essa possibilidade a preocupa, principalmente no contexto em que empresas podem utilizar IA para selecionar candidatos considerados mais "profissionais" para determinados trabalhos, o que poderia resultar na escolha de candidatos apenas brancos.
Duas horas após a publicação da estudante, o fundador do Playground AI, Suhail Doshi, se manifestou no Twitter reconhecendo as falhas da ferramenta.
"Os modelos não são instruíveis assim, então ele escolhe qualquer coisa genérica com base no prompt”, escreveu. “Infelizmente, eles não são inteligentes o suficiente”.
Ele também destacou que a edição exigiria um pouco mais de esforço do que algo como o ChatGPT, mas garantiu que a equipe responsável pela plataforma está profundamente insatisfeita com a situação e está empenhada em resolver o problema.
