O Google suspendeu temporariamente a função de geração de imagens de pessoas do Gemini após relatos de erros em representações históricas e raciais nos conteúdos criados pela inteligência artificial (IA) generativa. A decisão da empresa foi confirmada nesta sexta-feira (23), com novas explicações sobre o que motivou a medida.
Disponível desde o início de fevereiro, quando a tecnologia ainda se chamava Bard, o mecanismo gera imagens a partir de descrições textuais. Porém, algumas pessoas que usaram a ferramenta se depararam com imprecisões nos materiais criados pela tecnologia, conforme os relatos surgidos nos últimos dias.
This is not good. #googlegemini pic.twitter.com/LFjKbSSaG2
— LINK IN BIO (@__Link_In_Bio__) February 20, 2024
Um dos erros da IA generativa que viralizaram no X/Twitter mostra a ferramenta gerando imagens contendo um homem negro e uma mulher asiática após a solicitação para que ela criasse fotos de soldados alemães em 1943. Em outro caso, pessoas negras e indígenas aparecem na geração de um quadro sobre os “Pais Fundadores” dos Estados Unidos.
Após se pronunciar na quarta-feira (21), afirmando estar ciente dos problemas, o Google confirmou a suspensão do gerador de imagens do Gemini. “Reconhecemos o erro e pausamos temporariamente a geração de imagens de pessoas no Gemini enquanto trabalhamos em uma versão melhorada”, declarou, em comunicado.
O que deu errado no gerador de imagens do Gemini?
No documento, a gigante de Mountain View explica que a sua IA generativa sofre com “alucinações”, fenômeno comum e que pode afetar qualquer modelo de linguagem, incluindo o popular ChatGPT da OpenAI. Ao interpretar informações erroneamente, a ferramenta acaba gerando respostas sem sentido e/ou imprecisas.
A companhia também explicou que ajustes feitos para garantir que a tecnologia mostrasse uma gama de pessoas falhou, não levando em conta as situações nas quais não deveriam mostrar aquela determinada gama. Além disso, o gerador teria se tornado “mais cauteloso”, recusando-se a responder certas solicitações.
“Estas duas coisas levaram o modelo a compensar excessivamente em alguns casos e a ser demasiado conservador em outros, conduzindo a imagens embaraçosas e erradas”, destacou. Diante dos problemas, a desenvolvedora optou por desativar a funcionalidade momentaneamente.
De acordo com o Google, melhorias serão implementadas no sistema, que passará por novos testes extensivos antes de voltar a ficar disponível, o que ainda não tem prazo para acontecer. Apesar dos ajustes, a big tech não descartou a possibilidade de o gerador de imagens do Gemini voltar a apresentar resultados “embaraçosos, imprecisos ou ofensivos”, ocasionalmente.
