Google enfrenta críticas após chatbot de inteligência artificial gerar imagens e textos historicamente e racialmente imprecisos
No noticiário desta semana, o Google se viu no centro de polêmicas devido ao chatbot de inteligência artificial (IA) da empresa, Gemini. O CEO do Google, Sundar Pichai, emitiu um comunicado interno no qual classificou as respostas geradas pelo chatbot como “inaceitáveis”.
Segundo informações obtidas pelo site The Verge, Pichai destacou que as respostas do chatbot ofenderam usuários e mostraram viés, sendo consideradas completamente inaceitáveis pela empresa. Diante disso, a companhia interrompeu a capacidade do Gemini de gerar imagens, após a identificação de representações racialmente diversas de personagens históricos, como soldados alemães da era nazista e fundadores dos EUA não brancos. Além disso, houve imprecisões na representação das raças dos próprios cofundadores do Google.
No memorando interno, Pichai expressou o compromisso da empresa em resolver os problemas identificados, ressaltando que as equipes estão trabalhando incansavelmente para corrigir as respostas problemáticas. Apesar de reconhecer que nenhuma IA é perfeita, o CEO prometeu continuar os esforços até que o problema seja resolvido.
Para reverter a situação, o Google está implementando uma série de ações, incluindo mudanças estruturais, diretrizes de produtos atualizadas, processos de lançamento aprimorados, avaliações robustas e equipes dedicadas. Pichai reforçou a importância de manter a missão da empresa de fornecer informações precisas e imparciais, assegurando o compromisso com a excelência na entrega de produtos confiáveis aos usuários.
Apesar dos desafios enfrentados, Pichai destacou os avanços recentes em inteligência artificial e reforçou o foco da empresa em criar produtos úteis e confiáveis, buscando sempre a confiança dos usuários e explorando o potencial da IA em benefício da sociedade.
O incidente com o chatbot do Google ressalta as preocupações da empresa em relação à divulgação de IA generativa para o público. A situação traz à tona episódios anteriores, como o caso envolvendo Blake Lemoine e suas alegações sobre o desenvolvimento de consciência por parte de uma IA generativa da empresa.
Em meio a essas controvérsias, o Google reforça seu compromisso em desenvolver inteligência artificial de forma responsável, buscando evitar equívocos e mantendo a qualidade de seus produtos. O caminho pela frente é desafiador, mas a empresa segue firme em sua missão de inovar com responsabilidade.
*Alice Labate é estagiária sob supervisão do editor Bruno Romani
