Ao gerar uma imagem baseada em sua autodescrição, Renata Souza se deparou com uma ilustração que retratava uma mulher negra segurando uma arma em uma favela. A deputada ressalta que em momento algum mencionou armas ou violência em sua descrição, apenas falou sobre uma mulher negra em uma favela. Para ela, isso comprova que as inteligências artificiais são racistas.
Renata Souza afirma que o racismo algorítmico está presente nas plataformas de inteligência artificial e denuncia a lógica de criminalização das pessoas negras que vivem em favelas e periferias. Ela destaca seu trabalho à frente da CPI do Reconhecimento Fotográfico, em que já constatou a utilização de algoritmos racistas em sistemas de reconhecimento facial. Esses algoritmos têm a tendência de reconhecer pessoas negras, pobres e jovens como possíveis criminosos.
A deputada informou que está analisando as medidas cabíveis para encaminhar essa denúncia e pretende buscar um canal de diálogo com a direção da empresa responsável pelo aplicativo gerador das imagens. É importante ressaltar que Renata Souza não divulgou o nome da empresa durante sua denúncia.
Vale lembrar que desde o dia 19 de outubro está em vigor uma lei estadual no Rio de Janeiro que impede que o reconhecimento fotográfico seja utilizado como única prova em pedidos de prisão de investigados. Essa medida tem como objetivo evitar possíveis injustiças decorrentes da utilização de algoritmos racistas.
A denúncia feita pela deputada Renata Souza coloca em evidência a necessidade de se discutir e combater o racismo algorítmico. A utilização de inteligência artificial pode trazer benefícios em diversas áreas, mas é fundamental garantir que esses sistemas sejam imparciais e não reproduzam preconceitos e discriminações. A sociedade precisa estar vigilante e exigir que as empresas responsáveis por essas tecnologias promovam a igualdade e a justiça em suas soluções.
