Um estudo realizado pelas pesquisadoras Letícia Oliveira e Tatiana Azevedo concluiu que esses conteúdos estão cooptando principalmente jovens para grupos extremistas. Para realizar o estudo, as pesquisadoras criaram um perfil no TikTok que passou a seguir e curtir vídeos com conteúdo neonazista e ligado a massacres escolares. Em pouco tempo, o algoritmo da plataforma passou a recomendar mais vídeos e contas com essa temática para o perfil.
Ao ser questionado sobre o assunto, o TikTok afirmou que trabalha constantemente para garantir a segurança dos usuários e que suas diretrizes são claras em relação à proibição da propagação de violência e ódio. No entanto, as pesquisadoras alertam para o risco de que esses conteúdos alcancem jovens vulneráveis, especialmente aqueles com transtornos mentais ou em sofrimento.
Um exemplo trágico dessa influência é o caso do aluno de 16 anos que entrou armado em uma escola em São Paulo e cometeu um assassinato. Segundo sua mãe, ele era usuário frequente do TikTok e buscava fama e seguidores através da publicação de conteúdos controversos, como desenhos de suásticas em seu rosto e automutilação com o símbolo.
Os conteúdos neonazistas encontrados no TikTok têm evitado símbolos mais conhecidos, como a suástica, optando por códigos e combinações numéricas como alusão ao neonazismo. Um exemplo é o símbolo do Sol Negro, popular entre neonazistas e composto por uma roda solar, uma suástica e uma letra do alfabeto germânico antigo. O uso de números como 14 e 88 também é comum, sendo o número 14 uma referência às 14 palavras de um slogan supremacista branco americano, e o número 88 uma representação da saudação nazista “Heil Hitler”.
Esses conteúdos disfarçados são especialmente perigosos, uma vez que podem passar despercebidos e atrair pessoas que desconhecem seu teor extremista. Um exemplo mencionado no estudo é a trend “caça aos gnomos”, que fazia uma referência velada à “caça aos judeus” e continha postagens explícitas de conteúdo neonazista.
O TikTok afirma possuir ferramentas de moderação, como o “shadowban”, que limita o alcance de usuários que violem os termos de uso. Além disso, a plataforma pode excluir hashtags que propaguem conteúdo inadequado. No entanto, usuários têm adotado termos similares aos banidos temporariamente até que a plataforma os detecte. Outra tática utilizada é a publicação de imagens e vídeos sem hashtags, evitando sua exclusão, mas reduzindo seu alcance.
Essas estratégias de disfarce têm sido eficazes para driblar a moderação e as denúncias. Após denúncias recordes nos anos anteriores, o número de denúncias de conteúdos neonazistas no TikTok diminuiu drasticamente em 2021. Grupos responsáveis pela disseminação desse tipo de conteúdo migraram para outras plataformas com menos moderação, como o Discord, tornando-se mais difíceis de serem monitorados.
Para a pesquisadora Luka Franca, do grupo Violência em Tempos Sombrios da USP, a disseminação de conteúdos criminosos e de incitação à violência de forma mascarada evidencia a necessidade de regulamentação das redes sociais no Brasil. No momento, as autoridades de segurança não conseguem fiscalizar e coibir práticas criminosas, já que as empresas não são obrigadas a divulgar como funcionam seus algoritmos. Além disso, a dificuldade de controle parental sobre o conteúdo acessado por crianças e adolescentes também é destacada.
O TikTok afirma que a maioria dos conteúdos problemáticos é removida antes mesmo de ser denunciada, utilizando tecnologia e uma equipe de moderação. Porém, é necessária uma maior transparência por parte das plataformas para enfrentar o problema da disseminação de conteúdo extremista e de incitação à violência.
Em conclusão, a disseminação de conteúdos nazistas e com discurso de ódio no TikTok é um problema sério que precisa ser enfrentado. Estratégias de disfarce estão sendo utilizadas para burlar as ferramentas de moderação da plataforma, cooptando jovens para grupos extremistas. É urgente uma regulamentação das redes sociais no Brasil para garantir a segurança dos usuários e facilitar o combate a práticas criminosas. Além disso, é importante que os pais estejam atentos ao conteúdo acessado por seus filhos e tenham conhecimento dos símbolos e códigos utilizados pelos neonazistas.
