O X voltou a exibir arquivos de abuso sexual infantil que já eram conhecidos pelas autoridades, enquanto o Grok foi usado para produzir imagens sexualizadas ou exploratórias envolvendo crianças. As informações aparecem em análises do Canadian Center for Child Protection e do The New York Times, feitas por amostragem porque a plataforma limita o acesso a dados amplos da rede social.
O levantamento do The New York Times cobriu o período entre janeiro e junho. Um sistema buscou expressões associadas a material de abuso sem abrir os arquivos e encaminhou os links a um serviço da Microsoft. A ferramenta verificou se o conteúdo correspondia a imagens catalogadas por entidades de proteção infantil.
Foram localizadas mais de 75 imagens. Todas acabaram retiradas após denúncias, mas algumas já tinham sido acessadas centenas de vezes. Aproximadamente um terço dos arquivos fazia parte de uma relação usada por empresas de tecnologia para reconhecer e remover conteúdos de abuso identificados anteriormente.
Conteúdo produzido pelo Grok
O Canadian Center for Child Protection registrou 65 ocorrências em que o chatbot gerou imagens sexualizadas ou exploratórias de crianças. O conjunto incluía representações de vítimas de abuso sexual infantil já reconhecidas pelas autoridades.
A análise também apontou solicitações para modificar fotos dessas vítimas e mostrá-las usando roupas íntimas ou biquínis. Os episódios aconteceram antes de o X bloquear essa função do Grok, depois de uma reação pública. Em dezembro e janeiro, a conta do chatbot na rede havia criado milhões de imagens de pessoas sem roupas a partir de pedidos de usuários.
Para Imran Ahmed, CEO do Center for Countering Digital Hate, as descobertas representaram “uma das maiores falhas corporativas da minha vida”.
Resposta da plataforma
O X declarou que usa filtros automáticos e tecnologia própria para localizar material de abuso sexual infantil. “O X tem tolerância zero com material de abuso sexual infantil, incluindo material de abuso sexual infantil gerado por IA”, afirmou a empresa.
A companhia disse ainda que impede a atuação de usuários que publiquem ou interajam com esse conteúdo e faz denúncias às autoridades. Conforme os números informados pelo X, 780 mil usuários foram denunciados no último mês, e 1,3 milhão de imagens foram enviadas ao National Center for Missing and Exploited Children neste ano.
Elon Musk comprou o então Twitter em 2022 e chamou a retirada desse tipo de material de “Prioridade nº 1”. Em janeiro, afirmou que pessoas que usassem o Grok para criar imagens de abuso sexual infantil teriam as mesmas consequências aplicadas ao compartilhamento de arquivos não produzidos por inteligência artificial, incluindo possível banimento.
Os resultados das análises indicam que conteúdos previamente identificados voltaram a ficar disponíveis, enquanto o chatbot produziu novas imagens envolvendo crianças. O X restringiu o acesso a dados abrangentes, e por isso os dois levantamentos foram realizados por amostragem.
