A Anthropic bloqueou operações que utilizavam o Claude em atividades de vigilância apoiadas pelos governos da China, do Irã e do Mali. A empresa também interrompeu tentativas de desenvolver armas, pesquisas biológicas cuja finalidade não estava clara e golpes românticos online.
Os casos foram detectados entre janeiro e julho. Entre as atividades identificadas estavam a localização de pessoas em redes sociais, o monitoramento de dissidentes e minorias que vivem no exterior e a criação de software para coleta de inteligência.
Dados usados para aprimorar outros modelos
A empresa acusou desenvolvedores chineses de usar o Claude de maneira enganosa. Eles produziam respostas para consultas de usuários e aproveitavam os dados para melhorar seus próprios sistemas por meio da chamada destilação.
A técnica consiste em usar um modelo de inteligência artificial para treinar outro. Conforme a Anthropic, desenvolvedores chineses já tinham sido acusados anteriormente de aplicar esse método sem autorização.
Grupos e pesquisas citados
As operações de vigilância tinham como alvos comunidades que, segundo a Anthropic, são historicamente perseguidas pelos governos envolvidos. Entre elas estão ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano que vivem fora do país.
Em um dos casos, pessoas no Irã criaram um método para identificar indivíduos a partir de suas contas em redes sociais. No Mali, um contratado que atuava para autoridades de segurança nacional usou o Claude “para projetar o software subjacente que permitiu a coleta de inteligência”.
A Anthropic também relatou estudos sobre o vírus chikungunya, uma cepa “altamente patogênica” de gripe aviária e uma família de vírus que inclui varíola e mpox. Venenos e outras toxinas apareceram na lista de pesquisas bloqueadas.
A intenção dos envolvidos não foi esclarecida, e a empresa não divulgou suas identidades. “As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos”, afirmou o relatório da Anthropic. A companhia disse ter encerrado as operações após identificar o uso indevido de seus modelos.
