A Anthropic bloqueou contas de pesquisadores que usavam seus modelos de inteligência artificial em estudos biológicos com potencial de contribuir para o desenvolvimento de armas. A empresa não conseguiu confirmar se os trabalhos tinham finalidade legítima ou maliciosa, mas interrompeu as atividades diante do risco identificado.
Um dos casos envolveu um pedido de ajuda para modificar o vírus chikungunya e torná-lo mais nocivo. A pesquisa seria realizada em um instituto militar, fator que aumentou a preocupação da empresa sobre o possível uso dos resultados.
Em maio, um cientista solicitou ao Claude auxílio para preparar um pedido de financiamento. O projeto previa a introdução de mutações no vírus para aumentar sua capacidade de causar danos durante infecções repetidas em animais vivos. Esse tipo de estudo, chamado de ganho de função, pode ter aplicações legítimas, como o desenvolvimento de vacinas, mas também pode produzir versões mais perigosas de vírus.
Controles e avaliação de risco
A Anthropic afirmou que os pesquisadores tentaram contornar restrições de acesso destinadas a usuários de regiões bloqueadas. Também houve tentativas de esconder a finalidade dos trabalhos para escapar das salvaguardas do sistema. As contas relacionadas foram banidas.
Jacob Klein, responsável pela inteligência de ameaças da empresa, disse que não era possível determinar se a pesquisa seria transformada em arma. Para ele, a realização de um estudo de ganho de função por uma instituição militar é preocupante.
Avaliações feitas no ano passado apontaram que modelos antigos da Anthropic ainda não ofereciam ajuda significativa em pesquisas biológicas perigosas. Segundo a empresa, os sistemas atuais são mais capazes de conduzir pesquisas científicas complexas. Por isso, foram adotadas restrições mais rígidas para consultas sobre biologia de uso duplo.
A microbiologista e especialista em saúde pública Susan Monarez afirmou que os casos apresentam evidências de tentativas clandestinas de usar inteligência artificial para aumentar as chances de desenvolver agentes biológicos capazes de causar danos significativos. Ela também ressaltou que essas capacidades podem acelerar descobertas médicas.
Além dos casos biológicos, a Anthropic relatou usos indevidos do Claude em vigilância, propaganda e desenvolvimento de armas convencionais. A empresa decidiu bloquear as atividades identificadas mesmo sem comprovar a intenção de criar armas, diante da dificuldade de distinguir uma pesquisa legítima de uma possível preparação para causar danos.
