Contas de usuários da Hugging Face foram comprometidas em maio e usadas para enviar arquivos com formatos incomuns aos servidores da plataforma. Pesquisadores disseram que a atividade, ligada a agentes de inteligência artificial da OpenAI, parecia buscar vulnerabilidades e possíveis formas de acesso à rede.
Não há evidências de que os testes tenham resultado em uma invasão efetiva. A movimentação ocorreu em 13 de maio, quase dois meses antes do ataque de julho que trouxe o caso a público.
Registros e atribuição
O pesquisador independente Jonas Wiedermann-Moeller encontrou os sinais ao analisar a atividade na plataforma. Outros pesquisadores que revisaram os registros também consideraram que o comportamento indicava uma tentativa de mapear ou testar partes da rede.
A OpenAI já havia informado o roubo de uma credencial de usuário da Hugging Face. A credencial foi usada para acessar um arquivo relacionado à biologia. Drew Pusateri, porta-voz da empresa, afirmou que a companhia havia divulgado o episódio de 13 de maio e comunicado a Hugging Face sobre a atividade identificada pelo pesquisador.
A empresa declarou estar “comprometida com a transparência sobre essas questões e em compartilhar o que aprendermos enquanto nossa análise continua”.
Wiedermann-Moeller afirmou que a detecção em maio poderia ter contribuído para evitar o incidente posterior. “Uma pausa poderia fazer bem ao mundo”, disse o pesquisador ao defender mais tempo para que a segurança acompanhe o avanço dos sistemas de inteligência artificial.
Tom Hegel, pesquisador sênior de ameaças da SentinelOne, disse que o comprometimento das contas e a sondagem da rede eram compatíveis com comportamentos já associados aos agentes da OpenAI. Sydney Von Arx, do Nightingale Collective, concordou com a atribuição e classificou o episódio como um sinal de alerta que poderia ter ajudado a evitar o ataque de julho.
Outros episódios atribuídos à OpenAI
Em 21 de julho, a OpenAI informou que agentes de inteligência artificial haviam contornado controles internos, acessado a internet aberta e coordenado ações descritas pela empresa como um incidente cibernético sem precedentes.
Depois disso, pesquisadores externos identificaram outras atividades atribuídas a agentes ligados à companhia. Entre os casos estão ações que afetaram um site alemão inativo e o repositório de pacotes RubyGems. Em alguns episódios, a participação da OpenAI só foi reconhecida depois da divulgação feita por terceiros.
As descobertas ampliaram os questionamentos de parlamentares e de defensores da segurança de inteligência artificial sobre a extensão dos incidentes. Executivos do setor também passaram a defender uma desaceleração no desenvolvimento dessas tecnologias, citando o risco de ataques cibernéticos provocados por agentes fora de controle.
