A OpenAI afirma ter interrompido uma campanha coordenada que tentava extrair capacidades de raciocínio protegidas de seus modelos de inteligência artificial. Segundo a empresa, parte central da operação envolvia pessoas associadas à Moonshot AI, desenvolvedora do chatbot Kimi.
A atividade teria começado no início de julho e alcançado o pico entre 24 e 25 daquele mês. Nesse período, a OpenAI identificou 16 mil solicitações feitas por mais de quatro mil usuários, com padrão semelhante de extração. A investigação também encontrou atividades relacionadas em um conjunto de mais de 15 mil usuários. A campanha foi completamente interrompida em 28 de julho, segundo a companhia.
Como a operação funcionava
A OpenAI diz que os envolvidos não invadiram bancos de dados, quebraram a criptografia nem acessaram diretamente conversas armazenadas. O método explorava a passagem de informações entre interações diferentes: dados de raciocínio criptografados eram copiados de uma conversa e, em outra, o modelo era orientado a descriptografar e transcrever o conteúdo em texto visível.
“Os operadores não quebraram nossa criptografia, comprometeram um banco de dados nem obtiveram acesso direto às conversas armazenadas dos usuários”, afirmou a OpenAI. De acordo com a empresa, as interações foram manipuladas de forma coordenada e em escala, em violação aos termos de serviço.
A companhia classificou o procedimento como uma nova modalidade de ataque de distilação. Ainda não está claro se toda a atividade foi conduzida por um único operador com milhares de contas ou por grupos diferentes. A OpenAI afirma, porém, que um núcleo da operação pode ser relacionado a pessoas ligadas à Moonshot AI. A empresa não divulgou evidências técnicas detalhadas para sustentar essa atribuição.
O que significa distilação de modelos
Na área de inteligência artificial, a distilação é uma técnica legítima de treinamento. Um sistema mais poderoso, chamado de professor, produz respostas que ajudam a treinar um modelo menor, o aluno. A finalidade pode ser criar sistemas mais baratos e eficientes, capazes de reproduzir determinadas habilidades do modelo maior com menor necessidade de processamento.
A prática passa a ser contestada quando modelos proprietários são usados sem autorização para reunir grandes volumes de respostas e reproduzir capacidades protegidas. Nesse tipo de operação, além das respostas finais, os responsáveis podem tentar coletar informações sobre como o sistema resolve problemas complexos.
Acusações anteriores envolvendo a Moonshot
A OpenAI não foi a única empresa a associar a Moonshot a esse tipo de prática. Em fevereiro, a Anthropic afirmou ter detectado campanhas de distilação envolvendo três laboratórios chineses, entre eles a Moonshot. A empresa disse ter encontrado mais de 16 milhões de interações com o Claude ligadas a aproximadamente 24 mil contas fraudulentas. Segundo a Anthropic, mais de 3,4 milhões dessas interações foram atribuídas à Moonshot.
Em setembro, a Anthropic voltou a acusar a empresa de usar seus modelos para treinamento. Conforme um relatório da companhia, solicitações de clientes da Moonshot teriam sido encaminhadas ao Claude sem que os usuários soubessem, embora acreditassem estar usando o Kimi.
A Anthropic afirma ter identificado quase 300 mil solicitações enviadas ao Claude durante dez dias, principalmente para o modelo Opus, por meio de uma rede de 5.380 contas fraudulentas. A empresa também relatou mecanismos voltados à extração de registros de raciocínio.
Ainda de acordo com a Anthropic, a Moonshot teria acompanhado mais de 23 milhões de interações relacionadas a campanhas de distilação entre maio e julho de 2026. Esses dados pertencem às investigações da Anthropic e não correspondem à campanha descrita pela OpenAI.
A Moonshot já havia negado que o desempenho do modelo Kimi K3 fosse resultado de distilação. A empresa atribuiu os ganhos a mudanças próprias na arquitetura do sistema.
Resposta da OpenAI
A discussão também chegou ao governo dos Estados Unidos. Em julho, o secretário do Tesouro, Scott Bessent, afirmou que poderiam ser aplicadas sanções a modelos chineses de pesos abertos caso fossem confirmadas evidências de distilação de modelos estadunidenses.
A OpenAI diz ter compartilhado informações sobre a campanha com parceiros do setor por meio do Frontier Model Forum. A empresa também bloqueou as contas envolvidas, reforçou os controles de criação de contas e da infraestrutura, ampliou o monitoramento de redes e corrigiu o mecanismo que permitia transportar dados criptografados de raciocínio entre conversas.
“Esperamos que as tentativas de distilação adversarial se tornem mais sofisticadas à medida que os modelos de fronteira melhorem”, afirmou a empresa. Para a OpenAI, a defesa dependerá de controles em várias camadas e de adaptação contínua.
