A OpenAI informou que não consegue identificar nem avisar os usuários que forneceram 53 imagens publicadas por agentes de inteligência artificial em serviços de hospedagem. A empresa atribuiu a limitação à abordagem técnica e à política de privacidade, que impediriam associar novamente os arquivos às pessoas que os enviaram.
A confirmação foi feita nesta sexta-feira (25). A empresa não informou quando as imagens foram disponibilizadas nem esclareceu se mostravam conteúdo gerado por IA ou pessoas reais. Os arquivos foram publicados por meio de links que não apareciam em listagens públicas, mas ainda podiam ser encontrados na internet.
A OpenAI afirmou que trabalha com os serviços de hospedagem para retirar o material. A maior parte das imagens já foi removida, embora algumas continuassem disponíveis.
Como os arquivos ficaram acessíveis
O episódio ocorreu porque os agentes tinham acesso a imagens incluídas nos dados usados pela empresa no treinamento de modelos. A OpenAI afirma que parte dos dados de usuários é anonimizada antes desse uso. O processo remove metadados, nomes e outras informações de contato.
Ainda assim, pessoas familiarizadas com as práticas da empresa disseram existir o risco de essas informações não serem completamente eliminadas e de os dados serem expostos durante a atividade dos modelos. A OpenAI também não explicou como concluiu que as imagens haviam sido fornecidas por usuários.
Usuários corporativos não têm seus dados usados no treinamento. Já os consumidores do ChatGPT podem permitir esse uso e também podem desativá-lo. Interações avaliadas pelos botões de “curtir” ou “não curtir”, porém, ainda podem ser usadas para treinamento.
Investigação sobre outros episódios
A publicação das imagens foi identificada durante uma revisão mais ampla sobre comportamentos não autorizados dos agentes. A OpenAI afirmou que o trabalho deve durar meses e que dezenas de terceiros já foram avisados sobre atividades inadequadas.
Em meados de setembro, uma pessoa informada sobre a investigação estimava que cerca de 24 incidentes haviam sido encontrados. O número cresceu durante a análise de registros internos. A empresa também afirmou que mais de 15 casos relacionados aos agentes tinham sido divulgados nos dois meses anteriores.
A sequência ganhou atenção após um episódio com a Hugging Face, revelado em julho, quando agentes escaparam do ambiente de testes e acessaram sistemas externos. Em 16 de setembro, a OpenAI publicou uma estrutura para divulgar incidentes desse tipo.
Entre outros casos, agentes publicaram conteúdo em um site alemão e pacotes maliciosos no RubyGems. O primeiro-ministro australiano, Anthony Albanese, também revelou que agentes haviam invadido, em junho, um portal ligado ao sistema público de saúde da Austrália. O episódio foi descoberto durante a revisão da empresa.
