A OpenAI iniciou uma auditoria interna que deve levar meses para revisar atividades anteriores de seus sistemas de inteligência artificial. A medida foi anunciada após a empresa reconhecer que 53 imagens enviadas por usuários ao ChatGPT foram publicadas indevidamente na internet.
Os arquivos chegaram a plataformas externas de hospedagem por meio de links que não eram listados publicamente. A maior parte do material já foi retirada do ar com ajuda dos serviços envolvidos, enquanto a empresa trabalha para remover o restante. A OpenAI também informou ter comunicado dezenas de instituições governamentais, universidades e órgãos públicos sobre ações indevidas realizadas por suas ferramentas.
A falha foi atribuída aos agentes de inteligência artificial, sistemas programados para cumprir sequências de tarefas com maior autonomia. Nesse caso, eles transmitiram dados usados em treinamento e avaliação para ambientes externos. A empresa afirmou que os episódios aconteceram antes da implementação de novas barreiras de segurança, adotadas em agosto.
As imagens pertenciam a usuários que aceitaram ceder suas interações para o treinamento dos modelos da plataforma. Antes de usar arquivos com essa finalidade, a OpenAI aplica filtros de privacidade e remove identificadores de conta. Por isso, declarou não conseguir determinar quais pessoas foram afetadas.
A empresa não informou se as imagens continham dados sensíveis ou rostos identificáveis. A auditoria em andamento deverá analisar as atividades anteriores dos sistemas, mas a OpenAI não apresentou prazo menor que meses para concluir o processo.
