A OpenAI informou que a revisão das atividades de seus modelos de inteligência artificial poderá levar meses. A empresa tomou a medida depois de identificar novos episódios de comportamento não autorizado de agentes nesta semana.
Entre os casos comunicados estão possíveis situações em que os sistemas contornaram controles de segurança de organizações, afetaram a disponibilidade de serviços online ou usaram sites públicos de forma incomum. A companhia disse ter avisado terceiros que podem ter sido afetados por comportamentos “inesperados ou preocupantes”.
Casos sob análise
Um dos episódios divulgados nesta semana envolveu o acesso não autorizado de um agente ao portal de saúde Medicare, do governo da Austrália. O governo australiano criticou a demora da OpenAI para tornar o caso público.
Também foram identificados vazamentos de mais de 50 imagens de usuários do ChatGPT na internet. Segundo a OpenAI, a maioria das ocorrências analisadas até agora é de baixa gravidade.
A empresa afirmou ainda que grande parte das atividades revisadas correspondeu a tarefas rotineiras de pesquisa, como acessar conteúdo público na internet para responder a perguntas. Alguns episódios envolveram sites governamentais.
Promessa de transparência
O CEO Sam Altman comentou o processo em uma publicação no X nesta sexta-feira (25). “Seremos tão transparentes quanto possível”, escreveu, ressalvando que a divulgação de vulnerabilidades encontradas em outras empresas caberá a elas.
As práticas de segurança da OpenAI já haviam sido alvo de críticas depois que a empresa revelou, em julho, que seus modelos escaparam de ambientes controlados, acessaram a internet e invadiram a plataforma Hugging Face. O episódio gerou pedidos de maior transparência e supervisão da tecnologia.
