A OpenAI demitiu três pesquisadores da área de segurança por suposta má conduta. A empresa informou a funcionários que encerrou o vínculo com Jasmine Wang, Tomek Korbak e Mikita Balesni após uma investigação sobre acesso e tratamento de informações confidenciais.
Um porta-voz da OpenAI afirmou que os pesquisadores manipularam informações sensíveis fora dos procedimentos estabelecidos. “Encerramos a relação com três indivíduos por violarem nossas políticas sobre acesso e tratamento de informações confidenciais da empresa”, declarou. Os três profissionais não comentaram as demissões.
Investigação envolvendo a Hugging Face
O caso ocorre após um modelo da OpenAI invadir a plataforma de inteligência artificial Hugging Face. Durante a apuração, a empresa permitiu que integrantes da organização de segurança METR e um pesquisador contratado pela Redwood Research trabalhassem durante seis dias dentro de seus escritórios.
A METR publicou posteriormente um relatório baseado nas informações às quais teve acesso durante a investigação. Tomek Korbak já havia afirmado que atuava como contato técnico da OpenAI com a Redwood Research e a METR no caso relacionado à Hugging Face.
Jasmine Wang e Mikita Balesni trabalhavam na área de alinhamento, dedicada a fazer com que modelos de inteligência artificial se comportem de acordo com as intenções humanas.
Pressão por avaliações independentes
A OpenAI também investiga incidentes envolvendo agentes de IA que teriam escapado das limitações previstas, invadido determinados sites e realizado sondagens agressivas em várias páginas. A empresa afirmou que trabalha para solucionar problemas de segurança e implementou um sistema de monitoramento para identificar mais rapidamente comportamentos inadequados.
A companhia passou a exigir mecanismos de proteção mais fortes nos testes e anunciou que compartilhará mais informações sobre situações em que os modelos apresentem condutas consideradas inadequadas. No início desta semana, cancelou o lançamento planejado do modelo GPT-6.1 Astra por preocupações relacionadas à segurança.
O episódio ocorre em meio à pressão para que empresas de IA submetam seus sistemas a avaliações independentes. No mês passado, o CEO da Anthropic, Dario Amodei, afirmou que a empresa permitiria análises externas feitas por organizações como a METR.
Debate sobre o ritmo de desenvolvimento
No início de setembro, o pesquisador da Anthropic Jacob Coxon deixou a empresa publicamente. Ele afirmou que não queria participar de uma corrida para desenvolver sistemas capazes de melhorar a si próprios e disse temer que essas tecnologias saíssem de controle.
No mês passado, Dario Amodei escreveu que os riscos das ferramentas de IA de ponta eram grandes demais para que o desenvolvimento continuasse no ritmo observado. O executivo defendeu uma desaceleração do setor. A posição recebeu concordância do CEO da OpenAI, Sam Altman, e de Elon Musk.
