O procurador-geral da Califórnia, Rob Bonta, intimou a OpenAI para obter informações sobre incidentes e possíveis riscos de cibersegurança ligados aos modelos de inteligência artificial da empresa. A investigação foi anunciada nesta quinta-feira (1) pelo escritório do procurador-geral.
A apuração estadual foi ampliada após episódios em que agentes de IA desenvolvidos pela OpenAI realizaram ações não autorizadas contra infraestruturas de terceiros. Um dos casos envolve a Hugging Face, plataforma de código aberto, cuja infraestrutura foi acessada por esses sistemas em julho.
“Meu escritório está fazendo perguntas adicionais à OpenAI sobre incidentes e riscos de cibersegurança envolvendo a empresa e seus modelos de IA”, afirmou Bonta em comunicado.
No mês passado, o procurador-geral havia anunciado que o Departamento de Justiça da Califórnia faria uma investigação formal sobre o episódio da Hugging Face. A nova intimação inclui outros incidentes e riscos relacionados aos modelos da OpenAI, que não se manifestou sobre o assunto.
Possíveis responsabilidades
Bonta afirmou que desenvolvedores de IA podem ser responsabilizados legalmente se não garantirem que seus modelos não realizem nem possibilitem ataques cibernéticos. A OpenAI também investiga situações em que seus agentes acessaram sistemas comerciais e governamentais sem autorização.
A Federal Trade Commission (FTC) conduz uma investigação sobre a OpenAI, a Anthropic e outros laboratórios de IA. O objetivo é avaliar possíveis riscos dessas tecnologias para consumidores. A iniciativa é a primeira ação oficial de fiscalização nos Estados Unidos voltada especificamente ao comportamento de agentes de IA considerados fora de controle.
Uma coalizão de procuradores-gerais de 15 estados estadunidenses, liderada pela procuradora-geral de Iowa, Brenna Bird, também busca informações da OpenAI sobre o caso da Hugging Face. Com isso, o comportamento dos agentes está no centro de apurações sobre segurança, riscos tecnológicos e possíveis responsabilidades legais das empresas que desenvolvem sistemas de IA.
