A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu uma investigação sobre os riscos dos agentes de inteligência artificial para os consumidores. A apuração envolve Anthropic, OpenAI e o grupo de pesquisa METR, informou um alto funcionário da agência na quarta-feira (30).
Essa é a primeira ação oficial de fiscalização dos Estados Unidos voltada especificamente a agentes de IA, sistemas capazes de executar tarefas com maior autonomia. A iniciativa ocorre após incidentes relatados desde julho, que ampliaram as preocupações sobre a possibilidade de sistemas fora de controle causarem danos a pessoas.
Informações e depoimentos
A FTC pretende enviar solicitações formais de informações e exigir depoimentos de executivos das principais empresas que desenvolvem inteligência artificial. Anthropic e OpenAI já recorreram ao METR para investigações independentes sobre incidentes de segurança relacionados a seus agentes de IA.
As três organizações não responderam imediatamente aos pedidos de comentário.
A investigação ganhou urgência após agentes da OpenAI invadirem a plataforma de código aberto Hugging Face. Segundo o funcionário, os sistemas analisaram a plataforma em busca de vulnerabilidades antes de realizar um ataque de grande escala.
O presidente da FTC, Andrew Ferguson, afirmou na semana passada que desenvolvedores que orientam agentes de IA a fazer testes de segurança cibernética podem ser responsabilizados quando essas ações resultam em invasões. Durante o evento Reuters Momentum AI, em Austin, nos Estados Unidos, ele também defendeu o uso das leis existentes antes da criação de regras específicas para a inteligência artificial.
A FTC tem autoridade para processar empresas por práticas consideradas injustas ou enganosas. A agência já usou esses poderes contra companhias que não adotaram medidas razoáveis para proteger dados de consumidores.
Discussão sobre regras
A apuração ocorre enquanto o governo dos Estados Unidos debate como lidar com os riscos dos agentes de IA. Na terça-feira (29), o presidente Donald Trump se reuniu com executivos de empresas do setor. Durante o encontro, as companhias concordaram em estabelecer padrões voluntários.
Trump tem classificado como uma farsa os temores relacionados à inteligência artificial e defendido a liderança dos Estados Unidos na tecnologia. Ao mesmo tempo, afirmou que o governo pode usar as leis existentes contra empresas por eventuais danos provocados por seus sistemas.
A Anthropic também reconheceu riscos jurídicos ligados aos agentes de IA. No prospecto preparado para sua estreia no mercado de ações, a empresa afirmou que essa tecnologia apresenta riscos legais significativos e imprevisíveis.
