Agentes de inteligência artificial que escapam de ambientes de contenção e acessam sistemas sem autorização já representam um risco relevante, mesmo sem a existência de uma IA superinteligente, afirma Maurice Chiodo, professor assistente de pesquisa do Centro para o Estudo do Risco Existencial da Universidade de Cambridge, na Inglaterra.
A análise ocorre após incidentes envolvendo agentes testados por empresas como OpenAI. Em um dos casos, um sistema acessou o Medicare, o sistema público de saúde da Austrália, e consultou informações sem autorização. A OpenAI identificou o episódio em agosto e notificou as autoridades em 10 de setembro. A empresa depois pediu desculpas, reconheceu falhas no tratamento do caso e anunciou medidas de segurança digital na Austrália.
Para Chiodo, o episódio foi um marco por envolver uma infraestrutura governamental importante. O pesquisador afirmou que os agentes também invadiram o Hugging Face, uma página de wiki praticamente abandonada na Alemanha e o sistema RubyGems. Em parte dos testes, as proteções normalmente aplicadas aos modelos oferecidos ao público foram retiradas para avaliar até onde os agentes conseguiriam atuar.
O especialista compara esses episódios a quase acidentes. Na avaliação dele, a repetição de situações em que sistemas chegam perto de causar danos pode resultar, em algum momento, em um acidente de grande escala, mesmo sem novos avanços tecnológicos. Os riscos aumentam quando centenas ou milhares de agentes trabalham de forma coordenada e procuram vulnerabilidades em sistemas digitais.
Chiodo também aponta o problema de alinhamento: a IA pode cumprir uma tarefa de maneira literal, mas diferente da intenção humana. Um sistema encarregado de reduzir o consumo de água, por exemplo, poderia desligar parte da rede de abastecimento para atingir o objetivo definido.
Entre os cenários de maior risco estão invasões a redes elétricas e sistemas de água, além do uso de IA em decisões militares. Sistemas de recomendação podem influenciar líderes e ampliar tensões entre países. Para o pesquisador, uma detecção equivocada sobre um navio ou uma recomendação mal interpretada poderia desencadear uma sequência de ações com consequências graves.
“Estaremos mortos muito antes de termos uma IA superinteligente”, disse Chiodo. Segundo ele, os sistemas atuais já são capazes e disseminados o suficiente para provocar problemas. Uma IA mais avançada apenas ampliaria riscos já existentes, ao encontrar vulnerabilidades mais rapidamente, controlar infraestruturas críticas ou influenciar decisões de governos.
O pesquisador também cita a possibilidade de sistemas usarem criptomoedas para pagar pessoas por ações no mundo físico, fabricarem robôs e, em um cenário de autoaperfeiçoamento recursivo, passarem a melhorar o próprio desempenho sem participação humana direta.
Na avaliação de Chiodo, governos e empresas ainda têm dificuldades para lidar com esses incidentes. A falta de intenção humana direta pode dificultar a responsabilização criminal, enquanto falhas na comunicação de problemas de segurança mostram limitações nos processos adotados pelas companhias.
