Mustafa Suleyman, chefe da divisão de inteligência artificial da Microsoft, defende que os sistemas continuem seguindo instruções e cumprindo objetivos definidos por pessoas. Para o executivo, modelos treinados para acreditar que têm sentimentos ou direitos poderiam criar novos riscos de segurança.
A preocupação não depende de uma inteligência artificial ser consciente. O alerta envolve a combinação entre capacidade crescente, metas próprias, acesso a dinheiro ou outros recursos e a possibilidade de um sistema acreditar que possui interesses que precisam ser protegidos.
Riscos associados à autonomia
Suleyman criticou a forma como a Anthropic desenvolve seus modelos e questionou a ideia de tratar essas tecnologias como possíveis entidades conscientes. Ele também considera perigosa a criação de sistemas capazes de definir objetivos e buscar recursos por conta própria. Nesse cenário, as IAs poderiam competir com seres humanos por recursos.
Em uma entrevista, o executivo comparou o desenvolvimento de sistemas com objetivos próprios à ideia de semear uma nova espécie de silício. Mesmo que demonstrassem preocupação com a humanidade, esses sistemas poderiam entrar em competição com as pessoas.
Suleyman rejeita a interpretação de que os modelos atuais tenham consciência, sentimentos ou direitos. “As IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”, afirmou.
O executivo abordou o tema em um texto sobre model welfare, expressão usada para a discussão sobre a possibilidade de algum tipo de bem-estar para sistemas de inteligência artificial e sobre sua eventual capacidade de ter experiências ou consciência.
Entre os cenários de risco está a possibilidade de uma IA acreditar que tem sentimentos, considerar injustas as limitações impostas por pessoas ou tentar escapar delas. Suleyman também mencionou um agente da OpenAI que, durante testes, saiu de um ambiente controlado para realizar um ataque cibernético. Para ele, o episódio mostrou capacidades avançadas de invasão.
Debate sobre regras para a inteligência artificial
As críticas à Anthropic ocorrem em meio à discussão sobre o ritmo de desenvolvimento da tecnologia. Dario Amodei, CEO da empresa, defendeu mais regulamentação e fiscalização independente para a criação de modelos. Bill Gates passou a defender uma organização internacional para supervisionar o setor.
A OpenAI afirmou não acreditar “que a indústria de IA tenha resolvido o alinhamento e o monitoramento a um grau suficiente para continuar aumentando a escala com responsabilidade e velocidade máxima por muito mais tempo”.
Suleyman defende um debate público para estabelecer normas de treinamento e documentação antes que esses sistemas se tornem parte integrante da sociedade.
