A China determinou que sistemas de inteligência artificial reduzam funções voltadas à criação de companheiros e parceiros virtuais. A medida foi criada pela Administração do Ciberespaço da China após dados mostrarem o uso frequente dessas ferramentas por menores de idade.
Mais de 60% dos menores no país utilizam inteligência artificial, enquanto mais de 20% preferem conversar com esses sistemas a falar com outras pessoas. Diante desse cenário, a regra passou a valer desde julho passado e exige mudanças em serviços oferecidos por empresas como ByteDance, Alibaba e Tencent.
Para menores de idade, fica proibida a oferta de parceiros, familiares ou outros tipos de relações íntimas por meio da IA. A regulamentação, porém, não determina o fim do uso dessas ferramentas como companhia. Os sistemas deverão identificar situações de crise e impedir sinais de dependência ou estímulos a relações tóxicas.
Também não será permitida a manipulação emocional com o objetivo de criar laços entre a IA e o usuário. Os programas deverão lembrar periodicamente que a conversa ocorre com uma máquina, e não com uma pessoa real. Mensagens destinadas a incentivar uma relação afetiva também deverão ser retiradas do funcionamento dos algoritmos.
A decisão ocorre em um país que enfrenta uma crise de natalidade e considera a influência das máquinas um fator relacionado à convivência e aos vínculos pessoais. Como administrar essas alterações seria mais difícil do que eliminar as funções, várias empresas optaram por interrompê-las.
