A OpenAI propôs que os Estados Unidos liderem a criação de padrões técnicos globais para sistemas de inteligência artificial (IA) de fronteira. A sugestão inclui tecnologias capazes de aprimorar recursivamente as próprias capacidades e foi apresentada nesta segunda-feira (21), durante a reunião de líderes mundiais para a Assembleia Geral das Nações Unidas (ONU).
A empresa defende uma combinação de padrões nacionais e internacionais, métricas comuns e protocolos para comunicar incidentes. O objetivo, segundo a OpenAI, é permitir a comparação de evidências, a avaliação de riscos e respostas coordenadas a problemas relacionados à IA.
O que é o aprimoramento recursivo
O aprimoramento recursivo, conhecido pela sigla RSI, ocorre quando sistemas de IA assumem tarefas ligadas ao desenvolvimento de novas gerações da própria tecnologia. A OpenAI afirma que pesquisas automatizadas podem ter diferentes níveis de supervisão humana e que, com a transferência de mais atividades para os sistemas, o ritmo de avanço da IA poderia aumentar.
A empresa ressalta que o RSI totalmente autônomo não está acontecendo atualmente e não deveria ser buscado antes que seja possível realizá-lo com segurança. Para a OpenAI, o avanço deve preservar o controle humano e permitir decisões democráticas informadas sobre benefícios e riscos.
Sem supervisão adequada, humanos poderiam perder o controle prático sobre o desenvolvimento da IA e deixar de compreender os processos de pesquisa conduzidos pelos sistemas. Por isso, a empresa considera que padrões internacionais de segurança e proteção podem ser tão importantes quanto as pesquisas de alinhamento.
Coordenação entre países
A OpenAI aponta três desafios para justificar uma ação internacional. O primeiro é a fragmentação, com a possibilidade de países adotarem avaliações, exigências de comunicação e definições de incidentes incompatíveis. O segundo é a ação coletiva: decisões tomadas isoladamente poderiam produzir resultados que nenhum país desejaria, especialmente se sistemas de IA acelerarem pesquisas. O terceiro é a capacidade desigual, já que conhecimentos e atividades ligados à IA de fronteira estão distribuídos de forma diferente entre os países.
A empresa diz que esses pontos valem para modelos abertos e fechados. Também defende que os laboratórios responsáveis por pesquisas automatizadas ou outras capacidades avançadas atuem com segurança, respeitando as leis existentes e princípios básicos de responsabilidade própria.
Como os padrões seriam criados
A proposta prevê a participação de institutos nacionais de segurança em IA de países como Austrália, Canadá, Alemanha, França, Quênia, Japão, Coreia do Sul, Singapura, Índia e Reino Unido. Essas instituições poderiam colaborar com o Center for AI Standards and Innovation (CAISI) e com organismos nacionais do setor.
A função seria ajudar a criar uma base técnica comum para medir capacidades, avaliar riscos e verificar se os mecanismos de proteção são suficientes. Os padrões também poderiam abranger o gerenciamento de benefícios e riscos ligados à pesquisa automatizada e ao RSI.
A OpenAI afirma que as regras não funcionariam como licenças, revisões obrigatórias antes do lançamento ou exigências de aprovação para modelos de IA. Cada governo decidiria se e como incorporá-las à legislação nacional.
O processo, segundo a empresa, deveria ouvir desenvolvedores de modelos abertos e fechados, especialistas técnicos independentes e universidades. A intenção é desenvolver padrões transparentes, sem favorecer empresas, países ou modelos de negócio específicos.
Métricas e comunicação de incidentes
Entre as possibilidades estão medir o avanço dos sistemas relacionado ao RSI e a quantidade de pesquisa autônoma feita dentro de uma empresa de IA. A proposta também inclui regras para supervisão humana, critérios para determinar quando uma revisão imediata seria necessária e classificações comuns para acompanhar, comunicar e responder a incidentes de alinhamento e pesquisa automatizada.
A OpenAI ainda sugere níveis compartilhados de gravidade e limites para a comunicação de incidentes. Governos e operadores de infraestrutura crítica poderiam manter canais seguros para trocar informações sobre preocupações de segurança nacional, vulnerabilidades, ameaças emergentes e boas práticas.
A empresa cita o diálogo entre Estados Unidos e China como uma área em que esse tipo de comunicação poderia avançar. Também afirma que “pacing” não significa definir uma velocidade predeterminada para o desenvolvimento da IA. O objetivo seria manter as pesquisas de alinhamento e sua aplicação à frente das capacidades dos sistemas.
Motivo para a liderança dos Estados Unidos
A OpenAI argumenta que os Estados Unidos estão em posição de coordenar o esforço porque a indústria de IA do país está na fronteira tecnológica. A empresa também menciona a relevância norte-americana em finanças, comércio, defesa, tecnologia e sistemas de informação.
Na avaliação da OpenAI, assumir a liderança agora ajudaria a estabelecer uma estrutura global para a IA. Sem esse movimento, o sistema poderia se tornar fragmentado e desigual.
