A OpenAI pode reduzir o ritmo de desenvolvimento de seus modelos mais avançados de inteligência artificial se as medidas de segurança não acompanharem a evolução da tecnologia. A possibilidade foi apresentada por Sam Altman em uma reunião interna com funcionários, conforme relatos de pessoas familiarizadas com o encontro.
Altman também indicou que a empresa poderia ajustar o ritmo em conjunto com alguns dos principais laboratórios de IA. O executivo reconheceu, porém, que nem todos os concorrentes aceitariam participar de uma iniciativa coordenada.
A proposta ganhou força depois de Jakub Pachocki, cientista-chefe da OpenAI, defender publicamente pausas voluntárias no desenvolvimento quando os mecanismos de proteção não forem suficientes para acompanhar o avanço dos sistemas. A ideia é que as empresas interrompam o ritmo até a existência de padrões de segurança compartilhados.
Obstáculos para uma ação conjunta
A OpenAI procurou esclarecimentos no Congresso dos Estados Unidos sobre a possibilidade de um acordo entre empresas para desacelerar o desenvolvimento entrar em conflito com as leis antitruste do país. Até o momento, não há um acordo para frear a corrida da inteligência artificial.
A discussão ocorre depois de a OpenAI informar que o Astra alcançou o nível “Crítico” de capacidade em cibersegurança dentro de seu Preparedness Framework. De acordo com a empresa, o modelo pode identificar vulnerabilidades desconhecidas e criar formas de explorá-las em sistemas protegidos, desde que tenha ferramentas e acessos adequados.
A companhia afirmou que atrasou partes do desenvolvimento e do lançamento do Astra enquanto reforçava as proteções. Também reconheceu que os próximos modelos exigirão medidas de segurança mais rigorosas e disse estar disposta a desacelerar quando essas salvaguardas forem insuficientes.
A posição apresentada por Altman indica que a OpenAI considera reduzir a velocidade de seus avanços diante dos riscos associados à tecnologia, embora ainda não exista uma iniciativa conjunta entre as empresas.
