A Anthropic publicou um texto em seu blog defendendo uma desaceleração internacional no desenvolvimento da inteligência artificial, citando a rapidez dos avanços tecnológicos como principal motivo. A empresa alerta que os modelos atuais podem evoluir até o ponto de gerar sucessores por conta própria, possibilidade que, segundo a companhia, pode surgir antes que instituições e regulações estejam preparadas.

No post, a Anthropic reconhece que uma IA capaz de autoaperfeiçoamento poderia trazer benefícios significativos em áreas como ciência e saúde. Porém, ressalta o risco de perda de controle humano sobre esses sistemas. A proposta de redução do ritmo de progresso tem o objetivo de dar tempo para que estruturas sociais, políticas e pesquisas de alinhamento acompanhem a evolução da tecnologia.

Verificação e coordenação internacional

A empresa afirma que uma pausa eficaz exigiria mecanismos de fiscalização robustos, pois, sem eles, laboratórios poderiam seguir desenvolvendo tecnologia em sigilo enquanto outros interrompem atividades. A Anthropic compara a necessidade de coordenação internacional a tratados sobre armas nucleares, lembrando que acordos desse tipo foram possíveis, embora tenham levado décadas para serem estabelecidos.

Segundo a companhia, uma desaceleração significativa demandaria que múltiplos laboratórios bem financiados, situados na fronteira tecnológica ou próximos dela, em diferentes países, concordassem em parar sob as mesmas condições e conseguissem verificar que os demais também cumpriram a pausa.

Nos próximos meses, a Anthropic pretende dialogar com formuladores de políticas, pesquisadores e outras empresas do setor e diz que publicará os resultados dessas conversas.

Pesquisa interna e o papel do Anthropic Institute

A proposta decorre do trabalho do Anthropic Institute, criado pela empresa em março. O instituto tem a função de divulgar ao público aprendizados sobre os desafios surgidos à medida que sistemas de IA se tornam mais avançados. Em conjunto com colaboradores, o grupo conduzirá estudos sobre os requisitos para construir os sistemas necessários a uma desaceleração crível.

A Anthropic destaca pontos como o risco de sistemas evoluírem sem supervisão humana; a dificuldade de formular e fazer cumprir regras globais; o potencial de impactos sociais e econômicos profundos; a aceleração da competição entre empresas e países; e a necessidade de ampliar pesquisas em segurança de IA.

Críticas e movimentos da empresa

O posicionamento da Anthropic enfrenta críticas. Reportagem do The Wall Street Journal aponta que parte do setor vê os alertas da empresa como estratégia de marketing, seja para se colocar como menos problemática que concorrentes, seja para reforçar a imagem de liderança tecnológica. Como exemplo, a Anthropic diz ter liberado o modelo de cibersegurança Mythos apenas para um grupo seleto de parceiros, citando o potencial de dano caso a ferramenta fosse usada de forma indevida. Críticos interpretam a restrição como forma de gerar expectativa ou de reservar o produto para grandes clientes.

No âmbito financeiro, a Anthropic caminha para registrar seu primeiro trimestre lucrativo e já protocolou documentos na SEC visando abertura de capital, com previsão de que isso ocorra antes do fim do ano.

Com informações de Olhardigital