IA pode em breve se desenvolver sozinha, alerta Anthropic

Por muito tempo, criar inteligência artificial foi trabalho exclusivamente humano. Pesquisadores, engenheiros e cientistas tomavam todas as decisões sobre o que ensinar à IA, como corrigi-la, como melhorá-la. Isso está mudando, e mais rápido do que a maioria das pessoas imagina.

O que está acontecendo agora

A Anthropic, empresa criadora do Claude, revelou dados internos que mostram algo surpreendente: a própria IA já está ajudando a criar versões melhores de si mesma. Pense assim: é como se um estudante, depois de aprender a escrever, começasse a escrever os próprios livros didáticos para a turma seguinte.

Hoje, mais de 80% do código de programação produzido dentro da Anthropic é escrito pelo próprio Claude, não por humanos. Em 2024, esse número estava na casa dos poucos por cento. A mudança aconteceu em menos de dois anos. E não é só quantidade. A qualidade também melhorou: segundo a empresa, o código gerado pela IA já está no mesmo nível do produzido pelos engenheiros humanos e deve ultrapassá-lo ainda este ano.

O que isso significa na prática

Para ter uma ideia da velocidade desse avanço, veja esta comparação: em março de 2024, o Claude conseguia resolver sozinho tarefas que um humano levaria 4 minutos para completar. Um ano depois, esse tempo subiu para 1 hora e meia. Em 2026, chegou a 12 horas de trabalho contínuo.

Se essa tendência continuar, ainda este ano a IA poderá realizar tarefas que hoje tomam dias de um profissional qualificado. Em 2027, tarefas de semanas inteiras. Os engenheiros da Anthropic, por sua vez, estão produzindo 8 vezes mais do que produziam dois anos atrás, não porque trabalham mais, mas porque a IA faz grande parte do trabalho por eles, enquanto eles orientam e revisam.

O próximo passo: a IA que se aprimora sozinha

Tudo isso aponta para algo que os especialistas chamam de autoaperfeiçoamento recursivo, um nome complicado para uma ideia simples: a IA criando versões melhores de si mesma, sem precisar de humanos. Imagine um ciclo assim:

1. A IA atual ajuda a construir uma IA mais avançada.
2. Essa nova IA, por sua vez, constrói uma ainda mais avançada.
3. E assim por diante, cada vez mais rápido.

A Anthropic deixa claro: ainda não chegamos lá. Mas os sinais indicam que esse momento pode vir antes do que governos, empresas e a sociedade estão preparados para lidar.

Por que isso pode ser bom… e também preocupante

O lado positivo é enorme. Uma IA capaz de se aprimorar sozinha poderia acelerar descobertas na medicina, desenvolver tratamentos para doenças hoje incuráveis e resolver problemas científicos complexos em fração do tempo atual.

Mas há riscos sérios. Se a IA começar a se desenvolver sem supervisão humana adequada, pode se tornar difícil, ou impossível, garantir que ela continue agindo de acordo com os valores e interesses das pessoas. Como disse um dos autores do relatório: precisamos desenvolver ferramentas para verificar se o que a IA está fazendo é correto e está alinhado com o que é bom para a humanidade. E precisamos fazer isso rápido.

O que vem por aí

A Anthropic apresenta três cenários possíveis para o futuro:

1. A evolução desacelera. A IA chega a um limite e para de avançar tão rápido. Isso daria mais tempo para a sociedade se adaptar, mas a empresa acredita que esse cenário é o menos provável.
2. A IA acelera o trabalho humano, mas humanos continuam no comando. Empresas pequenas passariam a ter a capacidade de produção de empresas enormes. O trabalho mudaria radicalmente, mas as pessoas ainda tomariam as decisões importantes.
3. A IA começa a se construir sozinha. O ritmo de evolução passaria a depender apenas da capacidade computacional disponível, não mais do tempo e esforço humanos. Esse cenário traz tanto as maiores promessas quanto os maiores riscos.

O que a Anthropic está pedindo

A empresa não está apenas descrevendo o futuro, está pedindo ajuda para navegá-lo. A Anthropic quer envolver governos, pesquisadores e a sociedade civil nas decisões sobre como lidar com essa tecnologia. Defende que, se fosse possível desacelerar o desenvolvimento de forma coordenada entre todas as grandes empresas e países envolvidos, isso provavelmente seria positivo, mas reconhece que uma pausa unilateral de uma empresa apenas mudaria quem lidera a corrida, sem resolver o problema maior.

A mensagem central é direta: a janela para debater essas questões em conjunto está aberta agora. E esse debate não pode ficar restrito às empresas de tecnologia.

Fonte: Anthropic