Doomers e boomers da IA concordam mais do que discordam, e isso é o problema

No sábado passado, Dario Amodei, CEO e cofundador da Anthropic, publicou no blog pessoal dele um ensaio pedindo pra desacelerar o ritmo de melhoria dos modelos de IA, inclusive os da própria empresa dele. Virou o post mais votado do dia inteiro no Hacker News, com quase 600 pontos.

A leitura mais fácil que você já deve ter visto circulando é dividida em duas: ou ele está sendo sincero sobre um risco real, ou está jogando um jogo de regulação, pedindo uma trava que a empresa dele, já na frente da corrida, suporta melhor do que quem vem atrás. Nenhuma das duas leituras é boba, e eu não vou fingir que sei resolver qual é a verdadeira. Ninguém sabe, nem de fora nem lendo o texto inteiro.

Mas tem uma coisa que a discussão sobre sinceridade esconde, e ela importa mais do que descobrir a intenção dele: pra pedir isso, Amodei precisa concordar, no fundo, com o lado da briga que ele parece estar enfrentando.

A frase é direta, e não deixa margem pra interpretação

Ele publicou um ensaio chamado “We Must Pace the Frontier”, e a tese central não deixa margem: os laboratórios de fronteira, inclusive o dele, precisam desacelerar o próprio ritmo de melhoria dos modelos. Nas palavras originais: “We must slow the pace at which we improve the capabilities of AI models.” Ele completa dizendo que o progresso vai continuar parecendo rápido mesmo desacelerado, e que o trabalho é usar bem o tempo que isso compra.

Ou seja: o executivo que dirige um dos três laboratórios que mais empurra a fronteira da IA pra frente está pedindo, em público, pra tirar o próprio pé do acelerador.

A corrida de rua explica melhor do que qualquer termo técnico

Pensa numa correria de rua, de madrugada, com quatro carros lado a lado. Todo mundo sabe que a rua termina numa curva cega. Ninguém quer bater, mas ninguém freia primeiro, porque quem freia primeiro perde a corrida pros outros três.

Agora imagina que um dos motoristas grita pela janela: vamos todos frear juntos. Só que enquanto ele grita isso, o pé dele continua no acelerador.

É basicamente a estrutura da proposta. Amodei descreve três degraus, e diz que não precisam ser sequenciais. O primeiro é o único em que a Anthropic se compromete sozinha, sem depender de mais ninguém: avaliadores independentes, com acesso “employee-like” (parecido com o de um funcionário), checando prática de segurança, incidente e o próprio treino do modelo dentro da empresa. É como deixar alguém andar de carona conferindo o velocímetro.

O segundo degrau já exige que os outros freiem também: um acordo entre laboratórios de países democráticos, com padrão comum de segurança e limite de ritmo, mediado por governo. O terceiro é a versão mundial, incluindo país autoritário, com quatro camadas que vão de proibir uso em arma biológica até uma pausa total, que o próprio autor classifica como “unlikely to actually happen”: improvável de acontecer de verdade.

Ele mesmo admite o buraco no meio do plano: não sabe se coordenação global é viável, e diz que verificar se alguém está trapaceando é extremamente difícil. Se os Estados Unidos travarem a própria IA achando que a China vai fazer o mesmo, e a China não fizer, isso, nas palavras dele, “could radically shift the balance of global power”: poderia deslocar radicalmente o equilíbrio de poder global a favor dela. Ele está pedindo pra todo mundo tirar o pé do acelerador numa corrida em que ninguém consegue conferir o velocímetro do carro do lado.

A parte que a manchete pulou: os números não são medição

Quatro prazos aparecem no texto, e a imprensa brasileira que cobriu isso repetiu os quatro como se fossem fato apurado. Seis a doze meses até um sistema conseguir tomar a internet inteira com um enxame de agentes, ancorando num episódio de agosto deste ano. Um a dois anos de folga que serviriam pra avançar em interpretabilidade (entender por dentro por que o modelo decidiu o que decidiu) e avaliação. Três a cinco anos de vantagem tecnológica dos Estados Unidos sobre a China. Cinco a dez anos até a IA ajudar a curar doença grave.

Nenhum desses quatro é uma medição. São estimativas de um executivo interessado, sobre um evento que ainda não aconteceu. Isso não os torna mentira. Torna outra categoria de coisa, e é justo essa categoria que a manchete apaga quando repete o número sem o “segundo ele mesmo”.

Onde doomers e boomers concordam, e é mais do que parece

Chamo aqui de doomers quem acha que o risco de a IA sair do controle é alto o bastante pra justificar frear. E chamo de boomers quem trata a aceleração como o padrão certo e vê qualquer pausa como o verdadeiro perigo, porque atrasa cura de doença, ganho de produtividade e vitória geopolítica. É a briga que domina o debate público sobre IA, e ela parece irreconciliável.

Os dois lados têm documento fundador, com a citação completa e quem assinou cada um detalhado na pílula sobre o tema: a “Statement on AI Risk”, do Center for AI Safety (2023), do lado do risco, e o “Techno-Optimist Manifesto”, de Marc Andreessen (2023), do lado oposto. O ponto cego: os CEOs dos três maiores laboratórios do mundo, Amodei incluído, assinaram o alerta de extinção. Quem constrói é quem avisa. Os dois campos concordam que a IA é poderosíssima e decide a próxima década; discordam de quem paga a conta da cautela e quem fica com o controle.

A sátira que apareceu no mesmo dia acertou o alvo certo

No mesmo 12 de setembro, Xe Iaso publicou um texto satírico chamado “Everyone should slow down AI development except for me”, fingindo ser um pedido de pausa global e revelando o motivo verdadeiro no fim: dar tempo pro laboratório fictício do autor alcançar os líderes e dominar o mercado.

A sátira não prova que Amodei está de má fé. Ela mostra outra coisa, mais incômoda: um pedido de pausa feito por quem já está na frente da corrida é indistinguível, visto de fora, de um pedido de vantagem. A forma do argumento é a mesma, seja ele sincero ou não.

Três perguntas pra não engolir o próximo pedido desses

Isso não é exclusividade de Amodei. Todo executivo de laboratório de fronteira vai, cedo ou tarde, publicar uma versão disso. Quando aparecer o próximo, você tem três perguntas pra separar sinal de ruído:

1. O que essa pessoa compromete sozinha, sem depender de mais ninguém aceitar? No caso de Amodei, é só o primeiro degrau: avaliador independente dentro da própria empresa.
2. Quem ganha se o acordo maior nunca sair do papel? Se a resposta for “a mesma empresa que propôs”, desconfia.
3. Os números que sustentam a urgência são medição de algo que já aconteceu, ou estimativa sobre um evento futuro? Prazo com “poderia” no meio é a segunda categoria, sempre.

O que eu tiro disso

A briga entre doomers e boomers tem um custo de oportunidade, e é esse o motivo pelo qual ela importa mais do que parece à primeira vista. Enquanto você lê sobre extinção de um lado e utopia do outro, três coisas que já estão acontecendo em 2026 ficam sem espaço na conversa: o tanto de tarefa paga que a IA já faz hoje, a dependência de quem terceirizou o próprio raciocínio pra ela, e a briga por quem é dono do dado e da obra que treinaram o modelo.