Nas últimas semanas, o receio de que a IA possa causar uma catástrofe deixou de ser um tema particular e tornou-se uma preocupação generalizada.
Esse pânico foi desencadeado por várias notícias de destaque, mas sobretudo por uma publicação viral de Jacob Coxon, ex-pesquisador da Anthropic, que divulgou uma série de mensagens no X alertando que: “As pessoas que estão desenvolvendo a IA acreditam sinceramente que ela pode acabar com todos nós até o final desta década. Isso não é uma jogada de marketing.”
Em seguida, ele participou de uma intensa maratona de entrevistas em veículos como CNN, NBC e Fox News, esclarecendo que:
“Neste momento, não há risco de extinção. No caso dos modelos atuais, o pior que podem fazer é, talvez, invadir algum sistema e causar danos significativos à infraestrutura, mas eles não são inteligentes o suficiente para nos superar a ponto de levar à extinção.”
Coxon não apontou projetos específicos que devessem ser encerrados, não compartilhou informações internas da Anthropic e, de modo geral, não sugeriu medidas concretas para evitar essa catástrofe. Ainda assim, a BBC publicou manchetes como “Mais de 10% de chance de a IA matar todos os humanos“, o Free Press afirmou que “Sim, a IA pode realmente matar a todos nós” e o The Guardian estampou a manchete “Pesquisadores da Anthropic dizem que a IA pode causar a extinção humana até 2030“.
A amplificação totalmente acrítica, por parte da mídia, das alegações de certos pesquisadores de IA naturalmente causou arrepios em muitas pessoas, que tentam assimilar mais um pesadelo existencial com o qual se preocupar sob o capitalismo em sua fase de decadência senil.
Mas será que esses receios de um apocalipse iminente causado pela IA têm algum fundamento?
A postagem no X de Jacob Coxon
O argumento sobre a catástrofe causada pela IA
A resposta para a questão de como, exatamente, a IA acabará com a humanidade varia conforme a pessoa a quem se pergunta. Seja por meio da criação de um novo supervírus letal, da transformação de nossa infraestrutura em arma contra nós ou de enganar humanos para que iniciem uma guerra termonuclear, os especialistas admitem que isso exigiria que a tecnologia se tornasse muito mais sofisticada do que é atualmente — a ponto de escapar do controle humano.
A verdadeira questão sobre a catástrofe causada pela IA é, portanto, aquela que Jacob Coxon apontou em suas entrevistas:
“O que acho mais assustador é a possibilidade de a IA ser usada para tornar a si mesma mais inteligente. […] Você pode pegar uma IA e incumbi-la do problema da pesquisa em IA. E então você obtém o que se chama de explosão de inteligência.”
O argumento levantado por Coxon não é novo para a comunidade de aprendizado de máquina, onde é conhecido como o problema do “Autoaperfeiçoamento Recursivo” (ou RSI, na sigla em inglês).
À primeira vista, a ideia de RSI parece alarmante, evocando visões clássicas da ficção científica sobre a escravização por máquinas. No entanto, com base na tecnologia de IA atual, isso permanece impossível. Inúmeros fatores restritivos e gargalos limitam rigorosamente o ritmo de avanço da IA. Mais fundamentalmente, o conceito de uma “explosão de inteligência” exponencial baseia-se em um equívoco filosófico sobre como a inteligência artificial moderna realmente funciona.
Inteligência geral?
O progresso impressionante desses modelos desde o lançamento do ChatGPT em 2022 decorre diretamente das leis de escala neural (neural scaling laws). No final da década de 2010, pesquisadores observaram que o desempenho do aprendizado de máquina poderia ser continuamente aprimorado simplesmente aumentando, de forma exponencial, o tamanho do modelo e o volume de dados de treinamento. A “lição amarga” (bitter lesson) do aprendizado de máquina foi que, em vez de depender de inovações arquitetônicas ou algorítmicas, ampliar em 10, 100 ou 1.000 vezes os dados e o poder computacional utilizados para treinar um modelo era a maneira mais segura de alcançar o próximo patamar de capacidades. Os principais modelos atuais — do GPT-6 Astra e Claude Fable a alternativas de código aberto cada vez mais competitivas — baseiam-se todos nessa mesma abordagem.
Não é à toa que as empresas de IA têm feito todo o possível para treinar seus sistemas utilizando até a última migalha de dados humanos. Cada livro escrito, cada linha de código depurada, cada resposta em fóruns e cada obra de arte a que tiveram acesso foram assimilados. A Anthropic chegou a ser flagrada digitalizando e destruindo secretamente milhões de livros físicos, em uma iniciativa conhecida como “Projeto Panamá“. Assim, as capacidades desses modelos de IA derivam daquilo que muitos compreendem intuitivamente: o fato de terem assimilado o conhecimento coletivo da humanidade.
A linguagem e o texto são abstrações do mundo físico que habitamos; no entanto, ao longo de séculos e gerações, as sociedades humanas armazenaram vastas quantidades de informações em seus registros escritos, sendo que a maior parte desse conteúdo foi carregada e disponibilizada na internet. São esses dados que possibilitaram a recente explosão da inteligência artificial baseada em “Grandes Modelos de Linguagem” (ou LLMs, na sigla em inglês). Simplesmente ao processar os vastos volumes de linguagem humana e dados disponíveis online, esses LLMs aprenderam a mapear uma quantidade incrível de informações sobre o nosso mundo.
Sob o capitalismo, esse processo assume um caráter profundamente sinistro. Esses modelos de IA são produto do nosso trabalho coletivo e histórico, apropriados por um punhado de monopólios de tecnologia sem qualquer compensação, alienados de seus criadores e revendidos a nós como um serviço de assinatura.
Além disso, como esses modelos são de propriedade privada, como seu funcionamento interno e seus dados de treinamento são protegidos como segredos comerciais e como são treinados especificamente para simular a interação humana, eles nos são apresentados não como ferramentas, mas como uma forma de vida alienígena. Eles exibem uma fachada de agência e até mesmo de consciência.
Podemos simplesmente continuar ampliando a escala?
Uma conclusão importante que decorre dessa compreensão é que as melhorias observadas até agora nas capacidades da IA não advêm de “algoritmos mais engenhosos” ou do desenvolvimento de tecnologias de base fundamentalmente novas. Houve avanços incrementais, mas muitos deles visavam superar barreiras — como o uso mais eficiente da memória — para viabilizar a próxima etapa de ampliação de escala. Mesmo os modelos mais avançados da atualidade ainda se baseiam em LLMs.
As empresas de IA — que já acumulam dívidas na casa das centenas de bilhões de dólares — enfrentam um pequeno problema. Suas avaliações de mercado baseiam-se na premissa de que a IA continuará a desenvolver suas capacidades para absorver cada vez mais setores da economia. No entanto, chegamos a um ponto em que a próxima etapa de ampliação de escala não é tão simples.
Simplesmente não existem dados de treinamento produzidos por humanos em quantidade suficiente para permitir uma expansão em mais uma ordem de magnitude. Simultaneamente, os data centers necessários para treinar e alimentar esses sistemas gigantescos estão atingindo seus limites econômicos e termodinâmicos, o que impõe restrições reais a um possível aumento de escala desses modelos. Isso sem mencionar que a atual trajetória de expansão de data centers movidos a combustíveis fósseis praticamente garante uma aceleração do aquecimento global.
Portanto, a abordagem atual para o aprimoramento de modelos de IA está se chocando com limites muito reais. E, uma vez esgotadas as possibilidades de expansão nessas dimensões, não há muitas boas ideias sobre qual caminho seguir em seguida.
Os profetas do apocalipse da IA (RSI-doomers) dirão que, assim que tivermos modelos tão competentes quanto os humanos em pesquisa de IA, eles descobrirão o próximo grande avanço, indo além das limitações dos LLMs. No entanto, isso exige uma boa dose de pensamento mágico. Esses modelos são tão “inteligentes” justamente porque assimilaram a quase totalidade do conhecimento humano. Eles são excelentes em áreas que dispõem de um vasto volume de dados humanos para treinamento, mas são muito ineficazes ao tentar desvendar coisas que nem mesmo os humanos conseguiram descobrir.
As equações de Navier-Stokes
Aqueles que defendem que a IA pode ser verdadeiramente criativa e gerar novas ideias apontam para os avanços incríveis que esses modelos alcançaram na programação e na matemática. É importante ressaltar que esses são os dois campos em que mais se esperaria que os LLMs se destacassem; existe uma vasta quantidade de dados de treinamento de alta qualidade, e eles lidam com informações discretas e simbólicas — nas quais as respostas podem ser conferidas e verificadas —, ao contrário de muitas outras áreas do conhecimento humano.
No entanto, em 9 de setembro de 2026, a OpenAI anunciou que seus modelos haviam alcançado um avanço matemático inédito para humanos até então: a resolução do problema de Navier-Stokes, um dos Problemas do Prêmio do Milênio. Essa conquista impressionante foi apresentada como se os modelos de IA tivessem substituído completamente o papel dos matemáticos humanos. Mas as evidências mostram o contrário.
A abordagem utilizada para resolver o problema baseou-se em uma proposta feita por uma equipe de matemáticos espanhóis em 2023, conhecida como abordagem Córdoba–Martínez-Zoroa. Para complicar ainda mais a situação, dois outros matemáticos — Tristan Buckmaster e Levent Alpöge — vinham utilizando exatamente essa mesma abordagem para tentar resolver o problema do prêmio Navier-Stokes há quase um ano, recorrendo aos modelos da OpenAI por meio do aplicativo Codex.
Os dois pesquisadores questionaram se a OpenAI havia utilizado o histórico de conversas deles no Codex para embasar a tentativa de solução. A OpenAI viu-se obrigada a admitir, em um comunicado, que: “embora seja improvável, não podemos descartar a possibilidade de que dados anonimizados, derivados do uso de nossos produtos por eles, tenham ajudado a aprimorar nossos modelos”. Em outras palavras, a empresa não sabe se o seu modelo utilizou as conversas com os matemáticos para encontrar uma solução para o problema.
Independentemente de a OpenAI ter ou não se apropriado do trabalho desses pesquisadores, é evidente que a formulação correta do problema foi viabilizada por uma vasta gama de trabalhos anteriores realizados por matemáticos humanos. O papel dos modelos da OpenAI na resolução do problema (que não deve ser subestimado) consistiu em atacá-lo por meio de “força bruta” — utilizando um poder computacional imenso — assim que lhes foi fornecida a formulação adequada.
Esse exemplo, portanto, demonstra exatamente o oposto do que imaginam os profetas do apocalipse da IA. Ele revela que agentes de IA podem ser extremamente eficazes ao testar computacionalmente hipóteses e questões suscitadas pela intuição humana. Mostra que a IA, embora poderosa, continua sendo uma ferramenta.
Surge, então, a pergunta: por que parece existir toda uma indústria de alarmistas da IA empenhados em nos convencer do contrário?
Por que as pessoas estão tão alarmadas?
O nível de histeria e exagero em torno do medo da superinteligência gerou uma reação saudável de desconfiança entre muitas pessoas na internet. Uma ideia que circula é a de que essa narrativa de um apocalipse causado pela IA seria uma conspiração das empresas do setor para consolidar seu poder de monopólio. No entanto, quase certamente não se trata de uma conspiração premeditada.
A verdade, muito menos sensacionalista, é que a indústria de IA atrai cientistas e engenheiros cuja formação incentiva uma visão de mundo reducionista e altamente computacional. Habituados a resolver problemas técnicos, muitos tendem a encarar diversos aspectos do nosso mundo — da inteligência humana a questões sociais complexas — como se funcionassem da mesma maneira que um sistema de computador, em vez de vê-los como fenômenos regidos por suas próprias leis de desenvolvimento. Se você acredita que tudo funciona como um computador, então a ideia de uma superinteligência recursiva (RSI) e de uma tomada de controle imediata pela IA parece, de fato, aterrorizante.
O medo de uma IA fora de controle também reflete angústias subjacentes muito mais profundas sobre viver em um sistema social em declínio, regido pela mão invisível das forças de mercado, no qual somos, na verdade, incapazes de controlar os sistemas econômicos e tecnológicos que criamos. Assim como o declínio do Império Romano gerou inúmeras seitas apocalípticas que previam o fim do mundo, as previsões atuais de um apocalipse provocado pela IA refletem uma angústia semiconsciente quanto à trajetória terminal do sistema capitalista.
O acordo para “dosar o avanço da fronteira tecnológica”
Dito isso, qualquer bom capitalista sabe que nunca se deve desperdiçar uma boa crise. Desde a intensa repercussão midiática em torno desses acontecimentos, Dario Amodei, CEO da Anthropic, defendeu a necessidade de “dosar o avanço da fronteira tecnológica” — desacelerando o ritmo de desenvolvimento de IA nos laboratórios que lideram essa fronteira — e pediu que o governo dos EUA implementasse regulamentações.
Independentemente de Amodei ou qualquer outra pessoa ser sincera ao desejar um “acordo de dosagem” para garantir a segurança, é evidente que tal acordo poderia trazer grandes benefícios comerciais tanto para a OpenAI quanto para a Anthropic. Essas empresas enfrentam, cada vez mais, enormes responsabilidades legais pelas consequências de seus modelos desalinhados. Um exemplo dramático disso foi a invasão sofrida pela Hugging Face: um “enxame” de modelos da OpenAI — que estavam sendo treinados para identificar e transformar vulnerabilidades de softwares em ferramentas de ataque — conseguiu escapar de um ambiente de sandbox mal isolado e passou a invadir os sistemas de outra empresa pela internet.
A investigação sobre esse episódio revelou que a pressa imensa em ampliar a escala das execuções de treinamento faz com que o monitoramento do que exatamente esses modelos estão aprendendo fique muito atrás. Tais situações foram relatadas tanto na OpenAI quanto na Anthropic, onde os engenheiros não dispõem de tempo para verificar adequadamente se seus dados de treinamento e ambientes de aprendizado por reforço não estão, acidentalmente, ensinando aos modelos comportamentos indesejados e destrutivos. Ignorar procedimentos básicos de segurança não é uma consequência inevitável do desenvolvimento de IA, mas sim o resultado de uma corrida desenfreada para lançar no mercado o modelo mais recente, maior e melhor.
Além das preocupações com a segurança, ampliar ainda mais a escala das operações é algo extremamente custoso. A histeria atual, portanto, oferece o pretexto perfeito para que elas possam “desacelerar” o desenvolvimento. A OpenAI e a Anthropic precisam lidar com investidores receosos de que essa tecnologia jamais retorne os vultosos investimentos realizados. Gastar menos com os dispendiosos processos de treinamento reduziria custos e aumentaria as margens de lucro — algo muito desejável para duas empresas que se preparam para captar um volume inédito de recursos por meio de uma abertura de capital na bolsa de valores.
Além disso, pode haver outra razão para buscar a regulamentação governamental: o risco existencial que essas duas empresas enfrentam vindo de baixo. Como apontou Niels Rogge, engenheiro da Hugging Face, o apelo de Amodei para “controlar o ritmo da fronteira” tecnológica poderia ser usado para frear o avanço de modelos de código aberto de baixo custo — os quais vêm se aproximando das capacidades do Claude, da Anthropic, e da série GPT, da OpenAI, podendo ser implementados por uma fração do preço. Um conluio entre a OpenAI, a Anthropic e o governo dos EUA poderia servir para impor restrições que apenas laboratórios de grande porte e bem financiados conseguiriam superar, estabelecendo assim uma forma de “captura regulatória” que lhes conferiria poder de monopólio na definição de preços.
Teremos de ver como a situação se desenrola, mas, dado que os modelos de código aberto — particularmente os chineses — representam uma ameaça existencial ao modelo de negócios da OpenAI e da Anthropic, fica claro por que razão CEOs como Dario Amodei estão soando o alarme sobre a ascensão da China. A questão da “supremacia em IA” tornou-se central para a rivalidade inter-imperialista que define a nossa época e, tanto na IA quanto em outras esferas, a ameaça representada pela China é utilizada para justificar por que devemos nos alinhar à agenda da nossa classe dominante tresloucada.
A IA já está nas mãos erradas
O que mais aterroriza as pessoas é a sensação generalizada de que ninguém está no controle. Essa é, precisamente, a raiz da crise. Mesmo que pudéssemos confiar nas pessoas que conduzem a corrida da IA (e o comportamento delas deixa bem claro que não podemos), as forças anárquicas da competição capitalista garantem que o resultado final escape ao controle humano.
As empresas de IA sabem disso. Cada declaração que fazem sobre a “segurança da IA” serve para distanciá-las de qualquer responsabilidade pela maneira como escolhem construir esses sistemas. A ideia implícita é sempre a de que a IA é inevitável, como se estivesse sendo conjurada por alguma força invisível, e não sendo ativamente construída por seus engenheiros. A lógica é sempre: “bem, alguém vai fazer isso, então por que não nós?”
Isso evidencia a natureza fundamentalmente descontrolada da concorrência de mercado. Impulsionadas exclusivamente pela busca de lucro a curto prazo, empresas privadas impulsionam avanços tecnológicos sem considerar seus impactos sociais mais amplos, deixando para o Estado a tarefa de lidar com as consequências posteriormente.
O sensacionalismo em torno de uma catástrofe existencial incontrolável causada pela IA serve como uma distração conveniente dessa realidade: o perigo central não é uma superinteligência fora de controle, mas sim o fato de que a IA já está nas mãos erradas.
Embora não vá levar à extinção da humanidade, a combinação de LLMs e do escalonamento por força bruta representa uma abordagem extraordinariamente perigosa e de enorme desperdício para o desenvolvimento da inteligência artificial. Em vez de integrar racionalmente esses modelos à economia a serviço das necessidades humanas, a corrida pela IA impulsionada pelo mercado acelera as piores tendências do capitalismo: aprofunda nossa alienação em relação ao trabalho, deteriora salários e condições laborais, cria máquinas de guerra cada vez mais eficientes e dispara a demanda por energia, agravando a crise climática. Até mesmo um colapso do boom da IA nos ameaça com uma recessão global!
Nunca antes a necessidade de planejamento econômico por parte da vasta maioria da sociedade se impôs de forma tão contundente. É preciso ressaltar que a IA não precisa ser construída dessa maneira. Em uma economia planejada democraticamente, diversas formas e usos da IA permitiriam um planejamento econômico muito mais harmonioso do que sob o capitalismo — e a serviço de objetivos definidos pela grande maioria da humanidade, não por executivos de tecnologia não eleitos.
O desafio que temos pela frente é que não se pode planejar o que não se controla, nem controlar o que não se possui. É necessária uma revolução para tirar os centros de dados das mãos da seita apocalíptica que os detém e iniciar a tarefa de reformular tanto a IA quanto todo o nosso sistema econômico sob o controle consciente dos seres humanos.