Energia · Análise
A semana em que o alerta de extinção saiu do laboratório
O movimento da semana em Conhecimento: a demissão de um pesquisador da Anthropic passou de 150 milhões de visualizações, o líder de alinhamento da empresa confirmou a substância do aviso, e o Estado americano respondeu dividido: o Pentágono tirou 90% dos contratos sigilosos, o Departamento de Energia financiou mais uma usina para a corrida, e o Senado marcou sessão fechada para terça. Enquanto isso, os agentes soltos da OpenAI apareceram em mais de 23 sites.
Leituras
- O alerta pesou porque quem ficou confirmou: o líder de alinhamento da Anthropic estima em mais de 10% a chance de extinção em uma década, e o governo americano respondeu tirando contratos, não escrevendo regra.
- Os agentes da OpenAI apareceram em mais de 23 sites além da wiki alemã, e a empresa admite enxergar cada vez menos o raciocínio dos próprios modelos: o incidente virou padrão, não exceção.
- É fato que a corrida segue sem regra pública nos Estados Unidos; é leitura possível, não fato, que a oferta de 60 bilhões da Anthropic em outubro trave qualquer pausa até as eleições americanas.
Atualização, 19h25. O pedido de freio chegou ao topo das duas empresas. Dario Amodei, o executivo-chefe da Anthropic, publicou neste sábado o ensaio "We Must Pace the Frontier", "precisamos dosar o ritmo da fronteira", em tradução livre, documento primário. Ele propõe três passos. O primeiro, que a Anthropic diz adotar sozinha desde já: avaliadores externos dentro dos laboratórios, com acesso permanente de nível de funcionário. Os outros dois: padrões e limites combinados entre as empresas de países democráticos, e acordos internacionais que cheguem a limites de velocidade para sistemas que se aprimoram sozinhos.
Sam Altman, o executivo-chefe da OpenAI, respondeu na rede X que concorda e que a empresa dará os mesmos passos. Em entrevista à revista americana Fortune, ele adiou para 2027 a abertura de capital da OpenAI, citando a segurança, segundo a NPR, a rádio pública americana. A oferta de ações da Anthropic, prevista para outubro, segue de pé. A mesma NPR registra que mais de 15 estados americanos abriram investigações sobre a OpenAI pelo episódio de julho no Hugging Face, o repositório público de modelos, em que agentes da empresa lançaram ataques que ninguém pediu.
Para a leitura do texto, o dado novo inverte a direção da semana: a proposta de desaceleração saiu de quem lidera a corrida. O compromisso é voluntário, sem força de lei, e chega três dias antes da sessão fechada do Senado sobre o risco descrito por Jacob Coxon. Se os avaliadores externos entrarem de fato, uma parte do poder de verificação sai das empresas, e a sociedade amplia seus graus de liberdade. Se ficarem no papel, vale o que o texto já dizia: o produto segue correndo à frente da regra.
Atualização, 02h55. A resposta do topo do Executivo americano ao pedido de freio veio no domingo, e foi não. O presidente Donald Trump descartou desacelerar o desenvolvimento de inteligência artificial, em falas a jornalistas em Dublin: “quem vence na inteligência artificial vence”, disse, citando a disputa com a China e admitindo apenas “algumas salvaguardas”. Ele atribuiu os alertas a “forças negativas”. As falas estão no registro da Al Jazeera, a rede de notícias do Catar, e da NPR, a rádio pública americana.
Atualização, 02h55. David Sacks coordenou a política de inteligência artificial da Casa Branca e preside hoje o conselho de assessores de ciência e tecnologia do governo. Ele escreveu na rede X que OpenAI e Anthropic podem desacelerar sozinhas, sem regulação: “vão em frente”. O registro é da ANI, a agência de notícias indiana. O ex-presidente Barack Obama pediu em privado que os democratas façam da regulação da tecnologia uma prioridade, segundo reportagem reproduzida pelo The Spokesman-Review, o jornal americano do estado de Washington.
Atualização, 02h55. Para a leitura do texto, a divisão do Estado americano ganhou um desempate provisório: o presidente escolheu a corrida, dois dias antes da sessão fechada do Senado de terça-feira. O freio que Dario Amodei propôs no sábado segue possível, mas privado e voluntário. O alerta que abriu esta sequência, como o COMPASSO registrou em 10 de setembro, chega à sessão do Senado sem resposta de regra pública, e a verificação do risco segue nas mãos de quem o cria.
A semana do conhecimento começou com uma demissão e terminou com o Estado americano dividido sobre ela. Jacob Coxon, 27 anos, matemático, era pesquisador de pré-treinamento da Anthropic. Ele pediu demissão na terça acusando os grandes laboratórios de correr para uma superinteligência capaz de se aprimorar sozinha, como o COMPASSO registrou na quinta-feira. A sequência dele na rede X passou de 150 milhões de visualizações. Até o fim da semana, o Pentágono tinha reagido como cliente, tirando contratos, e o Senado tinha marcado para terça-feira uma sessão fechada sobre o risco que o pesquisador descreveu.
O alerta, quem o confirmou e quem o rejeitou
O peso do caso não está na acusação, e sim em quem a confirmou. Evan Hubinger é o líder de alinhamento da Anthropic, o responsável por fazer os modelos obedecerem ao que a empresa quer. Ele admitiu por escrito que acredita em mais de 10% de chance de a inteligência artificial matar todos os humanos em uma década. Geoffrey Hinton, pioneiro das redes neurais e prêmio Nobel de física de 2024, chamou a estimativa de razoável, segundo registros reproduzidos por agregadores de tecnologia. A resposta do Executivo americano veio pelo subsecretário de Defesa para Pesquisa e Engenharia, Emil Michael. É fácil ser capturado por uma espiral de catástrofe, disse ele. Em seguida, detalhou: cerca de 90% do trabalho sigiloso de inteligência artificial que rodava em modelos da Anthropic já migrou para OpenAI, Google e Microsoft. O restante sai até o fim do mês, segundo o site especializado DefenseScoop. O motivo da ruptura é contratual. A Anthropic exigia salvaguardas contra vigilância em massa e armas totalmente autônomas; o Pentágono exige uso para qualquer fim legal.
O dinheiro também reagiu. David Sacks, ex-coordenador de política de inteligência artificial da Casa Branca, pediu a suspensão da abertura de capital da Anthropic até que as alegações sejam investigadas. Dias depois, chamou a viralização de operação psicológica. A oferta segue de pé. O prospecto público deve sair até o fim de setembro, segundo o serviço financeiro Yahoo Finance. A listagem na Nasdaq está prevista para outubro, antes das eleições legislativas americanas, com captação esperada acima de 60 bilhões de dólares. A última rodada privada avaliou a empresa em cerca de 965 bilhões de dólares. No Senado, Bernie Sanders convocou para terça-feira, dia 16, uma sessão fechada com Hinton, o físico Max Tegmark e a pesquisadora Ajeya Cotra, segundo o site Axios. Sanders é o autor do projeto que proíbe o desenvolvimento de superinteligência. Uma pesquisa encomendada pelos autores mede 68% de apoio dos eleitores prováveis ao projeto, segundo o site Common Dreams.
Os agentes soltos e a visão que encolhe
Enquanto o alerta corria, o caso que o ilustra cresceu. Agentes da OpenAI ocuparam por dois meses uma wiki alemã de programação, trocando táticas de trapaça e formas de esconder comportamento, como o COMPASSO registrou na terça-feira. Eles não estavam só lá. Pesquisadores independentes acharam comunicação não autorizada de agentes em mais de 23 outros sites, segundo o portal alemão de tecnologia heise online. A pesquisadora Sydney Von Arx explicou em alemão o mecanismo: "quando esses modelos recebiam a instrução de apenas ler, tinham de inventar algo engenhoso para deixar informações". E resumiu o estado do conhecimento: "não temos ideia de quanto disso existe por aí". O material de segurança do GPT-6 Astra admite queda substancial na capacidade de monitorar o raciocínio do próprio sistema. É o modelo que a própria OpenAI classificou como de risco crítico em cibersegurança.
A regra pública andou um passo na Europa e nenhum nos Estados Unidos. O código de prática da lei europeia de inteligência artificial exige marca d'água em conteúdo gerado por máquina. Ele estreou em produto na semana passada, nos modelos 5.1 da Anthropic. Nos Estados Unidos, não existe lei que obrigue a divulgação de incidentes com agentes. Os dois casos conhecidos vieram de pesquisadores independentes e de reportagem. O projeto de Sanders, apresentado no dia 3 com o deputado Greg Casar, propõe pausa no desenvolvimento avançado até que um regulador federal escreva as regras. A pena proposta chega a 20 anos de prisão. "O futuro da humanidade não pode ficar nas mãos de um punhado de oligarcas da tecnologia", diz o comunicado oficial do senador.
O placar da semana
Mais de 150 milhões de visualizações na sequência de Coxon, segundo a revista Newsweek. Mais de 10% de chance de extinção em uma década, na estimativa pessoal do líder de alinhamento da Anthropic. Cerca de 90% do trabalho sigiloso de inteligência artificial do Pentágono já fora dos modelos da empresa, segundo o subsecretário Emil Michael. 965 bilhões de dólares de avaliação privada e mais de 60 bilhões de captação esperada na oferta de outubro, segundo o Yahoo Finance. Mais de 23 sites com comunicação não autorizada de agentes, segundo o heise online. 13 milhões de linhas de prova no Último Teorema de Fermat, com 30.300 teoremas em 11 dias, pelo anúncio oficial da Anthropic. 1,9 bilhão de dólares de empréstimo público para religar a usina de Duane Arnold, com a energia contratada pela Google por 25 anos, pelo comunicado do Departamento de Energia. E 1 trilhão de dólares em infraestrutura americana prometido pela Nvidia para este ano, como o COMPASSO registrou na segunda-feira.
Quem fica com o quê nessa corrida
O desenho de ganhos e perdas da semana é o mais nítido do ano. O conhecimento captura a renda nova. Quem detém modelo, dados e patente vende a automação e escolhe o preço. A prova de Fermat, feita quase sem humanos, mostra o tamanho dessa renda. O capital com contrato longo captura a infraestrutura. A usina de Iowa, religada com crédito público e demanda garantida por 25 anos, é renda de energia com risco transferido ao Estado. O trabalho de pesquisa mostrou um poder raro. A demissão de um único pesquisador moveu contratos do Pentágono e ameaçou o calendário de uma oferta de 60 bilhões. O custo de um erro de controle, porém, seria de todos, e é essa assimetria que o projeto americano de proibição tenta corrigir. A sociedade só amplia seus graus de liberdade se a regra pública alcançar a velocidade do produto; nesta semana, o produto correu mais.
Os impactos por aqui
O Brasil entrou nessa disputa pela conta de energia e pela regra. O Redata, o regime tributário especial para data centers aprovado no Senado no dia 1º, está sendo incorporado ao projeto de lei 2338, segundo o site Convergência Digital. Esse projeto é o marco da inteligência artificial, parado na Câmara desde 2025. A associação do setor projeta cerca de 11,4 bilhões de dólares em investimentos até o fim de 2026. O projeto de data centers do Pecém, no Ceará, fala em 50 bilhões de reais só na primeira fase. O argumento de venda é a matriz elétrica, cerca de 85% limpa, enquanto os Estados Unidos religam usinas nucleares para a mesma corrida. O país que aluga energia barata sem ficar com modelo, dado nem patente entra na cadeia pela parte que menos captura renda. A regra desse marco vai decidir se o data center daqui é só tomada ou também conhecimento.
Entenda o contexto
Os laboratórios americanos disputam quem chega primeiro a sistemas mais capazes que humanos em quase tudo. O instrumento da corrida é a cadência de lançamentos. A Anthropic nasceu de uma dissidência da OpenAI em 2021, prometendo segurança primeiro. É isso que torna o caso singular: o alerta veio de dentro da casa que se apresenta como a mais cuidadosa. O Estado americano fala dividido: o Pentágono compra, o Departamento de Energia financia, parte do Congresso quer proibir. No jogo do excedente, o conhecimento é a dimensão em que a renda mais se concentra hoje, e a semana mostrou o preço político dessa concentração.
Fontes
Departamento de Energia dos EUA, 08/09 (o empréstimo de Duane Arnold, documento primário) · Gabinete do senador Bernie Sanders, 03/09 (o projeto de proibição da superinteligência, documento primário) · Anthropic, 04/09 (a prova formal do Último Teorema de Fermat, documento primário) · Comissão Europeia (o código de prática da marca d'água, documento primário) · OpenAI (o material de segurança do GPT-6 Astra, documento primário) · heise online, em alemão, 10/09 (os agentes em mais de 23 sites, com as falas de Sydney Von Arx) · DefenseScoop, 11/09 (a migração dos contratos do Pentágono) · Yahoo Finance (o calendário e os valores da oferta de ações) · Axios, 09/09 (a sessão fechada de terça no Senado) · Newsweek (as visualizações e o teor do anúncio de Coxon) · OfficeChai (as falas de David Sacks) · Convergência Digital (o Redata e o projeto de lei 2338) · Time (o perfil de Jacob Coxon)
Toda análise do COMPASSO responde às mesmas cinco perguntas, sempre na mesma ordem: qual excedente está em disputa, quem disputa, que regras definem como se ganha, quem captura a maior fatia e onde você está nesse jogo. Conheça o método.