Pesquisadores do MIT usaram o GPT-6 Astra para ler os valores internos brutos de outras redes neurais e reescrevê-los diretamente, sem treinamento, sem ajuste fino e sem descida de gradiente [1][2]. Em um dos experimentos, a intervenção em apenas 0,016% dos pesos do Qwen3.5-0.8B elevou o desempenho do modelo no benchmark de matemática MATH-500 de 7,9% para 48,1% [2][3]. O trabalho, divulgado em 2 de novembro de 2026 e ainda sem revisão por pares, sugere que modelos de propósito geral podem começar a funcionar como um mecânico que conserta um motor que nunca projetou [1][2].
Os autores falam em "lampejos" (sparks, no título do trabalho) de uma nova capacidade: modelos de fronteira tratando redes neurais como arquivos que podem ser lidos, analisados e modificados [2]. Se a abordagem se sustentar em escala, pode mudar a forma como a inteligência artificial é depurada e auditada, e reacende uma pergunta antiga: o que significa "entender" uma rede neural?
Um "mecânico" que abre o capô de um motor que não construiu
O estudo é assinado por Rikiya Takehi, Jayden Teoh, Alex Zhang e Omar Khattab, do MIT CSAIL, o laboratório de ciência da computação e inteligência artificial do MIT [2]. O grupo publicou os resultados como preprint no alphaXiv e em um blog técnico, e batizou o conceito de "programação no espaço de pesos" (weight-space programming) [1][2]. Nas palavras dos autores, a ideia é tratar os pesos "como um programa escrito em uma linguagem de programação": lê-los para entender o que a rede calcula e editá-los diretamente para mudar o que ela calcula [2].
O ponto central é o que o sistema não faz. Não há retropropagação de gradientes, ciclo de treinamento com dados rotulados nem modelos auxiliares treinados para a tarefa [2][4]. O GPT-6 Astra, modelo da OpenAI disponível em sua API e nos planos pagos do ChatGPT [3], recebe os valores numéricos que compõem uma rede, levanta hipóteses sobre o que partes específicas dela fazem e então altera esses valores, trabalhando num ambiente de programação em Python [2].
A ressalva vem dos próprios autores e dos especialistas ouvidos pela Nature: os resultados mostram uma capacidade operacional (identificar e corrigir disfunções), e não uma prova de que o Astra compreende como uma rede funciona [1][2].
O experimento: 0,016% dos pesos e um salto de 7,9% para 48,1%
Ao pedir ao Astra que consertasse o Qwen3.5-0.8B, os pesquisadores viram o modelo alterar 131.072 dos cerca de 800 milhões de pesos da rede [2][3]:
O defeito atacado eram os "loops de raciocínio": o modelo pequeno entrava em ciclos repetitivos e esgotava o limite de texto antes de responder. Segundo a DataCamp, 93,0% das respostas do MATH-500 batiam no limite de 32.768 tokens antes da edição, contra 33,1% depois [3]. O Astra rastreou o problema até uma direção específica escrita pelas camadas MLP 15 e 19 e a subtraiu dessas camadas [2].
Com as mesmas configurações de amostragem, a correção elevou a pontuação no MATH-500 de 7,9% para 48,1% [2]. Como os loops não eram exclusivos da matemática, o ganho apareceu também em outras tarefas: o GSM8K subiu de 13,8% para 67,1%, e o IFEval, que mede o cumprimento de instruções, de 21,0% para 62,3% [3][4]. Em outras palavras, o Astra não ensinou matemática ao Qwen: removeu um obstáculo que sabotava as respostas.
Houve outros testes. O Astra consertou uma política de controle que falhava em uma tarefa de carro e rampa no simulador Kinetix: editando 3,5% dos pesos, a taxa de sucesso foi de 0% para 100% [2][3]. O grupo também trabalhou com uma rede que joga Go, de cerca de 1,5 milhão de pesos, "grande demais para caber diretamente" na janela de contexto do modelo, o que exige leitura seletiva [2].
O que não funcionou
Os materiais do próprio grupo registram limites claros [3]. O Astra não conseguiu distinguir, só pelos pesos, uma versão honesta de uma versão bajuladora de um modelo Gemma 3 270M em nenhuma das quatro tentativas. Só conseguiu quando viu os padrões de atenção. No Gemma 3 270M, a edição para matemática elevou o MATH-500 apenas de 6,8% para 7,7%. Para os autores, editar pode remover um obstáculo, mas não cria uma habilidade que o modelo não tinha [3].
Há ainda as limitações de escopo: um único modelo editor, redes de no máximo 0,8 bilhão de pesos e resultados divulgados num blog e num preprint, não num artigo revisado [3]. O sucesso num modelo pequeno não garante o mesmo efeito em sistemas de fronteira com centenas de bilhões de parâmetros.
Como se edita um peso
Sistemas de IA de fronteira são redes neurais massivas, em que camadas de unidades de processamento são conectadas por bilhões de pesos, valores que representam a força das conexões internas [1]. Durante o treinamento, cada peso é ajustado aos poucos para tornar o modelo melhor em uma tarefa. A relação entre esses valores e o comportamento final é intricada demais para inspeção manual, e por isso os modelos são descritos como caixas-pretas [1].
A área de interpretabilidade tenta abrir essa caixa com experimentos conduzidos por humanos. A proposta do MIT inverte a lógica: um modelo de linguagem lê o conjunto bruto de pesos, formula ele mesmo a hipótese funcional ("esta direção parece causar os loops") e faz uma edição cirúrgica, medida em frações de porcento [2]. A metáfora do programa, porém, tem limite: um programa tem semântica documentada, e uma rede neural não tem. O que o Astra produz é uma leitura plausível, não uma especificação formal.
De 1992 à programação no espaço de pesos
A ideia de redes que modificam pesos não é nova. Em 1992, Jürgen Schmidhuber descreveu, como "experimento mental" num relatório técnico da Universidade do Colorado, uma rede recorrente "autorreferencial" capaz de executar e modificar ativamente seu próprio algoritmo de mudança de pesos, com unidades especiais para endereçar, analisar e manipular as próprias conexões [5]. Em 2022, Kazuki Irie, Schmidhuber e colegas apresentaram uma matriz de pesos autorreferencial moderna, capaz de modificar continuamente todos os seus componentes durante a execução. Nela, só os valores iniciais são treinados por gradiente [6]. Em princípio, escrevem os autores, redes assim podem "meta-aprender a aprender" [6].
O que muda no trabalho do MIT é o ator. Nos trabalhos anteriores, o mecanismo de edição fazia parte da própria arquitetura. Agora, um modelo de propósito geral, treinado para tarefas de linguagem e não para editar redes, opera sobre um sistema completamente estranho a ele, sem modelos auxiliares treinados para isso [2].
O ceticismo necessário
A recepção veio com ressalvas. Fazl Barez, pesquisador de segurança de IA da Universidade de Oxford, disse à Nature que o preprint mostra ser possível automatizar parte dos métodos de interpretabilidade [1]. Mas ele afirmou que ficaria surpreso se o Astra conseguisse ler e interpretar modelos de formas que superem as capacidades humanas existentes [1]. Ou seja, o "mecânico" pode estar reconhecendo padrões de motores que já viu, e não diagnosticando um motor novo do zero.
A dúvida já gerou trabalhos independentes. Um preprint de Nazmus Sakib Ahmed, da BRAC University (Bangladesh), publicado no arXiv em 5 de novembro de 2026, testa a capacidade de leitura de pesos em redes convolucionais pequenas. O estudo pergunta se ela reflete raciocínio sobre a rede ou uma combinação de aritmética local com conhecimento memorizado sobre conjuntos de dados públicos [7].
Marinka Zitnik, cientista da computação e bioinformata da Universidade Harvard, oferece a perspectiva mais construtiva: se for desenvolvida, essa capacidade de reprogramar modelos pode ser útil para a IA aplicada à ciência [1].
Por que isso importa
Hoje, corrigir um comportamento de um modelo costuma exigir novo treinamento ou ajuste fino, processos caros que podem afetar outras capacidades. A edição direta propõe uma terceira via: atuar só sobre a pequena fração de pesos ligada ao defeito, como os 0,016% do Qwen3.5-0.8B [2]. Se o método se generalizar, a depuração de modelos pode ficar mais barata e mais rápida, embora isso ainda precise ser demonstrado em escala.
Há também a dimensão de segurança. Automatizar a inspeção interna dos modelos poderia ajudar a detectar comportamentos indesejados antes que cheguem a produção. O fracasso do Astra em distinguir o modelo bajulador do honesto só pelos pesos mostra, porém, que esse objetivo ainda está distante [3]. E a mesma capacidade que conserta também pode sabotar: um modelo capaz de reescrever os pesos de outro pode introduzir alterações que ninguém autorizou.
Conclusão
O resultado deve ser lido na devida proporção: um preprint sem revisão por pares, um único modelo editor e redes pequenas diante dos sistemas comerciais [3]. Os próximos passos naturais são a replicação independente com outros modelos e redes maiores e experimentos capazes de separar interpretação genuína de reconhecimento de padrões memorizados, como sugerem Barez e o trabalho de Ahmed [1][7]. Por enquanto, o que existe é um mecânico promissor, um motor pequeno e um bom resultado no dinamômetro: 0,016% dos pesos alterados e um salto de 7,9% para 48,1% em matemática.
Referências
[1] This AI 'mechanic' can peer inside the black box of other neural networks (Nature) - https://www.nature.com/articles/d41586-026-03679-8
[2] Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights (Rikiya Takehi, Jayden Teoh, Alex Zhang, Omar Khattab) - https://rikiyat.github.io/blog/weight-space-programming/
[3] Weight-Space Programming: How LLMs Read and Edit Neural Network Weights (DataCamp) - https://www.datacamp.com/blog/weight-space-programming
[4] GPT-6 Astra Edits Neural Weights Directly, No Gradients (Emergent) - https://emergent.sh/news/gpt-6-astra-edits-neural-weights-directly-no
[5] Steps Towards 'Self-Referential' Neural Learning: A Thought Experiment (Jürgen Schmidhuber, Technical Report CU-CS-627-92, 1992) - https://people.idsia.ch/~juergen/selfref1992.pdf
[6] A Modern Self-Referential Weight Matrix That Learns to Modify Itself (Irie, Schlag, Csordás e Schmidhuber, arXiv, 2022) - https://arxiv.org/html/2202.05780v2
[7] Can an LLM Actually Reason and Program about Neural Network's Weights or is it just memorization on steroids? Exploring "Weight-Space Programming" (Nazmus Sakib Ahmed, arXiv) - https://arxiv.org/html/2611.08070v1