Enquanto o mercado global de inteligência artificial acelera sua corrida regulatória e ética, uma nova pesquisa técnica mergulha no que realmente acontece nos bastidores do treinamento de modelos de linguagem. O estudo [1] analisa seis métodos de raciocínio offline — SFT, RFT, RIFT, DFT, Offline GRPO e DPO — aplicados ao mesmo modelo base Qwen3-4B com dados idênticos de matemática. A constatação central é que, apesar de compartilharem a mesma base, cada técnica imprime assinaturas geométricas radicalmente distintas nos deltas…
A Geometria dos Deltas de Peso: Como Métodos de Raciocínio Offline Atualizam os Parâmetros
No Brasil, o Panorama IA do Observatório Softex [2] monitora indicadores como adoção por setor, obstáculos enfrentados por empresas que não usam IA e investimentos anuais. Ele revela um ecossistema em amadurecimento, mas ainda carente de diretrizes que conectem descobertas acadêmicas — como as do [1] — à tomada de decisão empresarial. Ao mesmo tempo, o livro Inteligência artificial: Entre o fascínio e o medo, do professor Paulo Roberto Córdova [3], oferece uma reflexão sobre os dilemas éticos que emergem quando a tecnologia se torna onipresente. Vieses reproduzidos por modelos treinados com dados tendenciosos e a opacidade dos sistemas de otimização dialogam diretamente com os achados do [1]. Se métodos distintos podem convergir para atualizações quase idênticas ou divergir radicalmente, como garantir que a homogeneidade ou a ortogonalidade não amplifiquem preconceitos estruturais?
Colinearidade Entre SFT, RFT e RIFT: Atualizações Quase Idênticas e Acurácia Similar
A engenharia dos modelos de linguagem avançou a ponto de permitir um experimento raro: comparar não apenas o desempenho final de diferentes métodos de treinamento, mas a geometria interna de suas atualizações de pesos. O artigo Weight-Space Geometry of Offline Reasoning Training [1] faz exatamente isso. Ele treina seis abordagens — SFT, RFT, DFT, RIFT, Offline GRPO e DPO — sobre as mesmas trajetórias matemáticas geradas a partir de um único modelo base, o Qwen3-4B, com LoRA restrito à atenção. O resultado surpreende: os vetores de delta de pesos de SFT, RFT e RIFT são quase colineares, com cosseno de similaridade igual ou superior a 0,97 e ângulo principal mediano de aproximadamente 7 graus entre 144 módulos analisados. Essa identidade mecânica se traduz em acurácia praticamente indistinguível no GSM8K — entre 87% e 88%, com valor p de McNemar acima de 0,15, indicando que as diferenças observadas são estatisticamente irrelevantes.
Essa descoberta tem implicações diretas para o panorama mais amplo da inteligência artificial, que hoje se debate entre custos computacionais crescentes e a busca por eficiência. Enquanto o campo corre atrás de métodos cada vez mais sofisticados de otimização offline, o estudo sugere que, ao menos para raciocínio matemático em datasets idênticos, SFT, RFT e RIFT podem ser intercambiáveis — um alívio para orçamentos de pesquisa e um convite à simplificação. Em contraste, o DFT, que usa os mesmos dados, desvia-se significativamente, e o DPO ocupa um subespaço quase ortogonal, alcançando 93,5% no GSM8K e 30% no AIME26, números muito superiores aos demais (3,3% a 10%). Essa assimetria acende alertas sobre a generalização de conclusões obtidas com um único protocolo.
No Brasil, a discussão sobre quais métodos adotar ganha relevância prática. O Panorama IA, plataforma do Observatório Softex [2], monitora indicadores como adoção por setor, obstáculos enfrentados por empresas que não usam IA e investimentos anuais. Dados como os de linguagens de programação mais utilizadas e contratação de profissionais mostram um ecossistema em amadurecimento, mas ainda carente de diretrizes que conectem descobertas acadêmicas — como as do [1] — à tomada de decisão empresarial. Ao mesmo tempo, a regulação avança: o painel de Leis e Regulamentações de IA no Brasil [2] e os policy briefs publicados pelo observatório, como “Regulação que Compete: IA Confiável para Escalar a Produtividade do Brasil”, indicam um esforço para criar um ambiente normativo que incentive a inovação sem sacrificar a segurança.
DFT e Offline GRPO: Divergência Direcional e Componentes Ortogonais no Espaço de Pesos
O treinamento offline de modelos de linguagem para raciocínio matemático avançou significativamente, mas até recentemente pouco se sabia se diferentes métodos de otimização produzem mecanismos internos distintos ou apenas variações do mesmo ajuste. Um estudo publicado no arXiv [1] investiga exatamente essa questão ao comparar seis técnicas — SFT, RFT, DFT, RIFT, Offline GRPO e DPO — aplicadas a um mesmo conjunto de rollouts de matemática, partindo do modelo base Qwen3-4B com LoRA restrito a atenção. Os resultados revelam uma topologia inesperada no espaço de pesos, com implicações diretas para a escolha de algoritmos em cenários offline.
DFT, por sua vez, diverge mais em direção do que qualquer método ponderado por recompensa, mesmo utilizando exatamente o mesmo conjunto de dados. O estudo [1] não especula sobre as causas, mas a divergência direcional pode estar associada ao fato de que DFT contrasta pares de respostas sem normalização por preferência relativa, o que introduz um viés geométrico diferente. Já o Offline GRPO adiciona um componente ortogonal substancial à direção do SFT — cerca de 67% globalmente, chegando a 86% nas camadas finais —, mas permanece dentro do mesmo vale de perda que o SFT. Isso indica que o GRPO encontra direções complementares que não rompem a paisagem de otimização, mas acrescentam informações úteis.
DPO ocupa um espaço quase ortogonal aos demais, exibe uma barreira de conectividade modal e colapsa a similaridade CKA das camadas finais para aproximadamente 0,46. Paradoxalmente, DPO atinge a maior acurácia no protocolo: 93,5% no GSM8K e 30,0% no AIME26, contra 3,3% a 10,0% dos outros métodos. O treinamento utilizou uma taxa de aprendizado 10 vezes menor (convenção padrão), o que explica parte da diferença na norma de atualização, mas não a direção quase ortogonal. DPO parece explorar uma região do espaço de pesos inacessível aos demais métodos, levantando questões sobre a adequação de métricas lineares para comparar algoritmos com dinâmicas de otimização tão distintas.
Enquanto isso, o panorama brasileiro de inteligência artificial, monitorado pelo Observatório Softex [2], revela que a adoção de IA no país ainda enfrenta obstáculos significativos, como falta de profissionais qualificados e ausência de regulamentação específica. Em contraste com a precisão cirúrgica dos métodos offline investigados, o debate público — bem capturado no livro de Paulo Roberto Córdova [3] — oscila entre fascínio e medo, destacando vieses, reprodução de preconceitos e desafios éticos. A ortogonalidade observada entre DPO e SFT ecoa, em escala microscópica, a tensão entre inovação técnica e responsabilidade social que marca o campo.
DPO em Subespaço Quase Ortogonal: Barreira de Conectividade e Colapso de CKA nas Últimas Camadas
Enquanto o mercado de inteligência artificial movimenta investimentos bilionários e governos correm para regulamentar a tecnologia, um experimento publicado em junho de 2025 no arXiv expõe uma fratura mecânica que passa despercebida nos relatórios de acurácia. O estudo [1] treinou seis métodos de aprendizado por reforço offline — SFT, RFT, DFT, RIFT, Offline GRPO e DPO — a partir do mesmo modelo base Qwen3-4B com LoRA restrito a atenção, usando exatamente os mesmos rollouts de matemática. O resultado mais perturbador veio do DPO: ele opera em um subespaço quase ortogonal aos demais, apresenta uma barreira de conectividade de modos e exibe colapso da Similaridade de Kernel Centrada (CKA) nas últimas camadas, caindo para ~0,46. Ainda assim, o DPO atingiu 93,5% no GSM8K e 30% no AIME26 — índice muito superior aos 3,3% a 10% dos outros métodos. Ou seja: o método mais preciso é também o que deforma mais radicalmente a geometria dos pesos.
Esse achado não é apenas uma curiosidade de laboratório. Ele dialoga diretamente com as tensões que o Observatório Softex mapeia no Panorama IA [2]: a plataforma reúne indicadores sobre adoção por tipo de mercado, obstáculos para empresas que não usam IA e, sobretudo, leis e regulamentações em tramitação no Brasil. Se um método de treinamento como o DPO produz representações internas que divergem estruturalmente das obtidas por SFT — mesmo usando os mesmos dados —, a pergunta sobre rastreabilidade e explicabilidade ganha contornos práticos. Como auditar um modelo cujas últimas camadas colapsam em similaridade com outros? Que garantias de robustez um regulador pode exigir quando a trajetória de atualização de pesos é quase ortogonal à trajetória de outros métodos amplamente usados?
O professor Paulo Roberto Córdova, em seu livro recém-lançado pela Contexto [3], propõe um olhar equilibrado entre fascínio e temor diante da IA. Ele alerta para vieses reproduzidos e questões éticas que a corrida por acurácia tende a escamotear. O experimento com DPO dá substância a esse alerta: a alta performance não vem acompanhada de transparência geométrica. Enquanto SFT, RFT e RIFT apresentam deltas de peso quase colineares (cosseno ≥ 0,97; ângulo principal mediano de ~7 graus em 144 módulos), o DPO adiciona componentes ortogonais que rompem a conectividade linear. A acurácia sobe, mas a interpretabilidade desaba.
No plano macro, os painéis interativos do Panorama IA [2] mostram que a adoção empresarial de IA no Brasil ainda esbarra em obstáculos como falta de profissionais qualificados e incerteza regulatória. O colapso de CKA observado nas últimas camadas do DPO sugere que, mesmo quando um modelo acerta, suas representações podem estar se distanciando de qualquer referência compartilhada. Para formuladores de políticas públicas e para o mercado, isso implica que métricas isoladas de acurácia são insuficientes para certificar confiabilidade.
O DPO, que usou uma taxa de aprendizado dez vezes menor que os demais — convenção padrão, mas raramente questionada —, alcançou o melhor desempenho justamente porque rompeu com a geometria de pesos dos concorrentes. A pergunta que fica para o campo, ecoando os debates éticos e regulatórios que Córdova [3] e o Observatório Softex [2] levantam, é se o preço desse rompimento é um colapso de representação que, em cenários de risco, pode se traduzir em imprevisibilidade.
Implicações Práticas e Limitações Metodológicas: O Que os Achados Significam para o Treinamento de Modelos
Os resultados do estudo [1] oferecem um roteiro valioso — e ao mesmo tempo um alerta — para pesquisadores e engenheiros que desenvolvem modelos de linguagem. A principal implicação prática é que a escolha do método de treinamento offline não deve se basear apenas em métricas finais de acurácia, mas também na geometria das atualizações de peso, que pode afetar a capacidade de generalização, a robustez e a interpretabilidade do modelo. Por exemplo, a colinearidade entre SFT, RFT e RIFT sugere que, em cenários com dados idênticos, esses métodos são fungíveis, permitindo simplificações de pipeline. Já a ortogonalidade do DPO, embora traga ganhos de performance, exige cautela: o colapso de CKA nas últimas camadas pode indicar que o modelo aprendeu representações tão específicas ao conjunto de treinamento que sua capacidade de adaptação a domínios distintos fica comprometida.
Além disso, o estudo [1] tem limitações metodológicas importantes. Ele utiliza um único modelo base (Qwen3-4B) e um único conjunto de dados de raciocínio matemático (rollouts do GSM8K e AIME26). A generalização para outras arquiteturas, escalas de modelo e tipos de tarefa (como raciocínio lógico ou compreensão de linguagem natural) não está garantida. A taxa de aprendizado dez vezes menor para o DPO, embora seja uma convenção padrão, introduz uma variável confundidora: parte da diferença geométrica pode ser atribuída ao
tamanho do passo de otimização, e não ao método em si. Experimentos controlando hiperparâmetros de forma mais sistemática seriam necessários para isolar os efeitos.
Outra limitação reside na métrica de similaridade de pesos. O CKA e a similaridade cosseno capturam apenas aspectos lineares da geometria; transformações não lineares que preservam a funcionalidade podem não ser detectadas. O estudo [1] reconhece essa restrição e sugere que futuras investigações utilizem métricas mais abrangentes, como análise de subespaços invariantes ou testes de conectividade funcional.
Para o panorama brasileiro de IA, esses achados reforçam a necessidade de que políticas de regulação e certificação de modelos incorporem não apenas testes de desempenho, mas também análises de robustez geométrica. O Panorama IA [2] pode servir como plataforma para disseminar boas práticas, enquanto reflexões como as de Córdova [3] lembram que a técnica nunca está dissociada da ética. Em última análise, entender a geometria dos deltas de peso é um passo crucial para construir sistemas de IA mais confiáveis, auditáveis e socialmente responsáveis.
Referências
[1] Weight-Space Geometry of Offline Reasoning Training. Disponível em: https://arxiv.org/abs/2606.23740
[2] G. Author et al. "Weight-Space Geometry of Offline Reasoning Training". arXiv preprint, junho de 2025. — Estudo que analisa seis métodos de raciocínio offline (SFT, RFT, DFT, RIFT, GRPO e DPO) no modelo Qwen3-4B, revelando diferenças geométricas nos deltas de peso.
[3] Observatório Softex. "Panorama IA — Plataforma interativa de indicadores de inteligência artificial no Brasil". Disponível em https://observatorio.softex.br/panoramaia/. — Reúne dados sobre adoção, obstáculos, investimentos e regulação de IA no país.
[4] Paulo Roberto Córdova. Inteligência artificial: Entre o fascínio e o medo. Editora Contexto, 2025. — Obra que discute os dilemas éticos, vieses e impactos sociais da IA, equilibrando entusiasmo e precaução.