PESQUISA· 3 min de leitura

Como o Muse Spark 1.2 foi treinado: co-treinamento, longo horizonte e um loop de autoaperfeiçoamento

'Feito para o Muse Spark' não é atalho de marketing — descreve uma estratégia de treinamento. Três técnicas das notas de lançamento da Meta explicam por que modelo e agente rendem mais juntos do que qualquer um deles renderia com um estranho.

#muse-spark#training#co-training#self-improvement

Uma atualização focada em código, escalada com força

O Muse Spark 1.2 é uma atualização do 1.1 mirando código em cheio: geração, depuração complexa, entendimento de bases de código e fluxos de desenvolvimento de ponta a ponta. A Meta escalou significativamente o compute de treinamento em tarefas de código enquanto ampliava a diversidade dos ambientes de treino — e manteve intacta a força do modelo como agente geral, em vez de trocá-la por especialização. O resultado mensurável, em dupla com o Muse Code: 82,9% no Terminal-Bench 2.1 e 59,3% no DeepSWE 1.1, competitivo com os agentes mais fortes da categoria.

Técnica um: co-treinamento com o harness

A maioria dos agentes de código é um modelo genérico vestindo um wrapper: o harness comanda o modelo via prompt, o modelo obedece, e as costuras aparecem em forma de retries e ferramentas mal usadas. A Meta, em vez disso, treinou o Muse Spark 1.2 junto com o Muse Code. A mistura de treinamento incluiu trajetórias do harness filtradas por rejection sampling — execuções completas de agente, peneiradas para que só as bem-sucedidas ensinem o modelo — além de otimizações de receita para objetivos, compactação e subagentes, e a integração do conjunto de ferramentas real do Muse Code.

A consequência é um modelo que já viu as situações em que o harness vai colocá-lo: quando distribuir trabalho para um subagente, como formular uma tool call que o runtime vai aceitar, qual é a cara de um contexto compactado. A alegação da Meta — melhor uso de ferramentas, menos retries, saída de maior qualidade que um wrapper genérico — é uma previsão direta desse arranjo.

Técnica dois: treinamento de longo horizonte

O Muse Spark 1.2 foi extensivamente treinado em tarefas que não cabem numa sentada só: geração de repositórios inteiros, grandes projetos de ponta a ponta, auto-research. Três capacidades aprendidas seguram esse tipo de trabalho — planejamento para sequenciar as etapas, condicionamento de objetivo para manter a direção ao longo de centenas de decisões, e compactação de contexto para reter o que importa quando o histórico estoura até uma janela de 1M de tokens. Não são features aparafusadas depois; elas aparecem diretamente no produto como /plan e /goal, e foram elas que tornaram possível a execução de 24 horas nos kernels.

Técnica três: o modelo que corrigiu a prova do sucessor

O detalhe mais interessante é o loop de autoaperfeiçoamento. A Meta usou o Muse Spark 1.1 para gerar ambientes de código desafiadores e templates de seguimento de instruções, e depois o colocou para dar nota às soluções candidatas conforme atendiam a esses requisitos. A saída avaliada virou um dataset de treinamento escalável para o 1.2 — a geração anterior fabricando tanto a prova quanto o gabarito da próxima. A Meta credita especificamente a esse loop o fato de o 1.2 seguir instruções complexas com mais precisão que o antecessor.

Por que isso importa além de um lançamento

Cada técnica potencializa as outras: o co-treinamento transforma o harness em sinal de treinamento, o treinamento de longo horizonte torna tarefas maiores aprendíveis, e o autoaperfeiçoamento barateia escalar o pipeline inteiro na próxima vez. A Meta diz que modelos maiores e mais capazes estão a caminho — e essa maquinaria é, presumivelmente, como eles serão construídos. A metodologia completa de avaliação está publicada no site de pesquisa da Meta; para sentir na prática o que os números significam, comece pelo quickstart.

Continue lendo