RESEARCH· 2 Min. Lesezeit

So wurde Muse Spark 1.2 trainiert: Co-Training, Long-Horizon-Arbeit und eine Selbstverbesserungs-Schleife

„Built for Muse Spark“ ist kein Marketing-Sticker, sondern beschreibt eine Trainingsstrategie. Drei Techniken aus Metas Release Notes erklären, warum Modell und Agent zusammen besser performen als jedes von beiden mit einem Fremden.

#muse-spark#training#co-training#self-improvement

Ein Coding-Update, hart hochskaliert

Muse Spark 1.2 ist ein Update von 1.1, das voll auf Code zielt: Generierung, komplexes Debugging, Codebase-Verständnis und durchgängige Entwickler-Workflows. Meta hat das Trainings-Compute für Coding-Aufgaben deutlich hochgefahren und zugleich die Vielfalt der Trainingsumgebungen verbreitert — ohne die General-Agent-Stärke des Modells dafür zu opfern. Das messbare Ergebnis im Gespann mit Muse Code: 82,9 % auf Terminal-Bench 2.1 und 59,3 % auf DeepSWE 1.1 — konkurrenzfähig mit den stärksten Agenten der Kategorie.

Technik eins: Co-Training mit dem Harness

Die meisten Coding-Agenten sind ein generisches Modell mit übergestreiftem Wrapper: Das Harness promptet, das Modell pariert, und die Nahtstellen zeigen sich als Retries und falsch benutzte Tools. Meta hat Muse Spark 1.2 stattdessen mit Muse Code trainiert. Der Trainingsmix enthielt rejection-gesampelte Harness-Trajektorien — komplette Agent-Läufe, gefiltert, sodass nur die erfolgreichen das Modell unterrichten — dazu Rezept-Optimierungen für Goals, Compaction und Subagenten sowie die Integration von Muse Codes tatsächlichem Toolset.

Die Konsequenz ist ein Modell, das die Situationen, in die sein Harness es bringen wird, bereits gesehen hat: wann Arbeit an einen Subagenten ausgefächert wird, wie ein Tool-Call formuliert sein muss, damit die Runtime ihn akzeptiert, wie ein kompaktierter Kontext aussieht. Metas Behauptung — bessere Tool-Nutzung, weniger Retries, höherwertiger Output als bei einem generischen Wrapper — ist die direkte Vorhersage dieses Setups.

Technik zwei: Long-Horizon-Training

Muse Spark 1.2 wurde ausgiebig auf Aufgaben trainiert, die nicht in eine Sitzung passen: Generierung ganzer Repositories, große End-to-End-Projekte, Auto-Research. Drei gelernte Fähigkeiten halten solche Arbeit zusammen — Planung, um die Schritte zu sequenzieren, Goal Conditioning, um über Hunderte Entscheidungen hinweg die Richtung zu halten, und Context Compaction, um das Wesentliche zu behalten, wenn die Historie selbst ein 1M-Token-Fenster sprengt. Das sind keine angeschraubten Features; sie tauchen direkt im Produkt auf als /plan und /goal — und sie haben den 24-Stunden-Kernel-Lauf erst möglich gemacht.

Technik drei: das Modell, das seinen Nachfolger benotet hat

Das spannendste Detail ist die Selbstverbesserungs-Schleife. Meta ließ Muse Spark 1.1 anspruchsvolle Coding-Umgebungen und Instruction-Following-Vorlagen generieren und anschließend Kandidatenlösungen danach benoten, wie gut sie diese Anforderungen erfüllen. Der benotete Output wurde zum skalierbaren Trainingsdatensatz für 1.2 — die Vorgängergeneration fertigt sowohl die Prüfung als auch den Bewertungsschlüssel für die nächste. Meta schreibt genau dieser Schleife zu, dass 1.2 komplexe Anweisungen präziser befolgt als sein Vorgänger.

Warum das über einen Release hinaus zählt

Jede Technik verstärkt die anderen: Co-Training macht das Harness zum Trainingssignal, Long-Horizon-Training macht größere Aufgaben lernbar, und die Selbstverbesserung macht die gesamte Pipeline beim nächsten Mal billiger skalierbar. Meta kündigt größere, fähigere Modelle an — und diese Maschinerie ist vermutlich genau das, womit sie gebaut werden. Die vollständige Evaluationsmethodik steht auf Metas Research-Seite; wie sich die Zahlen in der Praxis anfühlen, erfährst du am schnellsten im Quickstart.

Weiterlesen