Bagaimana Muse Spark 1.2 dilatih: co-training, kerja long-horizon, dan loop perbaikan diri
"Built for Muse Spark" bukan jargon marketing — itu menggambarkan strategi pelatihan. Tiga teknik dari release notes Meta menjelaskan kenapa model dan agent-nya lebih hebat bersama daripada dengan pasangan asing.
Update yang fokus ke coding, di-scale habis-habisan
Muse Spark 1.2 adalah pembaruan dari 1.1 yang dibidikkan lurus ke kode: generation, debugging kompleks, pemahaman codebase, dan workflow developer ujung ke ujung. Meta menaikkan compute pelatihan untuk tugas coding secara signifikan sambil memperluas keragaman lingkungan pelatihannya — dan tetap mempertahankan kekuatan model sebagai general agent alih-alih menukarnya habis. Hasil terukurnya, saat dipasangkan dengan Muse Code: 82,9% di Terminal-Bench 2.1 dan 59,3% di DeepSWE 1.1, bersaing dengan agent-agent terkuat di kategorinya.
Teknik pertama: co-training bersama harness
Kebanyakan coding agent adalah model generik yang memakai wrapper: harness memberi prompt, model menurut, dan jahitannya kelihatan dalam bentuk retry dan tool yang salah pakai. Meta justru melatih Muse Spark 1.2 bersama Muse Code. Campuran pelatihannya mencakup trajektori harness hasil rejection sampling — run agent utuh, disaring sehingga hanya yang sukses yang mengajari model — plus optimasi resep untuk goal, compaction, dan subagent, serta integrasi toolset Muse Code yang sebenarnya.
Konsekuensinya adalah model yang sudah pernah melihat situasi-situasi yang akan disodorkan harness-nya: kapan menyebar pekerjaan ke subagent, bagaimana merumuskan tool call yang akan diterima runtime, seperti apa rupa context yang sudah dipadatkan. Klaim Meta — pemakaian tool lebih baik, retry lebih sedikit, output lebih berkualitas dibanding wrapper generik — adalah prediksi langsung dari setup ini.
Teknik kedua: pelatihan long-horizon
Muse Spark 1.2 dilatih secara ekstensif pada tugas-tugas yang tidak selesai dalam sekali duduk: pembuatan repositori utuh, proyek besar ujung ke ujung, auto-research. Tiga kemampuan yang dipelajarinya menjaga pekerjaan semacam itu tetap utuh — planning untuk mengurutkan langkah, goal conditioning untuk menjaga arah melintasi ratusan keputusan, dan context compaction untuk menyimpan hal yang penting ketika riwayat melampaui bahkan jendela 1M token. Ini bukan fitur tempelan; ketiganya muncul langsung di produk sebagai /plan dan /goal, dan merekalah yang memungkinkan run kernel 24 jam terjadi.
Teknik ketiga: model yang menilai penerusnya sendiri
Detail paling menarik adalah loop perbaikan dirinya. Meta memakai Muse Spark 1.1 untuk membangkitkan lingkungan coding yang menantang beserta template instruksi, lalu menyuruhnya menilai solusi-solusi kandidat berdasarkan seberapa baik mereka memenuhi persyaratan itu. Output yang sudah dinilai menjadi dataset pelatihan yang bisa di-scale untuk 1.2 — generasi sebelumnya memproduksi soal ujian sekaligus kunci penilaiannya untuk generasi berikutnya. Meta mengkredit loop ini secara spesifik atas kemampuan 1.2 mengikuti instruksi kompleks dengan lebih presisi dibanding pendahulunya.
Kenapa ini penting melampaui satu rilis
Tiap teknik saling melipatgandakan: co-training menjadikan harness sebagai sinyal pelatihan, pelatihan long-horizon membuat tugas yang lebih besar bisa dipelajari, dan perbaikan diri membuat seluruh pipeline lebih murah untuk di-scale di putaran berikutnya. Meta bilang model yang lebih besar dan lebih mampu sedang dalam perjalanan — dan mesin inilah yang kemungkinan besar akan membangunnya. Metodologi evaluasi lengkapnya dipublikasikan di situs riset Meta; untuk merasakan seperti apa angka-angka itu dalam praktik, mulailah dari quickstart.