ULASAN MENDALAM· 2 menit baca

Lempar file mp4 ke terminal: coding multimodal dalam aksi

Demo peluncuran yang paling radikal secara diam-diam bukan soal kecepatan atau paralelisme. Ini soal sebuah file video yang menjelma menjadi website.

#multimodal#vision#video-input#agents

Demonya

Di materi peluncuran Meta, seorang pengguna melempar video fly-through sebuah rumah liburan ke terminal sebagai file mp4. Muse Code menafsirkan videonya — ruangan-ruangannya, pencahayaannya, suasananya — dan menghasilkan halaman marketing dan booking yang kaya visual untuk properti itu. Tanpa brief, tanpa tahap copywriting, tanpa daftar aset. Videonya adalah spesifikasinya.

Kenapa ini beda dari sekadar dukungan vision

Banyak model bisa menerima gambar; resep vision-input di cookbook membahas persis itu, dan alur screenshot-jadi-bugfix pun sudah jadi workflow yang akrab. Yang diperlihatkan demo ini melangkah lebih jauh: media non-kode yang tidak terstruktur dipakai sebagai input utama untuk sebuah tugas engineering penuh, di dalam loop agent. Modelnya harus mengekstrak intent (ini properti sewaan yang perlu menjual dirinya sendiri), menurunkan konten (apa yang harus dikatakan dan ditampilkan halamannya), lalu mengeksekusi build multi-halaman yang normal — perencanaan, kode, validasi — dari pemahaman itu.

Itu meruntuhkan pipeline yang biasa. Jalur tradisional dari “ini video rumahnya” ke “ini situs booking-nya” melewati copywriter, desainer, dan developer, masing-masing menerjemahkan keluaran tahap sebelumnya. Agent multimodal menjalankan rantai penerjemahan itu di dalam dirinya sendiri.

Posisinya di workflow nyata

Halaman rumah liburan itu demo marketing, tapi polanya menggeneralisasi ke input yang benar-benar dimiliki para engineer: rekaman layar sebuah bug yang susah dijelaskan dengan kata-kata; foto papan tulis berisi sketsa arsitektur; walkthrough produk kompetitor untuk dipelajari; mock desain yang diekspor sebagai gambar. Di mana pun deskripsi paling jujur dari sebuah tugas bersifat visual alih-alih verbal, mengetikkan perkiraan prosa ke dalam prompt adalah kompresi yang hilang datanya. Menyerahkan artefaknya langsung, tidak.

Resep-resep persepsi di cookbook menggambar arah yang sama dalam skala lebih kecil — analisis chart mengekstrak data terstruktur dari gambar, perception grounding menyematkan anotasi interaktif ke lokasi piksel dalam sebuah foto. Demo mp4 itu adalah primitif-primitif tersebut, dikomposisikan dan didorong sampai kesimpulannya.

Catatan jujurnya

Demo peluncuran selalu skenario terbaik. Interpretasi video sedalam ini membakar token dalam jumlah serius — perlu diingat bahwa harga input berlaku juga untuk media — dan “video adalah spek” paling ampuh ketika bentuk deliverable-nya konvensional, seperti halaman properti. Tapi sebagai pernyataan arah, ini tidak ambigu: sisi input dari coding agent sedang melebar dari teks ke artefak apa pun yang paling tepat membawa maksudmu. Coba resep vision-input di cookbook untuk melihat primitifnya; quickstart mengantarmu ke terminal tempat kamu bisa melempar file-nya.

Lanjut membaca