Software & Hardware

Recursive Rilis Flint, Model AI Coding Terbuka yang Bisa Dijalankan Secara Lokal

Perusahaan kecerdasan buatan Recursive memperkenalkan Flint pada 21 Oktober 2026 sebagai model AI coding terbuka yang dirancang untuk membantu pengembang menulis, memperbaiki, dan menguji kode secara lokal. Model ini menggunakan arsitektur Mixture-of-Experts dengan 39,8 miliar parameter, tetapi hanya mengaktifkan sekitar 2,5 miliar parameter untuk setiap token yang diproses. Pendekatan tersebut memungkinkan penggunaan komputasi yang lebih efisien dibandingkan model padat berukuran serupa. Dengan dukungan perangkat Apple Silicon dan GPU NVIDIA, Flint menawarkan alternatif bagi developer yang mengutamakan kecepatan, privasi, serta kontrol terhadap lingkungan pengembangan. Kehadirannya turut memperluas pilihan TEKNOLOGI AI coding yang dapat dijalankan tanpa selalu bergantung pada layanan cloud.

Inovasi Model AI Lokal dari Recursive untuk Pemrograman Modern

Flint dikembangkan oleh Recursive sebagai model bahasa khusus untuk pekerjaan pemrograman. Berbeda dari chatbot yang mengutamakan percakapan umum, Flint ditujukan untuk menangani pekerjaan rekayasa perangkat lunak. Kemampuan tersebut mencakup pemeriksaan repository, identifikasi serta perbaikan masalah kode, pengembangan kemampuan aplikasi, dan penulisan pengujian otomatis. Melalui kemampuan tersebut, programmer memperoleh alat bantu dalam menyelesaikan tugas. Meski menawarkan kemampuan luas, keputusan akhir tetap berada pada pengembang. Prinsip pengawasan ini membantu mengurangi kemungkinan kesalahan.

Salah satu daya tarik Flint adalah penggunaan lisensi terbuka untuk model. Perusahaan menyediakan Flint dengan lisensi Apache 2.0 yang mendukung pemanfaatan untuk berbagai kebutuhan. Dengan ketersediaan tersebut, pemrosesan AI tidak harus selalu dilakukan pada server pihak ketiga. Pendekatan penggunaan lokal bermanfaat bagi tim yang ingin mengatur lingkungan komputasi sendiri. Walaupun bobot tersedia secara terbuka, penggunaan Flint tetap memerlukan perangkat keras yang sesuai. Sebagai hal yang perlu diperhatikan, penggunaan layanan tambahan dapat memengaruhi privasi. Melalui pengaturan yang tepat, penggunaan model menjadi lebih terkendali.

Teknologi Model AI 40 Miliar Parameter yang Efisien

Pada bagian arsitektur, Flint memanfaatkan Mixture-of-Experts atau MoE yang mengaktifkan komponen tertentu sesuai kebutuhan pemrosesan. Dalam konfigurasi lengkapnya, Flint memiliki sekitar 39,8 miliar parameter. Meskipun ukurannya besar, jumlah parameter yang digunakan per token sekitar 2,5 miliar. Karakteristik arsitektur ini menjadi alasan penting di balik efisiensi model. Dalam model dense, sebagian besar parameter biasanya ikut dihitung pada setiap token. Sementara itu, hanya sejumlah komponen ahli dilibatkan. Melalui rancangan tersebut, inferensi menjadi lebih efisien pada perangkat yang mendukung.

Di luar pengelolaan parameter, Flint memiliki konfigurasi konteks sebesar 262K token. Ukuran konteks ini mendukung penyertaan riwayat pekerjaan dalam jumlah besar. Sebagai contoh, pengembang dapat memasukkan beberapa file terkait. Walaupun kapasitas konteks besar, hasil dapat menurun ketika instruksi terlalu panjang atau kompleks. Oleh karena itu, tugas sebaiknya dipecah menjadi bagian yang jelas. Untuk mengurangi kesalahan, informasi yang tidak relevan sebaiknya dibatasi. Pendekatan tersebut membantu meningkatkan kualitas hasil.

Performa Inferensi Lokal Recursive Flint di Berbagai Perangkat

Tim pengembang Flint menyiapkan dukungan pemrosesan untuk perangkat lokal agar Flint dapat digunakan pada perangkat Apple Silicon. Berdasarkan pengujian yang diumumkan, Flint mencapai kecepatan di atas 125 token per detik pada perangkat M4 Pro. Sementara itu, hasil inferensi disebut melampaui 150 token per detik pada lingkungan pengujian tertentu. Kecepatan tersebut memberikan gambaran kemampuan inferensi lokal. Walaupun benchmark menunjukkan performa tinggi, performa dipengaruhi quantization dan runtime. Dengan demikian, angka benchmark tidak seharusnya dianggap sebagai jaminan universal.

Dalam menyediakan pilihan implementasi, Flint didistribusikan melalui varian presisi berbeda. Varian utama yang disediakan adalah BF16 yang menyimpan bobot dengan presisi lebih tinggi. Untuk mengurangi kebutuhan memori, Recursive menyediakan checkpoint quantization seperti NVFP4 dan GGUF. Pilihan quantization ini bertujuan mengurangi penggunaan memori. Namun perlu diperhatikan, penggunaan RAM dan VRAM dapat meningkat saat konteks panjang. Oleh karena itu, pengguna perlu memeriksa kapasitas memori. Berkat penyesuaian perangkat dan model, proses inferensi dapat berjalan lebih efisien.

Langkah Awal Mengintegrasikan Model Flint ke Alur Kerja Coding

Salah satu cara praktis untuk menggunakan Flint pada komputer sendiri adalah menjalankan model melalui runtime Ollama. Dalam ekosistem model AI lokal, Ollama menjadi platform inferensi yang menyediakan pengunduhan serta eksekusi model. Sesudah lingkungan lokal dipersiapkan, pengembang bisa menjalankan jendela perintah. Perintah ollama run flint mengaktifkan model setelah proses pengunduhan yang diperlukan. Apabila proses inisialisasi berhasil, pengguna dapat memberikan instruksi pemrograman. Meski proses penggunaan dipermudah, kemampuan memodifikasi proyek secara otomatis memerlukan sistem agen tambahan.

Selain Ollama, Flint juga mendukung beberapa ekosistem inferensi. Alternatif yang dapat digunakan mencakup SGLang, Unsloth, serta llama.cpp. Untuk pengguna perangkat Apple, Recursive mengembangkan mesin inferensi lokal bernama rec. Mesin inferensi ini dikembangkan dengan perhatian pada performa Mac modern. Pada integrasi dengan asisten pemrograman, Flint dapat dipadukan dengan OpenHands. Dengan integrasi tersebut, tugas pengembangan dapat dikelola melalui beberapa langkah. Namun, izin akses file dan terminal harus dikendalikan. Pengendalian izin tersebut membantu mengurangi risiko eksekusi perintah berbahaya.

Keunggulan dan Keterbatasan Model AI Coding Terbuka

Recursive merancang Flint untuk menangani pekerjaan pemrograman yang memerlukan beberapa langkah. Dalam skenario pengembangan, agen dapat diarahkan memeriksa penyebab masalah aplikasi. Model kemudian membaca file terkait dan menyarankan perubahan sebelum hasil perubahan diperiksa melalui test. Di luar kegiatan debugging, Flint berguna dalam implementasi komponen aplikasi serta membuat unit test. Penggunaan model dalam beberapa tahapan mendukung produktivitas pengembang. Meskipun AI mampu menghasilkan kode, pengembang perlu menguji keamanan dan kompatibilitas. Langkah tersebut penting terutama pada aplikasi produksi.

Sebagai bagian dari peluncuran Flint, Recursive menampilkan skor evaluasi pemrograman. Dalam pengujian Terminal-Bench versi 2.1, Flint memperoleh skor 54,9 persen. Pada evaluasi lainnya, Flint dilaporkan memperoleh 89,7 persen pada SWE-bench Pro v2, sedangkan skor SWE-bench Verified tercatat sebesar 74,2 persen. Angka evaluasi tersebut perlu dibaca sebagai hasil yang dipublikasikan perusahaan. Untuk melakukan perbandingan yang tepat, konfigurasi runtime perlu diperhatikan. Sebagai pertimbangan tambahan, kinerja nyata bergantung pada tingkat kesulitan dan instruksi. Dengan demikian, keputusan menggunakan model perlu mempertimbangkan kebutuhan nyata.

Penutup: Peluang Model AI Terbuka dalam Pengembangan Perangkat Lunak

Kehadiran model AI coding Flint menunjukkan kemajuan pemanfaatan AI untuk pemrograman. Melalui penggunaan sekitar 2,5 miliar parameter aktif, Flint menawarkan pemrosesan yang lebih hemat komputasi. Dukungan konteks panjang serta integrasi dengan berbagai runtime lokal mendukung berbagai kebutuhan pemrograman. Untuk penerapan yang lebih terbuka, ketersediaan bobot model terbuka memungkinkan adopsi yang lebih fleksibel. Walaupun demikian, pengawasan manusia tetap diperlukan. Seiring kemajuan TEKNOLOGI pemrograman, penggunaan kecerdasan buatan pada perangkat sendiri semakin relevan. Dari pengalaman Anda, apakah AI coding lokal dapat menggantikan sebagian kebutuhan layanan cloud? Silakan bagikan pendapat Anda mengenai Flint.

Related Articles

Back to top button