AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

AMD Ryzen AI Max 400 Series Membuka Peluang Baru bagi Pemrosesan AI Lokal

Transformasi TEKNOLOGI AI modern semakin meningkatkan kebutuhan perangkat komputasi. Melalui platform Gorgon Halo, AMD mengembangkan pilihan sistem komputasi lokal untuk menjalankan model AI besar. Platform tersebut menyatukan unit pemrosesan utama, akselerasi GPU, dan NPU khusus AI dalam platform prosesor terintegrasi. Pendekatan pemrosesan tersebut dirancang untuk menangani berbagai pekerjaan AI dengan pengelolaan komputasi lebih terarah. Pada penggunaan profesional, kapasitas memori sering menjadi kebutuhan mendasar. Karena itu, AMD mengutamakan arsitektur unified memory sebagai komponen strategis produk.

Generasi prosesor terbaru tersebut menjadi pengembangan lanjutan dari arsitektur Ryzen AI Max sebelumnya. Perubahan yang paling menonjol adalah dukungan RAM yang lebih besar. Pada generasi sebelumnya, batas memori sistem berada pada 128 gigabyte. Sebagai peningkatan, kapasitas memori meningkat hingga 192GB. Penambahan RAM tersebut membuka kesempatan menjalankan beban lebih berat bagi aplikasi generatif. Walaupun kapasitas meningkat, setiap perangkat tidak otomatis memiliki RAM maksimal. Karena itu, pengguna perlu memeriksa spesifikasi perangkat sebelum membeli komputer untuk AI lokal.

Memori Terpadu 192GB Menjadi Keunggulan Gorgon Halo

Daya tarik utama Gorgon Halo adalah penggunaan RAM bersama yang memungkinkan CPU dan GPU mengakses kapasitas memori sistem. Memiliki pendekatan berlainan dibandingkan sistem yang memakai kartu grafis terpisah, sistem terpadu tersebut dapat mengurangi perpindahan data tertentu antara unit pemrosesan yang terintegrasi. Nilai tambahan sistem tersebut dapat membantu ketika memproses data generatif. Pada inferensi model bahasa, bobot model harus dimuat ke memori. Berkat ketersediaan RAM terpadu yang luas, sistem dapat menampung model lebih besar.

Menurut informasi perusahaan, platform terbaru dapat mengalokasikan alokasi memori grafis mencapai 160GB. Besarnya alokasi memori tersebut berbeda dari kapasitas VRAM dedicated pada GPU diskret. Sebaliknya, memori grafis berasal dari RAM bersama. Hal tersebut perlu diperhatikan karena proses pendukung masih memerlukan alokasi memori. Ketika alokasi model terlalu besar, aplikasi lain mungkin mengalami kekurangan memori. Di samping kapasitas RAM, kemampuan transfer informasi memiliki dampak terhadap kecepatan inferensi. Dengan mempertimbangkan faktor tersebut, sistem yang memiliki ruang besar tetap membutuhkan perangkat lunak teroptimasi.

Kemampuan Ryzen AI Max PRO 400 Series untuk Menjalankan LLM Lokal

Keunggulan yang ditonjolkan AMD adalah kemampuan menjalankan LLM dengan banyak parameter. Berdasarkan penjelasan perusahaan, sistem Gorgon Halo kelas atas dirancang mendukung LLM berukuran melampaui 300B menggunakan quantization 4-bit. Dukungan pemrosesan ini menjadi pencapaian menarik bagi pengembang AI yang ingin bereksperimen secara lokal. Namun demikian, kemampuan memuat parameter bukan jaminan menghasilkan token dengan latensi rendah. Kecepatan sebenarnya ditentukan oleh kombinasi arsitektur model serta optimasi perangkat lunak.

Metode kompresi bobot berperan penting dalam mengurangi kebutuhan memori AI. Jika bobot disimpan menggunakan banyak bit, jaringan saraf menggunakan ruang memori lebih banyak. Untuk ilustrasi teknis, model 300 miliar parameter pada presisi 16-bit memerlukan kira-kira 600 gigabyte sebelum overhead. Ketika quantization empat bit digunakan, ukuran dasar bobot dapat mendekati 150GB. Namun demikian, format quantization nyata memerlukan metadata. Tidak hanya untuk bobot, aplikasi AI harus menyediakan memori untuk konteks dan proses pendukung. Karena alasan tersebut, ukuran file tidak boleh menjadi satu-satunya acuan.

Peran CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2 pada Gorgon Halo

Tidak hanya mengutamakan kapasitas penyimpanan kerja, Gorgon Halo memadukan arsitektur CPU Zen 5, GPU terintegrasi berbasis RDNA 3.5, dan akselerator neural XDNA 2. Kombinasi tersebut mendukung pengelolaan komputasi berdasarkan kebutuhan aplikasi. CPU menangani berbagai proses aplikasi, sedangkan pemroses grafis berperan besar dalam perhitungan tensor. Sebagai akselerator tambahan, NPU dioptimalkan bagi beban AI tertentu. Berkat integrasi unit pemrosesan, pengembang dapat menyesuaikan metode pelaksanaan tugas. Meski memiliki beberapa akselerator, pemrosesan model mungkin hanya menggunakan komponen tertentu.

Pada konfigurasi tertinggi, AMD menghadirkan dukungan pemrosesan utama enam belas inti, GPU hingga 40 compute units, dan NPU hingga 55 TOPS. Kombinasi kemampuan ini dikembangkan bagi pekerjaan kreatif dan teknis. Walaupun angka TOPS menunjukkan kapasitas teoritis, kapasitas operasi mentah tidak otomatis menunjukkan hasil generasi token. Ketika menjalankan jaringan saraf berparameter tinggi, efisiensi memori serta runtime memiliki pengaruh besar. Karena itu, pengembang perlu memeriksa pengujian kecepatan token nyata, bukan hanya melihat angka spesifikasi.

Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif

Untuk memperlihatkan kemampuan platform, AMD menampilkan pengujian kinerja perusahaan. Evaluasi performa ini melibatkan berbagai tugas pemrosesan model seperti pembuatan gambar dan pemrosesan teks menggunakan model besar. Berdasarkan presentasi perusahaan, hasil perbandingan berbeda menurut tugas dari selisih performa kecil sekitar 1,1 kali hingga hasil tertentu yang mencapai 32,2 kali terhadap sistem lain yang menjadi acuan. Namun demikian, data performa merupakan klaim berdasarkan skenario perusahaan. Karena itu, angka tertinggi tidak menjamin setiap pekerjaan memperoleh percepatan serupa.

Pada sejumlah skenario benchmark, AMD memanfaatkan ComfyUI untuk pembuatan visual berbasis AI. Dalam evaluasi model bahasa digunakan model terkompresi dengan dukungan Unsloth pada sejumlah beban kerja AI. Jenis perangkat lunak pengujian dapat memengaruhi hasil benchmark. Selain itu, jumlah token masukan memiliki dampak terhadap latensi generasi token. Pada konteks sangat panjang, respons berpotensi menjadi lebih lambat meskipun model berhasil dimuat. Oleh karena itu, pengguna profesional dianjurkan memeriksa pengujian independen sebelum mengambil keputusan pembelian.

Teknologi Gorgon Halo Membuka Peluang Komputasi Mandiri Tanpa Cloud

Salah satu bidang penggunaan penting Gorgon Halo adalah pengujian model bahasa tanpa server eksternal. Berkat kapasitas komputasi yang tersedia, pengembang berpotensi menjalankan aplikasi generatif langsung pada perangkat yang dikelola sendiri. Kemampuan tersebut memungkinkan eksperimen model secara lebih mandiri. Pada kebutuhan pengembangan, tim internal bisa menyiapkan sistem pencarian informasi yang menangani data pada perangkat sendiri. Namun demikian, privasi tidak otomatis terjamin. Aplikasi pendukung dapat menyediakan sinkronisasi eksternal, sehingga izin dan konfigurasi perlu diperiksa.

Di samping penggunaan LLM, Gorgon Halo juga relevan untuk pembuatan agentic workflows. Pada arsitektur agen, pekerjaan dapat melibatkan sejumlah komponen. Pada contoh alur kerja, agen dapat membaca berkas referensi, kemudian menyusun ringkasan berdasarkan informasi yang tersedia. Ruang kerja komputasi yang besar berpotensi memungkinkan pemuatan beberapa komponen pemrosesan. Namun demikian, penggunaan beberapa agen tetap membutuhkan pembagian pekerjaan yang tepat. Selain itu, informasi keluaran sebaiknya diperiksa agar proses kerja berlangsung lebih andal.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Pengungkapan kemampuan Gorgon Halo oleh AMD menunjukkan kemajuan penting dalam dunia TEKNOLOGI kecerdasan buatan. Melalui dukungan kapasitas unified memory sebesar 192 gigabyte, alokasi grafis sampai 160GB, serta perpaduan komputasi umum, grafis, dan akselerator AI, sistem Gorgon Halo menawarkan kemampuan pengolahan AI generatif. Dukungan LLM berukuran lebih dari 300 miliar parameter menggunakan representasi model berpresisi rendah memberikan nilai penting bagi perusahaan teknologi. Namun demikian, kecepatan model sebaiknya diperiksa berdasarkan jenis pekerjaan dan konfigurasi perangkat. Karena itu, calon pengguna sebaiknya memilih perangkat sesuai kebutuhan. Dari sudut pandang Anda, seberapa penting kemampuan menjalankan model besar tanpa cloud? Anda dapat berbagi pandangan mengenai masa depan AI lokal.