AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

Inovasi Gorgon Halo Membawa Teknologi AI Berkapasitas Besar ke Komputer Pribadi

Transformasi TEKNOLOGI artificial intelligence menghadirkan perubahan terhadap kebutuhan perangkat komputasi. Berkat pengembangan Ryzen AI Max 400 Series, AMD mengembangkan kemampuan komputer pribadi untuk mendukung aplikasi generatif tanpa ketergantungan penuh pada cloud. Keluarga prosesor terbaru tersebut menggabungkan unit pemrosesan utama, akselerasi GPU, dan akselerator kecerdasan buatan dalam platform prosesor terintegrasi. Perpaduan teknologi ini dikembangkan guna mendukung beban kerja kecerdasan buatan dengan pemanfaatan sumber daya yang fleksibel. Dalam pengembangan lokal, ruang penyimpanan kerja menjadi kebutuhan mendasar. Karena itu, AMD mengutamakan arsitektur unified memory sebagai bagian penting pengembangan.

Platform Ryzen AI Max 400 Series menjadi pengembangan lanjutan dari arsitektur Ryzen AI Max sebelumnya. Perubahan yang paling menonjol adalah perluasan ruang kerja terpadu. Dalam konfigurasi terdahulu, kapasitas maksimum mencapai 128GB. Sementara itu, kapasitas memori meningkat hingga 192GB. Peningkatan tersebut memberikan ruang lebih besar bagi aplikasi generatif. Meski spesifikasinya lebih tinggi, konfigurasi akhir tetap ditentukan produsen komputer. Oleh sebab itu, pengguna perlu memeriksa spesifikasi perangkat sebelum membeli komputer untuk AI lokal.

Teknologi RAM Bersama pada Ryzen AI Max 400 Series

Daya tarik utama Gorgon Halo adalah arsitektur unified memory yang memberikan ruang kerja bersama bagi prosesor dan grafis pool RAM yang sama. Berbeda dari sistem yang memakai kartu grafis terpisah, sistem terpadu tersebut memungkinkan pertukaran informasi lebih langsung antara unit pemrosesan yang terintegrasi. Nilai tambahan sistem tersebut dapat membantu ketika memproses data generatif. Dalam pemrosesan bahasa alami, parameter jaringan saraf membutuhkan ruang penyimpanan kerja. Berkat ketersediaan RAM terpadu yang luas, perangkat berpotensi memuat model lebih besar.

Menurut informasi perusahaan, arsitektur tersebut mendukung pembagian ruang kerja GPU sebesar 160 gigabyte. Besarnya alokasi memori tersebut berbeda dari kapasitas VRAM dedicated pada GPU diskret. Dalam arsitektur terpadu, memori grafis berasal dari RAM bersama. Karakteristik tersebut perlu diperhatikan karena sistem operasi juga menggunakan RAM. Jika memori hampir penuh, aplikasi lain mungkin mengalami kekurangan memori. Tidak kalah penting, bandwidth memori juga memengaruhi kelancaran pemrosesan model. Dengan mempertimbangkan faktor tersebut, kapasitas memori tinggi perlu diimbangi kemampuan komputasi memadai.

Teknologi AMD Mendukung Inferensi Model Bahasa Besar Tanpa Cloud

Salah satu kemampuan yang menjadi perhatian adalah pemrosesan jaringan saraf berskala tinggi. Menurut AMD, sistem Gorgon Halo kelas atas dirancang mendukung LLM berukuran melampaui 300B menggunakan kompresi parameter berpresisi 4-bit. Dukungan pemrosesan ini membuka peluang baru bagi organisasi teknologi yang mengembangkan aplikasi tanpa selalu menggunakan server cloud. Walaupun kemampuan tersebut menjanjikan, dukungan ukuran model belum berarti mendapatkan respons sangat cepat. Kecepatan sebenarnya ditentukan oleh kombinasi jumlah token konteks serta konfigurasi sistem.

Quantization menjadi komponen utama dalam memungkinkan model berukuran besar berjalan. Pada format presisi tinggi, setiap parameter membutuhkan alokasi RAM yang lebih tinggi. Dalam perhitungan sederhana, sistem AI berukuran 300B pada representasi FP16 memiliki ukuran parameter teoritis mendekati 600GB. Jika dikompresi menjadi 4-bit, estimasi parameter murni menjadi sekitar 150 gigabyte. Namun demikian, penyimpanan bobot terkompresi memiliki overhead. Tidak hanya untuk bobot, proses inferensi menggunakan memori untuk konteks dan proses pendukung. Karena alasan tersebut, kapasitas RAM harus direncanakan secara menyeluruh.

Peran CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2 pada Gorgon Halo

Selain memori terpadu, Gorgon Halo mengintegrasikan unit komputasi utama generasi Zen 5, pemroses grafis Radeon RDNA 3.5, dan akselerator neural XDNA 2. Rancangan pemrosesan tersebut memungkinkan pembagian pekerjaan berdasarkan karakter beban kerja. Unit pemrosesan utama digunakan untuk mengelola instruksi umum, sedangkan GPU dapat mempercepat operasi paralel. Sementara itu, NPU dirancang untuk menjalankan aktivitas kecerdasan buatan dengan dukungan perangkat lunak. Melalui arsitektur tersebut, aplikasi memiliki peluang memanfaatkan akselerator yang didukung. Meski memiliki beberapa akselerator, dukungan perangkat lunak tetap menentukan penggunaan.

Dalam model Ryzen AI Max PRO 400 Series kelas atas, AMD menyediakan prosesor dengan maksimum 16 core, kapasitas pemrosesan grafis hingga 40 CU, dan NPU hingga 55 TOPS. Rancangan perangkat keras tersebut ditujukan untuk aktivitas komputasi profesional. Meski nilai komputasi terlihat tinggi, angka TOPS bukan satu-satunya penentu hasil generasi token. Ketika menjalankan jaringan saraf berparameter tinggi, efisiensi memori serta runtime perlu diperhatikan secara khusus. Oleh sebab itu, penilaian perangkat sebaiknya menggunakan hasil benchmark pada model yang relevan, bukan mengandalkan klaim performa teoritis.

Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif

Dalam menjelaskan performa perangkat, AMD menampilkan hasil benchmark internal. Pengujian tersebut melibatkan berbagai tugas pemrosesan model seperti pemrosesan grafis berbasis AI dan pemrosesan teks menggunakan model besar. Berdasarkan presentasi perusahaan, hasil perbandingan berbeda menurut tugas dari sekitar 1,1 kali hingga peningkatan maksimum 32,2 kali terhadap konfigurasi pesaing dalam pengujian. Sebagai catatan penting, data performa merupakan klaim berdasarkan skenario perusahaan. Dengan mempertimbangkan sumber pengujian, peningkatan maksimum bukan gambaran performa umum.

Pada sejumlah skenario benchmark, AMD menjalankan ComfyUI untuk pembuatan visual berbasis AI. Perusahaan juga memakai model terkompresi dengan dukungan Unsloth pada sejumlah beban kerja AI. Pemilihan format model turut menentukan konsumsi memori. Selain itu, jumlah token masukan memiliki dampak terhadap latensi generasi token. Ketika jumlah token meningkat besar, throughput mungkin berkurang meskipun kapasitas memori mencukupi. Dengan demikian, pengguna profesional dianjurkan memeriksa benchmark sesuai model yang digunakan sebelum menyimpulkan keunggulan performa.

Gorgon Halo Membantu Pengembangan AI Lokal dan Sistem Agen Digital

Salah satu bidang penggunaan penting Gorgon Halo adalah pengembangan AI lokal. Melalui platform tersebut, organisasi memiliki kesempatan memanfaatkan aplikasi generatif langsung pada komputer pengembangan. Fleksibilitas pemrosesan tersebut berpotensi mendukung pengujian aplikasi tanpa ketergantungan penuh pada cloud. Pada kebutuhan pengembangan, pengembang berpeluang membangun asisten analisis dokumen yang menangani data pada perangkat sendiri. Meski model berjalan tanpa cloud, privasi tidak otomatis terjamin. Aplikasi pendukung mungkin memiliki koneksi jaringan, sehingga administrator sebaiknya meninjau alur data.

Tidak hanya mendukung pemrosesan teks, Gorgon Halo juga relevan untuk pengembangan agen AI. Dalam sistem AI agent, beberapa proses dapat berjalan berurutan. Pada contoh alur kerja, sistem berpotensi memeriksa dokumen proyek, kemudian menghasilkan rekomendasi berdasarkan informasi yang tersedia. Memori besar dapat membantu menyimpan informasi konteks berukuran besar. Namun demikian, penggunaan beberapa agen tetap membutuhkan pengaturan sumber daya. Sebagai pertimbangan tambahan, tindakan otomatis harus diawasi agar kesalahan tidak diteruskan ke tahap berikutnya.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Pengungkapan kemampuan Gorgon Halo oleh AMD menjadi perkembangan menarik dalam pengembangan sistem AI pada perangkat pribadi. Melalui dukungan kapasitas unified memory sebesar 192 gigabyte, dukungan memori GPU hingga 160GB, serta perpaduan komputasi umum, grafis, dan akselerator AI, platform tersebut memberikan kesempatan pengembangan agen digital. Dukungan LLM berukuran lebih dari 300 miliar parameter menggunakan representasi model berpresisi rendah membuka pilihan menarik bagi peneliti AI. Walaupun spesifikasinya menjanjikan, performa nyata harus dinilai berdasarkan dukungan perangkat lunak dan konfigurasi perangkat. Dengan mempertimbangkan berbagai faktor, perusahaan dianjurkan menentukan konfigurasi berdasarkan beban kerja. Bagaimana pendapat Anda mengenai, apakah memori terpadu 192GB akan membuat AI lokal semakin menarik? Mari sampaikan pengalaman Anda mengenai perkembangan teknologi AMD.