AMD Instinct: Akselerator AI Terbaru dengan Performa Unggulan dan Kinerja Lebih Baik

BalikpapanTv.id-AMD meluncurkan perkembangan terbaru dari jajaran akselerator mereka, AMD Instinct, pada acara Computex 2024 di Taipei, Taiwan. CEO AMD Lisa Su memperkenalkan roadmap multi-tahun terbaru yang mengeksplorasi peningkatan performa AI dan kemampuan memori dalam produk mereka.
AMD meluncurkan akselerator terbaru, AMD Instinct MI325X, pada kuartal keempat 2024. Dengan memori HBM3E 288GB dan bandwidth memori 6 terabyte per detik, akselerator ini memiliki kapasitas dan kinerja komputasi yang 13 kali lebih baik dari kompetitornya.
AMD memperkenalkan akselerator seri AMD Instinct MI350 berbasis arsitektur AMD CDNA 4, yang dijadwalkan akan rilis pada 2025. Seri ini meningkatkan kinerja inferensi AI sebesar 35 kali dibandingkan seri MI300 yang menggunakan arsitektur CDNA 3.
AMD sedang mempersiapkan peluncuran akselerator MI400 series pada 2026 dengan arsitektur CDNA "Next" untuk meningkatkan kemampuan dalam inferensi dan pelatihan AI skala besar.AMD ROCm 6 merupaka ekosistem software AI yang terus diperkuat, memungkinkan akselerator AMD Instinct MI300X meningkatkan kinerja untuk berbagai model bahasa besar (LLM) yang populer.
Dalam demo, server dengan delapan akselerator AMD Instinct MI300X dan ROCm 6 berhasil meningkatkan kinerja inferensi serta pembuatan token Meta Llama-3 70B sebanyak 13 kali lipat dibandingkan pesaing.
Pelanggan juga dapat mengalami peningkatan kinerja inferensi serta throughput pembuatan token sebanyak 12 kali lipat pada Mistral-7B dengan satu akselerator AMD Instinct MI300X dan ROCm 6, dibandingkan dengan kompetitor.
AMD Instinct MI300X semakin diminati oleh berbagai mitra dan pelanggan. Misalnya, Microsoft Azure menggunakan akselerator ini untuk Azure OpenAI dan mesin virtual Azure ND MI300X V5 terbaru. Akselerator MI300X juga diintegrasikan oleh Dell Technologies dalam PowerEdge XE9680 untuk mendukung beban kerja AI perusahaan.
Supermicro menyediakan solusi dengan akselerator AMD Instinct, sementara Lenovo mengusung inovasi Hybrid AI dengan ThinkSystem SR685a V3 dan HPE mempercepat beban kerja AI dalam HPE Cray XD675 dengan memanfaatkan akselerator ini.
Brad McCredie, Wakil Presiden Korporat Data Center Accelerated Compute AMD, mengonfirmasi bahwa akselerator AMD Instinct MI300X mendapat dukungan yang kuat dari berbagai mitra dan pelanggan, seperti Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo, dan beberapa lainnya.
"Dengan rangkaian produk tahunan kami yang diperbarui, kami tiada henti dalam langkah inovasi kami memberikan kemampuan dan kinerja kepemimpinan yang diharapkan oleh industri AI dan pelanggan kami untuk mendorong evolusi berikutnya dalam pelatihan dan inferensi AI data center," kata McCredie.
Jadilah pembaca setia, gabung sekarang juga di channel kami!




