INDONESIAINSIDE.ID – Dalam ajang Intel Vision 2024, Intel memperkenalkan Intel Gaudi 3 accelerator yang memberikan performa, keterbukaan dan pilihan untuk generative AI (GenAI) enterprise.
Intel juga memperkenalkan jajaran sistem AI baru yang skalabel dan terbuka, produk-produk generasi berikutnya dan kolaborasi strategis untuk mempercepat pengadopsian GenAI. Dengan hanya 10% perusahaan skala enterprise yang sukses menjadikan proyek GenAI menjadi produk pada tahun lalu. Penawaran terbaru Intel ini menjawab berbagai tantangan yang dihadapi perusahaan-perusahaan dalam meningkatkan inisiatif AI mereka.
“Inovasi terus berkembangan dengan kecepatan yang belum pernah terjadi sebelumnya. Hal ini dimungkinkan oleh teknologi silicon. Setiap perusahaan dengan cepat menjadi sebuah perusahaan AI,” kata CEO Intel Pat Gelsinger berdasarkan informasi yang diterima pada Sabtu (13/04/2024).
“Intel menghadirkan AI dimana saja di lingkungan enterprise, baik dari PC hingga data center dan edge. Platform Gaudi, Xeon dan Core Ultra yang terbaru menghadirkan rangkaian solusi kohesif sekaligus fleksibel. Dirancang khusus untuk memenuhi kebutuhan yang terus berubah dari para pelanggan dan mitra serta memanfaatan berbagai peluang yang luar biasa besar di depan mata,” ujarnya.
Berbagai perusahaan berupaya meningkatkan GenAI dari proyek uji coba menjadi produk. Untuk itu, mereka membutuhkan solusi-solusi yang siap digunakan serta dibangun dengan prosesor berkinerja tinggi yang hemat energi dan hemat biaya seperti Intel Gaudi 3 AI accelerator. Produk ini bisa menjawab kebutuhan akan kompleksitas, fragmentasi, keamanan data dan ketaatan terhadap peraturan.
Intel Gaudi 3 AI accelerator akan menjadi sumber kekuatan bagi sistem-sistem AI yang memiliki hingga puluhan akselerator yang terhubung melalui Ethernet standar umum. Intel Gaudi 3 menjanjikan kemampuan komputasi AI empat kali lipat untuk BF16 dan peningkatan bandwidth memori sebesar 1,5 kali lipat dibandingkan produk pendahulunya. Akselerator ini akan memberikan lompatan yang signifikan dalam pelatihan dan inferensi AI bagi perusaahaan-perusahaan global yang ingin menerapkan GenAI dalam skala besar.
Dibandingkan dengan Nvidia H100, Intel Gaudi 3 secara rata-rata diproyeksikan bisa melakukan pelatihan 50% lebih cepat dalam model-model Llama dengan parameter 7B dan 13B, dan model parameter GPT-3 175B. Selain itu, throughput inferensi Intel Gaudi 3 accelerator secara-rata-rata diproyeksikan akan mengungguli H100 sebesar 50% and 40% untuk rerata efisiensi daya inferensi dalam parameter Llama 7B dan 70B, dan model-model parameter Falcon 180B.
Intel Gaudi 3 menyediakan software terbuka berbasis komunitas dan jaringan Ethernet standar industri. Produk ini juga memungkinkan perusahaan-perusahaan secara fleksibel melakukan peningkatan dari single node ke cluster, super-cluster dan mega-cluster dengan ribuan node, sehingga mendukung inferensi, fine-tuning dan pelatihan dengan skala terbesar.
Dalam Intel Vision 2024, Intel juga memperkenalkan sejumlah pelanggan dan mitra baru Intel Gaudi accelerator. Pelanggan tersebut antara lain Bharti Airtel, Bosch, CtrlS, IBM, IFF, Landing AI, Ola, NAVER, NielsenIQ, Roboflow dan Seekr.
Di sisi lain, Intel akan segera menciptakan platform terbuka bagi AI untuk enterprise bersama dengan SAP, RedHat, VMware dan para pemimpin industri lainnya. Hal ini untuk mempercepat penerapan generative AI (GenAI) yang aman, yang didukung oleh retrieval-augmented generation (RAG).
Melalui Ultra Ethernet Consortium (UEC), Intel memimpin jaringan Ethernet terbuka untuk AI fabric. Intel memperkenalkan jajaran solusi Ethernet yang dioptimalkan untuk AI, termasuk AI NIC (network interface card) dan AI connectivity chiplets.
Apa yang dilakukan Intel dalam ajang Vision 2024 ini menegaskan komitmen perusahaan untuk membuat AI mudah diakses, terbuka dan aman bagi berbagai perusahaan di seluruh dunia. Dengan berbagai solusi dan kolaborasi ini, Intel siap memimpin dalam revolusi AI, menciptakan nilai yang belum pernah ada sebelumnya bagi perusahaan-perusahaan di mana saja