Dark Mode Light Mode

Nvidia Andalkan CPU Xeon 6 Intel untuk DGX B300: Pergeseran Kekuatan di Pasar AI

GPU glow up dan CPU yang nggak mau ketinggalan. Dunia AI emang nggak ada matinya, kan? Perkembangan teknologinya kayak speed dating, cepet banget! Tapi tenang, kita bakal bahas semuanya biar kamu nggak bingung.

Peran CPU dalam Era AI: Masih Relevan Kah?

Mungkin banyak yang mikir, "AI kan urusannya GPU, CPU ngapain?" Nah, justru itu! Walaupun GPU jadi bintang utama dalam deep learning dan komputasi paralel, CPU tetep punya peran penting. Ibaratnya, GPU itu chef handal yang masak data jadi informasi, tapi CPU yang ngatur dapur dan mastiin semua bahan (data) dateng tepat waktu. Contohnya, key-value caches dan vector databases dalam Retrieval Augmented Generation (RAG) seringkali jalan di CPU.

Nvidia dan Ambisi ARM: Grace CPU Belum Menggulingkan Dominasi x86?

Dulu, pas Nvidia ngenalin Grace CPU berbasis ARM, banyak yang ngira Intel dan AMD bakal kelabakan. Empat tahun kemudian, silikon ARM ini emang jadi jantung dari sistem AI terkuat Nvidia. Tapi, kenyataannya, Grace belum sepenuhnya ngegantiin x86. Nvidia masih gandeng Intel, kok!

Intel Xeon 6: Jagoan Baru untuk ‘Momong' GPU Nvidia Blackwell

Di ajang Computex, Intel baru aja ngenalin tiga prosesor Xeon 6 baru. Salah satunya, Xeon 6776P, bakal jadi CPU utama di platform DGX B300 Nvidia yang diumumin di GTC Maret lalu. Jadi, tiap sistem B300 bakal punya sepasang Xeon 6776P 64-core yang tugasnya nyuplai data ke 16 GPU Blackwell Ultra. Bayangin aja, kayak babysitter buat GPU!

Xeon 6776P: CPU Spesialis buat Generative AI?

Yang menarik dari Xeon 6776P ini, dia nggak kayak Xeon biasa. Chip ini dioptimisasi khusus buat ‘momong' GPU. Walaupun generative AI identik sama kartu grafis super kuat, CPU tetep punya kerjaan penting. Misalnya, mindahin key-value caches dari memori sistem ke HBM, atau ngejalanin workloads kayak vector databases.

Teknologi Andalan Intel: Priority Core Turbo (PCT) dan Speed Select Technology Turbo Frequency (SST-TF)

Xeon 6776P dilengkapi sama teknologi Priority Core Turbo (PCT) dan Speed Select Technology Turbo Frequency (SST-TF). Intinya, teknologi ini ngebatasin frekuensi sebagian besar core biar core sisanya bisa boost lebih tinggi dan konsisten, bahkan pas chip lagi kerja keras.

Milan Mehta, senior product planner Intel, bilang teknologi ini memungkinkan hingga delapan core per socket jalan di 4.6GHz – 700MHz di atas turbo maksimal – sementara 48 core sisanya stuck di frekuensi dasar 2.3GHz. Mirip kayak strategi Intel di chip desktop Alder Lake, yang mindahin tugas background ke efficiency cores biar performance cores bisa fokus ke workloads prioritas.

Strategi ‘Pin Clock': Efisiensi Tanpa E-Cores

Karena chip Intel seri 6700P nggak punya e-cores, fungsi ini dicapai lewat clock pinning. Mehta ngejelasin, "Kami nemuin kombinasi core yang tinggi dan rendah ini ngebantu nyalurin data ke GPU. Emang nggak bikin beda 3x lipat, tapi bakal ningkatin utilisasi GPU secara keseluruhan dan performa inference serta training AI."

Konfigurasi DGX B300: Tetap Standar

Walaupun CPU-nya udah dioptimisasi buat tugas host AI, B300 tetep ngikutin konfigurasi DGX standar. Tiap CPU terhubung ke empat modul dual-GPU Blackwell Ultra SXM lewat ConnectX-8 NICs dalam susunan kayak rantai.

Intel Tetap Jadi Andalan Nvidia (dan Bahkan AMD!)

Keputusan Nvidia buat milih Intel buat DGX next-gen mereka nggak terlalu ngejutin. Soalnya, Xeon generasi keempat dan kelima Intel juga dipake di platform DGX H100, H200, dan B200 Nvidia. Terakhir kali Nvidia gandeng AMD buat sistem DGX mereka itu tahun 2020, pas A100 debut. Bahkan, pas AMD ngenalin pesaing H100 akhir 2023 lalu, mereka nggak ragu masangin chip itu sama Intel biar bisa ngalahin Nvidia.

RTX Pro Servers: x86 Tetap Jadi Pilihan

Nvidia juga tetep setia sama x86 buat RTX Pro Servers mereka yang baru dirilis. Tapi, karena ini lebih ke reference design daripada penawaran DGX pihak pertama, Lenovo, HPE, Dell, dan lainnya yang bakal nentuin CPU mana yang mau dipasangin sama delapan GPU RTX Pro 6000 Server di sistem itu.

NVLink Fusion: Membuka Pintu untuk CPU ARM dan Akselerator AI Lain

Dengan diperkenalkannya NVLink Fusion minggu ini, Nvidia bakal perluas dukungan ke lebih banyak platform CPU, termasuk chip server berbasis ARM dari Qualcomm dan Fujitsu. Teknologi ini memungkinkan vendor CPU pihak ketiga buat pake interconnect fabric NVLink 1.8 TBps buat komunikasi langsung sama grafis Nvidia. Bahkan, Nvidia juga bakal dukung pengikatan akselerator AI pihak ketiga ke CPU Grace mereka sendiri.

Nvidia Vera: Masa Depan CPU ARM untuk AI

Walaupun Nvidia ngebuka pintu buat platform CPU baru, mereka tetep investasi di silikon ARM buatan sendiri. Di GTC Maret lalu, Nvidia ngasih bocoran soal platform CPU Vera mereka yang bakal dateng. CPU ini, yang namanya diambil dari astronom Vera Rubin, bakal ngegantiin Grace tahun depan. Chip ini bakal punya 88 "custom Arm cores" dengan simultaneous multithreading yang ngedorong jumlah thread jadi 176 per socket, plus interconnect NVLink-C2C 1.8 TBps terbaru Nvidia.

Vera: CPU Efisien untuk Menjaga GPU Tetap Berdendang?

Meskipun jumlah core-nya lebih banyak, TDP 50W chip ini nunjukkin kalo core-nya mungkin dirancang seminimal mungkin biar GPU tetep lancar. Walaupun kedengeran aneh, banyak sistem AI ini bisa dibilang kayak appliances yang berinteraksi lewat API. Vera dijadwalin debut bareng GPU Rubin 288 GB Nvidia tahun depan.

Persaingan GPU dan CPU untuk AI: Sebuah Simbiosis yang Berkelanjutan

Pada akhirnya, persaingan antara GPU dan CPU dalam dunia AI ini bukan tentang siapa yang lebih unggul. Justru, ini tentang kolaborasi dan simbiosis mutualisme. GPU jagoan dalam komputasi paralel, CPU ngatur dan nyediain data. Dan buat kita, sebagai konsumen, kita cuma bisa berharap semoga persaingan ini terus memacu inovasi yang lebih keren lagi. Keep up the good work buat para insinyur di balik layar!

Add a comment Add a comment

Leave a Reply

Your email address will not be published. Required fields are marked *

Previous Post

Trailer Debut, Detail, dan Screenshot Hell Maiden

Next Post

ENHYPEN Bagikan Teaser Enam Lagu 'Desire: Unleash': Kekuatan Penuh Terungkap