Di era ketika harga komponen PC meroket setinggi roket yang gagal mendarat di Mars, membeli hardware baru terasa seperti mencoba membeli ginjal di pasar gelap. Raspberry Pi 5 yang katanya ‘murah’ kini harganya bikin dompet menangis meraung-raung, dan jangan coba-coba bertanya soal GPU jika keberadaan kantong bolong adalah sebuah keniscayaan. Kita sudah jauh tertinggal dari masa-masa kejayaan komputer seharga kopi sachet dan RAM yang dibuang gratis. Saatnya kembali ke masa lalu, ketika menyulap router Wi-Fi jadi komputer adalah puncak pencapaian teknologi rumahan.
Kabel Ajaib dari Surga Data Center
Oscar Molnar, seorang jenius yang tampaknya menolak kenyataan pahit industri hardware, berhasil mendapatkan unit GPU server-grade NVIDIA Tesla V100 SXM2 16GB dengan banderol ‘hanya’ $250. Anggap saja ini adalah tiket kelas bisnis untuk menyelundupkan performa data center ke dalam casing PC pribadi. Kartu grafis ini, yang pernah berjaya di salon-salon hyperscale computing, kini berstatus ‘pensiunan dini’ untuk aplikasi komersial, namun masih punya ‘nyawa’ untuk tugas-tugas yang lebih rendah hati. Menancapkannya di PC biasa jelas bukan perkara mudah; tidak ada slot PCIe standar, dan konektor dayanya pun jelas bukan yang biasa ditemui di warung komponen pinggir jalan.
V100 SXM2 memang didesain untuk bersarang di pelukan server NVIDIA DGX dan sistem komputasi skala besar. Berbeda dengan kartu grafis pada umumnya, ia bersandar pada soket proprietary dan bergantung pada infrastruktur server khusus untuk tenaga, pendinginan, dan komunikasi data. Untungnya, dunia maya menyediakan solusi: papan adaptor SXM2-ke-PCIe pihak ketiga. Dengan sedikit ‘sulap’ dan perpaduan antara adaptor tersebut dengan V100 bekas, Molnar berhasil menempatkan kartu ‘pensiunan’ ini berdampingan dengan sang RTX 4080 yang masih ‘muda’.
Meskipun V100 terlahir di tahun 2017, ia masih membawa bekal 16GB memori HBM2 dengan *bandwidth* memori mencapai 900GB/s. Angka ini bahkan melampaui *bandwidth* yang dimiliki oleh RTX 4080 yang lebih modern. Untuk pekerjaan inferensi AI, di mana perpindahan bobot model melalui memori seringkali menjadi titik krusial, *bandwidth* memori adalah raja yang tak terbantahkan, lebih penting dari banyak hal yang seringkali disepelekan.
Simfoni Dingin dan Kipas Angin Raksasa
Tentu saja, proses ‘rehabilitasi’ GPU server untuk penggunaan rumahan tidak semulus jalan tol. Kipas pendingin pada adaptor tersebut terdengar seperti jet tempur yang siap lepas landas; Molnar mencatat level kebisingan 82 dB. Namun, sang insinyur ‘daun muda’ ini menemukan bahwa, meskipun konektornya tidak biasa, kipas tersebut tetap mengikuti sinyal kontrol PWM standar. Dengan sedikit ‘ramuan’ berupa kabel jumper dan kabel kustom, kipas berhasil dihubungkan langsung ke header motherboard, meredam deru bak penyedot debu menjadi bisikan angin sepoi-sepoi, sambil menjaga suhu di bawah 50°C saat beban penuh.
Dengan kedua GPU terpasang, sistem Molnar kini memiliki total 32GB VRAM. Menggunakan teknik tensor splitting di llama.cpp, model bahasa besar (LLM) dapat didistribusikan melintasi kedua perangkat. Dalam salah satu uji coba, sebuah model Qwen3.6 dengan 27 miliar parameter yang terkuantisasi, dan memiliki jendela konteks 128.000 token, mampu mencapai kecepatan inferensi 32 token per detik. Ini bukan sekadar angka; ini adalah bukti bahwa kombinasi perangkat keras ‘eksotis’ bisa memberikan performa yang mengejutkan.
Konfigurasi perangkat lunak pun tidak luput dari tantangan. Driver NVIDIA yang lebih baru telah menghentikan dukungan untuk arsitektur Volta yang digunakan oleh V100. Molnar terpaksa melakukan ‘tarian’ konfigurasi di NixOS, menyematkan versi driver, kernel, dan CUDA tertentu agar RTX 4080 dan V100 dapat bekerja sama dengan harmonis. Ini bukan untuk para pecundang; perlu ketekunan dan sedikit ‘kenekatan’ untuk menjinakkan perangkat keras yang ‘bandel’.
Bukan untuk Kaum ‘Plug and Play’
Proyek seperti ini jelas bukan untuk semua orang. Ini adalah semacam olahraga ekstrem bagi para penggila teknologi yang haus akan solusi murah namun bertenaga. Ini adalah pengingat bahwa jika ada kemauan kuat dan sedikit kreativitas (serta keberanian menelan ludah menghadapi dokumentasi teknis yang kering kerontang), potensi komputasi yang luar biasa masih bisa digapai tanpa harus menjual ginjal kedua.
Keberhasilan Molnar bukan hanya soal merakit PC impian dengan anggaran terbatas. Ini adalah manifesto yang menentang tren pasar hardware yang semakin tidak ramah kantong. Di saat produsen terus mendorong batas harga dan obsolescence terencana, selalu ada celah bagi para inovator untuk menemukan ‘harta karun’ di tempat yang tak terduga. V100 yang ‘dibuang’ dari pusat data kini menemukan ‘rumah’ baru, memberikan tenaga yang setara atau bahkan melebihi kartu grafis ‘baru’ yang harganya selangit. Ini adalah perayaan atas kecerdikan dalam menghadapi keterbatasan, sebuah pengingat bahwa di dunia teknologi, terkadang barang bekas adalah emas yang belum digali.
Kita tidak bisa menyalahkan orang yang memilih jalur aman dengan membeli komponen baru. Namun, ada kepuasan tersendiri ketika sebuah proyek yang tampaknya mustahil berhasil diwujudkan. V100 yang tadinya hanya berfungsi sebagai pajangan di gudang data center kini menjadi ‘mesin pembunuh’ untuk inferensi AI di rumah. Ini adalah bukti nyata bahwa inovasi tidak selalu datang dari laboratorium perusahaan teknologi besar; terkadang, ia lahir dari garasi, meja kerja yang berantakan, dan semangat pantang menyerah seorang individu. Jadi, sebelum meratapi harga komponen yang gila-gilaan, coba lihat sekeliling. Mungkin ada ‘permata’ tersembunyi yang menunggu untuk diselamatkan dan diberi kehidupan baru.
