F1RSTIDKetika pusat data menggabungkan berbagai akselerator, kecepatan perpindahan data antarchip mulai sama pentingnya dengan kemampuan chip itu sendiri.
Delos Data, startup yang didirikan veteran Intel, mengumpulkan US$100 juta untuk mengembangkan chip dan perangkat lunak jaringan AI. Perusahaan membidik lingkungan pusat data heterogen, tempat GPU dan akselerator dari banyak pemasok perlu bekerja sebagai satu sistem.
Kemacetan berpindah ke jaringan
Pelatihan dan inferensi model besar membagi pekerjaan ke banyak chip. Jika data terlambat berpindah, prosesor mahal menunggu tanpa menghasilkan pekerjaan. Akibatnya, efisiensi energi turun dan biaya per tugas naik. Jaringan berkecepatan tinggi dengan perangkat lunak pengatur yang cerdas dapat mengurangi waktu menganggur tersebut.
Dalam komputasi AI berskala besar, performa sistem ditentukan oleh hubungan antarkomponen, bukan satu chip tercepat.
Mengapa topik ini penting?
Dominasi satu ekosistem mendorong permintaan solusi yang dapat menghubungkan perangkat berbeda. Pendekatan terbuka memberi operator pusat data fleksibilitas dalam memilih akselerator dan mengurangi ketergantungan. Namun teknologi baru harus membuktikan kompatibilitas, keandalan, dan penghematan biaya dalam operasi nyata.
Pelajaran untuk pembeli infrastruktur
Organisasi sebaiknya menilai total biaya sistem: jaringan, energi, pendinginan, utilisasi, serta perangkat lunak orkestrasi. Indonesia yang sedang mengembangkan kapasitas pusat data perlu menghindari perencanaan berbasis jumlah GPU saja. Desain jaringan dan ketersediaan tenaga ahli menentukan apakah investasi benar-benar produktif.