Google Mulai Jual TPU, Raksasa Teknologi Ingin Menghasilkan 'Token Murah' dengan Produksi Chip AI
Google mulai menjual chip TPU mereka ke klien dan pusat data pihak ketiga, yang sebelumnya hanya tersedia melalui layanan cloud. TPU (Tensor Processing Unit) adalah chip khusus yang dirancang untuk komputasi AI, terutama dalam operasi matematika matriks dan tensor, membuatnya sangat efisien untuk model AI besar.
Dengan mengkombinasikan ribuan TPU menjadi kluster superkomputer, Google menciptakan pusat komputasi AI yang sangat efisien. Hal ini memungkinkan Gemini menawarkan harga token yang lebih rendah dibandingkan pesaing seperti OpenAI, sehingga lebih kompetitif di pasar.
Langkah ini dianggap sebagai tantangan bagi Nvidia, yang selama ini mendominasi pasar chip AI dengan ekosistem CUDA-nya. Meskipun Nvidia masih menjadi standar industri, Google berfokus pada efisiensi dan biaya yang lebih rendah, terutama untuk inferensi AI, di mana biaya token menjadi faktor kritis.
Selain Google, perusahaan cloud seperti Huawei Cloud dan Alibaba Cloud juga mengembangkan ekosistem komputasi AI mandiri dengan chip buatan sendiri, seperti Ascend dan Zhenwu. Mereka tidak hanya fokus pada kinerja chip, tetapi juga pada kemampuan sistem untuk mengubah chip menjadi solusi produktif yang terjangkau.
Pasar komputasi AI kini bergeser dari hanya mengejar kinerja tertinggi menjadi menekankan efisiensi dan biaya yang lebih rendah. Dengan komputasi AI semakin menjadi sumber daya dasar seperti listrik atau air, perusahaan yang dapat menyediakan solusi terjangkau dan terintegrasi akan lebih kompetitif di masa depan.
marsbit06/24 10:24
