Perusahaan AI milik Elon Musk, xAI, baru-baru ini meluncurkan superkomputer baru yang dijuluki Colossus. Dan seperti namanya, komputer itu besar.
Komputer tersebut adalah sistem pelatihan kecerdasan buatan yang menurut Musk berjalan pada 100.000 chip Nvidia H100, unit pemrosesan grafis canggih yang menjadi penting dalam perlombaan AI.
Untuk memperjelasnya, model bahasa besar Llama 3 milik Meta dilatih pada 16.000 chip H100. Meta mengatakan pada bulan Maret pihaknya akan terus berinvestasi dalam infrastruktur AI dengan menambahkan dua kluster 24.000 chip baru.
Dengan kata lain, Colossus milik Musk sangat kuat. Dan itu dapat membantu membantunya mengejar ketertinggalan dari para pelopor industri AI.
Tetapi beberapa pemimpin teknologi terkemuka tidak begitu yakin.
Salah seorang pendiri LinkedIn, Reid Hoffman, mengatakan kepada The Information, sebuah publikasi teknologi, bahwa superkomputer xAI hanyalah “taruhan yang harus diperhitungkan” dalam bidang persaingan AI generatif.
Menurut Informasi, Hoffman berarti Colossus hanya memungkinkan xAI untuk mengejar ketinggalan ke perusahaan AI lain yang lebih maju, seperti OpenAI dan Anthropic.
Chris Lattner, CEO Modular AI, mengatakan dalam sebuah diskusi panel di AI Summit yang diselenggarakan The Information minggu lalu Bahwa ketergantungan Musk yang besar pada chip Nvidia yang mahal dan terbatas juga tidak konsisten dengan upaya miliarder itu untuk membangun GPU-nya sendiri, yang disebut Dojo, The Information melaporkan.
Meta, Microsoft, Alphabet, dan Amazon semuanya mengembangkan chip AI mereka sendiri bahkan saat mereka terus menimbun GPU Nvidia.
“Bedanya adalah Elon telah bekerja di Dojo selama bertahun-tahun sekarang,” kata Lattner kepada Business Insider melalui email.
Musk telah menyatakan kekhawatirannya mengenai tantangan dalam memperoleh lebih banyak chip Nvidia yang banyak diminati dan mengatakan bahwa proyek Dojo miliknya akan membantu mengurangi ketergantungan perusahaannya pada pembuat chip tersebut.
“Kami melihat adanya peluang untuk bersaing dengan Nvidia melalui Dojo,” kata Musk selama panggilan pendapatan Tesla pada bulan Juli. “Kami tidak punya pilihan lain.”
Saat berbicara tentang Colossus on X pada awal September, Musk mengatakan ia bermaksud menggandakan ukuran superkomputer menjadi 200.000 chip dalam beberapa bulan.
Dia mengatakan klaster tersebut dibangun hanya dalam waktu 122 hari — sebuah prestasi mengesankan yang belum ada perusahaan lain yang mampu menandinginya, menurut The Information.
Tidak jelas apakah Colossus menjalankan 100.000 GPU secara bersamaan, yang akan membutuhkan teknologi jaringan canggih dan banyak energi.
“Musk sebelumnya mengatakan klaster 100.000 chip itu sudah beroperasi pada akhir Juni,” The Information melaporkan. “Namun saat itu, perusahaan listrik setempat mengatakan secara terbuka bahwa xAI hanya memiliki akses ke beberapa megawatt daya dari jaringan listrik setempat.”
Bulan lalu, CNBC melaporkan bahwa kelompok advokasi lingkungan telah mengeluh bahwa xAI menjalankan turbin gas untuk menghasilkan lebih banyak listrik untuk pusat data tanpa izin.
Media tersebut melaporkan bahwa Southern Environmental Law Center menulis dalam surat kepada departemen kesehatan setempat bahwa xAI telah memasang dan mengoperasikan setidaknya 18 turbin tanpa izin “dan kemungkinan lebih banyak lagi yang akan segera dibangun” untuk melengkapi kebutuhan energinya yang besar.
Perusahaan utilitas setempat, Memphis Light, Gas and Water, mengatakan kepada CNBC bahwa mereka telah menyediakan listrik sebesar 50 megawatt untuk xAI sejak awal Agustus, tetapi fasilitas tersebut memerlukan tambahan 100 megawatt untuk beroperasi.
Pengembang klaster data mengatakan kepada The Information bahwa ini hanya dapat memberi daya pada beberapa ribu GPU. Perusahaan Musk akan membutuhkan gardu listrik lain untuk mendapatkan daya yang cukup untuk menjalankan 100.000 chip.
Hoffman dan Musk tidak segera menanggapi permintaan komentar dari Business Insider.