Berita tentang orang Eropa yang memburu AC China baru-baru ini cukup panas, tapi mungkinkah:
Yang paling butuh AC adalah superkomputer AI (doge).
Jauh di Inggris, kejadian seperti ini terjadi beberapa hari lalu:
Salah satu superkomputer AI terkuat Inggris, Dawn, langsung lumpuh total selama seminggu penuh di bawah suhu 30-an derajat Celcius.
Spesifikasi superkomputer yang berada di Universitas Cambridge ini cukup mengesankan:
Bagian inti dari rencana pemerintah Inggris senilai 300 juta poundsterling untuk kapasitas komputasi AI nasional, 1024 GPU Intel, 256 server berpendingin cair, telah menopang lebih dari 350 proyek penelitian.
Januari lalu, baru saja mendapatkan pembaruan ekspansi senilai 36 juta poundsterling, diperkirakan kinerjanya akan meningkat 6 kali lipat.
Kemudian akhir Juni, datanglah gelombang panas, dan superkomputer itu pun mogok.
Yang lebih aneh lagi, penelitian yang sedang berjalan di superkomputer ini termasuk simulasi perubahan iklim.
Lho, gimana nih? Mesin yang digunakan untuk memprediksi pemanasan global, dikalahkan oleh pemanasan global itu sendiri.
37.7°C, 'Momen Kelam' yang Dialami Sebuah Superkomputer Tingkat Nasional
Ceritanya begini.
Bulan Juni tahun ini, Inggris dilanda gelombang panas Juni terganas yang pernah tercatat.
Pada 26 Juni, kota Lyndwood di daerah Norfolk mencapai suhu 37.7°C, memecahkan rekor Juni 35.6°C yang dipegang sejak 1957 dan 1976.
Badan Meteorologi Inggris langka mengeluarkan peringatan merah gelombang panas ekstrem selama tiga hari berturut-turut.
Lebih dari 1000 sekolah diliburkan, sinyal kereta api rusak karena suhu tinggi, permukaan jalan mulai meleleh.
Kemudian pada 27 Juni, saat puncak gelombang panas hari itu terjadi, sistem pendingin pusat data di kawasan barat Cambridge yang menampung superkomputer Dawn tidak sanggup lagi menahan panas.
(Catatan: Lyndwood dan Cambridge sama-sama berada di bagian timur Inggris, berjarak sekitar 103 km)
Dawn pun berhenti beroperasi.
△
Setelah kejadian, juru bicara Universitas Cambridge menyatakan kepada publik:
Dawn mengalami masalah teknis selama cuaca panas, kapasitas pendinginan telah pulih sepenuhnya, akses diharapkan akan dibuka kembali pada 6 Juli.
Tidak disebutkan penyebab pastinya, tapi intinya adalah:
Dari 27 Juni hingga 6 Juli, Dawn benar-benar 'beristirahat' lebih dari seminggu.
Bagi sebuah superkomputer yang terus membakar uang setiap jamnya dan setiap detiknya mendorong kemajuan penelitian, penghentian selama seminggu ini sungguh menakutkan.
Nah, yang paling terdampak sudah mulai terlihat.
Tim Profesor Vendruscolo dari Universitas Cambridge sedang menggunakan Dawn untuk melakukan skrining molekul obat baru Parkinson.
Kemampuan pembelajaran mesin Dawn dapat menyaring miliaran molekul dalam beberapa hari, mencari senyawa yang dapat berikatan dengan agregat protein terkait Parkinson.
Bagaimana kalau menggunakan metode tradisional? Setidaknya setahun, biaya jutaan poundsterling, dan hanya mencakup sebagian kecil yang dapat diselesaikan Dawn dalam beberapa jam.
Berhenti seminggu berarti jalur produksi penyelamat ini berhenti berputar.
Lennard Lee dari Universitas Oxford, kepala proyek AI dan Superkomputer untuk Vaksin Kanker di Inggris, timnya mendapatkan alokasi waktu komputasi Dawn sebanyak 10.000 jam GPU, menggunakan AI untuk mempercepat penemuan target vaksin kanker yang dipersonalisasi.
Lee pernah berkata sebelumnya:
Penemuan yang dulu butuh bertahun-tahun untuk diselesaikan, sekarang hanya butuh beberapa minggu.
Meskipun kemudian Lee mengatakan tidak ada data yang hilang dan tidak perlu mengulang pekerjaan, tetapi rasa lega dalam ucapannya itu sendiri menunjukkan keseriusan masalahnya.
Selain itu, model prediksi es laut IceNet yang dilatih British Antarctic Survey di Dawn terhenti, proyek skrining kanker ginjal AI yang dilatih mahasiswa doktoral Cambridge Bill McGough di Dawn juga terhenti... Hampir tak satupun dari 350 proyek yang berjalan di Dawn yang lolos.
Dan yang menyebabkan semua ini hanyalah suhu 37.7°C.
Baik, 'pelaku' sudah ditemukan, lalu siapa yang harus bertanggung jawab atas ini?
Setelah berputar-putar, tampaknya tidak ada yang mau menerima kesalahan ini.
Sistem pendingin Dawn disediakan oleh USystems, bagian dari grup Prancis Legrand. Setelah kejadian, USystems mengeluarkan pernyataan:
Perangkat kami beroperasi sepenuhnya sesuai spesifikasi desain selama kejadian, berkinerja normal.
Terjemahannya: Sistem pendingin rusak, tapi bukan salah kami, perangkat kami memang tidak dirancang untuk suhu seperti ini.
Apakah standar desainnya terlalu konservatif, atau perubahan iklimnya terlalu cepat?
Jawabannya mungkin: Keduanya.
Suhu ekstrem sejarah untuk bulan Juni di Inggris hanya 35.6°C, sistem pendingin Dawn kemungkinan besar dirancang sesuai dengan ukuran ini.
37.7°C, melebihi standar.
Dan 'kelebihan' ini datang tanpa peringatan, karena terakhir kali mencapai rekor ini, hampir 50 tahun yang lalu.
Selain itu, Dawn bukanlah satu-satunya korban.
Minggu yang sama, unit pendingin Rumah Sakit Queen Alexandra di Portsmouth, Inggris rusak, menyatakan keadaan darurat.
Kamar operasi berhenti, ruang kateter jantung berhenti, departemen pencitraan berhenti. Rumah sakit memberi tahu pasien:
Mohon bawa banyak air minum sendiri, karena rumah sakit sangat panas.
Rumah Sakit Universitas Norfolk dan Norwich (disingkat NNUH) lebih parah lagi:
Sistem pendingin semua pemindai MRI rusak karena suhu dan kelembaban tinggi, setidaknya 254 pasien rawat jalan dibatalkan.
Jadi, dalam beberapa hal:
Bukan superkomputernya yang rapuh, tapi infrastruktur pengendalian suhu di seluruh Inggris belum siap untuk cuaca seperti ini.
Bagaimana mungkin suhu 30-an derajat bisa melumpuhkan superkomputer?
Kejadian Dawn yang lumpuh karena panas ini, jika dilihat dalam garis waktu yang lebih panjang, sama sekali tidak mengejutkan.
Juli 2022, Inggris dilanda hari terpanas dalam sejarah saat itu (40.3°C).
Sistem pendingin pusat data Google London 'beberapa sistem redundan gagal secara bersamaan', terpaksa dimatikan untuk melindungi perangkat keras, layanan wilayah London Google Cloud terganggu lebih dari 18 jam sebelum pulih sepenuhnya.
△
Pusat data Oracle London South juga lumpuh pada hari yang sama, pernyataan Oracle menggunakan istilah yang menarik: 'Suhu tinggi non-musiman'.
Dari 2022 hingga 2026, 4 tahun telah berlalu, kejadian serupa terjadi lagi.
Saya jadi bertanya-tanya, apakah masalah ini begitu sulit, sampai-sampai tidak dapat dicegah sebelumnya?
Sebenarnya, suhu 30-an derajat melumpuhkan sebuah superkomputer, ada penjelasan tersendiri di baliknya, di mana hambatan terberatnya adalah pendinginan.
Terutama untuk wilayah Eropa, perangkat umumnya menggunakan pendinginan alami, yang secara alami dibatasi oleh suhu luar ruangan.
Bagaimana memahaminya?
Semua sistem pendinginan, tidak peduli seberapa canggih, pada akhirnya harus membuang panas ke udara luar, suhu udara luar adalah hambatan utama dari seluruh rantai.
Rantai ini jika dijelaskan seperti ini:
Chip mentransfer panas ke heat sink, heat sink mentransfer ke cairan pendingin atau udara, cairan pendingin mentransfer ke cooling tower, cooling tower mentransfer ke atmosfer.
Atmosfer adalah penerima terakhir.
Jadi, ketika atmosfer sendiri sudah 37°C, ia mulai tidak sanggup menerima panas lagi.
Secara spesifik, ketika suhu luar naik dari 20°C menjadi 37°C, efisiensi pendinginan cooling tower dan dry cooler bisa turun drastis 40% hingga 50%.
Kenapa tidak menyalakan AC? Karena kompresor efisiensinya menurun dalam suhu tinggi, arus meningkat, mudah panas dan trip.
Laporan insiden Oracle tahun 2022 menyatakan: Dua unit pendingin mengalami kegagalan saat diminta beroperasi di luar batas desain.
Situasi Dawn kali ini, secara masuk akal bisa diduga mungkin juga serupa.
Server Dell PowerEdge XE9640 yang digunakannya dilengkapi dengan sistem pendinginan cair langsung, yang merupakan skema pendinginan yang jauh lebih maju daripada pendingin udara tradisional.
Cairan pendingin mengalir langsung di permukaan chip, efisiensi menghilangkan panasnya jauh lebih tinggi daripada meniupkan udara.
Tapi sekali lagi, pendinginan cair hanya menyelesaikan efisiensi di dalam rak. Panas yang dibawa oleh cairan pendingin, tetap harus melalui unit distribusi pendingin, sirkuit air dingin fasilitas, cooling tower, dan akhirnya dibuang ke atmosfer luar. Tautan terakhir, masih dibatasi oleh suhu luar.
Dan sistem pendingin sekali berhenti, akan memicu serangkaian reaksi berantai.
Data penelitian menunjukkan, begitu sistem pendingin berhenti, dalam 5 menit suhu masuk server bisa melonjak dari 22°C menjadi lebih dari 35°C.
Menghadapi situasi seperti ini, chip akan memulai perlindungan diri:
Pertama, menurunkan frekuensi (thermal throttling), secara aktif mengurangi kecepatan operasi untuk mengurangi panas, kinerja merosot; jika suhu terus naik, melebihi ambang batas aman, akan memaksa shutdown.
Operator saat itu hanya punya dua pilihan:
Biarkan perangkat mati sendiri, mungkin merusak data;
>Atau matikan secara teratur dan aktif, melindungi perangkat keras tapi bisnis berhenti.Google, Oracle, Dawn Cambridge, semuanya memilih yang terakhir.
AI Semakin Kuat, Semakin Takut Panas
Ada yang lebih mengkhawatirkan lagi.
Seiring dengan pusat data AI yang terus 'membengkak', pengaruh suhu terhadap AI mungkin akan semakin signifikan.
Beberapa hari lalu menonton video di Bilibili, Lin mengunjungi pusat data Huawei secara langsung, ada sebuah perbandingan yang mengesankan:
Kepadatan daya satu rak pusat data tradisional sekitar 5 hingga 10 kilowatt, tapi rak pelatihan AI sudah mencapai 30 hingga 50 kilowatt, rak Nvidia GB200 NVL72 terbaru bahkan mencapai 120 hingga 132 kilowatt (generasi berikutnya Rubin mungkin mencapai 600 kilowatt).
Apa artinya ini? Panas yang dihasilkan satu rak AI 100 kilowatt setara dengan menyalakan 50 pemanas listrik secara bersamaan dalam ruangan seukuran bilik telepon.
Bayangkan pemanas kecil yang digunakan di musim dingin, masukkan semuanya ke dalam satu kabinet, itulah tekanan pendinginan yang dihadapi infrastruktur daya komputasi AI saat ini.
△
Yang lebih merepotkan lagi, GPU sendiri semakin 'panas'.
Nvidia V100 tahun 2017 sekitar 300 watt, H100 tahun 2023 melompat ke 700 watt, B200 tahun 2024 mencapai 1000 watt, B300 tahun 2025-2026 dan AMD MI355X langsung dinaikkan ke 1400 watt.
Tujuh tahun, panas yang dihasilkan per chip meningkat 3 sampai 5 kali lipat.
Jadi, baik dari sisi jumlah maupun chip individual, seiring AI semakin kuat, ia semakin takut panas, semakin butuh pendinginan.
Sampai di sini, kita bisa menemukan dua kurva yang sedang bertabrakan:
Chip semakin panas secara eksponensial, Bumi juga semakin panas dengan cepat.
Segalanya mulai menjadi lebih rumit.
Google sudah pergi ke Finlandia untuk membangun pusat data sejak 2011, Meta pergi ke Swedia utara, semuanya untuk menggunakan iklim dingin sebagai pendingin alami.
Elon Musk bahkan berpikir untuk membangun pusat data AI di luar angkasa.
Tapi pemerintah Inggris baru saja mengucurkan 36 juta poundsterling untuk ekspansi Dawn bulan Januari lalu, dan masih merencanakan superkomputer nasional baru di Edinburgh.
Desain pendinginan fasilitas-fasilitas ini, apakah dihitung berdasarkan musim panas Inggris era sebelumnya, atau berdasarkan normal baru yang sedang datang? Tidak ada yang tahu pasti.
Tapi ada satu hal yang pasti:
Superkomputer yang digunakan untuk memprediksi perubahan iklim, dihentikan oleh panas akibat perubahan iklim.
Ini sudah bukan sekadar lelucon, ini adalah tantangan nyata yang dihadapi infrastruktur di era AI.
Referensi:
[1]https://www.thetimes.com/uk/science/article/cambridge-ai-supercomputer-heatwave-shutdown-ns7rcmkgs
[2]https://www.datacenterdynamics.com/en/news/data-center-housing-uks-dawn-supercomputer-suffers-heatwave-related-outage-report/
[3]https://x.com/cashandcarrots/status/2074016783812505762
Artikel ini dari akun WeChat publik "Quantum Bit", penulis: Yishui
