Rajah 1: Kelebihan utama Dense Wavelength Division Multiplexing Co-Packaged Optics (DWDMCPO). (Kredit imej: Scintil Photonics)
Terdapat pepatah dalam bidang reka bentuk pusat data: "Gunakan kabel tembaga di mana mungkin, dan gunakan teknologi optik hanya apabila gentian sangat diperlukan." Selama bertahun-tahun, pendekatan pragmatik industri adalah mengutamakan-kabel tembaga kos rendah sehingga undang-undang fizik memaksa peningkatan teknologi. Tetapi hari ini, apabila gugusan pengkomputeran kecerdasan buatan (AI) sedang bergerak ke arah skala "kilang kuasa pengkomputeran" yang menggunakan berjuta-juta unit pemprosesan grafik (GPU) dan keberkesanan kos-pusat data menghadapi tekanan yang besar, orang ramai mendapati bahawa "tiada-optik-alternatif" ini telah tiba lebih cepat daripada titik perubahan antisipologi.
Arkitek rangkaian telah lama menyedari bahawa kabel tembaga mempunyai had yang ketara dalam jarak penghantaran di bawah-senario kelajuan tinggi, tetapi hanya sedikit yang menganalisis punca asas dari perspektif fizikal asas. Walaupun jurutera rangkaian telah menolak had jarak penghantaran kabel tembaga dan lebar jalur ke tahap yang melampau dengan kepakaran mereka, kekangan undang-undang fizik tidak dapat diatasi; malah reka bentuk kejuruteraan yang paling bijak berjuang untuk mengatasi batasan yang wujud pada kabel tembaga. Memahami perkara ini menjelaskan mengapa industri sedang beralih segera ke arah teknologi-Packaged Optics (CPO) bersama.
Lebih tinggi frekuensi isyarat elektrik yang dihantar melalui kabel tembaga, lebih tinggi kadar simbol dan lebar jalur, dan lebih banyak maklumat yang boleh dibawa. Masalahnya ialah apabila kekerapan isyarat meningkat, jarak penghantaran berkurangan dengan ketara. Terdapat dua punca utama kehilangan isyarat: kesan kulit dan kehilangan dielektrik.
Kesan Kulit: "Kepekatan Permukaan" Arus
Apabila isyarat AC bergerak melalui kabel kuprum, medan magnet yang berubah-ubah mendorong arus pusar dalam konduktor. Medan magnet yang dihasilkan oleh arus pusar ini membatalkan medan magnet isyarat di tengah kabel. Lebih cepat isyarat medan magnet berubah-iaitu, lebih tinggi frekuensi-semakin kuat kesan pembatalan ini.
Hasil langsung ialah arus "diperah" ke dalam lapisan permukaan konduktor yang sangat nipis; ketebalan lapisan ini dikenali sebagai kedalaman kulit. Penghantaran isyarat semasa dalam pusat data AI biasanya menggunakan frekuensi sekitar 53 GHz. Pada frekuensi ini, kedalaman kulit kabel tembaga hanya 0.3 μm. Lapisan penghantaran nipis sedemikian menggunakan kurang daripada 1% daripada luas keratan rentas-konduktor, menyebabkan rintangan kabel meroket-malah melebihi rintangan DC lebih daripada 100 kali ganda.
Kehilangan Dielektrik: "Penyelesapan Tenaga" dalam Lapisan Penebat
Satu lagi punca utama di sebalik pengecilan isyarat dalam kabel tembaga ialah kehilangan dielektrik. Dalam senario frekuensi tinggi-pada paras gigahertz, molekul dalam dielektrik penebat kabel tidak dapat seiring dengan turun naik pesat medan elektrik. Kelewatan antara turun naik pesat medan elektrik dan tindak balas tertinggal molekul menukarkan tenaga elektromagnet isyarat kepada tenaga haba, mengakibatkan kehilangan tenaga.
Kerugian Dwi: Kelemahan Maut Kabel Tembaga
Apabila kesan kulit dan kehilangan dielektrik bertindak serentak, kehilangan isyarat dalam kabel kuprum meningkat secara eksponen apabila kekerapan meningkat.
Untuk menggambarkan ini dengan jelas: pada frekuensi 50 GHz, walaupun dengan-kabel tembaga berkualiti tinggi, gabungan kehilangan daripada kedua-dua kesan ini akan menggunakan lebih 90% daripada belanjawan kuasa isyarat dalam jarak penghantaran 2 meter. Sifat fizikal kabel tembaga menentukan percanggahan teras yang tidak dapat didamaikan: lebar jalur dan jarak penghantaran tidak boleh dicapai secara serentak.
Padat Divisyen Multiplexing Co-Optik Berpakej (DWDMCPO)
Hari ini, kesesakan prestasi untuk kluster latihan AI telah beralih daripada -operasi titik terapung sesaat (FLOPS) kepada keperluan lebar jalur.
Dalam rangkaian berskala dengan ingatan yang konsisten, teknologi rangkaian generasi baharu diperlukan untuk memenuhi pelbagai permintaan:
|Memandangkan penggunaan kuasa menjadi faktor pengehad dalam penggunaan pusat data, penggunaan kuasa yang lebih rendah bagi setiap bit diperlukan;
| Memandangkan operasi titik terapung-bukan lagi halangan, lebar jalur yang lebih besar mesti disediakan untuk setiap pemproses;
| Oleh kerana ruang fizikal untuk penggunaan gentian menjadi terhad, ketumpatan integrasi yang lebih tinggi mesti dicapai;
| Untuk mendayakan penskalaan mendatar-rak, jarak penghantaran yang lebih panjang mesti disokong;
| Untuk mengekalkan konsistensi domain memori dan meningkatkan penggunaan GPU, kependaman ultra-rendah diperlukan;
| Kebolehpercayaan yang tinggi dan kemudahan penyelenggaraan juga penting.
Apabila kependaman ekor menjadi kekangan teras, memenuhi keperluan di atas akan meningkatkan penggunaan GPU dengan ketara (sesetengah anggaran model menunjukkan penggunaan boleh lebih daripada dua kali ganda), mengurangkan penggunaan kuasa rangkaian dengan ketara dan meningkatkan-ke-prestasi model akhir. Pada masa ini, DWDMCPO ialah satu-satunya pendekatan teknikal yang mampu memenuhi keperluan ketat ini secara serentak, dan ia akan membawa transformasi manfaat-mencapai kos-jauh kepada pengendali pusat data skala besar.
Dengan menghantar berbilang panjang gelombang cahaya melalui satu gentian, teknologi DWDMCPO menyediakan setiap GPU dengan berbilang saluran lebar dan{0}}berlajuan rendah. Dengan menskalakan bilangan panjang gelombang yang dihantar daripada 1 kepada 8, 16, atau lebih, corak penskalaan geometri ini bersedia untuk merevolusikan rangkaian AI, sama seperti teknologi DWDM merevolusikan tulang belakang Internet 25 tahun yang lalu.
Kadar penghantaran-saluran tunggal DWDM ialah kira-kira 50–64 Gbit/s, yang termasuk dalam kategori penghantaran-rendah. Ciri ini membolehkan jurutera memudahkan skim pengekodan data daripada PAM4 kepada NRZ. Penyederhanaan ini menghapuskan berbilang peringkat pemprosesan isyarat yang mahal dan{7}}intensif, mencapai dwi pengurangan dalam penggunaan kuasa dan kependaman dengan memperkemas laluan penghantaran isyarat.
Kependaman ekor ialah "pembunuh senyap" yang menghakis ROI pusat data. Apabila kluster GPU memproses token data, mereka memerlukan input aliran bit yang berterusan dan boleh diramal. Jika bit tunggal mengalami kelewatan penghantaran, selebihnya kluster menjadi melahu, dengan ketara mengurangkan penggunaan pemproses. Apabila bilangan pemproses dalam kelompok meningkat, kebarangkalian kependaman bit ekor peringkat p999 meningkat dengan ketara, dan penggunaan pemproses menurun dengan sewajarnya.
Tanpa kependaman-rendah, kuasa-rendah, jarak-panjang teknologi DWDMCPO, kebolehskalaan rangkaian akan terhad dan akibatnya prestasi model bahasa besar (LLM) akan terkekang. Rangkaian berskala-yang lebih besar, lebih rata, rendah-rendah boleh menyokong cache nilai-kekunci yang lebih besar, secara langsung meningkatkan saiz tetingkap konteks model dan perkaitan kandungan, dengan itu mengembangkan memori kerja berkesan LLM dengan berkesan. Lebar jalur kependaman rendah-yang meningkat juga berpotensi untuk meningkatkan bilangan lapisan pengubah, membolehkan model memiliki keupayaan pemikiran dan penaakulan yang lebih mendalam. Ringkasnya: menerobos kekangan komunikasi antara cip membolehkan LLM menyimpan lebih banyak maklumat dalam ingatan kerja dan melengkapkan lebih banyak langkah penaakulan tanpa gagap.
Pengkabelan tembaga sudah pasti merupakan teknologi yang hebat pada zamannya, tetapi batasan fizikalnya yang wujud telah mewujudkan keperluan mendesak untuk teknologi rangkaian yang lebih maju untuk meningkatkan pulangan pelaburan dengan ketara untuk pusat data skala besar dan mengembangkan keupayaan LLM.
Dalam beberapa tahun, pusat data AI yang dibina sepenuhnya pada kabel tembaga akan menjadi tidak dapat dibayangkan sama seperti-sambungan Internet jarak jauh yang bergantung semata-mata pada tembaga.
Pengendali pusat data berskala besar, pelabur, pembangun LLM dan pihak berkepentingan lain dalam infrastruktur AI mesti memandang serius arah aliran teknologi ini: ia bukan sahaja secara asasnya akan membentuk semula landskap keberkesanan kos-pusat data tetapi juga terus mengembangkan sempadan keupayaan AI. Perusahaan yang menggunakan teknologi DWDMCPO terlebih dahulu akan mewujudkan kelebihan seni bina dari segi kos, penggunaan kuasa dan prestasi; kelebihan ini akan terus bertambah apabila infrastruktur AI meningkat.
