Figura 1: Vantaġġi ewlenin ta' Dense Wavelength Division Multiplexing Co-Packaged Optics (DWDMCPO). (Kreditu tal-immaġni: Scintil Photonics)
Hemm qal fil-qasam tad-disinn taċ-ċentru tad-dejta: "Uża kejbils tar-ram kull fejn ikun possibbli, u jirrikorri għat-teknoloġija ottika biss meta l-fibra hija assolutament meħtieġa." Għal snin sħaħ, l-approċċ pragmatiku tal-industrija kien li tipprijoritizza kejbils tar-ram bi prezz baxx-sakemm il-liġijiet tal-fiżika jġiegħlu titjib teknoloġiku. Iżda llum, hekk kif il-clusters tal-kompjuters tal-intelliġenza artifiċjali (AI) qed jimxu lejn l-iskala ta' "fabbriki tal-qawwa tal-kompjuters" li jħaddmu miljuni ta' unitajiet tal-ipproċessar tal-grafika (GPUs), u l-effettività tal-ispiża taċ-ċentru tad-data tiffaċċja pressjoni immensa, in-nies qed jiskopru li din "l-ebda{{4}ottika-alternattiva" ma waslet xi punt teknoloġiku daqshekk antiċipat.
Il-periti tan-netwerk ilhom konxji li l-kejbils tar-ram għandhom limitazzjonijiet sinifikanti fid-distanza tat-trażmissjoni taħt xenarji ta'-veloċità għolja, iżda ftit analizzaw il-kawżi sottostanti minn perspettiva fiżika fundamentali. Għalkemm l-inġiniera tan-netwerk imbuttaw il-limiti tad-distanza tat-trażmissjoni tal-kejbil tar-ram u l-bandwidth għall-estrem bl-għarfien espert tagħhom, ir-restrizzjonijiet tal-liġijiet tal-fiżika ma jistgħux jingħelbu; anke l-aktar disinji inġenjużi ta 'inġinerija jissieltu biex jegħlbu l-limitazzjonijiet inerenti tal-kejbils tar-ram. Il-fehim ta' dan jispjega għaliex l-industrija qed tiċċaqlaq b'mod urġenti lejn it-teknoloġija tal-Co-Ottika Ippakkjata (CPO).
Aktar ma tkun għolja l-frekwenza tas-sinjali elettriċi trażmessi permezz ta 'kejbils tar-ram, iktar tkun għolja r-rata tas-simbolu u l-bandwidth, u aktar informazzjoni jistgħu jġorru. Il-problema hija li hekk kif tiżdied il-frekwenza tas-sinjal, id-distanza tat-trażmissjoni tonqos b'mod sinifikanti. Hemm żewġ kawżi primarji ta 'telf tas-sinjal: l-effett tal-ġilda u telf dielettriku.
Effett tal-ġilda: Il-"Konċentrazzjoni tal-wiċċ" tal-kurrent
Meta sinjal AC jivvjaġġa minn kejbil tar-ram, il-kamp manjetiku li qed jinbidel jinduċi kurrenti eddy fil-konduttur. Il-kamp manjetiku ġġenerat minn dawn il-kurrenti eddy jikkanċella l-kamp manjetiku tas-sinjal fiċ-ċentru tal-kejbil. Aktar ma jinbidel malajr il-kamp manjetiku tas-sinjal-jiġifieri, iktar tkun għolja l-frekwenza-aktar dan l-effett ta' kanċellazzjoni jsir b'saħħtu.
Ir-riżultat dirett huwa li l-kurrent huwa "mbuttat" f'saff tal-wiċċ estremament irqiq tal-konduttur; il-ħxuna ta 'dan is-saff hija magħrufa bħala l-fond tal-ġilda. It-trażmissjoni tas-sinjali kurrenti fiċ-ċentri tad-dejta tal-AI komunement tuża frekwenzi madwar 53 GHz. F'din il-frekwenza, il-fond tal-ġilda tal-kejbils tar-ram huwa biss 0.3 μm. Tali saff ta 'trażmissjoni irqiq jutilizza inqas minn 1% taż-żona cross-transversali tal-konduttur, u jikkawża li r-reżistenza tal-kejbil tisplodi-anke taqbeż ir-reżistenza DC b'aktar minn 100 darba.
Telf Dielettriku: "Dissipazzjoni tal-Enerġija" fis-Saff tal-Insulazzjoni
Ħati ieħor ewlieni wara l-attenwazzjoni tas-sinjal fil-kejbils tar-ram huwa t-telf dielettriku. F'xenarji ta'-frekwenza għolja fil-livell tal-gigahertz, il-molekuli fi ħdan id-dielettriku iżolanti tal-kejbil ma jistgħux iżommu l-pass mal-varjazzjonijiet rapidi tal-kamp elettriku. Id-dewmien bejn il-varjazzjonijiet mgħaġġla tal-kamp elettriku u r-rispons li jibqa 'tal-molekuli jikkonverti l-enerġija elettromanjetika tas-sinjal f'enerġija termali, li tirriżulta f'telf ta' enerġija.
Telf Doppju: Id-Dgħjufija Fatali tal-Kejbils tar-Ram
Meta l-effett tal-ġilda u t-telf dielettriku jaġixxu flimkien, it-telf tas-sinjal fil-kejbils tar-ram jiżdied b'mod esponenzjali hekk kif tiżdied il-frekwenza.
Biex nispjega dan b'mod ċar: fi frekwenza ta' 50 GHz, anke b'kejbils tar-ram ta'-kwalità għolja, it-telf magħqud minn dawn iż-żewġ effetti se jikkonsma aktar minn 90% tal-baġit tal-qawwa tas-sinjal f'distanza ta' trażmissjoni ta' 2 metri. Il-proprjetajiet fiżiċi tal-kejbils tar-ram jiddettaw kontradizzjoni tal-qalba irrikonċiljabbli: il-bandwidth u d-distanza tat-trażmissjoni ma jistgħux jinkisbu simultanjament.
Dense Wavelength Division Multiplexing Ko-Ottika Ippakkjata (DWDMCPO)
Illum, il-konġestjoni tal-prestazzjoni għall-clusters ta' taħriġ tal-AI nbidel minn operazzjonijiet ta' punt floating-kull sekonda (FLOPS) għal rekwiżiti ta' bandwidth.
F'netwerks skalabbli b'memorja konsistenti, hija meħtieġa ġenerazzjoni ġdida ta 'teknoloġija tan-netwerking biex tissodisfa talbiet multipli:
| Billi l-konsum tal-enerġija jsir fattur li jillimita fl-iskjeramenti taċ-ċentru tad-dejta, huwa meħtieġ konsum tal-enerġija aktar baxx għal kull bit;
| Peress li l-operazzjonijiet floating-point m'għadhomx il-konġestjoni, għandha tiġi pprovduta bandwidth akbar għal kull proċessur;
| Hekk kif l-ispazju fiżiku għall-iskjerament tal-fibra jsir limitat, trid tinkiseb densità ogħla ta 'integrazzjoni;
| Biex ikun jista' jsir skalar orizzontali cross-rack, għandhom ikunu appoġġati distanzi itwal ta' trażmissjoni;
| Biex tinżamm il-konsistenza tad-dominju tal-memorja u tittejjeb l-utilizzazzjoni tal-GPU, hija meħtieġa latency ultra-baxxa;
| Affidabbiltà għolja u faċilità ta 'manutenzjoni huma wkoll essenzjali.
Meta l-latenza tad-denb issir restrizzjoni ewlenija, li ssodisfa r-rekwiżiti ta 'hawn fuq se jsaħħaħ b'mod sinifikanti l-utilizzazzjoni tal-GPU (xi stimi tal-mudell jindikaw li l-utilizzazzjoni tista' aktar milli tirdoppja), tnaqqas sostanzjalment il-konsum tal-enerġija tan-netwerk, u ttejjeb il-prestazzjoni tal-mudell minn tarf-sa-. Bħalissa, DWDMCPO huwa l-uniku approċċ tekniku li kapaċi jilħaq dawn ir-rekwiżiti stretti fl-istess ħin, u se jġib trasformazzjonijiet ta' benefiċċju ta' kost-kost-bogħod lill-operaturi taċ-ċentri tad-dejta ta' skala kbira.
Billi tittrasmetti tulijiet ta' mewġ multipli ta' dawl fuq fibra waħda, it-teknoloġija DWDMCPO tipprovdi lil kull GPU b'kanali multipli wiesgħa u b'veloċità baxxa-. Billi tkabbar in-numru ta 'wavelengths trażmessi minn 1 għal 8, 16, jew saħansitra aktar, dan il-mudell ta' skala ġeometrika huwa lest li jirrevoluzzjona n-netwerks tal-AI, hekk kif it-teknoloġija DWDM rivoluzzjonat is-sinsla tal-Internet 25 sena ilu.
Ir-rata ta' trasmissjoni ta'-kanal wieħed tad-DWDM hija bejn wieħed u ieħor 50–64 Gbit/s, li taqa' fil-kategorija ta' trażmissjoni ta'-veloċità baxxa. Din il-karatteristika tippermetti lill-inġiniera biex jissimplifikaw l-iskema ta 'kodifikazzjoni tad-dejta minn PAM4 għal NRZ. Din is-simplifikazzjoni telimina stadji multipli tal-ipproċessar tas-sinjali li jiswew ħafna flus u-intensivi tal-enerġija, u tikseb tnaqqis doppju fil-konsum tal-enerġija u l-latenza billi tissimplifika l-mogħdija tat-trażmissjoni tas-sinjal.
Il-latency tad-denb huwa l-"qattiel siekta" li jnaqqas ir-ROI taċ-ċentru tad-dejta. Meta l-clusters tal-GPU jipproċessaw tokens tad-dejta, jeħtieġu input bitstream kontinwu u prevedibbli. Jekk bit wieħed jesperjenza dewmien fit-trażmissjoni, il-bqija tal-cluster isir idle, u jnaqqas b'mod sinifikanti l-utilizzazzjoni tal-proċessur. Hekk kif in-numru ta 'proċessuri fi cluster jiżdied, il-probabbiltà ta' latency tal-bit tail p999-livell togħla b'mod sinifikanti, u l-utilizzazzjoni tal-proċessur tonqos kif xieraq.
Mingħajr teknoloġija DWDMCPO ta'-latenza baxxa,-enerġija baxxa,-medda twila, l-iskalabbiltà tan-netwerks tkun limitata, u l-prestazzjoni ta' mudelli ta' lingwi kbar (LLMs) tkun konsegwentement ristretta. Netwerks skalabbli ta'-skala akbar, aktar ċatt,-baxx ta' latenza jistgħu jappoġġaw caches ta' valur-ċave ikbar, li jżidu direttament id-daqs tat-tieqa tal-kuntest tal-mudell u r-rilevanza tal-kontenut, u b'hekk jespandu b'mod effettiv il-memorja ta' ħidma effettiva tal-LLM. Żieda fil-bandwidth ta' latenza baxxa-għandha wkoll il-potenzjal li żżid in-numru ta' saffi tat-transformer, li tippermetti lill-mudelli li jkollhom kapaċitajiet ta' ħsieb u raġunament aktar profondi. Fil-qosor: it-tkissir tar-restrizzjonijiet tal-komunikazzjoni bejn iċ-ċipep jippermetti lill-LLMs jaħżnu aktar informazzjoni fil-memorja tax-xogħol u jlestu aktar passi ta 'raġunament mingħajr stuttering.
Il-kejbils tar-ram kien bla dubju teknoloġija kbira fil-ġurnata tiegħu, iżda l-limitazzjonijiet fiżiċi inerenti tiegħu ħolqu ħtieġa urġenti għal teknoloġiji ta 'netwerking aktar avvanzati biex itejbu b'mod sinifikanti r-ritorn fuq l-investiment għal ċentri ta' data hyperscale u jespandu l-kapaċitajiet ta 'LLMs.
Fi ftit snin, iċ-ċentri tad-dejta tal-AI mibnija kompletament fuq kejbils tar-ram se jsiru inkonċepibbli daqs-konnessjonijiet tal-internet fuq distanza twila li jiddependu biss fuq ir-ram.
Operaturi ta' ċentri tad-dejta fuq skala kbira, investituri, żviluppaturi LLM, u partijiet interessati oħra fl-infrastruttura tal-AI għandhom jieħdu din ix-xejra teknoloġika bis-serjetà: mhux biss se jsawru mill-ġdid b'mod fundamentali l-pajsaġġ tal-kost-effettività taċ-ċentri tad-dejta iżda wkoll jespandu kontinwament il-konfini tal-kapaċitajiet tal-AI. L-intrapriżi li jadottaw it-teknoloġija DWDMCPO l-ewwel jistabbilixxu vantaġġi arkitettoniċi f'termini ta 'spejjeż, konsum ta' enerġija u prestazzjoni; dawn il-vantaġġi se jkomplu jamplifikaw hekk kif l-infrastruttura tal-IA tiżdied.
