人工智能時(shí)代傳輸網(wǎng)絡(luò)的未來規(guī)劃

逍遙設(shè)計(jì)自動化

引言
' p2 d5 t5 d' z$ w人工智能（AI）的快速發(fā)展正在重塑網(wǎng)絡(luò)技術(shù)的格局，特別是在光互連領(lǐng)域。隨著我們步入新的計(jì)算時(shí)代，了解AI的發(fā)展將如何影響傳輸網(wǎng)絡(luò)以及如何為這種即將到來的轉(zhuǎn)變做好準(zhǔn)備非常重要。本文將探討AI時(shí)代傳輸網(wǎng)絡(luò)未來規(guī)劃的挑戰(zhàn)和解決方案[1]。
0 x9 {/ J! }6 U  V7 d
6 Y/ P7 V( a8 e% Z; |' P0 l+ Q
. d: l' N9 A' `2 H1 xAI的興起及其對光網(wǎng)絡(luò)的影響
生成式AI應(yīng)用的激增使光學(xué)行業(yè)處于技術(shù)演進(jìn)的前沿。改進(jìn)的光互連對于緩解AI集群內(nèi)的帶寬限制變得越來越重要。這一趨勢在2024年OFC大會上成為熱門話題，行業(yè)預(yù)測AI集群應(yīng)用的光收發(fā)器市場將出現(xiàn)顯著增長。

圖1：AI集群以太網(wǎng)光收發(fā)器銷售預(yù)測

0 ]7 Q5 H" U. V6 b6 J如圖1所示，未來五年內(nèi)AI集群光收發(fā)器的銷售預(yù)計(jì)將達(dá)到約520億美元。這一預(yù)測強(qiáng)調(diào)了光技術(shù)在支持AI基礎(chǔ)設(shè)施方面將發(fā)揮的重要作用。

$ w0 V' Q* _. D" ]0 V' o雖然大多數(shù)注意力集中在AI集群內(nèi)的短距離互連上，但考慮對AI數(shù)據(jù)中心環(huán)境之外的更廣泛傳輸網(wǎng)絡(luò)的影響也很重要。問題是：AI流量將如何影響大都市、長途和更長距離應(yīng)用中的光傳輸，這些應(yīng)用廣泛使用相干傳輸技術(shù)？

3 P# S" B0 L* d' F( G從過去吸取經(jīng)驗(yàn)：應(yīng)用對傳輸網(wǎng)絡(luò)的影響
5 ~  D$ _$ y7 j+ P; h( b* Y6 h為了理解AI對傳輸網(wǎng)絡(luò)的潛在影響，回顧以前的帶寬密集型應(yīng)用如何塑造網(wǎng)絡(luò)流量模式會有所幫助。讓我們考慮幾個(gè)例子：

搜索應(yīng)用：AI訓(xùn)練過程類似于搜索引擎爬蟲收集數(shù)據(jù)進(jìn)行索引，而AI推理類似于用戶查詢搜索引擎。雖然單個(gè)搜索相關(guān)流量可能很小，但累積效應(yīng)對整體傳輸流量貢獻(xiàn)顯著。

視頻內(nèi)容分發(fā)：視頻流媒體的增長導(dǎo)致網(wǎng)絡(luò)負(fù)擔(dān)增加，特別是高分辨率內(nèi)容。這個(gè)挑戰(zhàn)通過內(nèi)容緩存得到解決，將熱門內(nèi)容放置在更靠近終端用戶的位置，以減少整體網(wǎng)絡(luò)流量和延遲。

云計(jì)算：云服務(wù)的興起導(dǎo)致數(shù)據(jù)中心內(nèi)部和數(shù)據(jù)中心之間的流量（東西向流量）增加，因?yàn)楣ぷ髫?fù)載跨越多個(gè)站點(diǎn)。AI應(yīng)用可能遵循類似的模式，訓(xùn)練數(shù)據(jù)和推理模型分布在物理上不同的位置。
% [, g6 y; X5 R  l$ C[/ol]
1 Y6 Y) e2 X& [- y! k* N這些例子說明了AI應(yīng)用的增長可能如何導(dǎo)致網(wǎng)絡(luò)運(yùn)營商需要擴(kuò)展數(shù)據(jù)中心互連、大都市、區(qū)域甚至長途和海底網(wǎng)絡(luò)的容量。

! G( ?0 j" A9 }" Y* ^3 D& yAI網(wǎng)絡(luò)中的功耗-延遲平衡
AI基礎(chǔ)設(shè)施發(fā)展的關(guān)鍵因素是AI集群和數(shù)據(jù)中心的巨大功耗需求。這個(gè)挑戰(zhàn)讓人想起云服務(wù)增長時(shí)期，當(dāng)時(shí)獲取便宜的電力資源推動了大型數(shù)據(jù)中心的選址。然而，電力設(shè)施限制導(dǎo)致采用物理分布式架構(gòu)，依賴高容量傳輸互連來維持所需的網(wǎng)絡(luò)拓?fù)洹?font class="jammer">0 x+ f  `4 G8 l& L9 Q% H7 q

圖2：由于設(shè)施功耗限制導(dǎo)致網(wǎng)絡(luò)Fabric物理擴(kuò)展的場景

2 O% V2 Y5 ~3 Z/ k- v5 Z' {3 E圖2說明了功耗限制如何導(dǎo)致網(wǎng)絡(luò)Fabric的物理擴(kuò)展，需要高容量光互連。這種AI應(yīng)用的分布式網(wǎng)絡(luò)方法由于訓(xùn)練和推理過程的特定計(jì)算和延遲要求而帶來獨(dú)特的挑戰(zhàn)。
6 `- E# m7 w# @+ O! l; L! j
AI網(wǎng)絡(luò)中的延遲考慮
; u/ ?8 R3 H5 w0 a在設(shè)計(jì)針對AI優(yōu)化的傳輸網(wǎng)絡(luò)時(shí)，了解延遲要求非常重要。在AI訓(xùn)練階段，AI集群內(nèi)需要極低的延遲來高效處理傳入的數(shù)據(jù)集。然而，收集這些數(shù)據(jù)集的過程可能對延遲不太敏感。
% ^: M, N) l. `4 [3 X5 `1 m0 U
圖3：訓(xùn)練模式下AI集群內(nèi)需要極低延遲
; T& J& ?% P4 c
* \8 T: n/ n% E. E3 I. J# V圖3展示了訓(xùn)練模式下AI集群內(nèi)的延遲要求。雖然AI訓(xùn)練的地理分布并不理想，但功耗限制可能需要采用分布式AI訓(xùn)練技術(shù)來嘗試緩解引入的延遲影響。
6 C% c6 b1 M7 c; G" |
對于AI推理，目標(biāo)是最小化用戶查詢和傳輸結(jié)果之間的延遲。這種延遲受查詢復(fù)雜性和推理模型與用戶之間的"跳數(shù)"影響。

( J8 ^! e! p' G; c  {+ c3 {3 E圖4：最小化AI推理的延遲
. A4 w8 f" W9 _! c% M" J
圖4強(qiáng)調(diào)了最小化AI推理延遲的重要性。業(yè)界正在積極討論如何在訪問推理模型時(shí)減少延遲，以及如何有效地將訓(xùn)練和推理功能分布到集中式架構(gòu)之外，以解決單站點(diǎn)功耗限制的方法。

傳輸網(wǎng)絡(luò)未來規(guī)劃策略
9 ^, P, p6 _1 Z- A為了準(zhǔn)備網(wǎng)絡(luò)的AI驅(qū)動未來，可以采用幾種策略來未來規(guī)劃傳輸網(wǎng)絡(luò)：

投資高容量相干傳輸：AI網(wǎng)絡(luò)架構(gòu)的擴(kuò)展可能會遵循類似于云架構(gòu)的模式，高容量相干傳輸使物理擴(kuò)展成為可能，緩解了電源限制。相干光互連已經(jīng)提供每波長1.2T的性能優(yōu)化轉(zhuǎn)發(fā)器解決方案和400G路由器到路由器波長，并正在向使用MSA可插拔模塊的800G發(fā)展。

規(guī)劃分布式架構(gòu)：考慮到功耗限制和延遲因素，網(wǎng)絡(luò)設(shè)計(jì)師應(yīng)該預(yù)料到分布式AI訓(xùn)練和推理能力的需求。這種方法將需要在物理分離的站點(diǎn)之間建立強(qiáng)大的高容量互連。

優(yōu)化靈活擴(kuò)展：隨著AI應(yīng)用的發(fā)展，傳輸網(wǎng)絡(luò)必須設(shè)計(jì)成能夠靈活擴(kuò)展帶寬并適應(yīng)不斷變化的流量模式。這可能涉及實(shí)施軟件定義網(wǎng)絡(luò)（SDN）和網(wǎng)絡(luò)功能虛擬化（NFV）技術(shù)，以實(shí)現(xiàn)動態(tài)資源分配。

優(yōu)先考慮能源效率：考慮到AI基礎(chǔ)設(shè)施的巨大功耗需求，專注于節(jié)能網(wǎng)絡(luò)技術(shù)將非常重要。這不僅包括AI集群本身，還包括傳輸網(wǎng)絡(luò)組件。

增強(qiáng)邊緣計(jì)算能力：為了解決AI推理的延遲問題，考慮加強(qiáng)邊緣計(jì)算基礎(chǔ)設(shè)施。這可能涉及將推理模型部署在更靠近終端用戶的位置，并確保邊緣站點(diǎn)與中央AI資源之間的高容量、低延遲連接。

監(jiān)控和分析流量模式：實(shí)施強(qiáng)大的網(wǎng)絡(luò)監(jiān)控和分析工具，以了解AI相關(guān)流量如何影響網(wǎng)絡(luò)的不同部分。這些數(shù)據(jù)對于做出關(guān)于網(wǎng)絡(luò)升級和擴(kuò)展的明智決策將非常寶貴。
[/ol]
結(jié)論
9 b- K( X4 q+ V$ iAI應(yīng)用的興起為傳輸網(wǎng)絡(luò)帶來了挑戰(zhàn)和機(jī)遇。通過從帶寬密集型應(yīng)用的過去經(jīng)驗(yàn)中學(xué)習(xí)，并仔細(xì)考慮AI工作負(fù)載的獨(dú)特需求，網(wǎng)絡(luò)運(yùn)營商和設(shè)計(jì)師可以為AI時(shí)代的基礎(chǔ)設(shè)施做好未來規(guī)劃。關(guān)鍵在于通過創(chuàng)新的網(wǎng)絡(luò)架構(gòu)和先進(jìn)的光技術(shù)，平衡功耗限制、延遲要求和帶寬需求。隨著繼續(xù)關(guān)注不斷發(fā)展的AI領(lǐng)域，高容量相干傳輸將在塑造網(wǎng)絡(luò)未來方面發(fā)揮關(guān)鍵作用，使AI基礎(chǔ)設(shè)施能夠在大都市、長途和全球網(wǎng)絡(luò)中實(shí)現(xiàn)物理擴(kuò)展和優(yōu)化。

) S! B7 L, H6 E  N3 T參考文獻(xiàn)
[1] E. Park, "Future Proofing Transport Networks for AI," Acacia Communications, Sep. 10, 2024. [Online]. Available: https://acacia-inc.com/blog/future-proofing-transport-networks-for-ai/

% v# J1 ?: j8 g5 @0 @! S9 YEND

; U7 ]8 W5 ~& c( x" Q4 e% k
0 [( V9 G- v7 `- n" z# ?軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
點(diǎn)擊左下角"閱讀原文"馬上申請
. R  ?; C+ y* A  B: ~* u; u
歡迎轉(zhuǎn)載
0 J$ S& x1 ]# y3 [
轉(zhuǎn)載請注明出處，請勿修改內(nèi)容和刪除作者信息！
9 j, X6 @# \5 M
( i1 g! ]$ R, L/ Y! S" k
7 D- V. y) ^, G. R4 k3 |


; G- e  N* a  S9 f2 n6 `- F關(guān)注我們
2 |1 H3 M( D6 G# X

2 l/ i. E! s: }+ Z & m8 e+ N8 G1 P

' k) P: i$ ]! i) m1 f. R

^$ d6 f& T2 h: ~) p% L2 E4 n

                     
" z5 U- A4 M1 A+ |6 C0 _+ Q) F6 y: V& H


# F, A9 t! {8 Y, i7 |" x  E% S: k$ l關(guān)于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。
4 `( J2 S2 A0 c# i4 {2 I" H
http://www.latitudeda.com/
% k$ W* e! x& }. Y（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）