光計(jì)算互連（OCI）

逍遙設(shè)計(jì)自動(dòng)化

引言
8 Q: ]% u1 ]4 G$ ]! ^( t3 q2 h在人工智能（AI）和機(jī)器學(xué)習(xí)（ML）快速發(fā)展的背景下，對更快、更高效、可擴(kuò)展的計(jì)算基礎(chǔ)設(shè)施的需求正在飛速增長。隨著我們不斷突破AI的可能性邊界，數(shù)據(jù)傳輸和處理方面的新挑戰(zhàn)也隨之出現(xiàn)。光計(jì)算互連（OCI）技術(shù)應(yīng)運(yùn)而生，這項(xiàng)突破性技術(shù)有望徹底改變我們構(gòu)建和連接AI系統(tǒng)的方式[1]。
& O9 }( o5 ?' d; Z' X& R8 v


! F+ |6 @4 u( v% H! S* J% w挑戰(zhàn)：AI基礎(chǔ)設(shè)施中的輸入/輸出瓶頸
隨著AI模型變得越來越復(fù)雜和龐大，計(jì)算節(jié)點(diǎn)之間需要傳輸?shù)臄?shù)據(jù)量呈指數(shù)級(jí)增長。傳統(tǒng)的電氣互連難以滿足這些需求，造成了限制AI系統(tǒng)整體性能的瓶頸。

0 {3 L$ T( Q2 m- U" }$ |6 |) p
圖1：展示了計(jì)算網(wǎng)絡(luò)互連帶寬與AI應(yīng)用需求之間隨時(shí)間推移而不斷增大的差距。

這張圖清楚地顯示了計(jì)算網(wǎng)絡(luò)互連在歷史上如何落后于AI應(yīng)用不斷演進(jìn)的帶寬需求。隨著AI的持續(xù)發(fā)展，這一差距預(yù)計(jì)將進(jìn)一步擴(kuò)大，創(chuàng)造了對新解決方案的迫切需求。

9 o, c0 \% W; s7 y解決方案：集成光電子技術(shù)和OCI
為了應(yīng)對這些挑戰(zhàn)，研究人員和工程師正轉(zhuǎn)向集成光電子技術(shù)，特別是光計(jì)算互連（OCI）技術(shù)。OCI利用光來傳輸數(shù)據(jù)，相比傳統(tǒng)的電氣互連具有幾個(gè)關(guān)鍵優(yōu)勢：
4 r2 l$ p( @9 G: b9 T- B

更高的帶寬密度

更低的功耗

更低的延遲

更遠(yuǎn)的傳輸距離


* G8 U" {+ o6 e* W
圖2：展示了不同互連技術(shù)的帶寬密度和傳輸距離之間的關(guān)系，突出了xPU光學(xué)I/O的優(yōu)勢。
: j0 o( R) h* A9 u1 ~$ J% A
這張圖描述了通過集成光電子技術(shù)實(shí)現(xiàn)的xPU光學(xué)I/O如何能夠同時(shí)達(dá)到高帶寬密度和更遠(yuǎn)的傳輸距離，相比傳統(tǒng)的電氣I/O和可插拔光模塊具有明顯優(yōu)勢。

OCI在AI基礎(chǔ)設(shè)施中的應(yīng)用
8 {5 q6 S* `; \% |OCI技術(shù)在AI基礎(chǔ)設(shè)施中有兩個(gè)主要應(yīng)用：

計(jì)算Fabric（AI/ML集群）

資源分解
[/ol]
/ `( c: W9 b. Q' g6 g+ `( V7 d計(jì)算Fabric（AI/ML集群）
. u" n+ b8 Y9 U' x# n0 g+ Q+ L; _在AI/ML集群中，OCI可用于連接基于CPU/GPU的服務(wù)器，可以是節(jié)點(diǎn)到節(jié)點(diǎn)的連接，也可以是交換式Fabric配置。這種應(yīng)用提供了幾個(gè)優(yōu)勢：
' c: e# ~1 `( O1 ~1 ?

為更大的集群提供增加的帶寬

相比銅線互連延長了傳輸距離

更低的延遲

降低功耗



! S  T2 c9 u! ?7 E* }圖3：illustrating了OCI在AI/ML集群計(jì)算Fabric中的應(yīng)用，顯示了互連的XPU節(jié)點(diǎn)。

這個(gè)圖表展示了OCI如何用于連接AI/ML集群中的多個(gè)XPU（CPU/GPU）節(jié)點(diǎn)，實(shí)現(xiàn)計(jì)算資源之間的高帶寬、低延遲通信。
3 j5 @. j% n# h8 @
8 [, Q& z9 p$ e5 }& r0 f% _! m資源分解
  [% O; d, y9 P- }OCI還能實(shí)現(xiàn)資源分解，允許在多個(gè)計(jì)算節(jié)點(diǎn)之間創(chuàng)建更大的共享資源池。這種方法提供了幾個(gè)優(yōu)勢：

將資源從封裝和插槽限制中解放出來

提高資源利用率和效率

對延遲敏感的連接

高帶寬密度

低功耗



圖4：展示了OCI在資源分解中的應(yīng)用，描繪了不同計(jì)算資源的分離和池化。
- M1 v* `  t) I- @! x2 K
這個(gè)圖表描繪了OCI如何實(shí)現(xiàn)各種計(jì)算資源的分解，如CPU/XPU、內(nèi)存、加速器和存儲(chǔ)，允許在AI基礎(chǔ)設(shè)施中更靈活和高效地利用這些組件。
, K+ q# o" X# c7 Q2 E0 t
英特爾的OCI方法
英特爾在OCI開發(fā)的前沿，利用其在硅基光電子和先進(jìn)封裝方面的專業(yè)知識(shí)，為AI基礎(chǔ)設(shè)施創(chuàng)造了可擴(kuò)展的解決方案。他們的方法集中在三個(gè)關(guān)鍵領(lǐng)域：

在光電子集成芯片（PIC）上集成更多的光電子功能

使用先進(jìn)封裝技術(shù)將PIC與最佳的電子集成電路（EIC）集成

將光學(xué)Chiplet與主機(jī)（XPU，交換機(jī)）更緊密地集成
[/ol]
( p, G% H2 b0 B- {# C/ `9 L* z
* w% C* t# |1 B/ _: E3 d0 ]4 |
圖5：英特爾OCI Chiplet概念圖，展示了xPU與OCI模塊的集成。
; X/ \6 T9 m* v( B8 u
8 W1 d% j; z) N! c' O4 {這個(gè)圖表illustrates了英特爾的OCI Chiplet概念，將xPU（CPU或GPU）與OCI模塊緊密集成，實(shí)現(xiàn)直接從計(jì)算單元進(jìn)行高帶寬、低延遲的光通信。

OCI和AI基礎(chǔ)設(shè)施的未來
: `* Y$ t: O0 e2 e; N; d隨著AI的持續(xù)發(fā)展和對更強(qiáng)大計(jì)算能力的需求不斷增加，OCI技術(shù)將在實(shí)現(xiàn)下一代AI基礎(chǔ)設(shè)施中發(fā)揮關(guān)鍵作用。英特爾的OCI發(fā)展路線圖包括：
' m5 j, p6 O2 E& U3 [

擴(kuò)展波長數(shù)量

提高線路速率

擴(kuò)大光纖數(shù)量

利用偏振技術(shù)

  T0 ]* Q: a2 o5 t% \這些進(jìn)步將使帶寬、功率效率和可擴(kuò)展性持續(xù)提升，最終實(shí)現(xiàn)更強(qiáng)大、更高效的AI系統(tǒng)。
7 }7 g- N) T. t" M% e/ k

圖6：展示了英特爾OCI擴(kuò)展路線圖，illustrating了隨時(shí)間推移預(yù)計(jì)的帶寬增長。
% O& k, y: ]9 W  s& B9 K: s
& [' g9 H" C! d/ I& {9 h這張圖展示了英特爾對OCI技術(shù)擴(kuò)展的宏偉計(jì)劃，預(yù)計(jì)從2Tbps PCIe5/CXL到未來迭代中的16Tbps UCIe/DWDM，帶寬將顯著提升。

總結(jié)而言，光計(jì)算互連（OCI）技術(shù)代表了解決現(xiàn)代AI基礎(chǔ)設(shè)施互連挑戰(zhàn)的重大進(jìn)步。通過利用集成光電子技術(shù)的力量，OCI有望提供下一代AI和ML應(yīng)用所需的帶寬、延遲和功率效率。隨著英特爾等公司繼續(xù)投資和開發(fā)這項(xiàng)技術(shù)，我們可以期待看到越來越強(qiáng)大和高效的AI系統(tǒng)，將推動(dòng)人工智能的可能性向前發(fā)展。
7 q5 v# V. [. C% a. P0 F7 B
1 p% Y- p( Y! a( P' Y/ ZOCI技術(shù)的具體實(shí)現(xiàn)
英特爾在OCI技術(shù)的實(shí)現(xiàn)上取得了顯著進(jìn)展。以下是一些關(guān)鍵的技術(shù)細(xì)節(jié)：
. _- ?7 @( B5 G2 a! y2 k+ C* C. x

集成光電子芯片（PIC）

英特爾開發(fā)了一個(gè)完全集成的8Tbps光電子集成芯片，具有以下特點(diǎn)：

密集波分復(fù)用（DWDM）光接口

8個(gè)光纖對 x 8波長 x 64G，符合CW-WDM MSA標(biāo)準(zhǔn)

每個(gè)方向4Tbps的吞吐量

標(biāo)準(zhǔn)單模光纖輸出，具有低數(shù)值孔徑，用于無源對準(zhǔn)的V形槽

" M$ H& t- D8 d9 v( j0 y$ u

圖7：英特爾8Tbps集成光電子芯片的概念圖，顯示了主要特性。
8 V3 _$ |( r$ I) c/ N$ ]
* ^, |) i( P2 f* r- X! m9 h4 p這個(gè)高度集成的PIC包含了完整的光學(xué)子系統(tǒng)，包括片上激光源、高效微環(huán)調(diào)制器、鍺光電探測器和半導(dǎo)體光放大器等。這種高度集成不僅提高了性能，還降低了成本和功耗。
8 e, h) ]7 G# j" ~
; d6 e+ ~' v( i; c* p異質(zhì)集成
英特爾采用了晶圓級(jí)異質(zhì)集成技術(shù)，將III-V族材料（如InP）與硅基光電子器件集成在一起。這種方法具有以下優(yōu)勢：
$ V& r% U' \/ M, g$ ]+ c

性能：最小化耦合損耗

可靠性：激光器可靠性

可制造性：晶圓級(jí)到已知良好管芯（KGD）

成本：無需昂貴的激光器后端

可擴(kuò)展性：高通道數(shù)，資源共享

靈活性：多波長能力，備用
* v% `7 M; U/ Q* `6 q
4 E6 u1 _5 V( I* ^

圖8：異質(zhì)集成技術(shù)的示意圖，顯示了III-V族材料與硅基底的集成。

  T) o5 U6 @% T) p這種異質(zhì)集成技術(shù)已經(jīng)在超過8百萬個(gè)部署在超大規(guī)模云服務(wù)提供商處的PIC中得到驗(yàn)證，包含超過3200萬個(gè)片上激光器。
2 D( X% p% L8 p0 p; m& N, c
OCI Chiplet
3 N' u% G$ w) ], D8 E英特爾的OCI Chiplet是一個(gè)die堆疊，提供使用英特爾硅基光電子技術(shù)的光學(xué)I/O，可以與xPU共同封裝。第一代OCI Chiplet的主要參數(shù)包括：
/ L4 _2 D# b5 V( z. ]! c

主機(jī)接口：PCIe gen5 SerDes接口

光學(xué)端：8光纖 x 8波長 x 32G NRZ，通過單模光纖的密集波分復(fù)用

總帶寬：4 Tbps（雙向各2 Tbps）

端到端比特錯(cuò)誤率：

能量效率：~5 pJ / bit



* j4 G, B/ n& G/ }+ S3 n圖9：OCI Chiplet概念圖，顯示了xPU與OCI模塊的共同封裝。
- `. K  g& ~" A1 K" b* q
7 w4 m7 F# b1 V8 b, h英特爾在OFC 2024上展示的概念CPU與共同封裝OCI，展示了這項(xiàng)技術(shù)的實(shí)際應(yīng)用。該演示顯示，僅就光學(xué)鏈路而言，OCI技術(shù)在功率和密度方面分別比可插拔模塊提高了3倍以上和5倍以上。
; o" n% ]5 D1 w/ V- h6 Y# n
# m! i0 X; U5 R" XOCI技術(shù)的未來發(fā)展
英特爾對OCI技術(shù)的發(fā)展有明確的路線圖，包括以下幾個(gè)關(guān)鍵方向：
! }8 @) d+ V" o- H# K$ c0 P+ g8 y4 W

波長數(shù)量的擴(kuò)展：從當(dāng)前的8波長增加到16波長，甚至更多。

線路速率的提升：從32G NRZ提升到64G PAM4，未來可能達(dá)到128G或更高。

光纖數(shù)量的增加：在保持小型化的同時(shí)增加光纖數(shù)量，提高總帶寬。

利用偏振技術(shù)：通過偏振復(fù)用進(jìn)一步提高帶寬密度。

# z1 x) N$ {4 I4 E( x這些進(jìn)步將使OCI技術(shù)能夠支持更高帶寬、更低延遲和更高能效的AI和高性能計(jì)算應(yīng)用。

$ S2 I/ w9 ?8 h7 s9 Z結(jié)論
0 K% [0 D& V; I$ a) Z8 T1 b光計(jì)算互連（OCI）技術(shù)代表了AI基礎(chǔ)設(shè)施互連領(lǐng)域的重大突破。通過利用集成光電子技術(shù)的優(yōu)勢，OCI提供了下一代AI和ML應(yīng)用所需的高帶寬、低延遲和高能效。隨著英特爾等公司持續(xù)投資和開發(fā)這項(xiàng)技術(shù)，我們可以期待看到更強(qiáng)大、更高效的AI系統(tǒng)出現(xiàn)，推動(dòng)人工智能領(lǐng)域的持續(xù)發(fā)展。
1 t8 R) C' p* G
OCI技術(shù)不僅解決了當(dāng)前AI基礎(chǔ)設(shè)施面臨的挑戰(zhàn)，還為未來的發(fā)展提供了可擴(kuò)展的解決方案。通過持續(xù)的技術(shù)創(chuàng)新和產(chǎn)業(yè)合作，OCI有潛力成為支撐下一代AI和高性能計(jì)算基礎(chǔ)設(shè)施的關(guān)鍵技術(shù)。

本文詳細(xì)介紹了OCI技術(shù)的原理、應(yīng)用和發(fā)展前景，希望能為讀者提供對這一新興技術(shù)的全面了解。隨著技術(shù)的不斷進(jìn)步，我們可以期待OCI在推動(dòng)AI和高性能計(jì)算領(lǐng)域發(fā)展中發(fā)揮越來越重要的作用。

參考文獻(xiàn)
7 Y: [( C% j0 p+ P5 o[1] C. Urricariet, "Optical Compute Interconnect (OCI): A new class of optics for AI infrastructure," presented at LightCounting Webinar: "Special Requirements for Optical Connectivity in AI Clusters," Jul. 30, 2024.

- END -

軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
0 M( u) S; o" @# i點(diǎn)擊左下角"閱讀原文"馬上申請

- c& Q4 R& c) C7 L7 D% a9 i歡迎轉(zhuǎn)載
9 r. k2 C, ]7 {" W+ [1 u, v
轉(zhuǎn)載請注明出處，請勿修改內(nèi)容和刪除作者信息！
2 E+ d" j8 C$ C, B( ]


) o7 H# A8 L5 W1 x5 B
) g6 G# }# V- I8 P
關(guān)注我們
4 a9 i8 P' i* Q# L- v! e

, s& a0 N: M# y: {  i' q& i8 M

3 G8 y. y5 m- Q$ Y$ T! R- a0 Y # `9 Q2 {8 c  V4 K

; |2 c1 C- N; S- }; d 0 Y5 q* y- R7 g# C  y: ]3 @

                     
( v: Q! J1 M( v) }, `* i
3 W0 K) m% d, ~. x3 R0 G/ E6 W$ g

% \0 M- ^; A' o- t關(guān)于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。
: ]7 _3 j4 ~4 N8 v7 b3 w  e' C: j
7 v3 y7 W" a! a: fhttp://www.latitudeda.com/
（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）