光計(jì)算互連（OCI）

逍遙設(shè)計(jì)自動(dòng)化

引言
' H+ q2 @9 W3 F; Z& {8 b1 J在人工智能（AI）和機(jī)器學(xué)習(xí)（ML）快速發(fā)展的背景下，對(duì)更快、更高效、可擴(kuò)展的計(jì)算基礎(chǔ)設(shè)施的需求正在飛速增長(zhǎng)。隨著我們不斷突破AI的可能性邊界，數(shù)據(jù)傳輸和處理方面的新挑戰(zhàn)也隨之出現(xiàn)。光計(jì)算互連（OCI）技術(shù)應(yīng)運(yùn)而生，這項(xiàng)突破性技術(shù)有望徹底改變我們構(gòu)建和連接AI系統(tǒng)的方式[1]。
4 P- E( W% X; K. E


7 ?7 F' k; H1 r; X) J. \: y挑戰(zhàn)：AI基礎(chǔ)設(shè)施中的輸入/輸出瓶頸
6 Y9 ?- Z5 ?3 }隨著AI模型變得越來越復(fù)雜和龐大，計(jì)算節(jié)點(diǎn)之間需要傳輸?shù)臄?shù)據(jù)量呈指數(shù)級(jí)增長(zhǎng)。傳統(tǒng)的電氣互連難以滿足這些需求，造成了限制AI系統(tǒng)整體性能的瓶頸。
' t1 ^, z- l6 G/ l, f8 F
$ Z7 U, Q  I  M- u6 e
8 ?. R, J9 c, c圖1：展示了計(jì)算網(wǎng)絡(luò)互連帶寬與AI應(yīng)用需求之間隨時(shí)間推移而不斷增大的差距。

: d1 E' i8 J9 Q  L, W2 i這張圖清楚地顯示了計(jì)算網(wǎng)絡(luò)互連在歷史上如何落后于AI應(yīng)用不斷演進(jìn)的帶寬需求。隨著AI的持續(xù)發(fā)展，這一差距預(yù)計(jì)將進(jìn)一步擴(kuò)大，創(chuàng)造了對(duì)新解決方案的迫切需求。
3 s! V  H: g, N6 z) I1 {) |
解決方案：集成光電子技術(shù)和OCI
為了應(yīng)對(duì)這些挑戰(zhàn)，研究人員和工程師正轉(zhuǎn)向集成光電子技術(shù)，特別是光計(jì)算互連（OCI）技術(shù)。OCI利用光來傳輸數(shù)據(jù)，相比傳統(tǒng)的電氣互連具有幾個(gè)關(guān)鍵優(yōu)勢(shì)：

更高的帶寬密度

更低的功耗

更低的延遲

更遠(yuǎn)的傳輸距離
' e. ]8 A% p- r- O2 ~

$ r5 T8 Z' B6 L  j% k5 ?+ |6 G8 n
圖2：展示了不同互連技術(shù)的帶寬密度和傳輸距離之間的關(guān)系，突出了xPU光學(xué)I/O的優(yōu)勢(shì)。

; H& h: A; T' ^5 i- a- y; o這張圖描述了通過集成光電子技術(shù)實(shí)現(xiàn)的xPU光學(xué)I/O如何能夠同時(shí)達(dá)到高帶寬密度和更遠(yuǎn)的傳輸距離，相比傳統(tǒng)的電氣I/O和可插拔光模塊具有明顯優(yōu)勢(shì)。

9 o9 ]' p2 y% wOCI在AI基礎(chǔ)設(shè)施中的應(yīng)用
" U3 D( M! ?6 y0 C! fOCI技術(shù)在AI基礎(chǔ)設(shè)施中有兩個(gè)主要應(yīng)用：

計(jì)算Fabric（AI/ML集群）

資源分解
[/ol]
5 h. {, l$ `0 }% \3 o計(jì)算Fabric（AI/ML集群）
; s* D, b- z' d7 W; p& y在AI/ML集群中，OCI可用于連接基于CPU/GPU的服務(wù)器，可以是節(jié)點(diǎn)到節(jié)點(diǎn)的連接，也可以是交換式Fabric配置。這種應(yīng)用提供了幾個(gè)優(yōu)勢(shì)：
5 w' n- o8 P$ {4 b

為更大的集群提供增加的帶寬

相比銅線互連延長(zhǎng)了傳輸距離

更低的延遲

降低功耗


7 c1 B# V) f2 J% l1 \( D3 \
圖3：illustrating了OCI在AI/ML集群計(jì)算Fabric中的應(yīng)用，顯示了互連的XPU節(jié)點(diǎn)。
% G! d- E3 G: s6 y& x
這個(gè)圖表展示了OCI如何用于連接AI/ML集群中的多個(gè)XPU（CPU/GPU）節(jié)點(diǎn)，實(shí)現(xiàn)計(jì)算資源之間的高帶寬、低延遲通信。

1 J& \; g+ Z7 @: Q) e0 _0 `+ r資源分解
OCI還能實(shí)現(xiàn)資源分解，允許在多個(gè)計(jì)算節(jié)點(diǎn)之間創(chuàng)建更大的共享資源池。這種方法提供了幾個(gè)優(yōu)勢(shì)：

將資源從封裝和插槽限制中解放出來

提高資源利用率和效率

對(duì)延遲敏感的連接

高帶寬密度

低功耗


& t! S9 c$ b9 d, ^% f) p
# D& g$ K! G. R) [  L9 w圖4：展示了OCI在資源分解中的應(yīng)用，描繪了不同計(jì)算資源的分離和池化。

這個(gè)圖表描繪了OCI如何實(shí)現(xiàn)各種計(jì)算資源的分解，如CPU/XPU、內(nèi)存、加速器和存儲(chǔ)，允許在AI基礎(chǔ)設(shè)施中更靈活和高效地利用這些組件。

英特爾的OCI方法
6 T4 F4 ~$ @8 E英特爾在OCI開發(fā)的前沿，利用其在硅基光電子和先進(jìn)封裝方面的專業(yè)知識(shí)，為AI基礎(chǔ)設(shè)施創(chuàng)造了可擴(kuò)展的解決方案。他們的方法集中在三個(gè)關(guān)鍵領(lǐng)域：

在光電子集成芯片（PIC）上集成更多的光電子功能

使用先進(jìn)封裝技術(shù)將PIC與最佳的電子集成電路（EIC）集成

將光學(xué)Chiplet與主機(jī)（XPU，交換機(jī)）更緊密地集成
[/ol]
; E. H$ M5 r1 G8 V+ K

  H! K7 |* x4 K" Z( h) N圖5：英特爾OCI Chiplet概念圖，展示了xPU與OCI模塊的集成。

這個(gè)圖表illustrates了英特爾的OCI Chiplet概念，將xPU（CPU或GPU）與OCI模塊緊密集成，實(shí)現(xiàn)直接從計(jì)算單元進(jìn)行高帶寬、低延遲的光通信。
5 M0 X  K/ \7 l( t, y, S3 n2 D
& n: A% y6 ~0 R; d5 v- UOCI和AI基礎(chǔ)設(shè)施的未來
隨著AI的持續(xù)發(fā)展和對(duì)更強(qiáng)大計(jì)算能力的需求不斷增加，OCI技術(shù)將在實(shí)現(xiàn)下一代AI基礎(chǔ)設(shè)施中發(fā)揮關(guān)鍵作用。英特爾的OCI發(fā)展路線圖包括：
5 o8 G' C; s# T5 p* ^' R. O

擴(kuò)展波長(zhǎng)數(shù)量

提高線路速率

擴(kuò)大光纖數(shù)量

利用偏振技術(shù)
. E  ^' |5 N6 y% l8 p# h
這些進(jìn)步將使帶寬、功率效率和可擴(kuò)展性持續(xù)提升，最終實(shí)現(xiàn)更強(qiáng)大、更高效的AI系統(tǒng)。

$ n3 h" H. |" J3 M1 @4 Y+ p
4 ^) M  J, J; ?1 v) O4 a圖6：展示了英特爾OCI擴(kuò)展路線圖，illustrating了隨時(shí)間推移預(yù)計(jì)的帶寬增長(zhǎng)。

( y* y' K" k$ |" r這張圖展示了英特爾對(duì)OCI技術(shù)擴(kuò)展的宏偉計(jì)劃，預(yù)計(jì)從2Tbps PCIe5/CXL到未來迭代中的16Tbps UCIe/DWDM，帶寬將顯著提升。
  j/ i. L" l7 B  z0 V$ e9 ^
! ]9 s1 {' @/ N總結(jié)而言，光計(jì)算互連（OCI）技術(shù)代表了解決現(xiàn)代AI基礎(chǔ)設(shè)施互連挑戰(zhàn)的重大進(jìn)步。通過利用集成光電子技術(shù)的力量，OCI有望提供下一代AI和ML應(yīng)用所需的帶寬、延遲和功率效率。隨著英特爾等公司繼續(xù)投資和開發(fā)這項(xiàng)技術(shù)，我們可以期待看到越來越強(qiáng)大和高效的AI系統(tǒng)，將推動(dòng)人工智能的可能性向前發(fā)展。

OCI技術(shù)的具體實(shí)現(xiàn)
英特爾在OCI技術(shù)的實(shí)現(xiàn)上取得了顯著進(jìn)展。以下是一些關(guān)鍵的技術(shù)細(xì)節(jié)：
* g% V* N8 Y* M% x" @5 Y2 S

集成光電子芯片（PIC）

英特爾開發(fā)了一個(gè)完全集成的8Tbps光電子集成芯片，具有以下特點(diǎn)：

密集波分復(fù)用（DWDM）光接口

8個(gè)光纖對(duì) x 8波長(zhǎng) x 64G，符合CW-WDM MSA標(biāo)準(zhǔn)

每個(gè)方向4Tbps的吞吐量

標(biāo)準(zhǔn)單模光纖輸出，具有低數(shù)值孔徑，用于無源對(duì)準(zhǔn)的V形槽
/ R+ p7 _' O8 k* r* [" q

# q7 k% J/ {6 M9 N
0 |, X& M/ h5 c# w, D* h. r0 t圖7：英特爾8Tbps集成光電子芯片的概念圖，顯示了主要特性。
- d6 Q+ ~6 x) V/ w1 i8 ~* R! n  S
這個(gè)高度集成的PIC包含了完整的光學(xué)子系統(tǒng)，包括片上激光源、高效微環(huán)調(diào)制器、鍺光電探測(cè)器和半導(dǎo)體光放大器等。這種高度集成不僅提高了性能，還降低了成本和功耗。
0 l. L- t4 o5 Z" ^0 X* o
/ }4 ~/ \7 ~. G8 w) X+ R異質(zhì)集成
, e( e/ u3 W' s  ]4 ?英特爾采用了晶圓級(jí)異質(zhì)集成技術(shù)，將III-V族材料（如InP）與硅基光電子器件集成在一起。這種方法具有以下優(yōu)勢(shì)：
& q  Q; m. Y5 B* ?+ r6 N/ [

性能：最小化耦合損耗

可靠性：激光器可靠性

可制造性：晶圓級(jí)到已知良好管芯（KGD）

成本：無需昂貴的激光器后端

可擴(kuò)展性：高通道數(shù)，資源共享

靈活性：多波長(zhǎng)能力，備用

  `- |3 m. M/ r7 @
9 Q- _% ^" D% |
圖8：異質(zhì)集成技術(shù)的示意圖，顯示了III-V族材料與硅基底的集成。
- N% ?/ o- Z% F. U) Y% J$ |& A
. R; @5 H: e, T這種異質(zhì)集成技術(shù)已經(jīng)在超過8百萬個(gè)部署在超大規(guī)模云服務(wù)提供商處的PIC中得到驗(yàn)證，包含超過3200萬個(gè)片上激光器。
7 o/ `/ s% u$ G: I5 F) L
* Z, {' ]/ d, b9 ?" `OCI Chiplet
* t8 J4 w/ i0 u. F9 l" n2 S英特爾的OCI Chiplet是一個(gè)die堆疊，提供使用英特爾硅基光電子技術(shù)的光學(xué)I/O，可以與xPU共同封裝。第一代OCI Chiplet的主要參數(shù)包括：

主機(jī)接口：PCIe gen5 SerDes接口

光學(xué)端：8光纖 x 8波長(zhǎng) x 32G NRZ，通過單模光纖的密集波分復(fù)用

總帶寬：4 Tbps（雙向各2 Tbps）

端到端比特錯(cuò)誤率：

能量效率：~5 pJ / bit

2 p  O% \3 n4 a# k4 o3 B' F1 I

7 L5 @% I  {* M: _圖9：OCI Chiplet概念圖，顯示了xPU與OCI模塊的共同封裝。
- z: j  i! S8 |6 w( E6 i
( N0 `  W1 D9 [0 R英特爾在OFC 2024上展示的概念CPU與共同封裝OCI，展示了這項(xiàng)技術(shù)的實(shí)際應(yīng)用。該演示顯示，僅就光學(xué)鏈路而言，OCI技術(shù)在功率和密度方面分別比可插拔模塊提高了3倍以上和5倍以上。

2 @" B- Q* _) M0 gOCI技術(shù)的未來發(fā)展
! C0 n% q1 ?+ f0 Q, v英特爾對(duì)OCI技術(shù)的發(fā)展有明確的路線圖，包括以下幾個(gè)關(guān)鍵方向：

波長(zhǎng)數(shù)量的擴(kuò)展：從當(dāng)前的8波長(zhǎng)增加到16波長(zhǎng)，甚至更多。

線路速率的提升：從32G NRZ提升到64G PAM4，未來可能達(dá)到128G或更高。

光纖數(shù)量的增加：在保持小型化的同時(shí)增加光纖數(shù)量，提高總帶寬。

利用偏振技術(shù)：通過偏振復(fù)用進(jìn)一步提高帶寬密度。
: a4 \# x6 |" u7 ~
5 Z+ H2 r. n# f+ B& b這些進(jìn)步將使OCI技術(shù)能夠支持更高帶寬、更低延遲和更高能效的AI和高性能計(jì)算應(yīng)用。
0 o  D& i0 U% y) d1 A% z# Z; T
2 o* a3 S+ G4 A) P6 I  b結(jié)論
光計(jì)算互連（OCI）技術(shù)代表了AI基礎(chǔ)設(shè)施互連領(lǐng)域的重大突破。通過利用集成光電子技術(shù)的優(yōu)勢(shì)，OCI提供了下一代AI和ML應(yīng)用所需的高帶寬、低延遲和高能效。隨著英特爾等公司持續(xù)投資和開發(fā)這項(xiàng)技術(shù)，我們可以期待看到更強(qiáng)大、更高效的AI系統(tǒng)出現(xiàn)，推動(dòng)人工智能領(lǐng)域的持續(xù)發(fā)展。

OCI技術(shù)不僅解決了當(dāng)前AI基礎(chǔ)設(shè)施面臨的挑戰(zhàn)，還為未來的發(fā)展提供了可擴(kuò)展的解決方案。通過持續(xù)的技術(shù)創(chuàng)新和產(chǎn)業(yè)合作，OCI有潛力成為支撐下一代AI和高性能計(jì)算基礎(chǔ)設(shè)施的關(guān)鍵技術(shù)。
* ^' t8 m  B' V: l* e
" K  D3 y1 |8 Y+ D; J本文詳細(xì)介紹了OCI技術(shù)的原理、應(yīng)用和發(fā)展前景，希望能為讀者提供對(duì)這一新興技術(shù)的全面了解。隨著技術(shù)的不斷進(jìn)步，我們可以期待OCI在推動(dòng)AI和高性能計(jì)算領(lǐng)域發(fā)展中發(fā)揮越來越重要的作用。

# ^6 ]9 R4 t' u8 A7 W2 N4 j2 }9 P參考文獻(xiàn)
[1] C. Urricariet, "Optical Compute Interconnect (OCI): A new class of optics for AI infrastructure," presented at LightCounting Webinar: "Special Requirements for Optical Connectivity in AI Clusters," Jul. 30, 2024.
# Y& E3 B8 [' }$ \: y
& S2 c$ b3 c  `+ e8 m" I- END -

軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
- P  }: q+ n0 }4 `6 s$ M4 {點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)

  `6 s8 |& ?* z- R0 P歡迎轉(zhuǎn)載
8 h$ H4 }+ [* a8 r& ?5 y1 T. l
轉(zhuǎn)載請(qǐng)注明出處，請(qǐng)勿修改內(nèi)容和刪除作者信息！

( x$ X, S6 A8 m0 D) k, X: t4 C1 O( ]

+ w  F2 K  \+ c

0 R- s+ d( H# @# }& ^5 c關(guān)注我們

* s- }' P% K* A- p8 B % i) A% r$ ^6 u* |( c# u

( f0 D8 G1 }! P

4 P5 P% W4 l$ p/ x$ z% G: {

                     
% G9 Z8 t' e$ m


, |# C8 s' T8 S: ?1 M% O  W9 D關(guān)于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。
! r5 g+ l* P$ m; W- G8 a' e# {  G
http://www.latitudeda.com/
3 a+ q# R* z9 _) D; P5 |0 F/ j（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）