|
引言' H1 p1 D1 I: |# b3 J
基于可編程馬赫-曾德干涉儀(MZI)網(wǎng)格實現(xiàn)的光神經(jīng)網(wǎng)絡(luò)(ONN)已成為加速機(jī)器學(xué)習(xí)計算的方法。本文概述了基于MZI的光處理器,重點(diǎn)介紹了兩種關(guān)鍵架構(gòu) - Reck網(wǎng)格和Diamond網(wǎng)格,并分析了實現(xiàn)ONN的性能。
6 j+ V; }( U+ j# ?' E7 t7 Q2 K! B3 y/ `7 a" n& c" H4 m! H
MZI光處理器基礎(chǔ)* t, J$ k9 x8 z+ y6 P
光處理器的基本構(gòu)建模塊是2x2可重構(gòu)MZI,如圖11所示。由兩個3-dB耦合器組成,帶有可調(diào)相移器θ和φ,用于控制功率分配比和兩個輸出之間的相對相位。
' b! V! M, a, S/ O
oopqxrhyxww64076734929.png (420.64 KB, 下載次數(shù): 12)
下載附件
保存到相冊
oopqxrhyxww64076734929.png
4 天前 上傳
5 F" H$ m* d B
圖1:具有可調(diào)相移器θ和φ的2x2可重構(gòu)MZI示意圖。* g+ u* V$ k' a3 a0 Q+ D
1 N& m( `/ }0 P8 w$ |單個MZI的單一轉(zhuǎn)移矩陣由下式給出:
7 n: K! L- k M7 ~: f( X8 i
3potgicok5u64076735029.png (106.42 KB, 下載次數(shù): 17)
下載附件
保存到相冊
3potgicok5u64076735029.png
4 天前 上傳
, p5 E% K; x% j: y6 ?
7 O5 x/ [# R+ Y6 j3 O7 W
通過在網(wǎng)格中級聯(lián)多個MZI,可以實現(xiàn)更大的單一變換。圖2所示的4x4處理器的Reck網(wǎng)格是一種三角形排列,可使用6個MZI實現(xiàn)任何4x4單一矩陣。
$ `8 i3 n2 t0 B# m+ F2 [
; n$ p6 b4 j2 A- z% }: Y3 g
bbtbhgtws5d64076735129.png (84.74 KB, 下載次數(shù): 15)
下載附件
保存到相冊
bbtbhgtws5d64076735129.png
4 天前 上傳
+ E& w- E+ w% g1 u1 d. N1 \圖2:由6個MZI組成的4x4 Reck網(wǎng)格光處理器示意圖。; H6 i) R3 r( O" m% D/ \" W
! b5 x& v( x6 P. p# l" u完整4x4 Reck處理器的單一矩陣由各個MZI矩陣的乘積給出:
) j( B' I/ W3 x6 a* w) d' n
v5gyerqtnfy64076735230.png (38.98 KB, 下載次數(shù): 10)
下載附件
保存到相冊
v5gyerqtnfy64076735230.png
4 天前 上傳
* H/ o# O, f% a# W( h$ ^- u
/ T$ X* O. O& }
光處理器編程: V c. O% _ ?6 b* h! h- Q
要對光處理器進(jìn)行編程以實現(xiàn)所需的單一變換,必須確定每個MZI所需的相移。這是通過分解過程完成的,該過程將目標(biāo)矩陣依次乘以逆MZI矩陣:
! N/ I, n3 j+ Q: c( j M
i2d2rtbjzyu64076735330.png (40.11 KB, 下載次數(shù): 15)
下載附件
保存到相冊
i2d2rtbjzyu64076735330.png
4 天前 上傳
; R0 j, T6 {0 p
n% W5 p$ q0 R3 \+ |- F/ n7 L通過在每個步驟中將非對角元素設(shè)置為零,可以提取所需的相移。圖3顯示了4x4 Reck網(wǎng)格在此分解過程中考慮MZI的順序。) U( P, K8 x, z( O# Y& C, \
x5rbbssmxsr64076735430.png (146.39 KB, 下載次數(shù): 15)
下載附件
保存到相冊
x5rbbssmxsr64076735430.png
4 天前 上傳
; G: G9 K& F; |: W1 ~. R圖3:4x4 Reck網(wǎng)格中用于編程的MZI分解順序。6 X. P* D- k0 U2 j
+ T9 `5 ]# G6 a, y9 O5 `4 R- |光神經(jīng)網(wǎng)絡(luò)0 z2 \ L& a, c- T0 V- L& B5 i
ONN利用這些可編程光處理器來實現(xiàn)神經(jīng)網(wǎng)絡(luò)層中的線性變換。圖4顯示了單層ONN的結(jié)構(gòu)。
! [1 L" `- O O5 g5 M
1ioqdxfr24i64076735530.png (222.16 KB, 下載次數(shù): 14)
下載附件
保存到相冊
1ioqdxfr24i64076735530.png
4 天前 上傳
: D) j h& h$ b' n! X% h
圖4:光學(xué)實現(xiàn)的單層神經(jīng)網(wǎng)絡(luò)示意圖。
4 b& L4 C! ]- o2 b+ d7 N
* ^9 p! H; X+ z1 c光處理器實現(xiàn)權(quán)重矩陣W,而非線性激活函數(shù)通常以電子方式應(yīng)用。對于分類任務(wù),網(wǎng)絡(luò)接受多維輸入I0并為每個類別產(chǎn)生輸出概率。( g4 T6 o! L% Z) l4 E) R
& i) g5 M6 O p l; g0 ^6 I網(wǎng)絡(luò)使用反向傳播進(jìn)行訓(xùn)練,通過最小化均方誤差等損失函數(shù)來優(yōu)化權(quán)重矩陣:
) _* S' ~5 K$ k9 O2 N3 `/ d
0jkfbzbd0vd64076735630.png (25.62 KB, 下載次數(shù): 18)
下載附件
保存到相冊
0jkfbzbd0vd64076735630.png
4 天前 上傳
$ p* L5 p! q2 X: u7 c
7 }; _. K: R# t1 e1 L
圖5顯示了4類數(shù)據(jù)集示例和4x4 ONN的訓(xùn)練過程。/ b2 P7 y7 B( s( @6 y8 L) C( U% ` s. X
v1o45em4svh64076735730.png (253.27 KB, 下載次數(shù): 16)
下載附件
保存到相冊
v1o45em4svh64076735730.png
4 天前 上傳
9 }- P4 G5 r# M7 S圖5:(a)4類高斯數(shù)據(jù)集和(b)顯示4x4 ONN的損失和準(zhǔn)確度與訓(xùn)練周期的關(guān)系的訓(xùn)練過程。# a9 m7 r9 v- s& f. I
9 T5 _& m, {# n2 Q4 UDiamond網(wǎng)格架構(gòu)
/ p& D! V- k& C, \5 W! c; u* uReck網(wǎng)格可以實現(xiàn)任何單一矩陣,但對制造誤差和光損耗很敏感。為解決這個問題,提出了一種替代的Diamond網(wǎng)格架構(gòu),如圖6所示的4x4處理器。/ [% A2 |/ G* Y+ E+ r* c+ Q8 A
1qdmqy20vq364076735831.png (496.17 KB, 下載次數(shù): 12)
下載附件
保存到相冊
1qdmqy20vq364076735831.png
4 天前 上傳
, o8 Y! M! L8 w( F s) ]圖6:具有9個MZI的4x4 Diamond網(wǎng)格光處理器示意圖。
% h3 w# o/ B7 S$ T, V! i- a7 a) N- ^4 s* P) ~ i4 ]- \0 Q4 M
與相同大小的Reck網(wǎng)格相比,Diamond網(wǎng)格使用額外的N(N-1)(N-2)/2個MZI。這提供了幾個優(yōu)點(diǎn):更對稱的拓?fù)浣Y(jié)構(gòu),具有平衡的光路能夠?qū)⒉恍枰墓庵囟ㄏ虻筋~外的輸出優(yōu)化權(quán)重矩陣的額外自由度
( Y' Z9 y. [" @3 `. n7 ?[/ol]
, a( `5 G) M* V4x4 Diamond處理器的單一矩陣由下式給出:
: }4 }) ]! n: X1 _* _- i5 A
1prnfvrpj5e64076735931.png (71.81 KB, 下載次數(shù): 12)
下載附件
保存到相冊
1prnfvrpj5e64076735931.png
4 天前 上傳
: m" E$ }. ]! y3 d! D8 f9 r6 h) Q, W8 A% J+ p& x. F
可以使用與Reck網(wǎng)格類似的分解過程對其進(jìn)行編程,遵循圖7所示的順序。
; l2 o% I! x, o' p+ A; R. y$ i
zz1clakmcvm64076736031.png (236.55 KB, 下載次數(shù): 17)
下載附件
保存到相冊
zz1clakmcvm64076736031.png
4 天前 上傳
5 A! s9 t" r. A: l1 y# y, R圖7:4x4 Diamond網(wǎng)格中用于編程的MZI分解順序。
" O# P' q/ } G. ]" E3 u6 t1 F: o/ Z+ h3 F: n, G
性能比較) k% r# P- m* r, _* h9 }* i$ a6 ?
為比較Reck和Diamond架構(gòu),分析了各種大小的單層ONN的實現(xiàn)性能。圖8顯示了4x4處理器的分類準(zhǔn)確度與相位誤差的關(guān)系。" ?* l8 X: U; ]& I
rlujfeftugo64076736131.png (125.34 KB, 下載次數(shù): 14)
下載附件
保存到相冊
rlujfeftugo64076736131.png
4 天前 上傳
: O9 J: P, l5 Z" ?
圖8:4x4 Reck和Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系,每個MZI的損耗為(a)0 dB和(b)1 dB。
5 C. t& y& a) T0 n! J! L6 V% p9 K& f( c) U4 p" ]: _
Diamond網(wǎng)格對相位誤差表現(xiàn)出更好的魯棒性,尤其是在存在光損耗的情況下。這種優(yōu)勢在更大的網(wǎng)絡(luò)規(guī)模中變得更加明顯。2 L N) y- [" i0 F$ D- y' j
7 a2 k3 ^% A" D8 j) @- e
圖9比較了不同大小處理器(最大64x64)的準(zhǔn)確度與相位誤差的關(guān)系。
$ o5 c" F/ m4 o$ X
p0oz0wwbgf364076736231.png (416.84 KB, 下載次數(shù): 16)
下載附件
保存到相冊
p0oz0wwbgf364076736231.png
4 天前 上傳
1 P- t' |0 F6 n! j. Q8 k
圖9:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系。
' o1 u- g) a0 J# d0 U% z
+ |2 [ s7 d) v8 h& R* ^! b3 D0 N對于較大的網(wǎng)絡(luò),高精度區(qū)域縮小,但Diamond網(wǎng)格在所有尺寸上都保持更好的性能。5 q7 u r0 ~- N0 K6 C
7 d1 A* |4 [- w3 O0 r' V: k圖10將此分析擴(kuò)展到包括每個MZI的光損耗影響。/ i0 v$ w' j3 S: w; h/ R5 N$ @& ~; g
kagrofhrnyk64076736332.png (391.07 KB, 下載次數(shù): 13)
下載附件
保存到相冊
kagrofhrnyk64076736332.png
4 天前 上傳
' v2 v# L6 ?) I/ h" v4 z, u圖10:不同大小(a-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與損耗和相位誤差的關(guān)系。
3 q0 z1 w3 ?2 O+ E; J; L, l) Y! W" @. K9 J0 f
再次,Diamond網(wǎng)格在所有網(wǎng)絡(luò)規(guī)模上表現(xiàn)出更優(yōu)的魯棒性。7 I, _; p& j/ x; A6 F
) I0 k8 P- \/ Q7 t
最后,圖11總結(jié)了不同網(wǎng)絡(luò)規(guī)模的兩個關(guān)鍵性能指標(biāo) - 性能指標(biāo)(>75%準(zhǔn)確度的區(qū)域)和訓(xùn)練期間達(dá)到的最終損失值。
8 F ]! @5 v9 N: y/ t& Q
ry5kcbvddlr64076736432.png (92.32 KB, 下載次數(shù): 14)
下載附件
保存到相冊
ry5kcbvddlr64076736432.png
4 天前 上傳
% z6 T: h) L6 Q2 \6 V; J
圖11:不同大小的Reck和Diamond ONN的(a)性能指標(biāo)和(b)最終損失值比較。
6 w- P2 o/ N9 Y X8 u4 ~+ S$ J! D. [' D6 o
Diamond網(wǎng)格在這兩個指標(biāo)上始終優(yōu)于Reck網(wǎng)格,優(yōu)勢隨網(wǎng)絡(luò)規(guī)模增大而增加。3 B" V3 A$ l Z- E
: w; L/ s+ i$ u$ Z; w
結(jié)論5 n2 {1 b. S g
基于可編程MZI的光處理器為實現(xiàn)ONN和加速機(jī)器學(xué)習(xí)計算提供了有前途的平臺。Reck網(wǎng)格提供了可實現(xiàn)任何單一變換的緊湊設(shè)計,但Diamond網(wǎng)格提高了對制造誤差和光損耗的魯棒性。這使Diamond架構(gòu)更適合實際的大規(guī)模ONN。硅基光電子制造和架構(gòu)設(shè)計的持續(xù)進(jìn)步可能會進(jìn)一步提高這些光處理器的性能,有望實現(xiàn)新一類超快速、節(jié)能的機(jī)器學(xué)習(xí)加速器。
# }# x1 B; T ~0 W% q
2 b0 \$ e3 _" G. _. ]) u; i參考文獻(xiàn)
& \9 p0 t y+ r* _[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.; ~7 o! G) K7 l) `# e. u
END
& I$ G* t3 w2 }! v9 N6 l
+ a% O2 Y. j$ _+ z" k$ s& `, U4 v# ]' @+ G
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
% t1 y+ M" \/ l: ^- R1 b- `點(diǎn)擊左下角"閱讀原文"馬上申請
/ }8 i$ i' N, m0 i2 l+ u8 \% ~& |4 t0 M8 `3 L% C
歡迎轉(zhuǎn)載; W/ }9 {' w/ d- a2 ]9 r
# i8 f9 d* z( v( {轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!# T5 D. x& P, T( x
$ I; @& ?. G1 v5 H4 Z- K9 h, a/ t$ I7 Q. \4 o/ o
. f0 \. `0 `0 C6 L
3xfam3wcrst64076736532.gif (16.04 KB, 下載次數(shù): 13)
下載附件
保存到相冊
3xfam3wcrst64076736532.gif
4 天前 上傳
! A! ~: }8 v+ V2 n
/ {) Q0 t( X+ `2 ~9 d8 K" e4 h
關(guān)注我們; C, A* ?! ^4 _& }3 q4 G' i" Z8 H
- R8 S& D1 o- I( V7 d. f. M
1 n3 Y0 s- K2 p' @# v5 U: A
vodpuva2mj564076736632.png (31.33 KB, 下載次數(shù): 13)
下載附件
保存到相冊
vodpuva2mj564076736632.png
4 天前 上傳
A; j6 E1 Z }) A0 c2 D- w) ] |
1 O- G! c- _6 Y( i) t
u5is0s3sr5f64076736732.png (82.79 KB, 下載次數(shù): 15)
下載附件
保存到相冊
u5is0s3sr5f64076736732.png
4 天前 上傳
' E, c# I/ R, C) E; N
| 1 }+ l# U6 p4 [5 k
txrhkjadsy064076736832.png (21.52 KB, 下載次數(shù): 15)
下載附件
保存到相冊
txrhkjadsy064076736832.png
4 天前 上傳
/ ~$ Q7 z- q- r' N! k( h z
|
8 A! I3 T- n! a# m5 |) W8 n' `
" x+ I6 l/ k+ Z0 T/ l! [) v9 n) N+ B; R4 ^7 a# M0 ?& n+ f5 P5 ?& G
3 N P' f# B" j9 [
關(guān)于我們: s ?9 ?4 }! W
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件,提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
) a) \2 |9 c) S0 o# A8 `/ }7 G9 h, e- Z8 K9 j
http://www.latitudeda.com/
. x( r8 P+ p; m" m(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|