|
引言) p: v) A* g( h* T1 p4 @
近年來(lái),計(jì)算能力的需求急劇增長(zhǎng),主要由ChatGPT等大型語(yǔ)言模型(LLMs)的日益復(fù)雜性推動(dòng)。這些模型模仿人類認(rèn)知,用于各種任務(wù),需要龐大的計(jì)算資源。隨著模型復(fù)雜度呈指數(shù)級(jí)增長(zhǎng),傳統(tǒng)計(jì)算系統(tǒng)難以跟上。本文探討新興的神經(jīng)形態(tài)計(jì)算領(lǐng)域及其在信息處理方面的潛力,重點(diǎn)關(guān)注光電子技術(shù)在這一新范式中的作用[1]。+ R. W5 p3 c* U4 I5 b' @1 A; J* Z
3 p; n: x. W; {( M
理解神經(jīng)形態(tài)計(jì)算
' N* x) {! {& _# N$ I8 @神經(jīng)形態(tài)計(jì)算旨在硬件和軟件中模仿人腦的結(jié)構(gòu)和功能。與傳統(tǒng)計(jì)算機(jī)分離內(nèi)存和處理單元不同,神經(jīng)形態(tài)系統(tǒng)整合了這些功能,類似于我們大腦中的神經(jīng)元和突觸。這種方法有幾個(gè)優(yōu)勢(shì):能源效率:人腦執(zhí)行極其復(fù)雜的計(jì)算,僅消耗約20瓦的功率。神經(jīng)形態(tài)系統(tǒng)旨在實(shí)現(xiàn)類似的效率。并行處理:與大腦類似,神經(jīng)形態(tài)計(jì)算機(jī)可以同時(shí)執(zhí)行多項(xiàng)操作,而不是順序執(zhí)行。適應(yīng)性:這些系統(tǒng)可以學(xué)習(xí)并適應(yīng)新信息,類似于我們的大腦形成新的神經(jīng)連接。內(nèi)存計(jì)算:通過(guò)結(jié)合存儲(chǔ)和處理,神經(jīng)形態(tài)系統(tǒng)可以減少在獨(dú)立內(nèi)存和處理單元之間傳輸數(shù)據(jù)所浪費(fèi)的能源。
5 D) B" e0 e- R$ p+ ~, [- B; Z3 P C0 I[/ol]
' N; l; h& i+ R" K9 U5 h
! d3 n1 r9 @1 K9 z( S4 A
hxxfcmkjlef64090411656.jpg (341.36 KB, 下載次數(shù): 5)
下載附件
保存到相冊(cè)
hxxfcmkjlef64090411656.jpg
2024-11-5 03:27 上傳
4 E$ d0 z! |# t; k4 }) Z+ }* d圖1:SpiNNcloud具有48個(gè)節(jié)點(diǎn)板的機(jī)架,是擁有100億個(gè)神經(jīng)元的神經(jīng)形態(tài)計(jì)算機(jī)的一部分。* b3 l4 C1 W7 b! d4 A3 [4 W; E6 V
; u; p5 j2 E* H, J' I1 X
神經(jīng)形態(tài)硬件的興起
* C( ^" l. X& {7 B幾家公司和研究機(jī)構(gòu)正在開發(fā)神經(jīng)形態(tài)硬件:2 h1 L8 V) {$ R8 F# r9 c% K9 I9 H$ q
1. 英特爾的Loihi 2:英特爾第二代神經(jīng)形態(tài)芯片每個(gè)芯片支持約100萬(wàn)個(gè)神經(jīng)元。2022年,研究人員發(fā)現(xiàn)英特爾的神經(jīng)形態(tài)硬件在深度學(xué)習(xí)任務(wù)中的能源效率是傳統(tǒng)芯片的16倍。7 V) H% W* b8 m+ |
m4s2xlfochw64090411756.jpg (133.38 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
m4s2xlfochw64090411756.jpg
2024-11-5 03:27 上傳
- o1 F& E) x, t* Y0 K圖2:英特爾的神經(jīng)形態(tài)硬件,在執(zhí)行深度學(xué)習(xí)任務(wù)時(shí)顯示出比傳統(tǒng)芯片高16倍的能源效率。; `( T1 ~2 V( A6 G- k
' e" o, ], e5 T4 p% E- \. R# V
2. SpiNNcloud Systems的SpiNNaker2:2024年5月宣布的這個(gè)系統(tǒng)擁有超過(guò)69,000個(gè)互連微芯片,總計(jì)超過(guò)100億個(gè)神經(jīng)元。每個(gè)芯片包含152個(gè)基于ARM的處理器核心,每個(gè)核心支持至少1,000個(gè)神經(jīng)元。
; l& E. j- L! N- O* b" }0 f" o8 M/ e, `
3. 桑迪亞國(guó)家實(shí)驗(yàn)室:2024年,桑迪亞擁有一個(gè)由英特爾構(gòu)建的11.5億神經(jīng)元系統(tǒng),由1,152個(gè)Loihi 2芯片組成。該系統(tǒng)的神經(jīng)元數(shù)量約等于貓頭鷹大腦,正用于探索神經(jīng)形態(tài)計(jì)算的潛在應(yīng)用并開發(fā)算法。
5 y9 ~2 G" ^* B6 m% M. K! y
, p3 M2 _5 h9 J1 `' S* g
nrtscf2q4nl64090411856.jpg (124.91 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
nrtscf2q4nl64090411856.jpg
2024-11-5 03:27 上傳
, y1 F4 r. |% W1 k
圖3:桑迪亞計(jì)算研究人員檢查由1,152個(gè)英特爾Loihi 2芯片組成的新型11.5億神經(jīng)元神經(jīng)形態(tài)系統(tǒng)。
+ e! t8 \$ L$ o$ K, n
' o7 I/ K1 P$ e1 Q( M; E光電子技術(shù)在神經(jīng)形態(tài)計(jì)算中的作用
: `8 [6 W& G5 T- F$ q隨著神經(jīng)形態(tài)系統(tǒng)的擴(kuò)大,組件之間快速和高能效的連接變得至關(guān)重要。這就是光電子技術(shù)發(fā)揮作用的地方。光電子技術(shù)為神經(jīng)形態(tài)計(jì)算提供了幾個(gè)優(yōu)勢(shì):高速互連:光連接可以以接近光速的速度在長(zhǎng)距離傳輸數(shù)據(jù),克服了電互連的限制。能源效率:特別是在較長(zhǎng)距離上,光信號(hào)消耗的功率比電信號(hào)少。帶寬密度:光互連可以實(shí)現(xiàn)比電連接更高的帶寬密度。" T; q y4 N/ N) |
[/ol]: w y- Q0 Z+ \& v4 N0 u
4 r T' g2 B& {7 j% w
5wx5bv2agk364090411956.jpg (123.75 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
5wx5bv2agk364090411956.jpg
2024-11-5 03:27 上傳
N7 W) Q1 ?, F( F- R
圖4:英特爾的光計(jì)算互連,將光電子集成芯片與電子集成線路co-package的chiplet,能夠以4Tb/s的速度傳輸和接收數(shù)據(jù)。! a9 p$ s! ]1 V& \# x
9 g( w& j7 h( C% ?6 h英特爾的光計(jì)算互連
4 F: A7 I; q' J6 i: K4 R英特爾開發(fā)了光計(jì)算互連,將光電子集成線路與電子集成線路結(jié)合。這項(xiàng)技術(shù)提供了幾個(gè)好處:更高的帶寬密度:co-package設(shè)計(jì)允許更高的數(shù)據(jù)傳輸率。提高功率效率:光信號(hào)在長(zhǎng)距離傳輸中消耗更少的功率。長(zhǎng)距離通信:光信號(hào)可以傳輸數(shù)百米而不會(huì)顯著衰減。
' d( |* K- u" ~1 u, `[/ol]. J) c, i# ^% G* f; |
英特爾計(jì)劃將使用的波長(zhǎng)數(shù)量從8增加到16,將線速率從32增加到128 Gb/s,并將光纖對(duì)數(shù)量從8翻倍到16。預(yù)計(jì)這些改進(jìn)將在未來(lái)十年內(nèi)將帶寬從4 Tb/s提高到64 Tb/s。
% I) E7 P, u0 z8 b H3 n0 Z& e) `; m% f. J
HPE的光電子神經(jīng)形態(tài)加速器
1 H+ U' k4 i" Y) g u惠普企業(yè)(HPE)正在開發(fā)一種將光電子技術(shù)與憶阻器技術(shù)結(jié)合的神經(jīng)形態(tài)加速器。該系統(tǒng)的主要特點(diǎn)包括:
! M u% G% C6 d- q ^/ ^1 l憶阻器激光器:這種器件可以電子方式改變其發(fā)射波長(zhǎng),并在斷電后保持該調(diào)整,模仿生物突觸的功能。基于波長(zhǎng)的數(shù)據(jù)存儲(chǔ):信息被編碼在光的波長(zhǎng)中,允許高效的數(shù)據(jù)存儲(chǔ)和處理。硅基光電子上的化合物半導(dǎo)體:這個(gè)平臺(tái)能夠?qū)⒓す馄、光檢測(cè)器、放大器和調(diào)制器集成到單片線路中。
9 }" O1 O3 i; F* X. H, Q n
9 e9 A7 u" ~; L" p# r這種光電子方法的優(yōu)勢(shì)包括降低延遲、提高功率效率和固有的并行性。HPE計(jì)劃今年向DARPA提交原型,并計(jì)劃在五年內(nèi)基于這項(xiàng)技術(shù)開發(fā)商業(yè)神經(jīng)形態(tài)計(jì)算機(jī)。4 G9 x: P" a9 u o( D. ~& [
' W. m/ ^( `7 N$ i% O; l! q
神經(jīng)形態(tài)計(jì)算的應(yīng)用) J0 @! p5 f1 a- d# k ?% c8 Z" \9 F0 l
神經(jīng)形態(tài)系統(tǒng)有潛力在各種應(yīng)用中表現(xiàn)出色:
' }" S( @% D+ e5 S7 ?. s% T大型語(yǔ)言模型:支持像ChatGPT這樣的AI模型的日益復(fù)雜性。優(yōu)化問(wèn)題:解決復(fù)雜的調(diào)度和物流挑戰(zhàn),例如航空公司航班重新安排。科學(xué)模擬:模擬熱傳遞、氣體擴(kuò)散和核聚變反應(yīng)等現(xiàn)象。成像:提高醫(yī)療保健中圖像分析的速度和準(zhǔn)確性。金融建模:改進(jìn)風(fēng)險(xiǎn)評(píng)估和市場(chǎng)預(yù)測(cè)。
1 }' J& v7 g- y% V8 |4 t! ^
' n) V% O) b* T挑戰(zhàn)和未來(lái)方向, E. x4 X5 y7 w3 d5 c+ K+ ^: w
盡管神經(jīng)形態(tài)計(jì)算顯示出巨大潛力,但仍需解決幾個(gè)挑戰(zhàn):, J- H, P2 B) K' V- z
算法開發(fā):創(chuàng)建能夠充分利用神經(jīng)形態(tài)硬件獨(dú)特架構(gòu)的軟件。可擴(kuò)展性:開發(fā)高效連接和協(xié)調(diào)大量人工神經(jīng)元的方法。理解大腦功能:隨著我們對(duì)大腦如何編碼和處理信息的認(rèn)知改進(jìn),神經(jīng)形態(tài)設(shè)計(jì)可能需要相應(yīng)進(jìn)化。與現(xiàn)有系統(tǒng)集成:在異構(gòu)系統(tǒng)中找到神經(jīng)形態(tài)加速器和傳統(tǒng)計(jì)算組件之間的正確平衡。4 j8 b n4 I" l- v$ O
2 a$ r" K7 C! B' D計(jì)算的未來(lái)可能是異構(gòu)的,專用加速器與傳統(tǒng)CPU和GPU一起工作。神經(jīng)形態(tài)系統(tǒng)可能成為這個(gè)生態(tài)系統(tǒng)的重要組成部分,處理從類腦處理中受益的特定類型問(wèn)題。' g2 J# [( ]& R8 V& _ p- g7 T- `8 l
' G8 g7 {# T$ B; @7 D3 g; G; b
結(jié)論) `0 p. ]9 Y$ ]$ I
神經(jīng)形態(tài)計(jì)算代表了處理信息方式的范式轉(zhuǎn)變。通過(guò)模仿大腦的結(jié)構(gòu)和功能,這些系統(tǒng)提供了在能源效率、適應(yīng)性和并行處理能力方面實(shí)現(xiàn)顯著改進(jìn)的潛力。將光電子技術(shù)集成到神經(jīng)形態(tài)架構(gòu)中進(jìn)一步增強(qiáng)了這些優(yōu)勢(shì),有可能克服傳統(tǒng)電互連的限制。
* P+ j/ p! z8 e+ A: f& J" m/ J
+ y$ ~2 D: o* A' T1 S1 k/ h3 [9 a2 l隨著這一領(lǐng)域研究的進(jìn)展,可以預(yù)期神經(jīng)形態(tài)系統(tǒng)將在解決復(fù)雜計(jì)算挑戰(zhàn)方面發(fā)揮越來(lái)越重要的作用,從支持先進(jìn)的AI模型到解決各行業(yè)的優(yōu)化問(wèn)題。雖然傳統(tǒng)計(jì)算仍將有其地位,但神經(jīng)形態(tài)計(jì)算的興起和光電子技術(shù)的結(jié)合可能預(yù)示著計(jì)算能力的新時(shí)代。' v: V' w$ R" W$ K) |4 e3 l# l; P+ Y
) `/ S& t3 _0 q2 O3 c: A/ @# c+ j參考文獻(xiàn)
. ^, M+ p8 G$ |6 e1 s5 N N[1] H. Hogan, "The rise of brain-like computers and the role of photonics," SPIE Photonics Focus, Sep./Oct. 2024. [Online]. Available: https://spie.org/news/photonics-focus/septoct-2024/building-brainlike-computers#_=_' S! {) S5 C& z9 ?9 ^2 t
END
$ V7 m9 @6 ?0 \( a2 f
& T# p6 s$ \# w% F: }; R
5 N/ [* v3 U# v! f1 t, W: ?3 u軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。$ A" @0 G# Y0 G! T# d. j j& f
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng) e1 |$ ^8 l; _' p7 G/ h
+ T4 U1 m8 q- R: i0 [9 i' P/ B歡迎轉(zhuǎn)載( J* d. o, k2 v
: @: t4 o3 m8 T+ d) D
轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!5 Z% f' {0 i( G2 U
( R, `9 h! v8 M8 e3 H" t4 K3 \+ `* e) q$ H( G* Y, Z, ?
" m4 k! ]% R* I* q7 |: V) r0 \" M7 X f
d1hstlpcjme64090412056.gif (16.04 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
d1hstlpcjme64090412056.gif
2024-11-5 03:27 上傳
1 L# ~2 |" b( d6 I+ Q- v. G. x& O
: D) E0 E- T6 V8 [) h& N關(guān)注我們
' N. w8 z; c, V2 ?, X
1 v/ J# C1 j# d- E% X. Y$ T2 {' B/ X9 U
pfn3bej03ke64090412156.png (31.33 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
pfn3bej03ke64090412156.png
2024-11-5 03:27 上傳
: v9 B: [+ d5 ~* q7 e' L @4 L | $ e; z* @2 Q/ B( T) E c3 A
izga3q5lg5364090412256.png (82.79 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
izga3q5lg5364090412256.png
2024-11-5 03:27 上傳
: x5 G) y0 v& s |# I$ _
| - G' o0 l2 `* @9 Y" p x
vgkquissgn364090412356.png (21.52 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
vgkquissgn364090412356.png
2024-11-5 03:27 上傳
4 O- q7 Q1 O1 S% k5 u |
; K" Y4 n5 b! y# `4 S* ?, l7 |; U% S
( h5 J$ v. n$ K6 |4 Z
! e0 s8 y/ O8 n: i. x# }) }5 s關(guān)于我們:
! U, C! h3 i' |2 a P深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
& {$ _% m- M3 A/ {+ R; `0 J6 F% X9 v% I' L: ^9 w" g! l
http://www.latitudeda.com/0 X7 z: `* W) s/ R
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|