本發(fā)明涉及光電計(jì)算系統(tǒng),尤其設(shè)計(jì)一種光電混合計(jì)算系統(tǒng)及實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)算法的方法。
背景技術(shù):
1、光學(xué)神經(jīng)網(wǎng)絡(luò)(optical?neural?networks,onns)是一種利用光學(xué)器件(激光、光學(xué)調(diào)制器、濾波器、探測器等)來模擬和實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)推理功能的計(jì)算模型。與電子神經(jīng)網(wǎng)絡(luò)相比,onns通過利用光的特征量(振幅、相位、頻率等)進(jìn)行信號傳輸和數(shù)據(jù)處理,將神經(jīng)網(wǎng)絡(luò)的推理計(jì)算過程在光的傳播過程中完成,具有低延遲、低能耗、并行信號處理以及抗電磁干擾強(qiáng)等優(yōu)勢。
2、然而,目前onns的工作過程還離不開電子計(jì)算硬件的輔助,而且onns在光域上實(shí)現(xiàn)非線性功能也非常困難,因此,當(dāng)前光電混合onns系統(tǒng)較為盛行。光電混合onns系統(tǒng)架構(gòu),包括原理層、光計(jì)算層、電子電路輔助層和應(yīng)用層。光電混合onns系統(tǒng)的定位是由onns完成整個(gè)系統(tǒng)的絕大多數(shù)算力任務(wù),而電子計(jì)算硬件是完成計(jì)算消耗較小的部分,如路由、存儲及非線性功能等。
3、通常神經(jīng)形態(tài)計(jì)算技術(shù)中的運(yùn)算可以被分解成一系列對輸入光學(xué)信號的線性和非線性變換。然而,在目前onns系統(tǒng)中,線性變換(和某些非線性變換,例如,矩陣乘法運(yùn)算)可以以光速被執(zhí)行,并且在光子網(wǎng)絡(luò)中以超過100ghz的速率被探測,也即通過有光子計(jì)算層實(shí)現(xiàn)線性計(jì)算,而由電子電路部分實(shí)現(xiàn)非線性計(jì)算。
4、例如,公開號為cn?112424796?a的中國發(fā)明專利申請,其公開了一種光電計(jì)算系統(tǒng),其通過矩陣乘法單元中的光干涉單元來執(zhí)行光輸入信號的線性轉(zhuǎn)換;同時(shí)通過控制器內(nèi)的專用數(shù)字集成電路執(zhí)行非線性轉(zhuǎn)換。也即藉由控制器在數(shù)字域(digital?domain)中執(zhí)行非線性轉(zhuǎn)換。當(dāng)然,也可設(shè)置模擬電子裝置在模擬域(analog?domain)中執(zhí)行非線性轉(zhuǎn)換,例如,設(shè)置模擬非線性單元(如,在反饋配置中的高增益放大器、具有可調(diào)整參考電壓、二極管的非線性iv特性、二極管的崩潰特性(breakdownbehavior)、可變電容的非線性cv特性或可變電阻的非線性iv特性的比較器可用來實(shí)現(xiàn)模擬非線性單元310)。
5、又如,公開號為cn?109477938?a的中國發(fā)明專利申請,其公開了一種被配置為實(shí)施人工神經(jīng)網(wǎng)絡(luò)的設(shè)備,其通過光學(xué)干涉單元將輸入的光學(xué)信號進(jìn)行線性變換,同時(shí)設(shè)置一個(gè)非線性單元將光學(xué)干涉單元輸出的光學(xué)信息進(jìn)行非線性變換。該光學(xué)非線性單元包括包括環(huán)形諧振器陣列,所述環(huán)形諧振器陣列中的每個(gè)環(huán)形諧振器從所述干涉單元接收對應(yīng)的第二光學(xué)信號。
技術(shù)實(shí)現(xiàn)思路
1、本發(fā)明的目的在于提供一種光電混合計(jì)算系統(tǒng)及實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)算法的方法,部分地解決或緩解現(xiàn)有技術(shù)中的上述不足,能夠?qū)崿F(xiàn)光學(xué)非線性計(jì)算。
2、為了解決上述所提到的技術(shù)問題,本發(fā)明具體采用以下技術(shù)方案:
3、本發(fā)明的第一方面,在于提供一種光電混合計(jì)算系統(tǒng),其包括:
4、控制器,被配置為接收計(jì)算請求,并根據(jù)所述計(jì)算請求中的計(jì)算類型生成相應(yīng)光功率調(diào)控信號;所述計(jì)算請求包括:數(shù)字輸入向量、神經(jīng)網(wǎng)絡(luò)權(quán)重和計(jì)算類型;所述計(jì)算類型包括:線性計(jì)算、非線性計(jì)算和混合計(jì)算;所述混合計(jì)算包括線性計(jì)算和非線性計(jì)算;
5、dac模塊,耦接至所述控制器,被配置為基于所述數(shù)字輸入向量產(chǎn)生多個(gè)調(diào)制控制信號,且當(dāng)所述計(jì)算類型為非線性計(jì)算時(shí),基于所述多個(gè)神經(jīng)網(wǎng)絡(luò)權(quán)重產(chǎn)生對應(yīng)于單位矩陣的第一權(quán)重控制信號;當(dāng)所述計(jì)算類型為線性計(jì)算或混合計(jì)算時(shí),基于所述多個(gè)神經(jīng)網(wǎng)絡(luò)權(quán)重產(chǎn)生對應(yīng)于預(yù)設(shè)權(quán)重矩陣的第二權(quán)重控制信號;
6、光源模塊,耦接至所述控制器,被配置為當(dāng)所述計(jì)算類型為混合計(jì)算時(shí),根據(jù)所述光功率調(diào)控信號提供多個(gè)第一光輸出;或當(dāng)所述計(jì)算類型為線性計(jì)算時(shí),根據(jù)所述光功率調(diào)控信號提供多個(gè)第二光輸出;或當(dāng)所述計(jì)算類型為非線性計(jì)算時(shí),根據(jù)所述光功率調(diào)控信號提供多個(gè)第三光輸出;
7、調(diào)制模塊,耦接至所述光源模塊和所述dac模塊,被配置為接收并根據(jù)所述調(diào)制控制信號對所述光源模塊所提供的所述多個(gè)第一光輸出進(jìn)行調(diào)制,以產(chǎn)生相應(yīng)的第一光輸入向量,或?qū)λ龉庠茨K所提供的所述多個(gè)第二光輸出進(jìn)行調(diào)制,以產(chǎn)生相應(yīng)的第二光輸入向量;或?qū)λ龉庠茨K所提供的所述多個(gè)第三光輸出進(jìn)行調(diào)制,以產(chǎn)生相應(yīng)的第三光輸入向量;
8、光矩陣乘法模塊,耦接至所述調(diào)制模塊和所述dac模塊,被配置為基于所述第二權(quán)重控制信號將所述多個(gè)第一光輸入向量轉(zhuǎn)換成第一光輸出向量,或基于所述第二權(quán)重控制信號將所述多個(gè)第二光輸入向量轉(zhuǎn)換成第二光輸出向量;或基于所述第一權(quán)重控制信號將所述多個(gè)第三光輸入向量轉(zhuǎn)換成第三光輸出向量;
9、光學(xué)非線性計(jì)算模塊,耦接至所述光矩陣乘法模塊和所述adc模塊,被配置為對所述第一光輸出向量進(jìn)行非線性變換得到第一模擬輸出向量;或者將所述第二光輸出向量進(jìn)行線性變換得到第二模擬輸出向量;或?qū)⑺龅谌廨敵鱿蛄窟M(jìn)行非線性變換得到第三模擬輸出向量;
10、adc模塊,耦接至所述光學(xué)非線性計(jì)算模塊,被配置為將所述第一模擬輸出向量,或所述第二模擬輸出向量,或第三模擬輸出向量轉(zhuǎn)換成相應(yīng)的數(shù)字輸出向量。
11、優(yōu)選地,所述光學(xué)非線性計(jì)算模塊包括相鄰的第一工作區(qū)域和第三工作區(qū)域,令所述第一工作區(qū)域和所述第三工作區(qū)域之間分段點(diǎn)對應(yīng)的輸入為第一預(yù)設(shè)向量閾值p0。
12、優(yōu)選地,所述光功率調(diào)控信號使得所述第一光輸出向量p11滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p11中每個(gè)數(shù)值pij,11≤第二預(yù)設(shè)光輸出向量閾值p2,且所述第一預(yù)設(shè)向量閾值p0∈[p1,p2]。
13、優(yōu)選地,所述光功率調(diào)控信號使得所述第三光輸出向量p13滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第三光輸出向量p13中每個(gè)數(shù)值pij,13≤第二預(yù)設(shè)光輸出向量閾值p2,且所述第一預(yù)設(shè)向量閾值p0∈[p1,p2]。
14、優(yōu)選地,所述光功率調(diào)控信號使得所述第二光輸出向量p12滿足:第三預(yù)設(shè)光輸出向量閾值p3≤所述第二光輸出向量p12中每個(gè)數(shù)值pij,12≤第四預(yù)設(shè)光輸出向量閾值p4,且所述第一預(yù)設(shè)向量閾值p0>所述第四預(yù)設(shè)光輸出向量閾值p4。
15、優(yōu)選地,所述光學(xué)非線性計(jì)算模塊的工作曲線特征還包括第二工作區(qū)域,令所述第二工作區(qū)域與所述第一工作區(qū)域之間分段點(diǎn)對應(yīng)的輸入為第二預(yù)設(shè)向量閾值p0’,且p0’<p0;相應(yīng)地,
16、所述光學(xué)非線性計(jì)算模塊還被配置為將所述第一光輸出向量進(jìn)行非線性變換得到第四模擬向量,或?qū)⑺龅谌廨敵鱿蛄窟M(jìn)行非線性變換得到第五模擬向量;或?qū)⑺龅诙廨敵鱿蛄哭D(zhuǎn)換得到第六模擬向量。
17、優(yōu)選地,所述光功率調(diào)控信號使得所述第一光輸出向量p11滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p11中每個(gè)數(shù)值pij,11≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0∈[p1,p2],且p0’∈[p1,p2]。
18、優(yōu)選地,所述光功率調(diào)控信號使得所述第一光輸出向量p11滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p11中每個(gè)數(shù)值pij,11≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0’∈[p1,p2],且p2≤p0。
19、優(yōu)選地,所述光功率調(diào)控信號使得所述第一光輸出向量p11滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p11中每個(gè)數(shù)值pij,11≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0∈[p1,p2],且p1≥p0’。
20、優(yōu)選地,所述光功率調(diào)控信號使得所述第三光輸出向量p13滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第三光輸出向量p13中每個(gè)數(shù)值pij,13≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0∈[p1,p2],且p0’∈[p1,p2]。
21、優(yōu)選地,所述光功率調(diào)控信號使得所述第三光輸出向量p13滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第三光輸出向量p13中每個(gè)數(shù)值pij,13≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0’∈[p1,p2],且p2≤p0。
22、優(yōu)選地,所述光功率調(diào)控信號使得所述第三光輸出向量p13滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p13中每個(gè)數(shù)值pij,13≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0∈[p1,p2],且p1≥p0’。
23、優(yōu)選地,所述光功率調(diào)控信號使得所述第二光輸出向量p12滿足:第三預(yù)設(shè)光輸出向量閾值p3≤所述第二光輸出向量p12中每個(gè)數(shù)值pij,12≤第四預(yù)設(shè)光輸出向量閾值p4,且p0’≤p3<p4≤p0。
24、本發(fā)明的第二方面,在于提供一種基于上述光電混合計(jì)算系統(tǒng)實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)算法的方法,其包括步驟:
25、利用控制器接收計(jì)算請求,并根據(jù)所述計(jì)算請求中的計(jì)算類型生成相應(yīng)光功率調(diào)控信號;所述計(jì)算請求包括:數(shù)字輸入向量、神經(jīng)網(wǎng)絡(luò)權(quán)重和計(jì)算類型;所述計(jì)算類型包括:線性計(jì)算、非線性計(jì)算和混合計(jì)算;所述混合計(jì)算包括非線性計(jì)算和線性計(jì)算;
26、利用dac模塊根據(jù)所述數(shù)字輸入向量產(chǎn)生多個(gè)調(diào)制控制信號,且當(dāng)所述計(jì)算類型為非線性計(jì)算時(shí),基于所述多個(gè)神經(jīng)網(wǎng)絡(luò)權(quán)重產(chǎn)生對應(yīng)于單位矩陣的第一權(quán)重控制信號;當(dāng)所述計(jì)算類型為線性計(jì)算或混合計(jì)算時(shí),基于所述多個(gè)神經(jīng)網(wǎng)絡(luò)權(quán)重產(chǎn)生對應(yīng)于預(yù)設(shè)權(quán)重矩陣的第二權(quán)重控制信號;
27、利用光源模塊根據(jù)所述光功率調(diào)控信號提供用于混合計(jì)算的多個(gè)第一光輸出;或提供用于線性計(jì)算的多個(gè)第二光輸出;或提供用于非線性計(jì)算的多個(gè)第三光輸出;
28、利用調(diào)制模塊根據(jù)所述調(diào)制控制信號對所述光源模塊所提供的所述多個(gè)第一光輸出進(jìn)行調(diào)制,以產(chǎn)生相應(yīng)的第一光輸入向量,或?qū)λ龉庠茨K所提供的所述多個(gè)第二光輸出進(jìn)行調(diào)制,以產(chǎn)生相應(yīng)的第二光輸入向量;或?qū)λ龉庠茨K所提供的所述多個(gè)第三光輸出進(jìn)行調(diào)制,以產(chǎn)生相應(yīng)的第三光輸入向量;
29、利用光矩陣乘法模塊基于所述第二權(quán)重控制信號將所述多個(gè)第一光輸入向量轉(zhuǎn)換成第一光輸出向量,或基于所述第二權(quán)重控制信號將所述多個(gè)第二光輸入向量轉(zhuǎn)換成第二光輸出向量;或基于所述第一權(quán)重控制信號將所述多個(gè)第三光輸入向量轉(zhuǎn)換成第三光輸出向量;
30、利用光學(xué)非線性計(jì)算模塊對所述第一光輸出向量進(jìn)行非線性變換,得到第一模擬輸出向量;或者,利用光學(xué)非線性計(jì)算模塊對所述第三光輸出向量進(jìn)行非線性變換,得到第三模擬輸出向量;或者,利用光學(xué)非線性計(jì)算模塊直接將所述第二光輸出向量轉(zhuǎn)換成第二模擬輸出向量;
31、利用adc模塊將所述第一模擬輸出向量或所述第二模擬輸出向量或所述第三模擬輸出向量轉(zhuǎn)換成相應(yīng)的數(shù)字輸出向量。
32、優(yōu)選地,令第一預(yù)設(shè)向量閾值p0對應(yīng)于所述光學(xué)非線性計(jì)算模塊的第一工作區(qū)域和第三工作區(qū)域之間的分段點(diǎn);相應(yīng)地,
33、所述光功率調(diào)控信號使得所述第一光輸出向量p11滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p11中每個(gè)數(shù)值pij,11≤第二預(yù)設(shè)光輸出向量閾值p2,且第一預(yù)設(shè)向量閾值p0∈[p1,p2];或者,
34、所述光功率調(diào)控信號使得所述第二光輸出向量p12滿足:第三預(yù)設(shè)光輸出向量閾值p3≤所述第二光輸出向量p12中每個(gè)數(shù)值pij,12≤第四預(yù)設(shè)光輸出向量閾值p4,且第四預(yù)設(shè)光輸出向量閾值p4≤第一預(yù)設(shè)向量閾值p0;或者,
35、所述光功率調(diào)控信號使得所述第三光輸出向量p13滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p13中每個(gè)數(shù)值pij,13≤第二預(yù)設(shè)光輸出向量閾值p2,且第一預(yù)設(shè)向量閾值p0∈[p1,p2]。
36、優(yōu)選地,所述光學(xué)非線性計(jì)算模塊還包括第二工作區(qū)域,令第二預(yù)設(shè)向量閾值p0’對應(yīng)于所述第二工作區(qū)域與所述第一工作區(qū)域之間的分段點(diǎn),且p0’<p0,相應(yīng)地,所述方法還包括步驟:
37、利用所述光學(xué)非線性計(jì)算模塊將所述第一光輸出向量進(jìn)行非線性變換得到第四模擬輸出向量;
38、或者,利用所述光學(xué)非線性計(jì)算模塊將所述第二光輸出向量進(jìn)行線性變換得到第六模擬輸出向量;
39、或者,利用所述光學(xué)非線性計(jì)算模塊將所述第三光輸出向量進(jìn)行非線性變換得到第五模擬輸出向量。
40、優(yōu)選地,所述光功率調(diào)控信號使得所述第一光輸出向量p11滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p11中每個(gè)數(shù)值pij,11≤第二預(yù)設(shè)光輸出向量閾值p2,且p0∈[p1,p2],p0’∈[p1,p2]。
41、優(yōu)選地,所述光功率調(diào)控信號使得所述第一光輸出向量p11滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p11中每個(gè)數(shù)值pij,11≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0’∈[p1,p2],且p2≤p0。
42、優(yōu)選地,所述光功率調(diào)控信號使得所述第一光輸出向量p11滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p11中每個(gè)數(shù)值pij,11≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0∈[p1,p2],且p1≥p0’。
43、優(yōu)選地,所述光功率調(diào)控信號使得所述第二光輸出向量p12滿足:第三預(yù)設(shè)光輸出向量閾值p3≤所述第二光輸出向量p12中每個(gè)數(shù)值pij,12≤第四預(yù)設(shè)光輸出向量閾值p4,且p0’≤p3≤p4≤p0。
44、優(yōu)選地,所述光功率調(diào)控信號使得所述第三光輸出向量p13滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第三光輸出向量p13中每個(gè)數(shù)值pij,13≤第二預(yù)設(shè)光輸出向量閾值p2,且p0∈[p1,p2],p0’∈[p1,p2]。
45、優(yōu)選地,所述光功率調(diào)控信號使得所述第三光輸出向量p13滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第三光輸出向量p13中每個(gè)數(shù)值pij,13≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0’∈[p1,p2],且p2≤p0。
46、優(yōu)選地,所述光功率調(diào)控信號使得所述第三光輸出向量p13滿足:第一預(yù)設(shè)光輸出向量閾值p1≤所述第一光輸出向量p13中每個(gè)數(shù)值pij,13≤第二預(yù)設(shè)光輸出向量閾值p2,其中,p0∈[p1,p2],且p1≥p0’。
47、有益效果:本發(fā)明的光學(xué)非線計(jì)算模塊具有線性工作狀態(tài)和非線性工作狀態(tài),線性工作狀態(tài)下,利用該光學(xué)非線性計(jì)算模塊的第一工作區(qū)域?qū)饩仃嚦朔K輸出的光輸出向量進(jìn)行線性變換,非線性工作狀態(tài)下,利用該光學(xué)非線性計(jì)算模塊的至少兩個(gè)不同的工作區(qū)域(例如,第一工作區(qū)域和第三工作區(qū)域,或者第一工作區(qū)域、第二工作區(qū)域和第三工作區(qū)域,或者第一工作區(qū)域和第二工作區(qū)域)對光矩陣乘法模塊輸出的光輸出向量進(jìn)行非線性變換,并基于該不同工作區(qū)域之間分段點(diǎn)的分布特征,例如大小和位置,逆向調(diào)控輸入系統(tǒng)的光功率,從而使得輸入該光學(xué)非線性計(jì)算模塊的光輸出向量對應(yīng)于其第一工作區(qū)域以實(shí)現(xiàn)光輸出向量到模擬輸出向量之間的線性變換,或者使得輸入的光輸出向量對應(yīng)于其至少兩個(gè)工作區(qū)域(例如,第一工作區(qū)域和第三工作區(qū)域,或者第一工作區(qū)域、第二工作區(qū)域和第三工作區(qū)域,或者對應(yīng)于第一工作區(qū)域和第二工作區(qū)域),以實(shí)現(xiàn)光輸入向量到模擬輸出向量之間的非線性變換。相較于現(xiàn)有技術(shù)中通過單獨(dú)設(shè)置一非線性計(jì)算模塊來實(shí)現(xiàn)模擬輸入向量到模擬輸入向量之間的線性變換或非線性變換,本發(fā)明無需單獨(dú)另外設(shè)置電子電路部件即可實(shí)現(xiàn)光學(xué)非線性計(jì)算。