本發明涉及電池健康狀態估計領域,具體涉及一種基于transformer模型的鋰離子電池健康狀態估計方法及裝置。
背景技術:
1、隨著全球能源需求的不斷增長,特別是移動通信、電動汽車、航空飛行器和電化學儲能等領域的快速發展,對高效、環保的儲能解決方案提出了更高的要求。作為關鍵的儲能元件,鋰離子電池因其能量密度高、無記憶效應、自放電率低和環境友好等特點,非常適合滿足這些要求。然而,隨著使用時間的增加,鋰離子電池的性能也會隨之下降,包括容量降低和內阻增加,這可能會導致內部短路甚至熱失控,從而造成設備故障或火災等重大安全隱患。因此,準確估算電池健康狀態對于確保電池的安全使用至關重要。
2、數據驅動方法因其不涉及內部機制且可在擴展情況下采用而受到越來越多的關注,這些方法通過提取電池中的各種特征參數并與機器學習技術相結合,實現了較高的鋰離子電池健康狀態健康狀態估計精度。雖然數據驅動方法相比測量法和基于模型的方法更具適應性,可在不同條件下提供準確的估計值,但仍然存在長期預測精度低和捕捉全局信息能力差的問題。近年來,transformer模型由于其卓越的全局特征捕捉能力、高效的并行計算性能、以及對長序列數據中長距離依賴關系的敏感性,在鋰離子電池健康狀態估計領域中得到了廣泛的應用。然而,傳統的自注意力在處理長序列時計算效率低下,當序列長度增加時,計算復雜度呈二次增長,有效信息抓取能力有限。
技術實現思路
1、本技術的目的在于針對上述提到的技術問題提出一種基于transformer模型的鋰離子電池健康狀態估計方法及裝置。
2、第一方面,本發明提供了一種基于transformer模型的鋰離子電池健康狀態估計方法,包括以下步驟:
3、構建基于transformer模型的鋰離子電池健康狀態估計模型并訓練,得到經訓練的鋰離子電池健康狀態估計模型,鋰離子電池健康狀態估計模型包括多通道融合自適應嵌入模塊、編碼器模塊、解碼器模塊、展平層和全連接層;
4、獲取待預測的鋰離子電池的容量退化數據并進行預處理,得到預處理后的容量退化數據;
5、將預處理后的容量退化數據輸入到經訓練的鋰離子電池健康狀態估計模型,預處理后的容量退化數據分為第一輸入數據和第二輸入數據,第一輸入數據經過多通道融合自適應嵌入模塊,得到多通道特征;多通道特征經過編碼器模塊,得到編碼特征,編碼特征和第二輸入數據經過解碼器模塊,得到解碼特征,解碼特征依次經過展平層和全連接層,得到待預測的鋰離子電池的健康狀態估計值。
6、作為優選,編碼器模塊包括依次連接的3個編碼器,編碼器包括依次連接的多頭可分離對數稀疏自注意力層、膨脹因果卷積層和最大池化層,多頭可分離對數稀疏自注意力層包括深度可分離卷積層和對數稀疏注意力模塊;多通道融合自適應嵌入模塊包括自適應嵌入層、位置嵌入層、值嵌入層和時間嵌入層,第一輸入數據經過自適應嵌入層,得到嵌入特征,嵌入特征分別經過位置嵌入層、值嵌入層和時間嵌入層,得到位置嵌入特征、值嵌入特征和時間嵌入特征并相加得到多通道特征,將多通道特征按照維度等分為第一輸入序列和第二輸入序列,第一輸入序列經過第一個編碼器的多頭可分離對數稀疏自注意力層中的深度可分離卷積層,第二輸入序列經過第一個編碼器的多頭可分離對數稀疏自注意力層中的對數稀疏注意力模塊。
7、作為優選,深度可分離卷積層的計算過程如下:
8、θ1=p1×rdep+bdep×rpoi+bpoi;
9、其中,θ1表示深度可分離卷積層的輸出特征,p1表示第一輸入序列,rdep表示深度卷積核矩陣,rpoi表示逐點卷積核矩陣,bdep和bpoi分別表示深度卷積和逐點卷積的偏差矩陣。
10、作為優選,構建對數稀疏注意力模塊的查詢矩陣q、鍵矩陣k和值矩陣v,如下式所示:
11、q=p2wq+peq;
12、k=p2wk+pek;
13、v=p2wv+pev;
14、其中,p2表示第二輸入序列,wq、wk和wv分別為對數稀疏注意力模塊的查詢矩陣q、鍵矩陣k和值矩陣v的權重矩陣,peq、pek、pev分別為對數稀疏注意力模塊的查詢矩陣q、鍵矩陣k和值矩陣v的位置嵌入特征;
15、再經過softmax函數歸一化,得到注意力權重矩陣aij,如下式所示:
16、
17、其中,dk為鍵矩陣k的維度,qi表示對數稀疏注意力模塊的查詢矩陣q中的第i行向量,kj表示對數稀疏注意力模塊的鍵矩陣k的第j列向量;
18、采用下式計算對數稀疏注意力模塊的輸出特征θ2:
19、
20、其中,l為多通道特征的長度,vj表示對數稀疏注意力模塊的值矩陣v的第j列向量;
21、將深度可分離卷積層的輸出特征和對數稀疏注意力模塊的輸出特征進行拼接,得到多頭可分離對數稀疏自注意力層的輸出特征,如下式所示:
22、θ=concat[θ1,θ2];
23、其中,θ表示多頭可分離對數稀疏自注意力層的輸出特征,concat表示拼接操作。
24、作為優選,將多頭可分離對數稀疏自注意力層的輸出特征輸入膨脹因果卷積層,膨脹因果卷積層的卷積算子表示為:
25、
26、其中,θ為多頭可分離對數稀疏自注意力層的輸出特征,w為卷積核,t為當前時間點,k為卷積核的大小,d為卷積核的擴展率;
27、將經過膨脹因果卷積層卷積得到的特征圖輸入到最大池化層,得到第一個編碼器的輸出特征,第一個編碼器的輸出特征作為下一個編碼器的輸入特征,依次再經過兩個編碼器的處理,得到編碼特征。
28、作為優選,解碼器模塊包括掩碼層和交叉注意力層,第二輸入數據輸入到掩碼層,得到交叉注意力層的查詢矩陣,將編碼特征作為交叉注意力層的鍵矩陣和值矩陣,通過交叉注意力層的處理,得到解碼特征,如下式所示:
29、
30、其中,vde表示交叉注意力層的值矩陣,kde表示交叉注意力層的鍵矩陣,qde表示交叉注意力層的查詢矩陣,dk表示交叉注意力層的鍵矩陣的維度,yde表示解碼特征。
31、第二方面,本發明提供了一種基于transformer模型的鋰離子電池健康狀態估計裝置,包括:
32、模型構建模塊,被配置為構建基于transformer模型的鋰離子電池健康狀態估計模型并訓練,得到經訓練的鋰離子電池健康狀態估計模型,鋰離子電池健康狀態估計模型包括多通道融合自適應嵌入模塊、編碼器模塊、解碼器模塊、展平層和全連接層;
33、預處理模塊,被配置為獲取待預測的鋰離子電池的容量退化數據并進行預處理,得到預處理后的容量退化數據;
34、預測模塊,被配置為將預處理后的容量退化數據輸入到經訓練的鋰離子電池健康狀態估計模型,預處理后的容量退化數據分為第一輸入數據和第二輸入數據,第一輸入數據經過多通道融合自適應嵌入模塊,得到多通道特征;多通道特征經過編碼器模塊,得到編碼特征,編碼特征和第二輸入數據經過解碼器模塊,得到解碼特征,解碼特征依次經過展平層和全連接層,得到待預測的鋰離子電池的健康狀態估計值。
35、第三方面,本發明提供了一種電子設備,包括一個或多個處理器;存儲裝置,用于存儲一個或多個程序,當一個或多個程序被一個或多個處理器執行,使得一個或多個處理器實現如第一方面中任一實現方式描述的方法。
36、第四方面,本發明提供了一種計算機可讀存儲介質,其上存儲有計算機程序,該計算機程序被處理器執行時實現如第一方面中任一實現方式描述的方法。
37、第五方面,本發明提供了一種計算機程序產品,包括計算機程序,計算機程序被處理器執行時實現如第一方面中任一實現方式描述的方法。
38、相比于現有技術,本發明具有以下有益效果:
39、(1)本發明提出的基于transformer模型的鋰離子電池健康狀態估計方法中的鋰離子電池健康狀態估計模型結合了多頭可分離對數稀疏自注意力層和膨脹因果卷積層,能夠降低計算的復雜度,提高長序列預測的準確性。
40、(2)本發明提出的基于transformer模型的鋰離子電池健康狀態估計方法先經多維度分離機制對輸入數據進行下采樣,然后通過多頭對數稀疏自注意力層對其進行處理,從而保留了足夠的信息內容,使模型能夠處理長序列輸入并執行精確的鋰離子電池健康狀態估計,能夠在復雜時序條件下良好捕捉全局特征,提高計算效率,增強模型的泛化能力。