本技術(shù)涉及模型，尤其涉及一種分類(lèi)方法、裝置、設(shè)備及介質(zhì)。

背景技術(shù)：

1、隨著技術(shù)的不斷進(jìn)步，分類(lèi)任務(wù)的識(shí)別應(yīng)用日益廣泛，但當(dāng)前的主流技術(shù)大多局限于依賴描述性文本進(jìn)行分類(lèi)識(shí)別。例如，在判斷設(shè)備是否故障的場(chǎng)景中，通常依賴于對(duì)設(shè)備使用情況的文本描述。然而，這種基于文本的描述方式可能因主觀性、模糊性或信息不全等因素導(dǎo)致準(zhǔn)確性受限，進(jìn)而影響了分類(lèi)結(jié)果的精確度。

技術(shù)實(shí)現(xiàn)思路

1、本技術(shù)實(shí)施例提供了一種分類(lèi)方法、裝置、設(shè)備及介質(zhì)，用于解決相關(guān)技術(shù)中分類(lèi)的準(zhǔn)確率較低的問(wèn)題。

2、第一方面，本技術(shù)實(shí)施例提供了一種分類(lèi)方法，所述方法包括：

3、獲取預(yù)設(shè)時(shí)間段內(nèi)按照設(shè)定間隔采集到的每個(gè)數(shù)據(jù)；其中，所述數(shù)據(jù)為壓力數(shù)據(jù)或溫度數(shù)據(jù)；獲取所述每個(gè)數(shù)據(jù)組成的時(shí)間序列的趨勢(shì)、季節(jié)性以及殘差；分別將所述趨勢(shì)、所述季節(jié)性以及所述殘差輸入編碼器中，獲取所述編碼器輸出的趨勢(shì)向量、季節(jié)向量以及殘差向量；確定所述趨勢(shì)向量、所述季節(jié)向量以及所述殘差向量的第一和值向量為特征向量；

4、將所述時(shí)間序列以及所述特征向量輸入預(yù)先微調(diào)的大語(yǔ)言模型(large?languagemodel，llm)中，獲取所述llm輸出的分類(lèi)結(jié)果。

5、進(jìn)一步地，所述將所述時(shí)間序列以及所述特征向量輸入預(yù)先微調(diào)的llm中，獲取所述llm輸出的分類(lèi)結(jié)果，包括：

6、將所述時(shí)間序列以及所述特征向量輸入預(yù)先微調(diào)的llm中；

7、所述llm的記憶層獲取預(yù)先訓(xùn)練完成得到的每個(gè)記憶向量的鍵表示與值表示，根據(jù)所述每個(gè)記憶向量的鍵表示和所述特征向量，確定所述每個(gè)記憶向量的權(quán)重；根據(jù)所述每個(gè)記憶向量的權(quán)重與所述每個(gè)記憶向量的值表示，確定所述時(shí)間序列的特征表示；所述llm的門(mén)機(jī)制層根據(jù)所述時(shí)間序列以及所述特征表示，確定對(duì)應(yīng)的分類(lèi)結(jié)果，并輸出。

8、進(jìn)一步地，所述獲取預(yù)先訓(xùn)練完成得到的每個(gè)記憶向量的鍵表示與值表示，包括：

9、獲取預(yù)先訓(xùn)練完成得到的每個(gè)記憶向量；

10、針對(duì)所述每個(gè)記憶向量，根據(jù)預(yù)設(shè)的鍵矩陣和預(yù)設(shè)的值矩陣與該記憶向量的點(diǎn)乘，確定該記憶向量的鍵表示與值表示。

11、進(jìn)一步地，所述根據(jù)所述每個(gè)記憶向量的鍵表示和所述特征向量，確定所述每個(gè)記憶向量的權(quán)重，包括：

12、針對(duì)所述每個(gè)記憶向量，確定該特征向量與該記憶向量的鍵表示的點(diǎn)乘得到的數(shù)值，并確定以預(yù)設(shè)數(shù)值為底數(shù)，所述數(shù)值為函數(shù)得到的目標(biāo)數(shù)值；

13、確定每個(gè)記憶向量的目標(biāo)數(shù)值的和值；并確定每個(gè)記憶向量的目標(biāo)數(shù)值與所述和值的比值，為對(duì)應(yīng)的記憶向量的權(quán)重。

14、進(jìn)一步地，所述llm的門(mén)機(jī)制層包括transformer層、多個(gè)編碼識(shí)別層、全連接層及分類(lèi)器；每個(gè)所述編碼識(shí)別層包括依次連接的門(mén)控子層和transformer子層；且所述每個(gè)編碼識(shí)別層依次連接，首個(gè)編碼識(shí)別層的門(mén)控子層與所述transformer層連接；最后一個(gè)編碼識(shí)別器的transformer子層和所述全連接層連接；所述全連接層的另一端與所述分類(lèi)器連接；

15、所述llm的門(mén)機(jī)制層根據(jù)所述時(shí)間序列以及所述特征表示，確定對(duì)應(yīng)的分類(lèi)結(jié)果，包括：

16、所述transformer層對(duì)所述時(shí)間序列進(jìn)行編碼得到第一輸出；

17、每個(gè)所述編碼識(shí)別層中的門(mén)控子層確定接收到的輸入向量與所述特征表示的第二和值向量，并確定預(yù)訓(xùn)練得到的該門(mén)控子層的參數(shù)矩陣與所述第二和值向量的第一叉乘矩陣，根據(jù)所述第一叉乘矩陣和預(yù)訓(xùn)練得到的該門(mén)控子層的參數(shù)偏移矩陣的第一和值矩陣，確定重置門(mén)矩陣；確定預(yù)設(shè)矩陣與所述重置門(mén)矩陣的差值矩陣，并確定所述差值矩陣與所述特征表示的第二叉乘矩陣，以及所述特征表示與所述重置門(mén)矩陣的第三叉乘矩陣；將所述第二叉乘矩陣與所述第三叉乘矩陣的第二和值矩陣確定為第二輸出；每個(gè)所述編碼識(shí)別層的transformer子層對(duì)對(duì)應(yīng)編碼識(shí)別層的門(mén)控子層的第二輸出進(jìn)行編碼，得到第三輸出；

18、所述llm的門(mén)機(jī)制層的全連接層及所述分類(lèi)器根據(jù)最后一個(gè)編碼識(shí)別器的第三輸出，確定對(duì)應(yīng)的分類(lèi)結(jié)果。

19、進(jìn)一步地，所述llm通過(guò)以下方式微調(diào)：

20、獲取預(yù)先保存的樣本集中的任一樣本時(shí)間序列、針對(duì)該樣本時(shí)間序列確定的樣本特征向量及針對(duì)該樣本時(shí)間序列保存的標(biāo)注分類(lèi)結(jié)果；

21、將該樣本時(shí)間序列以及所述樣本特征向量輸入待微調(diào)的llm，獲取所述llm輸出的輸出分類(lèi)結(jié)果；

22、基于所述標(biāo)注分類(lèi)結(jié)果以及所述輸出分類(lèi)結(jié)果，對(duì)所述llm進(jìn)行微調(diào)。

23、第二方面，本技術(shù)實(shí)施例還提供了一種分類(lèi)裝置，所述裝置包括：

24、獲取模塊，用于獲取預(yù)設(shè)時(shí)間段內(nèi)按照設(shè)定間隔采集到的每個(gè)數(shù)據(jù)；其中，所述數(shù)據(jù)為壓力數(shù)據(jù)或溫度數(shù)據(jù)；獲取所述每個(gè)數(shù)據(jù)組成的時(shí)間序列的趨勢(shì)、季節(jié)性以及殘差；分別將所述趨勢(shì)、所述季節(jié)性以及所述殘差輸入編碼器中，獲取所述編碼器輸出的趨勢(shì)向量、季節(jié)向量以及殘差向量；確定所述趨勢(shì)向量、所述季節(jié)向量以及所述殘差向量的第一和值向量為特征向量；

25、處理模塊，用于將所述時(shí)間序列以及所述特征向量輸入預(yù)先微調(diào)的llm中，獲取所述llm輸出的分類(lèi)結(jié)果。

26、進(jìn)一步地，所述處理模塊，具體用于將所述時(shí)間序列以及所述特征向量輸入預(yù)先微調(diào)的llm中；所述llm的記憶層獲取預(yù)先訓(xùn)練完成得到的每個(gè)記憶向量的鍵表示與值表示，根據(jù)所述每個(gè)記憶向量的鍵表示和所述特征向量，確定所述每個(gè)記憶向量的權(quán)重；根據(jù)所述每個(gè)記憶向量的權(quán)重與所述每個(gè)記憶向量的值表示，確定所述時(shí)間序列的特征表示；所述llm的門(mén)機(jī)制層根據(jù)所述時(shí)間序列以及所述特征表示，確定對(duì)應(yīng)的分類(lèi)結(jié)果，并輸出。

27、進(jìn)一步地，所述處理模塊，具體用于獲取預(yù)先訓(xùn)練完成得到的每個(gè)記憶向量；針對(duì)所述每個(gè)記憶向量，根據(jù)預(yù)設(shè)的鍵矩陣和預(yù)設(shè)的值矩陣與該記憶向量的點(diǎn)乘，確定該記憶向量的鍵表示與值表示。

28、進(jìn)一步地，所述處理模塊，具體用于針對(duì)所述每個(gè)記憶向量，確定該特征向量與該記憶向量的鍵表示的點(diǎn)乘得到的數(shù)值，并確定以預(yù)設(shè)數(shù)值為底數(shù)，所述數(shù)值為函數(shù)得到的目標(biāo)數(shù)值；確定每個(gè)記憶向量的目標(biāo)數(shù)值的和值；并確定每個(gè)記憶向量的目標(biāo)數(shù)值與所述和值的比值，為對(duì)應(yīng)的記憶向量的權(quán)重。

29、進(jìn)一步地，所述llm的門(mén)機(jī)制層包括transformer層、多個(gè)編碼識(shí)別層、全連接層及分類(lèi)器；每個(gè)所述編碼識(shí)別層包括依次連接的門(mén)控子層和transformer子層；且所述每個(gè)編碼識(shí)別層依次連接，首個(gè)編碼識(shí)別層的門(mén)控子層與所述transformer層連接；最后一個(gè)編碼識(shí)別器的transformer子層和所述全連接層連接；所述全連接層的另一端與所述分類(lèi)器連接；

30、所述處理模塊，具體用于所述transformer層對(duì)所述時(shí)間序列進(jìn)行編碼得到第一輸出；每個(gè)所述編碼識(shí)別層中的門(mén)控子層確定接收到的輸入向量與所述特征表示的第二和值向量，并確定預(yù)訓(xùn)練得到的該門(mén)控子層的參數(shù)矩陣與所述第二和值向量的第一叉乘矩陣，根據(jù)所述第一叉乘矩陣和預(yù)訓(xùn)練得到的該門(mén)控子層的參數(shù)偏移矩陣的第一和值矩陣，確定重置門(mén)矩陣；確定預(yù)設(shè)矩陣與所述重置門(mén)矩陣的差值矩陣，并確定所述差值矩陣與所述特征表示的第二叉乘矩陣，以及所述特征表示與所述重置門(mén)矩陣的第三叉乘矩陣；將所述第二叉乘矩陣與所述第三叉乘矩陣的第二和值矩陣確定為第二輸出；每個(gè)所述編碼識(shí)別層的transformer子層對(duì)對(duì)應(yīng)編碼識(shí)別層的門(mén)控子層的第二輸出進(jìn)行編碼，得到第三輸出；所述llm的門(mén)機(jī)制層的全連接層及所述分類(lèi)器根據(jù)最后一個(gè)編碼識(shí)別器的第三輸出，確定對(duì)應(yīng)的分類(lèi)結(jié)果。

31、進(jìn)一步地，所述處理模塊，具體用于通過(guò)以下方式微調(diào)llm：獲取預(yù)先保存的樣本集中的任一樣本時(shí)間序列、針對(duì)該樣本時(shí)間序列確定的樣本特征向量及針對(duì)該樣本時(shí)間序列保存的標(biāo)注分類(lèi)結(jié)果；將該樣本時(shí)間序列以及所述樣本特征向量輸入待微調(diào)的llm，獲取所述llm輸出的輸出分類(lèi)結(jié)果；基于所述標(biāo)注分類(lèi)結(jié)果以及所述輸出分類(lèi)結(jié)果，對(duì)所述llm進(jìn)行微調(diào)。

32、第三方面，本技術(shù)實(shí)施例還提供了一種電子設(shè)備，包括：

33、存儲(chǔ)器，用于存儲(chǔ)程序指令；

34、處理器，用于調(diào)用所述存儲(chǔ)器中存儲(chǔ)的程序指令，按照獲得的程序指令執(zhí)行上述任一項(xiàng)所述分類(lèi)的方法包括的步驟。

35、第四方面，本技術(shù)實(shí)施例還提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)存儲(chǔ)有計(jì)算機(jī)程序，所述計(jì)算機(jī)程序包括程序指令，所述程序指令當(dāng)被計(jì)算機(jī)執(zhí)行時(shí)，使所述計(jì)算機(jī)執(zhí)行如上述任一項(xiàng)所述分類(lèi)的方法。

36、由于在本技術(shù)實(shí)施例中，電子設(shè)備獲取預(yù)設(shè)時(shí)間段內(nèi)按照設(shè)定間隔采集的每個(gè)數(shù)據(jù)，將該每個(gè)數(shù)據(jù)組成的時(shí)間序列輸入llm中，由于數(shù)據(jù)是客觀存在的，并不會(huì)存在主觀性、模糊性或信息不全等因素，因此可以提高分類(lèi)的準(zhǔn)確性，且，電子設(shè)備基于每個(gè)數(shù)據(jù)組成的時(shí)間序列的趨勢(shì)、季節(jié)性以及殘差對(duì)應(yīng)的趨勢(shì)向量、季節(jié)向量以及殘差向量，確定時(shí)間序列的特征向量，將時(shí)間序列的特征向量一同輸入llm中，進(jìn)一步提高llm識(shí)別的準(zhǔn)確度，從而提高分類(lèi)的準(zhǔn)確性。