本申請涉及數(shù)據(jù)處理領(lǐng)域，尤其是一種基于大語言模型的記憶檢索方法以及相關(guān)裝置。

背景技術(shù)：

1、在信息技術(shù)飛速發(fā)展的當(dāng)下，人們每日需處理與記憶的信息量爆炸式增長，這給大語言模型(llm)的應(yīng)用帶來了諸多挑戰(zhàn)。

2、相關(guān)技術(shù)中，大語言模型主要依賴傳統(tǒng)的上下文存儲方式，這種存儲方式存在著顯著的缺陷。首先，這種存儲方式導(dǎo)致模型的記憶容量有限，無法承載用戶長期積累的大量個性化信息，難以滿足其實際需求。其次，模型的遺忘率高，模型難以持久存儲特定用戶信息，頻繁出現(xiàn)的“健忘”問題致使交互缺乏連貫性，影響用戶體驗。再者，信息檢索效率低，在海量信息中精準(zhǔn)快速地找出用戶所需個性化信息頗具難度，極大地影響了模型的響應(yīng)速度與準(zhǔn)確性。同時，相關(guān)技術(shù)中還缺乏有效的信息分類機(jī)制，難以對用戶個性化信息進(jìn)行智能分類與組織，使得信息管理雜亂無章，檢索過程阻礙重重。另外，信息更新機(jī)制不完善，無法高效整合與更新用戶的新舊信息，容易引發(fā)信息冗余或矛盾等狀況。

3、上述這些問題在大語言模型與用戶的交互過程中尤為明顯，嚴(yán)重阻礙了用戶體驗的提升以及信息處理效率的優(yōu)化。因此亟需提出一個全新的技術(shù)方案，用以解決上述至少一個技術(shù)問題，推動大模型在實際應(yīng)用中的發(fā)展與完善。

技術(shù)實現(xiàn)思路

1、本申請針對現(xiàn)有技術(shù)中存在的技術(shù)問題，提供一種基于大語言模型的記憶檢索方法以及相關(guān)裝置，用以解決現(xiàn)有技術(shù)中存在的至少一個技術(shù)問題。

2、第一方面，本申請實施例提供了一種基于大語言模型的記憶檢索方法，該方法包括：

3、響應(yīng)于目標(biāo)用戶發(fā)出的交互指令，對所述交互指令進(jìn)行上下文解析處理，得到目標(biāo)用戶的實時交互意圖；

4、基于所述實時交互意圖對短期記憶模塊以及長期記憶模塊進(jìn)行記憶檢索，得到目標(biāo)檢索信息；其中，所述短期記憶模塊與所述長期記憶模塊之間支持存儲信息的雙向傳輸；所述短期記憶模塊用于臨時存儲在預(yù)設(shè)時段內(nèi)與目標(biāo)用戶之間的實時交互信息以及實時檢索信息；所述長期記憶模塊用于存儲所述實時交互信息以及所述實時檢索信息中符合預(yù)設(shè)所述動態(tài)轉(zhuǎn)移策略的關(guān)鍵信息；

5、結(jié)合目標(biāo)用戶的個性化知識庫，對所述目標(biāo)檢索信息進(jìn)行個性化處理，得到與目標(biāo)用戶在使用習(xí)慣上匹配的響應(yīng)信息，用以回應(yīng)所述交互指令。

6、第二方面，本申請實施例提供了一種基于大語言模型的記憶檢索裝置，該裝置至少包括以下單元：

7、交互單元，被配置為響應(yīng)于目標(biāo)用戶的交互指令，對所述交互指令進(jìn)行上下文解析處理，得到目標(biāo)用戶的實時交互意圖；

8、檢索單元，被配置為基于所述實時交互意圖對短期記憶模塊以及長期記憶模塊進(jìn)行記憶檢索，得到目標(biāo)檢索信息；其中，所述短期記憶模塊與所述長期記憶模塊之間支持存儲信息的雙向傳輸；所述短期記憶模塊用于臨時存儲在預(yù)設(shè)時段內(nèi)與目標(biāo)用戶之間的實時交互信息以及實時檢索信息；所述長期記憶模塊用于存儲所述實時交互信息以及所述實時檢索信息中符合預(yù)設(shè)所述動態(tài)轉(zhuǎn)移策略的關(guān)鍵信息；

9、生成單元，被配置為結(jié)合目標(biāo)用戶的個性化知識庫，對所述目標(biāo)檢索信息進(jìn)行個性化處理，得到與目標(biāo)用戶在使用習(xí)慣上匹配的響應(yīng)信息，用以回應(yīng)所述交互指令。

10、第三方面，本申請實施例提供了一種電子設(shè)備，所述電子設(shè)備包括：

11、至少一個處理器、存儲器和輸入輸出單元；

12、其中，所述存儲器用于存儲計算機(jī)程序，所述處理器用于調(diào)用所述存儲器中存儲的計算機(jī)程序來執(zhí)行第一方面的基于大語言模型的記憶檢索方法。

13、第四方面，提供了一種計算機(jī)可讀存儲介質(zhì)，其包括指令，當(dāng)其在計算機(jī)上運(yùn)行該指令時，使得計算機(jī)執(zhí)行第一方面的基于大語言模型的記憶檢索方法。

14、本申請的有益效果是：提供了一種基于大語言模型的記憶檢索方法以及相關(guān)裝置。該技術(shù)方案中，首先，響應(yīng)于目標(biāo)用戶發(fā)出的交互指令，對所述交互指令進(jìn)行上下文解析處理，得到目標(biāo)用戶的實時交互意圖。進(jìn)而，基于所述實時交互意圖對短期記憶模塊以及長期記憶模塊進(jìn)行記憶檢索，得到目標(biāo)檢索信息。其中，所述短期記憶模塊與所述長期記憶模塊之間支持存儲信息的雙向傳輸；所述短期記憶模塊用于臨時存儲在預(yù)設(shè)時段內(nèi)與目標(biāo)用戶之間的實時交互信息以及實時檢索信息；所述長期記憶模塊用于存儲所述實時交互信息以及所述實時檢索信息中符合預(yù)設(shè)所述動態(tài)轉(zhuǎn)移策略的關(guān)鍵信息。最后，結(jié)合目標(biāo)用戶的個性化知識庫，對所述目標(biāo)檢索信息進(jìn)行個性化處理，得到與目標(biāo)用戶在使用習(xí)慣上匹配的響應(yīng)信息，用以回應(yīng)所述交互指令。綜上所述，該方案能夠通過精準(zhǔn)理解用戶意圖、高效全面檢索記憶信息以及實現(xiàn)個性化回應(yīng)等多方面效果，提升大語言模型的信息檢索效率，提高大語言模型在交互場景下的性能表現(xiàn)，改善用戶體驗。

技術(shù)特征：

1.一種基于大語言模型的記憶檢索方法，其特征在于，所述方法包括：

2.根據(jù)權(quán)利要求1所述的基于大語言模型的記憶檢索方法，其特征在于，所述基于所述實時交互意圖對短期記憶模塊以及長期記憶模塊進(jìn)行記憶檢索，得到目標(biāo)檢索信息之前，還包括：

3.根據(jù)權(quán)利要求2所述的基于大語言模型的記憶檢索方法，其特征在于，所述將所述待存儲信息按照重要性評分和時效性評分存儲到短期記憶模塊中，包括：

4.根據(jù)權(quán)利要求3所述的基于大語言模型的記憶檢索方法，其特征在于，所述按照動態(tài)轉(zhuǎn)移策略將所述短期記憶模塊中存儲的關(guān)鍵信息轉(zhuǎn)存至長期記憶模塊中，包括：

5.根據(jù)權(quán)利要求4所述的基于大語言模型的記憶檢索方法，其特征在于，所述將滿足所述轉(zhuǎn)移條件的短期存儲信息從所述短期記憶模塊轉(zhuǎn)移到所述長期記憶模塊中，包括：

6.根據(jù)權(quán)利要求5所述的基于大語言模型的記憶檢索方法，其特征在于，所述通過長期記憶模型，將接收的短期存儲信息嵌入到與目標(biāo)用戶相關(guān)的長期記憶圖譜中，并基于嵌入結(jié)果將接收的短期存儲信息分別存儲到向量數(shù)據(jù)庫內(nèi)對應(yīng)的長期存儲空間中，作為長期存儲信息，包括：

7.根據(jù)權(quán)利要求2所述的基于大語言模型的記憶檢索方法，其特征在于，所述將所述待存儲信息按照重要性評分和時效性評分存儲到短期記憶模塊中之后，或者按照動態(tài)轉(zhuǎn)移策略將所述短期記憶模塊中存儲的關(guān)鍵信息轉(zhuǎn)存至長期記憶模塊中之后，還包括：

8.根據(jù)權(quán)利要求1所述的基于大語言模型的記憶檢索方法，其特征在于，所述基于所述實時交互意圖對短期記憶模塊以及長期記憶模塊進(jìn)行記憶檢索，得到目標(biāo)檢索信息，包括：

9.根據(jù)權(quán)利要求1所述的基于大語言模型的記憶檢索方法，其特征在于，所述結(jié)合目標(biāo)用戶的個性化知識庫，對所述目標(biāo)檢索信息進(jìn)行個性化處理，得到與目標(biāo)用戶在使用習(xí)慣上匹配的響應(yīng)信息，包括：

10.一種基于大語言模型的記憶檢索裝置，其特征在于，所述裝置包括以下單元，其中，

技術(shù)總結(jié)
本申請涉及數(shù)據(jù)處理領(lǐng)域，尤其是一種基于大語言模型的記憶檢索方法以及相關(guān)裝置。該方法包括：響應(yīng)于目標(biāo)用戶發(fā)出的交互指令，對所述交互指令進(jìn)行上下文解析處理，得到目標(biāo)用戶的實時交互意圖；基于所述實時交互意圖對短期記憶模塊以及長期記憶模塊進(jìn)行記憶檢索，得到目標(biāo)檢索信息；結(jié)合目標(biāo)用戶的個性化知識庫，對所述目標(biāo)檢索信息進(jìn)行個性化處理，得到與目標(biāo)用戶在使用習(xí)慣上匹配的響應(yīng)信息，用以回應(yīng)所述交互指令。該方法提升了大語言模型在交互過程中的記憶容量，降低了信息遺忘率，提高了信息檢索效率，實現(xiàn)了個性化信息的有效分類和組織，提升用戶體驗。

技術(shù)研發(fā)人員：肖錫堯,鄭叔亮
受保護(hù)的技術(shù)使用者：北京聆心智能科技有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/4/28