本技術涉及廣電傳媒內容審核，具體地，涉及一種視頻評論審核方法、裝置、計算機設備和存儲介質。

背景技術：

1、在視聽媒體領域文本、聲音、圖像及視頻等信息傳播的過程中，內容審核可以幫助過濾違法、惡意等不良內容，保證傳播內容的合法合規和價值取向正確。

2、目前的內容審核主要是人工內容審核和智能內容審核結合的方式。在智能審核領域，根據數據類型的不同，采用不同的智能審核分類方式集合。文本領域，通過自然處理技術自動分析和理解文本；圖像領域，通過計算機視覺技術，利用圖像分割，目標檢測等，自動識別和過濾違規的圖像；音頻領域，將音頻轉換為文字進行判別；視頻領域，將視頻分解為視頻幀和音頻進行審核。

3、相關技術中，提供一種ai自動審核文案及圖片的語義識別方法及系統，該系統接收待發布的文案數據和圖片數據，對所有數據進行清洗后，對文案數據進行語義理解和情感分析，對圖片數據進行圖片處理，包括特征提取、目標檢測及語義分割，最后對處理后的數據進行內容審核。還提供一種基于大模型和注意力機制的多模態數據融合分類方法，該方法利用交叉注意力融合模型融合圖像和文本數據，且直接對不同圖像特征進行融合，既融合了不同圖像之間的特征信息，又避免了過度融合導致的過擬合風險，減少了信息冗余和噪聲，可以更好地平衡文本模態和圖像模態，提高分類結果的準確性。

4、然而，相關技術中，均使用自然語言處理技術進行文本分析，使用計算機視覺技術進行圖像分析，無法直接識別多模態數據的負面信息內容。

5、目前，隨著網絡發展，人們獲取信息的方式日趨大眾化。短視頻等內容載體成為人們討論生活，分享生活的主體。在線評論的出現使得用戶可以針對視頻內容討論任何話題并分享他們的觀點，同時網絡用語成為青年人在網絡輸出觀點的一種有趣方式。

6、視頻評論的隱含信息指的是評論中未顯性表達的情感、態度和觀點。在視頻與評論結合的場景中，通常這些評論本身作為詞語沒有諷刺含義問題，但結合圖像或視頻語境會具有諷刺含義，會導致負能量的傳播。因此需要提前將這種評論的隱含意義審核出來，避免輿論傳播風險。

7、相關技術中，并無直接用于視頻評論的諷刺含義審核的方法。而在學術界通常將情感分析技術運用于檢測評論的隱含信息，目前，主要分為三種方法：基于詞典的技術、基于機器學習的技術以及混合方法。基于詞典的技術一般使用統計分析，例如最近鄰與條件隨機場等，在情感詞語顯性表露時更容易檢測；基于機器學習的技術分為傳統機器學習和深度學習技術，利用循環神經網絡等可以理解詞匯特征，這些方法通常被轉換為處理文檔、句子級的分類問題；混合方法是將基于詞典和深度學習方法混合，增強文本情感分析的準確率。目前的情感分析主要是針對文字本身進行情感強度和極性分析，并無圖評結合的文本評論隱含信息審核。

8、相關技術中，提供一種多維度的評論審核方法，該方法從多個維度來進行評論審核，其中，重復度是檢測待審核評論的新穎性；文本豐富性是檢測待審核評論的內容是否單一；情感識別則是檢測待審核評論的情感積極性；而時效性則是衡量該待審核評論的發布時效；如此，從前述四個維度來進行評論審核，量化評論質量，從而保證評論質量的穩定性和優質性。還提供一種新聞評論審核方法，該方法包括獲取用戶端發起的評論，識別評論中的文本和圖片；提取圖片中的文字和元素，通過匹配識別并判斷元素是否包含違規元素，若是，則移除所述圖片；對文本和圖片文字進行語義監測，若監測結果為敏感評論、灌水評論或過激評論，則判定評論為違規評論，移除所述評論，并記錄評論至數據庫中；若無法判斷評論是否為違規評論，則獲取發表評論用戶的用戶情況，根據用戶情況對評論做進一步判斷，以確定評論是否違規，該方法具有加大審核效率，減少不正當評論的通過率的效果。

9、因此，相關技術中，主要是針對文本和圖像進行審核，無對視頻進行審核方法，此外，無法對評論的隱含含義，即評論本身無風險，在視頻場景下，評論產生內容風險的情況進行判斷。

技術實現思路

1、本技術實施例中提供了一種視頻評論審核方法、裝置、計算機設備和存儲介質。

2、本技術實施例的第一個方面，提供了一種視頻評論審核方法，包括：

3、獲取目標視頻及其對應的評論數據；

4、基于目標視頻及其對應的評論數據之間的關聯性，對目標視頻對應的評論數據進行標注，構建目標視頻對應的評論數據集；

5、將目標視頻及其對應的評論數據集作為訓練集，對預設多模態模型進行微調訓練，得到訓練后的第一多模態模型；

6、接收指定視頻及其對應的評論數據，并將指定視頻及其對應的評論數據輸入第一多模態模型，得到所述指定視頻的評論數據的審核結果，并對審核結果為負面評論的評論數據進行處理。

7、在本技術一個可選的實施例中，所述基于目標視頻及其對應的評論數據之間的關聯性，對目標視頻對應的評論數據進行標注，包括：

8、提取目標視頻對應的評論數據中的關鍵信息和情感信息，根據情感信息初步確定所述評論數據是否為負面評論；

9、在初步確定所述評論數據為負面評論的情況下，將所述評論數據標注為負面評論；

10、在初步確定所述評論數據為正面評論的情況下，基于目標視頻及其對應的評論數據之間的關聯性，進一步確定所述評論數據是否為負面評論；

11、在進一步確定所述評論數據為負面評論的情況下，將所述評論數據標注為負面評論；

12、在進一步確定所述評論數據為正面評論的情況下，將所述評論數據標注為正面評論。

13、在本技術一個可選的實施例中，所述基于目標視頻及其對應的評論數據之間的關聯性，進一步確定所述評論數據是否為負面評論，包括：

14、提取目標視頻中的關鍵信息和情感信息，計算目標視頻與其對應的評論數據中的關鍵信息和情感信息之間的相似性；

15、確定目標視頻與其對應的評論數據中的文字內容之間的沖突程度；

16、根據目標視頻與其對應的評論數據中的關鍵信息和情感信息之間的相似性以及文字內容之間的沖突程度，確定目標視頻與其對應的評論數據之間的沖突評分；

17、將沖突評分超出預設沖突評分閾值的評論數據確定為負面評論。

18、在本技術一個可選的實施例中，通過以下表達式，計算目標視頻與其對應的評論數據中的關鍵信息和情感信息之間的相似性：

19、

20、其中，a為目標視頻中的關鍵信息和情感信息組成的第一文本向量，b為目標視頻對應的評論數據中的關鍵信息和情感信息組成的第二文本向量，ai為第一文本向量中第i個向量元素，bi為第二文本向量中第i個向量元素，w1和w2均為權重因子。

21、在本技術一個可選的實施例中，所述構建目標視頻對應的評論數據集，包括：

22、將目標視頻對應的每條評論數據及每條評論數據的標注信息，匯集為目標視頻對應的評論數據集。

23、在本技術一個可選的實施例中，所述將目標視頻及其對應的評論數據集作為訓練集，對預設多模態模型進行微調訓練，得到訓練后的第一多模態模型，包括：

24、將目標視頻的視頻幀與每條評論數據作為輸入，將當前評論數據的標注信息作為輸出，對預設多模態模型中用于處理視頻幀的網絡結構采用有監督任務的lora微調方式進行訓練，用于處理評論數據的網絡結構采用有監督任務的qlora微調方式進行訓練，得到訓練后的第一多模態模型。

25、在本技術一個可選的實施例中，所述將指定視頻及其對應的評論數據輸入第一多模態模型，得到所述指定視頻的評論數據的審核結果，包括：

26、將指定視頻的視頻幀輸入第一多模態模型中用于處理視頻幀的網絡結構，得到視頻幀特征；

27、將指定視頻對應的評論數據輸入第一多模態模型中用于處理評論數據的網絡結構，得到評論數據特征；

28、將視頻幀特征和評論數據特征輸入第一多模態模型中的融合網絡結構，得到所述指定視頻的評論數據的審核結果。

29、本技術實施例的第二個方面，提供了一種視頻評論審核裝置，包括：

30、獲取模塊，用于獲取目標視頻及其對應的評論數據；

31、構建模塊，用于基于目標視頻及其對應的評論數據之間的關聯性，對目標視頻對應的評論數據進行標注，構建目標視頻對應的評論數據集；

32、訓練模塊，用于將目標視頻及其對應的評論數據集作為訓練集，對預設多模態模型進行微調訓練，得到訓練后的第一多模態模型；

33、輸入模塊，用于接收指定視頻及其對應的評論數據，并將指定視頻及其對應的評論數據輸入第一多模態模型，得到所述指定視頻的評論數據的審核結果，并對審核結果為負面評論的評論數據進行處理。

34、本技術實施例的第三個方面，提供了一種計算機設備，包括：存儲器和處理器，存儲器存儲有計算機程序，處理器執行計算機程序時實現如上任一項方法的步驟。

35、本技術實施例的第四個方面，提供了一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，計算機程序被處理器執行時實現如上任一項的視頻評論審核方法的步驟。

36、本技術實施例提供的上述技術方案與現有技術相比至少具有如下優點的部分或全部：

37、本技術實施例所述的視頻評論審核方法，獲取目標視頻及其對應的評論數據；基于目標視頻及其對應的評論數據之間的關聯性，對目標視頻對應的評論數據進行標注，構建目標視頻對應的評論數據集；將目標視頻及其對應的評論數據集作為訓練集，對預設多模態模型進行微調訓練，得到訓練后的第一多模態模型；接收指定視頻及其對應的評論數據，并將指定視頻及其對應的評論數據輸入第一多模態模型，得到所述指定視頻的評論數據的審核結果，并對審核結果為負面評論的評論數據進行處理，本技術對目標視頻的視頻幀進行理解，并對目標視頻的評論進行標注，結合視頻幀及其評論和評論的標注進行預設多模態模型的訓練微調，達到訓練后的第一多模態模型用于識別視頻評論隱含信息的審核目的。