背景技術：

1、本公開的各方面涉及機器學習模型，并且更具體地涉及適配機器學習模型以對域移位數據集執行準確的推斷。

2、機器學習模型(諸如人工神經網絡(ann)、卷積神經網絡(cnn)等)可用于對輸入數據執行各種動作。這些動作可包括例如數據壓縮、模式匹配(例如，用于生物特征認證)、對象檢測(例如，用于監視應用、自主駕駛等)、自然語言處理(例如，對觸發在系統內執行指定操作的口頭語音中的關鍵詞的標識)、或在其中使用模型來預測關于從其接收輸入數據的環境的狀態的某物的其他推斷操作。這些模型可一般使用源數據集來訓練，該源數據集可不同于機器學習模型用作輸入以進行推斷的目標數據集。例如，在機器學習模型被訓練和部署以供在自主駕駛中的對象回避任務中使用的一些場景中，源數據集可包括在帶有處于特定狀態的特定裝備的特定環境(例如，帶有具有相對干凈的特定噪聲和光學屬性的成像設備的城市或以其他方式高度構建的環境)中捕獲的圖像、視頻或其他內容。

3、一般來講，機器學習模型當被部署在與從其獲得用于訓練這些機器學習模型的源數據的環境類似的環境中時(例如，當源數據集和目標數據集在相同或至少基本上類似的域中時)生成準確的推斷。然而，當在其中捕獲目標數據集的域相對于源數據集移位時，推斷性能可能降低。例如，在城市或以其他方式高度構建的環境中訓練的模型對于在農村環境中捕獲的數據可能無法準確地執行推斷(并且反之亦然)。在另一示例中，當目標數據集包括在不同天氣或環境條件下捕獲的數據時，或者當在成像系統中引入了模糊或其他變換時，推斷性能可能降低。

技術實現思路

1、某些方面提供了一種用于適配機器學習模型以便從用于訓練該機器學習模型的源數據集對照移位域中的目標數據集進行推斷的處理器實現的方法。一種示例方法一般包括基于由機器學習模型中的一個或多個層針對源域中的輸入和移位域中的輸入所生成的輸出之間的差異來標識該機器學習模型中的一個或多個域敏感層。基于混合因子、固定的針對源域中的數據的歸一化值和計算出的針對移位域中的數據的歸一化值來針對一個或多個域敏感層中的每個相應域敏感層更新歸一化值。更新的歸一化值被應用于機器學習模型中的一個或多個域敏感層中的每個相應域敏感層。

2、其他方面提供了：處理系統，該處理系統被配置為執行前述方法以及本文所述的那些方法；非暫態計算機可讀介質，該非暫態計算機可讀介質包括指令，該指令在由處理系統的一個或多個處理器執行時使該處理系統執行前述方法以及本文所述的那些方法；體現在計算機可讀存儲介質上的計算機程序產品，該計算機程序產品包括用于執行前述方法以及本文進一步描述的那些方法的代碼；和處理系統，該處理系統包括用于執行前述方法以及本文進一步所述的那些方法的部件。

3、以下描述和相關附圖詳細闡述了一個或多個方面的某些例示性特征。

技術特征：

1.一種處理器實現的方法，包括：

2.根據權利要求1所述的方法，其中標識所述機器學習模型中的所述一個或多個域敏感層包括，針對所述機器學習模型中的所述層中的每個相應層：

3.根據權利要求2所述的方法，其中所述相似性分數包括歸一化余弦相似性分數。

4.根據權利要求1所述的方法，其中針對每個相應域敏感層的所述歸一化值進一步基于所述混合因子被應用于針對所述源域中的數據的所述歸一化值并且1減所述混合因子被應用于針對所述移位域中的數據的所述歸一化值被更新。

5.根據權利要求4所述的方法，其中所述混合因子包括在部署之前為所述機器學習模型固定的可學習參數。

6.根據權利要求1所述的方法，其中針對所述移位域中的所述數據的所述歸一化值包括通過所述移位域中的所述數據計算出的平均值和方差。

7.根據權利要求1所述的方法，所述方法還包括通過將一個或多個變換應用于所述源域中的所述輸入來生成所述移位域中的所述輸入。

8.根據權利要求1所述的方法，其中所述移位域中的所述輸入包括在推斷時間獲得的輸入。

9.根據權利要求1所述的方法，所述方法還包括針對所述機器學習模型中的所述一個或多個域敏感層中的每個相應域敏感層利用所述更新的歸一化值來部署所述機器學習模型。

10.根據權利要求1所述的方法，所述方法還包括將針對所述源域中的所述數據的所述歸一化值定義為所述機器學習模型中的一個或多個常數。

11.根據權利要求1所述的方法，所述方法還包括：

12.一種系統，所述系統包括：

13.根據權利要求12所述的系統，其中為了標識所述機器學習模型中的所述一個或多個域敏感層，所述至少一個處理器被配置為使所述系統針對所述機器學習模型中的所述層中的每個相應層：

14.根據權利要求13所述的系統，其中所述相似性分數包括歸一化余弦相似性分數。

15.根據權利要求12所述的系統，其中針對每個相應域敏感層的所述歸一化值進一步基于所述混合因子被應用于針對所述源域中的數據的所述歸一化值并且1減所述混合因子被應用于針對所述移位域中的數據的所述歸一化值被更新。

16.根據權利要求15所述的系統，其中所述混合因子包括在部署之前為所述機器學習模型固定的可學習參數。

17.根據權利要求12所述的系統，其中針對所述移位域中的所述數據的所述歸一化值包括通過所述移位域中的所述數據計算出的平均值和標準偏差。

18.根據權利要求12所述的系統，其中所述至少一個處理器還被配置為使所述系統通過將一個或多個變換應用于所述源域中的所述輸入來生成所述移位域中的所述輸入。

19.根據權利要求12所述的系統，其中所述移位域中的所述輸入包括在推斷時間獲得的輸入。

20.根據權利要求12所述的系統，其中所述至少一個處理器還被配置為使所述系統針對所述機器學習模型中的所述一個或多個域敏感層中的每個相應域敏感層利用所述更新的歸一化值來部署所述機器學習模型。

21.根據權利要求12所述的系統，其中所述至少一個處理器還被配置為使所述系統將針對所述源域中的所述數據的所述歸一化值部署為所述機器學習模型中的一個或多個常數。

22.根據權利要求12所述的系統，其中所述至少一個處理器還被配置為使所述系統：

23.一種系統，所述系統包括：

24.根據權利要求23所述的系統，其中用于標識所述機器學習模型中的所述一個或多個域敏感層的所述部件包括，針對所述機器學習模型中的所述層中的每個相應層：

25.根據權利要求23所述的系統，其中針對每個相應域敏感層的所述歸一化值進一步基于所述混合因子被應用于針對所述源域中的數據的所述歸一化值并且1減所述混合因子被應用于針對所述移位域中的數據的所述歸一化值被更新。

26.根據權利要求25所述的系統，其中所述混合因子包括在部署之前為所述機器學習模型固定的可學習參數。

27.根據權利要求23所述的系統，所述系統還包括用于通過將一個或多個變換應用于所述源域中的所述輸入來生成所述移位域中的所述輸入的部件。

28.根據權利要求23所述的系統，所述系統還包括用于針對所述機器學習模型中的所述一個或多個域敏感層中的每個相應域敏感層利用所述更新的歸一化值來部署所述機器學習模型的部件。

29.根據權利要求23所述的系統，所述系統還包括：

30.一種其上存儲有可執行指令的非暫態計算機可讀介質，所述可執行指令在由至少一個處理器執行時執行操作，所述操作包括：

技術總結
本公開的某些方面提供了用于適配機器學習模型以便從用于訓練該機器學習模型的源數據集對照移位域中的目標數據集進行推斷的技術和裝置。一種示例方法一般包括基于由機器學習模型中的一個或多個層針對源域中的輸入和移位域中的輸入所生成的輸出之間的差異來標識該機器學習模型中的一個或多個域敏感層。基于混合因子、固定的針對源域中的數據的歸一化值和計算出的針對移位域中的數據的歸一化值來針對一個或多個域敏感層中的每個相應域敏感層更新歸一化值。更新的歸一化值被應用于機器學習模型中的一個或多個域敏感層中的每個相應域敏感層。

技術研發人員：林惠秀,金炳根,崔圣河
受保護的技術使用者：高通股份有限公司
技術研發日：
技術公布日：2025/4/28