麻豆精品无码国产在线播放,国产亚洲精品成人AA片新蒲金,国模无码大尺度一区二区三区,神马免费午夜福利剧场

一種機器學習模型編譯優化方法、裝置及計算設備集群與流程

文檔序號:41773273發布日期:2025-04-29 18:44閱讀:來源:國知局

技術特征:

1.一種機器學習模型編譯優化方法,其特征在于,包括:

2.根據權利要求1所述的方法,其特征在于,所述確定所述稀疏節點的最優稀疏實現方案,包括:

3.根據權利要求1或2所述的方法,其特征在于,在所述計算圖中將所述稀疏節點替換為所述第一節點之后,還包括:

4.根據權利要求1-3任一所述的方法,其特征在于,所述計算圖中包括第二節點,所述第二節點為新生成的節點;

5.根據權利要求1-4任一所述的方法,其特征在于,在對所述計算圖進行代碼生成之前,還包括:

6.根據權利要求1-5任一所述的方法,其特征在于,所述方法還包括:

7.一種機器學習模型編譯優化裝置,其特征在于,包括:

8.根據權利要求7所述的裝置,其特征在于,所述方案確定模塊在確定所述稀疏節點的最優稀疏實現方案時,具體用于:

9.根據權利要求7或8所述的裝置,其特征在于,所述節點處理模塊在所述計算圖中將所述稀疏節點替換為所述第一節點之后,還用于:

10.根據權利要求7-9任一所述的裝置,其特征在于,所述計算圖中包括第二節點,所述第二節點為新生成的節點;

11.根據權利要求7-10任一所述的裝置,其特征在于,在所述代碼生成模塊對所述計算圖進行代碼生成之前,所述節點處理模塊,還用于:

12.根據權利要求7-11任一所述的裝置,其特征在于,所述節點處理模塊,還用于:

13.一種計算設備集群,其特征在于,包括至少一個計算設備,每個計算設備均包括處理器和存儲器;

14.一種計算機可讀存儲介質,所述計算機可讀存儲介質存儲有計算機程序,當所述計算機程序在包括至少一個計算設備的計算設備集群上運行時,使得所述計算設備集群執行如權利要求1-6任一所述的方法。

15.一種計算機程序產品,其特征在于,當所述計算機程序產品在包括至少一個計算設備的計算設備集群上運行時,使得所述計算設備集群執行如權利要求1-6任一所述的方法。


技術總結
一種機器學習模型編譯優化方法,包括:對機器學習模型的計算圖中的節點進行識別,以識別到稀疏節點;確定稀疏節點的最優稀疏實現方案,最優稀疏實現方案包括:稀疏節點的內存布局、配置參數和權重張量的稀疏格式中的一項或多項;若在最優稀疏實現方案下稀疏節點的性能數據優于目標性能數據,則基于最優稀疏實現方案,生成第一節點,并在計算圖中將稀疏節點替換為第一節點,其中,目標性能數據是在原始稀疏實現方案下稀疏節點的性能數據;對計算圖進行代碼生成,得到計算圖的執行代碼。這樣,通過考慮計算圖中節點在不同稀疏實現下的性能收益,以最優稀疏實現為依據,對計算圖中稀疏節點進行優化,提升了與計算圖相關的機器學習模型的性能收益。

技術研發人員:楊海龍,劉笑妍,鄭學貴,楊林楓,易衍智
受保護的技術使用者:華為技術有限公司
技術研發日:
技術公布日:2025/4/28
當前第2頁1 2 
網友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點贊!
1
主站蜘蛛池模板: 岳普湖县| 苍溪县| 利辛县| 顺昌县| 屯门区| 滦平县| 安乡县| 贵港市| 施甸县| 定结县| 新安县| 双城市| 清涧县| 资中县| 东乌珠穆沁旗| 奈曼旗| 刚察县| 古丈县| 宁海县| 清苑县| 内江市| 喀喇| 天门市| 阳高县| 华蓥市| 怀仁县| 宣汉县| 彰化县| 诏安县| 贞丰县| 个旧市| 柳林县| 三亚市| 奈曼旗| 梁山县| 台北县| 洪洞县| 谷城县| 离岛区| 五台县| 全南县|