麻豆精品无码国产在线播放,国产亚洲精品成人AA片新蒲金,国模无码大尺度一区二区三区,神马免费午夜福利剧场

一種基于邊緣混合專家大模型的可靠推理調度方法

文檔序號:41762639發布日期:2025-04-29 18:32閱讀:來源:國知局

技術特征:

1.一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,包括以下步驟:

2.根據權利要求1所述的一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,步驟s1的具體實現流程如下:

3.根據權利要求1所述的一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,步驟s2的具體實現流程如下:

4.根據權利要求3所述的一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,步驟s2.4的具體實現流程如下:

5.根據權利要求3所述的一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,步驟s2.5的具體實現流程如下:

6.根據權利要求5所述的一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,當本層推理任務涉及有惡意行為時,對于節點下線,表現為t=+∞;

7.根據權利要求1所述的一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,步驟s3的具體實現流程如下:

8.根據權利要求7所述的一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,步驟s3.7的具體實現流程如下:

9.根據權利要求7所述的一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,步驟s3.8的具體實現流程如下:

10.根據權利要求1所述的一種基于邊緣混合專家大模型的可靠推理調度方法,其特征在于,步驟s4的具體實現流程如下:


技術總結
一種基于邊緣混合專家大模型的可靠推理調度方法,涉及計算機領域,包括:分布式邊緣部署MoE大模型到邊緣網絡;進行惡意節點行為建模,模擬分布式協作推理,分別生成自編碼器輸入向量空間集合V與推理任務狀態集合S;進行異常節點檢測神經網絡訓練,得到各邊緣節點的計算可靠度;進行深度強化學習神經網絡訓練得到專家選擇策略;基于訓練的深度強化學習神經網絡進行邊緣MoE大模型的可靠推理調度。本發明利用分布式邊緣部署的服務質量與隱私保護優勢,根據大模型門控函數對專家網絡的原始路由結果,結合實際動態部署環境下的節點可靠度與實時負載,有效地優化推理過程,從而提高分布式邊緣部署下MoE大模型的協作推理效率和可靠性。

技術研發人員:潘勝利,張晉揚,汪成
受保護的技術使用者:北京郵電大學
技術研發日:
技術公布日:2025/4/28
當前第2頁1 2 
網友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點贊!
1
主站蜘蛛池模板: 赤水市| 尤溪县| 锡林郭勒盟| 永泰县| 昂仁县| 凉山| 格尔木市| 祁门县| 郁南县| 容城县| 同心县| 永兴县| 曲阜市| 兴宁市| 申扎县| 尚义县| 东明县| 福海县| 天门市| 泽州县| 云梦县| 呼图壁县| 梁平县| 龙游县| 资兴市| 邹平县| 富民县| 新河县| 罗江县| 兰溪市| 广河县| 沙河市| 嵩明县| 漳浦县| 梨树县| 大渡口区| 泸溪县| 福建省| 宜宾市| 都安| 平谷区|