技術總結
本發明涉及深度學習算法的技術領域,具體涉及一種混合精度深度學習算法;所要解決的技術問題在于:提供一種既保證了計算精度不變,又提高了計算效率的混合精度深度學習算法;采用的技術方案為:包括以下步驟:S101、利用單精度眾核處理器進行前向傳播計算,對每一網絡層計算出每一個神經元的值;S102、利用單精度眾核處理器進行后向傳播計算,對每一網絡層計算出誤差殘量值;S103、利用單精度眾核處理器計算權值的增量;S104、將單精度眾核處理器計算出的增量權值更新到高精度眾核處理器計算出的增量權值上,完成一次迭代計算。本發明適用于深度學習領域。
技術研發人員:許建衛;劉立;竇曉光
受保護的技術使用者:曙光信息產業(北京)有限公司
文檔號碼:201611132257
技術研發日:2016.12.09
技術公布日:2017.05.10