高性能異構(gòu)加速器MiniGo算子優(yōu)化方法
國防科技大學學報
頁數(shù): 10 2024-01-30
摘要: 根據(jù)高性能異構(gòu)加速器的特性和MiniGo的訓練模式提出了一種高效的并行計算方法。對片上計算資源進行合理規(guī)劃,實現(xiàn)異構(gòu)設備之間的流水并行優(yōu)化;根據(jù)異構(gòu)設備間存在共享存儲段設計了共享內(nèi)存編碼模式,減少數(shù)據(jù)傳輸開銷;根據(jù)數(shù)字信號處理簇內(nèi)具有多計算資源的特點結(jié)合算子計算-訪存特性設計了不同的算子并行計算優(yōu)化策略。同時,面向TensorFlow實現(xiàn)了一個易于使用的高性能計算庫。實驗結(jié)果顯... (共10頁)