神經網絡芯片原理

根據計算模組的組織方式的不同，神經網絡芯片從體系結構上主要分爲乘加樹和脈動陣列兩大類。 Dian na0系列採用了乘加樹體系結構。它類似於經典的通用處理器，使用指令來靈活控制整個卷積計算的過程，同時，對輸入特徵圖、權重和輸出特徵圖等不同的運算數據設計專用的緩衝系統DaDiannao則針對高性能深度學習應用場景，擴展了多運算核心架構。

谷歌的TPU則採用了脈動陣列的組織方式。脈動陣列是在1970年代由哈佛大學的孔祥重教授提出，中科院計算所李國傑院士在脈動陣列的發展中也作出過基礎性貢獻。脈動陣列採用一種縱橫處理結構，數據按預先確定的“流水”在陣列的處理單元中有規則地流動，單元對數據進行並行處理，預先確定的數據流動模式使數據從流入到流出處理單元陣列過程中完成所有應做的處理。神經網絡的卷積計算模式和脈動陣列計算特點高度匹配，因而能取得非常好的加速性能。

從二者的結構特徵可以看出，乘加樹結構的神經網絡芯片使用指令控制計算流程，靈活通用，適合設計通用神經網絡處理器。而脈動陣列結構，可以高效複用數據，性能更高，但計算模式固定，比較專用。