AI加速器設計

本項目開發一支C-code only 的優化推論程式Framework稱MDFI， 它可讀入由Darknet 訓練完成的network configuration檔以及network weight檔，然後依照network 順序帶入訓練參數 (weights)進行Inference運算並輸出結果。MDFI支援Image classification(Alexnet, Resnet50, Resnet152, Vgg16, Tiny Darknet等)與Object detection (Yolov3, Yolov3 tiny)、原始碼支援configurable network model編譯。

MDFI 只需GNU C Library (glibc)，不需要其他套件。MDFI作為純C語言構成的前向傳導框架，主要支援物件辨識網路模型，不使用動態函式庫如Protocol-buffer，以及保持不到280KByte的執行檔大小，適合為終端移動設備所使用。由於不使用動態函式庫，其運算行為可作為AI 加速硬體設計的參照，作為ESL的前期描述模型。圖4為MDFI對比其他Framework有較少的函式庫依賴。顯示MDFI在整體加速器實作流程的位置及其重要性。

• Develop Energy Efficient AI Acceleration Schemes for Edge AI Applications