AI芯片作為產業核心，也是技術要求和附加值最高的環節，在AI產業鏈中的產業價值和戰略地位遠遠大于應用層創新。騰訊發布的《中美兩國人工智能產業發展全面解讀》報告顯示，基礎層的處理器/芯片企業數量來看，中國有14家，美國33家。本文將對這一領域產業生態做一個簡單梳理。
AI芯片分類
Training環節通常需要通過大量的數據輸入，或采取增強學習等非監督學習方法，訓練出一個復雜的深度神經網絡模型。訓練過程由于涉及海量的訓練數據和復雜的深度神經網絡結構，運算量巨大，需要龐大的計算規模，對于處理器的計算能力、精度、可擴展性等性能要求很高。目前在訓練環節主要使用NVIDIA的GPU集群來完成，Google自主研發的ASIC芯片TPU2.0也支持訓練環節的深度網絡加速。
Inference環節指利用訓練好的模型，使用新的數據去“推理”出各種結論，如視頻監控設備通過后臺的深度神經網絡模型，判斷一張抓拍到的人臉是否屬于黑名單。雖然Inference的計算量相比Training少很多，但仍然涉及大量的矩陣運算。在推理環節，GPU、FPGA和ASIC都有很多應用價值。
在深度學習的Training階段，由于對數據量及運算量需求巨大，單一處理器幾乎不可能獨立完成一個模型的訓練過程，因此，Training環節目前只能在云端實現，在設備端做Training目前還不是很明確的需求。
在Inference階段，由于目前訓練出來的深度神經網絡模型大多仍非常復雜，其推理過程仍然是計算密集型和存儲密集型的，若部署到資源有限的終端用戶設備上難度很大，因此，云端推理目前在人工智能應用中需求更為明顯。GPU、FPGA、ASIC(Google TPU1.0/2.0)等都已應用于云端Inference環境。在設備端Inference領域，由于智能終端數量龐大且需求差異較大，如ADAS、VR等設備對實時性要求很高，推理過程不能交由云端完成，要求終端設備本身需要具備足夠的推理計算能力，因此一些低功耗、低延遲、低成本的專用芯片也會有很大的市場需求。
按照上述兩種分類，我們得出AI芯片分類象限如下圖所示。
除了按照功能場景劃分外，AI芯片從技術架構發展來看，大致也可以分為四個類型：
-
通用類芯片，代表如GPU、FPGA；
-
基于FPGA的半定制化芯片，代表如深鑒科技DPU、百度XPU等；
-
全定制化ASIC芯片，代表如TPU、寒武紀 Cambricon-1A等；
-
類腦計算芯片，代表如IBM TrueNorth、westwell、高通Zeroth等。
AI芯片產業生態
從上述分類象限來看，目前AI芯片的市場需求主要是三類：
-
面向于各大人工智能企業及實驗室研發階段的Training需求(主要是云端，設備端Training需求尚不明確)；
-
Inference On Cloud，Face++、出門問問、Siri等主流人工智能應用均通過云端提供服務；
-
Inference On Device，面向智能手機、智能攝像頭、機器人/無人機、自動駕駛、VR等設備的設備端推理市場，需要高度定制化、低功耗的AI芯片產品。如華為麒麟970搭載了“神經網絡處理單元(NPU，實際為寒武紀的IP)”、蘋果A11搭載了“神經網絡引擎(Neural Engine)”。
（一）Training訓練
2007年以前，人工智能研究受限于當時算法、數據等因素，對于芯片并沒有特別強烈的需求，通用的CPU芯片即可提供足夠的計算能力。Andrew Ng和Jeff Dean打造的Google Brain項目，使用包含16000個CPU核的并行計算平臺，訓練超過10億個神經元的深度神經網絡。但CPU的串行結構并不適用于深度學習所需的海量數據運算需求，用CPU做深度學習訓練效率很低，在早期使用深度學習算法進行語音識別的模型中，擁有429個神經元的輸入層，整個網絡擁有156M個參數，訓練時間超過75天。
與CPU少量的邏輯運算單元相比，GPU整個就是一個龐大的計算矩陣，GPU具有數以千計的計算核心、可實現10-100倍應用吞吐量，而且它還支持對深度學習至關重要的并行計算能力，可以比傳統處理器更加快速，大大加快了訓練過程。
從上圖對比來看，在內部結構上，CPU中70%晶體管都是用來構建Cache(高速緩沖存儲器)和一部分控制單元，負責邏輯運算的部分(ALU模塊)并不多，指令執行是一條接一條的串行過程。GPU 由并行計算單元和控制單元以及存儲單元構成，擁有大量的核(多達幾千個)和大量的高速內存，擅長做類似圖像處理的并行計算，以矩陣的分布式形式來實現計算。同CPU不同的是，GPU的計算單元明顯增多，特別適合大規模并行計算。
在人工智能的通用計算GPU市場，NVIDIA現在一家獨大。2010年NVIDIA就開始布局人工智能產品，2014年發布了新一代PASCAL GPU芯片架構，這是NVIDIA的第五代GPU架構，也是首個為深度學習而設計的GPU，它支持所有主流的深度學習計算框架。2016年上半年，NVIDIA又針對神經網絡訓練過程推出了基于PASCAL架構的TESLA P100芯片以及相應的超級計算機DGX-1。DGX-1包含TESLA P100 GPU加速器，采用NVLINK互聯技術，軟件堆棧包含主要深度學習框架、深度學習SDK、DIGITS GPU訓練系統、驅動程序和CUDA，能夠快速設計深度神經網絡(DNN)，擁有高達170TFLOPS的半精度浮點運算能力，相當于250臺傳統服務器，可以將深度學習的訓練速度加快75倍，將CPU性能提升56倍。
Training市場目前能與NVIDIA競爭的就是Google。今年5月份Google發布了TPU 2.0，TPU(TensorProcessing Unit)是Google研發的一款針對深度學習加速的ASIC芯片，第一代TPU僅能用于推理，而目前發布的TPU 2.0既可以用于訓練神經網絡，又可以用于推理。據介紹，TPU2.0包括了四個芯片，每秒可處理180萬億次浮點運算。Google還找到一種方法，使用新的計算機網絡將64個TPU組合到一起，升級為所謂的TPU Pods，可提供大約11500萬億次浮點運算能力。Google表示，公司新的深度學習翻譯模型如果在32塊性能最好的GPU上訓練，需要一整天的時間，而八分之一個TPU Pod就能在6個小時內完成同樣的任務。目前Google 并不直接出售TPU芯片，而是結合其開源深度學習框架TensorFlow為AI開發者提供TPU云加速的服務，以此發展TPU2的應用和生態，比如TPU2同時發布的TensorFlow Research Cloud (TFRC) 。
上述兩家以外，傳統CPU/GPU廠家Intel和AMD也在努力進入這Training市場，如Intel推出的Xeon Phi+Nervana方案，AMD的下一代VEGA架構GPU芯片等，但從目前市場進展來看很難對NVIDIA構成威脅。初創公司中，Graphcore 的IPU處理器(IntelligenceProcessing Unit)據介紹也同時支持Training和Inference。該IPU采用同構多核架構，有超過1000個獨立的處理器；支持All-to-All的核間通信，采用BulkSynchronous Parallel的同步計算模型；采用大量片上Memory，不直接連接DRAM。
總之，對于云端的Training(也包括Inference)系統來說，業界比較一致的觀點是競爭的核心不是在單一芯片的層面，而是整個軟硬件生態的搭建。NVIDIA的CUDA+GPU、Google的TensorFlow+TPU2.0，巨頭的競爭也才剛剛開始。
（二）Inference On Cloud云端推理
相對于Training市場上NVIDIA的一家獨大，Inference市場競爭則更為分散。若像業界所說的深度學習市場占比(Training占5%，Inference占95%)，Inference市場競爭必然會更為激烈。
在云端推理環節，雖然GPU仍有應用，但并不是最優選擇，更多的是采用異構計算方案(CPU/GPU +FPGA/ASIC)來完成云端推理任務。FPGA領域，四大廠商(Xilinx/Altera/Lattice/Microsemi)中的Xilinx和Altera（被Intel收購）在云端加速領域優勢明顯。Altera在2015年12月被Intel收購，隨后推出了Xeon+FPGA的云端方案，同時與Azure、騰訊云、阿里云等均有合作；Xilinx則與IBM、百度云、AWS、騰訊云合作較深入，另外Xilinx還戰略投資了國內AI芯片初創公司深鑒科技。目前來看，云端加速領域其他FPGA廠商與Xilinx和Altera還有很大差距。
ASIC領域，應用于云端推理的商用AI芯片目前主要是Google的TPU1.0/2.0。其中，TPU1.0僅用于Datacenter Inference應用。它的核心是由65,536個8-bit MAC組成的矩陣乘法單元，峰值可以達到92 TeraOps/second(TOPS)。有一個很大的片上存儲器，一共28 MiB。它可以支持MLP，CNN和LSTM這些常見的神經網絡，并且支持TensorFLow框架。它的平均性能(TOPS)可以達到CPU和GPU的15到30倍，能耗效率(TOPS/W)能到30到80倍。如果使用GPU的DDR5 memory，這兩個數值可以達到大約GPU的70倍和CPU的200倍。TPU 2.0既用于訓練，也用于推理，上一節已經做過介紹。
國內AI芯片公司寒武紀科技據報道也在自主研發云端高性能AI芯片，目前與科大訊飛、曙光等均有合作，但目前還沒有詳細的產品介紹。
（三）Inference On Device設備端推理
設備端推理的應用場景更為多樣化，智能手機、ADAS、智能攝像頭、語音交互、VR/AR等設備需求各異，需要更為定制化、低功耗、低成本的嵌入式解決方案，這就給了創業公司更多機會，市場競爭生態也會更加多樣化。
1）智能手機
華為9月初發布的麒麟970 AI芯片就搭載了神經網絡處理器NPU(寒武紀IP)。麒麟970采用了TSMC 10nm工藝制程，擁有55億個晶體管，功耗相比上一代芯片降低20%。CPU架構方面為4核A73+4核A53組成8核心，能耗同比上一代芯片得到20%的提升；GPU方面采用了12核Mali G72 MP12GPU，在圖形處理以及能效兩項關鍵指標方面分別提升20%和50%；NPU采用HiAI移動計算架構，在FP16下提供的運算性能可以達到1.92 TFLOPs，相比四個Cortex-A73核心，處理同樣的AI任務，有大約50倍能效和25倍性能優勢。
蘋果最新發布的A11仿生芯片也搭載了神經網絡單元。據介紹，A11仿生芯片有43億個晶體管，采用TSMC 10納米FinFET工藝制程。CPU采用了六核心設計，由2個高性能核心與4個高能效核心組成。相比A10 Fusion，其中兩個性能核心的速度提升了25%，四個能效核心的速度提升了70%；GPU采用了蘋果自主設計的三核心 GPU 圖形處理單元，圖形處理速度與上一代相比最高提升可達 30% 之多；神經網絡引擎NPU采用雙核設計，每秒運算次數最高可達 6000 億次，主要用于勝任機器學習任務，能夠識別人物、地點和物體等，能夠分擔 CPU 和 GPU 的任務，大幅提升芯片的運算效率。
另外，高通從 2014 年開始也公開了NPU的研發，并且在最新兩代驍龍 8xx 芯片上都有所體現，例如驍龍 835 就集成了“驍龍神經處理引擎軟件框架”，提供對定制神經網絡層的支持，OEM 廠商和軟件開發商都可以基于此打造自己的神經網絡單元。ARM在今年所發布的 Cortex-A75 和 Cortex-A55中也融入了自家的AI 神經網絡DynamIQ技術，據介紹，DynamIQ技術在未來 3-5 年內可實現比當前設備高50倍的AI性能，可將特定硬件加速器的反應速度提升10倍�？傮w來看，智能手機未來AI芯片的生態基本可以斷定仍會掌握在傳統SoC商手中。
2）自動駕駛
NVIDIA去年發布自動駕駛開發平臺DRIVE PX2，基于16nm FinFET工藝，功耗高達250W，采用水冷散熱設計；支持12路攝像頭輸入、激光定位、雷達和超聲波傳感器；CPU采用兩顆新一代NVIDIA Tegra處理器，當中包括了8個A57核心和4個Denver核心；GPU采用新一代Pascal架構，單精度計算能力達到8TFlops，超越TITAN X，有后者10倍以上的深度學習計算能力。Intel收購的Mobileye、高通收購的NXP、英飛凌、瑞薩等汽車電子巨頭也提供ADAS芯片和算法。初創公司中，地平線的深度學習處理器(BPU，BrainProcessor Unit)IP及其自研雨果(Hugo)平臺也是重點面向自動駕駛領域。
3）計算機視覺領域
Intel收購的Movidius是主要的芯片提供商，大疆無人機、海康威視和大華股份的智能監控攝像頭均使用了Movidius的Myriad系列芯片。目前國內做計算機視覺技術的公司中，商湯科技、Face++、云從、依圖等，未來有可能隨著其自身計算機視覺技術的積累漸深，部分公司向上游延伸去做CV芯片研發。另外，國內還有如人人智能、智芯原動等創業公司提供攝像頭端的AI加速IP及芯片解決方案。
4）其他
VR設備芯片的代表為微軟為自身VR設備Hololens而研發的HPU芯片，這顆由臺積電代工的芯片能同時處理來自5個攝像頭、一個深度傳感器以及運動傳感器的數據，并具備計算機視覺的矩陣運算和CNN運算的加速功能；語音交互設備芯片方面，國內有啟英泰倫以及云知聲兩家公司，其提供的芯片方案均內置了為語音識別而優化的深度神經網絡加速方案，實現設備的語音離線識別；在泛IOT領域，NovuMind設計了一種僅使用3×3卷積過濾器的AI芯片，第一款芯片原型預計今年底推出，預計可實現耗能不超過5瓦進行15萬億次浮點運算，可以廣泛應用于各類小型的互聯網“邊緣”設備。
（四）新架構 - 類腦計算芯片
“類腦芯片”是指參考人腦神經元結構和人腦感知認知方式來設計的芯片，其目標是開發出打破馮·諾依曼架構體系的芯片。這一領域目前仍處于探索階段，如歐盟支持的SpiNNaker和BrainScaleS、斯坦福大學的Neurogrid、IBM公司的TrueNorth以及高通公司的Zeroth等；國內Westwell、清華大學、浙江大學、電子科技大學等也有相關研究。
IBM的TrueNorth，2014年公布。在一顆芯片上集成了4096個內核，100萬個神經元、2.56億個可編程突觸，使用了三星的28nm的工藝，共540萬個晶體管；每秒可執行460億次突觸運算，總功耗為70mW，每平方厘米功耗20mW。IBM的最終目標就是希望建立一臺包含100億個神經元和100萬億個突觸的計算機，這樣的計算機要比人類大腦的功都強大10 倍，而功耗只有一千瓦，而且重量不到兩升。
國內AI初創公司西井科技Westwell是用FPGA模擬神經元以實現SNN的工作方式，有兩款產品：
-
仿生類腦神經元芯片DeepSouth(深南)，第三代脈沖神經網絡芯片SNN，基于STDP(spike-time-dependentplasticity)的算法構建完整的突觸神經網絡，由電路模擬真實生物神經元產生脈沖的仿生學芯片，通過動態分配的方法能模擬出高達5000萬級別的“神經元”，功耗為傳統芯片在同一任務下的幾十分之一到幾百分之一。
-
深度學習類腦神經元芯片DeepWell(深井)，處理模式識別問題的通用智能芯片，基于在線偽逆矩陣求解算法(OPIUM lite)對芯片中神經元間的連接權重進行學習和調整；擁12800萬個神經元，通過專屬指令集調整芯片中神經元資源的分配；學習與識別速度遠遠高于運行在通用硬件(如CPU, GPU)上的傳統方法(如CNN)，且功耗更低。
總體來看，類腦計算芯片領域仍處于探索階段，距離規�；逃萌杂斜容^遠的距離。
中國AI芯公司
騰訊AI產業報告中提到中國的AI的處理器/芯片企業一共有14家，我們參照公開資料整理了部分國內AI處理器/芯片公司，雖不完備，但給感興趣的讀者做個參考。
1）寒武紀科技&Cambricon 1A
寒武紀科技成立于2016年，總部在北京，創始人是中科院計算所的陳天石、陳云霽兄弟，近期剛剛完成了一億美元A輪融資，阿里巴巴創投、聯想創投、國科投資、中科圖靈、元禾原點、涌鏵投資聯合投資，成為全球AI芯片領域第一個獨角獸初創公司。
寒武紀是全球第一個成功流片并擁有成熟產品的AI芯片公司，擁有終端AI處理器IP和云端高性能AI芯片兩條產品線。2016年發布的寒武紀1A處理器(Cambricon-1A)是世界首款商用深度學習專用處理器，面向智能手機、安防監控、無人機、可穿戴設備以及智能駕駛等各類終端設備，在運行主流智能算法時性能功耗比全面超越傳統處理器。
2）地平線機器人&BPU/盤古
地平線機器人成立于2015年，總部在北京，創始人是前百度深度學習研究院負責人余凱。公司于去年中完成了A+輪融資，投資方包括了晨興資本、高瓴資本、紅杉資本、金沙江創投、線性資本、創新工場、真格基金、雙湖投資、青云創投、祥峰投資、DST等。據介紹，公司近期即將完成B輪融資。
BPU(BrainProcessing Unit)是地平線機器人自主設計研發高效的人工智能處理器架構IP，支持ARM/GPU/FPGA/ASIC實現，專注于自動駕駛、人臉圖像辨識等專用領域。2017年，地平線基于高斯架構的嵌入式人工智能解決方案將會在智能駕駛、智能生活、公共安防三個領域進行應用，第一代BPU芯片“盤古”目前已進入流片階段，預計在今年下半年推出，能支持1080P的高清圖像輸入，每秒鐘處理30幀，檢測跟蹤數百個目標。地平線的第一代BPU采用TSMC的40nm工藝，相對于傳統CPU/GPU,能效可以提升2~3個數量級(100~1,000倍左右)。
 
3）深鑒科技&DPU
深鑒科技成立于2016年，總部在北京。由清華大學與斯坦福大學的世界頂尖深度學習硬件研究者創立，今年初完成了A輪融資，投資方包括了聯發科、賽靈思、金沙江創投、高榕資本、清華控股、方和資本等。
深鑒科技將其開發的基于FPGA的神經網絡處理器稱為DPU。到目前為止，深鑒公開發布了兩款DPU：亞里士多德架構和笛卡爾架構，其中，亞里士多德架構是針對卷積神經網絡CNN而設計；笛卡爾架構專為處理DNN/RNN網絡而設計，可對經過結構壓縮后的稀疏神經網絡進行極致高效的硬件加速。相對于 Intel XeonCPU 與 Nvidia TitanX GPU，應用笛卡爾架構的處理器在計算速度上分別提高189倍與13倍，具有24000倍與3000倍更高能效。
4）西井科技&DeepSouth/DeepWell
公司成立于2015年，總部在上海。今年6月完成了A輪融資，投資方包括了復星同浩、源政投資、合力投資、十維資本、喔贏資本等。
西井科技是用FPGA模擬神經元以實現SNN的工作方式，有兩款產品：
-
仿生類腦神經元芯片DeepSouth(深南)，第三代脈沖神經網絡芯片SNN，基于STDP(spike-time-dependentplasticity)的算法構建完整的突觸神經網絡，由電路模擬真實生物神經元產生脈沖的仿生學芯片，通過動態分配的方法能模擬出高達5000萬級別的“神經元”，功耗為傳統芯片在同一任務下的幾十分之一到幾百分之一。
-
深度學習類腦神經元芯片DeepWell(深井)，處理模式識別問題的通用智能芯片，基于在線偽逆矩陣求解算法(OPIUM lite)對芯片中神經元間的連接權重進行學習和調整；擁12800萬個神經元，通過專屬指令集調整芯片中神經元資源的分配；學習與識別速度遠遠高于運行在通用硬件(如CPU, GPU)上的傳統方法(如CNN)，且功耗更低。
5）云飛勵天&IPU
公司成立于2014年，總部在深圳，由國家“千人計劃”特聘專家陳寧和田第鴻博士聯合創立，今年3月完成了A輪融資，投資方松禾資本、深投控、紅秀盈信、山水從容投資、投控東海、真格基金等。
云天勵飛提供視覺智能芯片和解決方案，專注于人工智能領域，以新型處理器、機器學習與大數據技術為核心。公司自主研發的處理器芯片IPU，采用了全新的面向視覺計算的處理器芯片架構，該技術將機器學習效能提升了兩個數量級。公司在在深圳搭建的區域級天眼系統，實現了全球首創的“百萬人群、秒級定位”，還被采納為2016年杭州G20峰會和烏鎮互聯網大會的安全系統提供服務。
6）人人智能&FaceOS
人人智能成立于2016年，是ARM OpenAI實驗室核心合作企業。公司于去年底完成了ARM和英諾天使基金的天使輪融資，據報道目前正在啟動新一輪融資。
人人智能提供一個基ARM的人臉識別核心芯片即模組方案，識別模組是獨創的支持深度學習算法的嵌入式高性能ARM平臺，支持外接攝像機從視頻流檢測和載取人臉照片等功能。據介紹，人人智能發布的“智能芯”是國內首個人臉識別硬件模組，尺寸僅為86mm*56mm*21mm，集成了人工智能操作系統FaceOS。通過將人工智能算法進行集成產品化，能夠把產品的研發周期減少60%，成本降低50%。
7）啟英泰倫&CI1006
啟英泰倫于2015年11月在成都成立，是一家語音識別芯片研發商，投資方包括了Roobo、匯聲信息等。
啟英泰倫的CI1006是基于ASIC架構的人工智能語音識別芯片，包含了腦神經網絡處理硬件單元，能夠完美支持DNN運算架構，進行高性能的數據并行計算，可極大的提高人工智能深度學習語音技術對大量數據的處理效率。
8）云知聲&UniOne芯片
云知聲是一家智能語音識別技術公司，成立于2012年，總部位于北京。今年8月剛剛獲得3億人民幣戰略投資，其中部分資金將用于加大人工智能專用芯片UniOne的研發力度。
UniOne將內置DNN處理單元，兼容多麥克風、多操作系統，對任何的場景不做限制，無論是在智能的空調上、車載上或其他智能設備上都可以植入這個芯片，該芯片具有高集成度的，低功耗、低成本的優點。與此同時，公司還有IVM-M高性能嵌入式芯片，基于高通wifi模組，提供高性價比的物聯網語音交互整體方案，主要應用在智能空調，廚電等職能家具產品上；基于Linux系統設計的Unitoy芯片可一站式解決兒童陪伴式機器人的喚醒、識別、設備互聯能力。
9）百度&XPU
百度2017年8月Hot Chips大會上發布了XPU，這是一款256核、基于FPGA的云計算加速芯片。合作伙伴是賽思靈(Xilinx)。XPU采用新一代 AI 處理架構，擁有GPU的通用性和FPGA的高效率和低能耗，對百度的深度學習平臺PaddlePaddle做了高度的優化和加速。據介紹，XPU關注計算密集型、基于規則的多樣化計算任務，希望提高效率和性能，并帶來類似CPU的靈活性。但目前XPU有所欠缺的仍是可編程能力，而這也是涉及FPGA時普遍存在的問題。到目前為止，XPU尚未提供編譯器。
10）NovuMind
NovuMind成立于2015年，公司創始人是原百度異構計算小組負責人吳韌，在北京及硅谷設有辦公室。公司于2017年初完成了A輪融資，投資方包括了真格基金、寬帶資本、英諾天使基金、洪泰基金、臻云創投、極客幫創投等，據報道近期正在籌備新一輪融資。
NovuMind主要為智能為汽車、安防、醫療、金融等領域提供ASIC芯片，并提供訓練模型的全棧式AI解決方案。與Nvidia GPU或Cadence DSP的通用深度學習芯片不同，NovuMind專注于開發一種“非常專用但非常高效地進行推理”的深度學習加速器芯片。NovuMind設計了一種僅使用3×3卷積過濾器的AI芯片，通過使用獨特的張量處理架構(tensorprocessing architecture)直接對三維Tensor進行處理，新芯片將支持Tensorflow、Cafe和Torch模型。。NovuMind的第一個AI芯片(原型)預計會在17年圣誕節前推出。到明年2月份應用程序準備就緒，并能夠在該芯片上實現耗能不超過5瓦進行15萬億次浮點運算。NovuMind的第二個芯片，耗能將不超過1瓦，計劃在2018年中期面世。
11）華為&麒麟970芯片
麒麟970搭載的神經網絡處理器NPU采用了寒武紀IP。麒麟970采用了TSMC 10nm工藝制程，擁有55億個晶體管，功耗相比上一代芯片降低20%。CPU架構方面為4核A73+4核A53組成8核心，能耗同比上一代芯片得到20%的提升；GPU方面采用了12核Mali G72 MP12GPU，在圖形處理以及能效兩項關鍵指標方面分別提升20%和50%；NPU采用HiAI移動計算架構，在FP16下提供的運算性能可以達到1.92 TFLOPs，相比四個Cortex-A73核心，處理同樣的AI任務，有大約50倍能效和25倍性能優勢。
12）中星微電子&NPU
中星微2016年6月推出量產的NPU芯片“星光智能一號”，NPU采用了“數據驅動并行計算”的架構，單顆NPU(28nm)能耗僅為400mW，極大地提升了計算能力與功耗的比例，特別擅長處理視頻、圖像類的海量多媒體數據。每個NPU由四個NPU內核構成；每個NPU內核包括兩個數據流處理器和一個長字處理器；每個數據流處理器由8個長字或16個短字的SIMD(單指令多數據)處理單元組成；每個NPU峰值可提供38Gops或76Gops短字的處理能力；支持通用的基于深度學習的神經網絡層(ConvolutionLayer/Pooling Layer/Full Connection Layer/Activation Layer/Custom SpecificLayer)。
以上僅為根據公開資料整理部分國內AI處理器/芯片公司，更多公司資料將逐步完善。
來源：怪誕筆記 |
