提起邊緣AI，人們的第一印象往往是高性能處理器、高端SoC的專(zhuān)屬，或是云端AI聊天機(jī)器人、圖像生成工具這類(lèi)高端應(yīng)用，普通嵌入式設(shè)備似乎與之絕緣。但在TI MSP微控制器產(chǎn)品線(xiàn)經(jīng)理羅一丁看來(lái)，AI不應(yīng)只存在于云端和大型機(jī)房，而應(yīng)無(wú)處不在地運(yùn)行在每個(gè)嵌入式設(shè)備中。
長(zhǎng)期以來(lái)，成本、功耗、算力門(mén)檻、開(kāi)發(fā)復(fù)雜性等多重因素，成為邊緣AI規(guī)�；渴鸬闹萍s因素，讓大量日常電子設(shè)備與智能無(wú)緣。TI近期推出的邊緣AI新品及生態(tài)系統(tǒng)，正是瞄準(zhǔn)了這些難題。
硬件加速器讓邊緣AI走進(jìn)更多電子產(chǎn)品
在過(guò)去，依靠CPU內(nèi)核跑AI推理，不僅會(huì)占用大量計(jì)算資源導(dǎo)致系統(tǒng)響應(yīng)變慢，還會(huì)讓功耗急劇攀升，對(duì)電池供電設(shè)備而言難以接受。為此，TI推出TinyEngine NPU專(zhuān)用硬件加速器，將其集成于C2000及基于Arm架構(gòu)的MCU中，實(shí)現(xiàn)與主CPU的并行運(yùn)行。這一設(shè)計(jì)讓系統(tǒng)在執(zhí)行實(shí)時(shí)控制任務(wù)的同時(shí)，NPU能獨(dú)立完成AI推理，二者互不干擾，從硬件架構(gòu)上解決了算力與功耗的核心矛盾。
羅一丁稱(chēng)，與未配置加速器的同類(lèi)MCU相⽐，TinyEngine NPU能將每次AI推理的延遲降低達(dá)90倍，能耗降低超過(guò)120倍，而這一切都基于2.56 GOPS的計(jì)算性能實(shí)現(xiàn)。
基于這一核心技術(shù)，TI面向消費(fèi)電子和工業(yè)控制領(lǐng)域推出了兩款集成了TinyEngine NPU的MCU產(chǎn)品，讓不同需求的客戶(hù)都能找到適配的邊緣AI解決方案。
面向低功耗、低成本通用場(chǎng)景的首款集成TinyEngine NPU的Arm Cortex-M0+架構(gòu)MCU，即MSPM0G5187，延續(xù)了MSPM0系列高性?xún)r(jià)比優(yōu)勢(shì)，千顆單價(jià)低于1美元，超低待機(jī)功耗低于2µA，兼顧低功耗與AI算力。羅一丁以“大眾化”定義其定位，他表示，這款產(chǎn)品徹底解決了工程師難以找到兼顧功耗與AI運(yùn)行能力芯片的行業(yè)痛點(diǎn)，讓智能家居、可穿戴設(shè)備等電池供電產(chǎn)品，無(wú)需犧牲續(xù)航即可實(shí)現(xiàn)喚醒詞檢測(cè)、手勢(shì)識(shí)別等AI功能，真正讓邊緣AI走進(jìn)日常電子設(shè)備。
如果說(shuō)MSPM0G5187主打邊緣AI的普及，AM13E230則聚焦實(shí)時(shí)控制場(chǎng)景的深度應(yīng)用，也是業(yè)界首款單芯片集成Arm Cortex-M33內(nèi)核、TinyEngine NPU與C2000系列實(shí)時(shí)控制架構(gòu)的產(chǎn)品。
TI ASM微控制器工業(yè)業(yè)務(wù)負(fù)責(zé)人吳健鴻介紹，這款產(chǎn)品的核心創(chuàng)新，在于解決了AI推理與實(shí)時(shí)控制的調(diào)度難題。硬件NPU與MCU內(nèi)核并行運(yùn)行，讓控制任務(wù)與AI推理互不干擾，實(shí)時(shí)控制采集的數(shù)據(jù)還能直接供AI模型分析，成為“實(shí)時(shí)控制+AI運(yùn)算”的定制方案。這一架構(gòu)在人形機(jī)器人場(chǎng)景優(yōu)勢(shì)顯著，本地NPU能讓電機(jī)控制單元實(shí)現(xiàn)獨(dú)立智能判斷，大幅降低云端調(diào)度的延遲，提升設(shè)備控制的響應(yīng)速度與精準(zhǔn)度。
CCStudio生態(tài)系統(tǒng)為邊緣AI應(yīng)用提供端到端開(kāi)發(fā)支持
硬件創(chuàng)新有了，那么該如何實(shí)現(xiàn)落地？為此，TI打造了以CCStudio集成開(kāi)發(fā)環(huán)境為核心的端到端邊緣AI開(kāi)發(fā)生態(tài)系統(tǒng)，融合生成式AI功能、CCStudio Edge AI Studio工具與豐富模型庫(kù)，從根本上降低了AI開(kāi)發(fā)門(mén)檻，讓一些沒(méi)有AI背景的工程師也能參與邊緣AI應(yīng)用開(kāi)發(fā)。
目前，CCStudio IDE的生成式AI功能，可實(shí)現(xiàn)從底層驅(qū)動(dòng)到應(yīng)用場(chǎng)景代碼的全流程自然語(yǔ)言生成，而免費(fèi)開(kāi)放的CCStudio Edge AI Studio則覆蓋數(shù)據(jù)采集、模型訓(xùn)練、部署全流程，支持超50種器件、60多種模型、1000多種預(yù)處理組合。
為進(jìn)一步降低開(kāi)發(fā)難度，TI的生態(tài)還實(shí)現(xiàn)了與主流框架的兼容，支持PyTorch、TensorFlow、ONNX等，通過(guò)量化工具和神經(jīng)網(wǎng)絡(luò)編譯器，幫助開(kāi)發(fā)者快速遷移已有模型；針對(duì)無(wú)深厚AI專(zhuān)業(yè)知識(shí)的團(tuán)隊(duì)，還提供無(wú)代碼解決方案及電弧故障檢測(cè)、電機(jī)故障診斷等成熟參考設(shè)計(jì)，大幅降低了邊緣AI的開(kāi)發(fā)與落地成本，也打破了傳統(tǒng)MCU開(kāi)發(fā)中軟件、硬件、算法工程師之間的高協(xié)作成本壁壘。
從高端專(zhuān)屬走向大眾普及，TI為邊緣AI的規(guī)�；涞卮罱送暾慕鉀Q方案：
硬件上，將NPU集成到單價(jià)低于1美元的MCU中，讓受成本、功耗限制的日常電子設(shè)備首次擁有擁抱AI的可能；
架構(gòu)上，通過(guò)CPU與NPU的并行設(shè)計(jì)，實(shí)現(xiàn)AI推理與實(shí)時(shí)控制的各司其職，為電機(jī)控制、機(jī)器人關(guān)節(jié)等高響應(yīng)場(chǎng)景提供了本地智能判斷能力；
生態(tài)上，以生成式AI、無(wú)代碼方案等降低開(kāi)發(fā)門(mén)檻，讓更多工程師無(wú)需成為AI專(zhuān)家，就能將邊緣AI的想法轉(zhuǎn)化為實(shí)際產(chǎn)品。
正如羅一丁所言，TI帶來(lái)的不僅僅是兩款芯片或者一個(gè)算法，而是一個(gè)能幫助開(kāi)發(fā)者把想法變成現(xiàn)實(shí)、縮短研發(fā)周期、提升產(chǎn)品競(jìng)爭(zhēng)力的成熟生態(tài)鏈。
邊緣AI的普及，或許就從這里開(kāi)始。 |
