物聯(lián)網(wǎng)結(jié)合機器學(xué)習(xí)（ML）在許多應(yīng)用中越來越受歡迎，從小型物聯(lián)網(wǎng)設(shè)備到大型數(shù)據(jù)中心等。由于各種原因，如實時/離線操作、節(jié)省電池，甚至安全和隱私考量，最理想的是在生成數(shù)據(jù)的邊緣運行ML算法和數(shù)據(jù)處理。這些低功耗物聯(lián)網(wǎng)設(shè)備可以是嵌入式微控制器、無線SoC或集成到傳感器設(shè)備中的智能器件。

為了實現(xiàn)這一目標，半導(dǎo)體產(chǎn)品制造商需要小型、低功耗處理器或微控制器，以有效的方式運行必要的機器學(xué)習(xí)（ML）軟件，有時還支持內(nèi)置在芯片中的硬件加速器。評估一個特定設(shè)備的性能并不簡單，因為它在ML應(yīng)用程序中的有效性比原始的數(shù)字運算更重要。

MLCommons?(一個開放的工程聯(lián)盟)開發(fā)了三個基準測試套件來比較來自不同供應(yīng)商的ML產(chǎn)品。MLCommons專注于協(xié)作工程工作，通過基準測試、指標、公共數(shù)據(jù)集和最佳實踐使機器學(xué)習(xí)行業(yè)受益。

這些基準測試套件稱為MLPerf?，在將訓(xùn)練好的ML模型應(yīng)用于新數(shù)據(jù)時，測量ML系統(tǒng)在推理時的性能?；鶞蕼y試還可選擇測量完成推理任務(wù)所使用的能量。由于基準是開源的，并經(jīng)過同行評審，因此它們提供了一個客觀、公正的性能和能源效率測試。

在MLCommons提供的三個基準測試中，Silicon Labs（亦稱“芯科科技”）已經(jīng)提交了MLPerf Tiny套件的解決方案。MLPerf Tiny是針對最小的低功耗設(shè)備，通常用于深度嵌入式應(yīng)用，如物聯(lián)網(wǎng)或智能傳感。

Silicon Labs系統(tǒng)基準測試

Silicon Labs提交了EFR32MG24多協(xié)議無線SoC進行基準測試。該SoC包括一個Arm Cortex?-M33核心(78 MHz, 1.5 MB Flash / 256 kB RAM)和一個Silicon Labs硬件加速器子系統(tǒng)。它支持多種2.4GHz射頻協(xié)議，包括低功耗藍牙(Bluetooth Low Energy)、藍牙m(xù)esh、Matter、OpenThread和Zigbee。它是網(wǎng)狀物聯(lián)網(wǎng)無線應(yīng)用的理想選擇，如智能家居、照明和樓宇自動化。這個緊湊的開發(fā)平臺為智能和機器學(xué)習(xí)開發(fā)提供了簡單、省時的路徑。

SoC正在運行TensorFlowLite for Microcontrollers軟件，該軟件使ML推斷模型能夠在微控制器和其他具有小內(nèi)存的低功耗設(shè)備上運行。它使用了Silicon Labs Gecko軟件開發(fā)工具包（SDK）中的CMSIS-NN庫中的優(yōu)化神經(jīng)網(wǎng)絡(luò)內(nèi)核。

測試結(jié)果

MLPerf?Tiny v1.0基準測試結(jié)果突出了Silicon Labs EFR32MG24平臺片上加速器的效率。推理計算從主CPU上卸載，允許它執(zhí)行其他任務(wù)，甚至將其置于睡眠模式，以進一步節(jié)省電力。

這對于滿足ML增強的低功耗無線物聯(lián)網(wǎng)解決方案日益增長的需求至關(guān)重要，允許設(shè)備在一個硬幣電池上運作長達十年。這些最新結(jié)果表明，與之前Tiny v0.7結(jié)果中的其他基準ML模型相比，速度提高了1.5到2倍，能耗降低了40-80%。

隨著機器學(xué)習(xí)在嵌入式物聯(lián)網(wǎng)應(yīng)用中得到越來越廣泛的應(yīng)用，這種以低功耗運行推理的能力是必不可少的，這將使產(chǎn)品設(shè)計師能夠在新的用例和不同的設(shè)備中應(yīng)用機器學(xué)習(xí)。