TinyML市場爆發(fā)，70元擁有超低功耗機器學習【物女心經(jīng)】

導讀

在終端和邊緣側的微處理器上，實現(xiàn)的機器學習過程，被稱為微型機器學習，即TinyML。更準確的說，TinyML是指工程師們在mW功率范圍以下的設備上，實現(xiàn)機器學習的方法、工具和技術。這篇文章，我們來一起探索TinyML的潛在價值和機會。

全文字數(shù)：2900字，寫作用時：300分鐘，閱讀時間：10分鐘

物女皇：TinyML，很小卻很大

這是我在【物女心經(jīng)】專欄寫的第268篇文章。

一根手指代表“播放??”，兩根手指代表“暫停?”，三根手指代表“停止?”…這種遙控“神功”逐步變成現(xiàn)實，并且這項技術正在賦能越來越多的傳感器。

TinyML，微型機器學習，我曾在之前的文章《一文讀懂即將引爆的TinyML：在邊緣側實現(xiàn)超低功耗機器學習》中做過重點介紹。在終端和邊緣側的微處理器上，實現(xiàn)的機器學習過程，被稱為微型機器學習，即TinyML。更準確的說，TinyML是指工程師們在mW功率范圍以下的設備上，實現(xiàn)機器學習的方法、工具和技術。

在智能時代，我們常說萬物皆智，但是如何賦予數(shù)以億計、超小體積、極低功耗的設備以智能，這是不得不解決的挑戰(zhàn)。

好在疫情期間，很多傳感器企業(yè)并沒有減緩研發(fā)的腳步。索尼、三星和博世等企業(yè)都正嘗試在不增加部件、提升成本和功耗的前提下，為傳感器嵌入更多的智能。TinyML與傳感器的結合，讓這些探索開花結果。

根據(jù)研究機構ABI Research的判斷，一旦開啟億萬量級的微型設備智能化之旅，市場空間將是巨大的。ABI由此預測到2022年底TinyML即服務的收入將超過2.2億美元，并從2025年起，TinyML將成為智能時代的重要組成部分之一。

躺平不可取，手握如此機遇，怎能坐失良機？10月20日，參與創(chuàng)造TinyML一詞、創(chuàng)建TinyML峰會、編寫了TinyML教科書的谷歌TensorFlow Micro團隊前技術負責人皮特（Pete Warden），發(fā)文認為市場時機已經(jīng)成熟，宣布二次創(chuàng)業(yè)，作為創(chuàng)始人投身于TinyML賦能的智能傳感公司。

這篇文章，我們來一起探索TinyML的潛在價值和機會。

用TinyML做爆款智能硬件

一個售價為10美元（約合人民幣72.5元）的硬件模塊，可以嵌入電視、風扇、遙控器、無人機、攝像頭等設備中，輕松實現(xiàn)智能功能。電視可以根據(jù)主人的手勢實現(xiàn)遙控、風扇可以判斷主人的位置對準送風、攝像頭可以自動識別房間里的人員數(shù)量…這就是皮特的新創(chuàng)公司Useful Sensors正在做的事情。

此前皮特在谷歌帶領機器學習基礎架構團隊長達7年，并且創(chuàng)建了TensorFlow Lite Micro，一個用于嵌入式系統(tǒng)的機器學習框架。

過去幾年他一直在思考，“聯(lián)網(wǎng)”能力是否是物聯(lián)網(wǎng)設備的必選項？如果將“Internet”從Internet of Things中拿掉將會怎樣？如何賦予沒有接入網(wǎng)絡的設備以智能？

從2022年開始，他率隊秘密研發(fā)這款名為Person Sensor的智能模塊，尺寸為20 x 20毫米，正面有一個攝像頭，背面是微控制器。這個只有硬幣大小的模塊可以檢測附近的人臉信息，反饋人數(shù)、相對位置，并進行面部辨識。

皮特認為有智慧的傳感器才是真正有用的傳感器，智能分析與傳感器的距離越近，就越能降低功耗，而且這種功耗的節(jié)約是指數(shù)量級的，輕松實現(xiàn)10倍改善。

過去，我們可能會遇到對著臺燈說“關上”，但臺燈毫無響應的情況，但是這種日子即將一去不復返了，一些家電企業(yè)開始著手在電燈、音箱和電腦中嵌入這種智能模組。

TinyML:不用聯(lián)網(wǎng)卻“始終在線”的ML

在文章《專為物聯(lián)網(wǎng)而生的TinyML，正在開啟音頻分析的新藍海》中，我曾經(jīng)提到TinyML微型機器學習是機器學習和物聯(lián)網(wǎng)設備的交集，它是一門新興的工程學科，有可能在許多行業(yè)引發(fā)革命。

目前全球有千億量級的微控制器在各地運行，而且每年仍在以數(shù)百億的量級遞增，根據(jù)IC Insights預測，到2023年微控制器的年出貨量將超過380億個，而且這些微控制器對應的設備，都有變得越來越智能的需求。

換句話說，未來分布在煙霧傳感器、心臟起搏器、車載終端中的2500億個微控制器，有可能可以執(zhí)行以前只有計算機和智能手機才能處理的任務。因此面對位于網(wǎng)絡邊緣的海量物聯(lián)網(wǎng)設備，TinyML的未來發(fā)展具有極大的想象空間。

這些內嵌于物聯(lián)網(wǎng)終端設備中的“TinyML即服務”，“主動”參與智能決策與執(zhí)行，并且允許在終端設備資源非常有限、聯(lián)網(wǎng)受限的情況下，仍舊持續(xù)提升終端設備的分析能力，以便其能更好的處理實時物聯(lián)網(wǎng)數(shù)據(jù)。

由此，TinyML在物聯(lián)網(wǎng)終端打造的飛輪不斷提速：

更低成本、更佳反饋的TinyML→更多數(shù)據(jù)反哺模型訓練和調參→更好的使用體驗，吸引更多企業(yè)參與其中。

TinyML的市場規(guī)模比邊緣ML和云端ML都要大。除了文初提到的ABI Research，多家分析機構均給出TinyML的樂觀預測。根據(jù)Silent Intelligence的預測，在未來5年，TinyML將觸發(fā)超過700億美元的經(jīng)濟價值，并且保持超過27.3%的復合年均增長率（CAGR）。

由TinyML改寫的游戲規(guī)則

從某種程度上說，TinyML改寫了機器學習的“游戲規(guī)則”。

TinyML和我們常常提到的機器學習，也就是基于云端的ML，處于兩個截然不同的世界。

當CPU、內存與操作系統(tǒng)之間的差異達到一定程度之后，量變引發(fā)質變。與TinyML可以調用的資源相比，云端ML簡直是“富豪”。為了順利推進，TinyML必須采用與云端ML不同的思維模式。

因禍得福，云端ML常常被詬病的四大痛點問題：功耗大、延遲長、需聯(lián)網(wǎng)、少隱私等問題，在TinyML這里統(tǒng)統(tǒng)不存在，反而成為使用TinyML的4個主要優(yōu)點：

保護隱私：由于聯(lián)網(wǎng)并不是TinyML工作的前提條件，數(shù)據(jù)可以被保存在沒有連接網(wǎng)絡的設備中，因此數(shù)據(jù)被泄露的風險非常低。這剛好滿足了大量用戶的需求，很多最終用戶非常在意數(shù)據(jù)隱私，在數(shù)據(jù)開放與共享方面保持謹慎態(tài)度。他們不愿意將自己的數(shù)據(jù)交由第三方云平臺和邊緣服務提供商，進行存儲和管理。面對這項需求，TinyML很好的保護了數(shù)據(jù)隱私。

超低功耗：分布最廣的物聯(lián)網(wǎng)設備往往體積很小、電量有限。它們被作為終端硬件，通過嵌入式傳感器采集各種數(shù)據(jù)；計算能力有限，對功耗極為敏感。許多物聯(lián)網(wǎng)設備都是電池供電，對于功耗的要求很高。通過極低功耗TinyML的數(shù)據(jù)分析，減少網(wǎng)絡傳輸?shù)臄?shù)據(jù)量，可以在一定程度上，節(jié)約物聯(lián)網(wǎng)終端中的電量消耗。

無需連接：設備不需要Internet連接即可讓TinyML模型工作。在偏遠地區(qū)、海上平臺、空間站、極端環(huán)境的應用中，網(wǎng)絡通信有可能無法保證始終覆蓋，另外還有很多物聯(lián)網(wǎng)設備通過窄帶物聯(lián)網(wǎng)NB-IoT或者其他低功耗廣域物聯(lián)網(wǎng)通信協(xié)議與網(wǎng)絡通信，帶寬和數(shù)據(jù)傳輸能力極為有限，這些設備有強烈的在本地處理數(shù)據(jù)的需求，以減少數(shù)據(jù)的傳輸，降低網(wǎng)絡帶寬和傳輸功耗的壓力，避免在終端和邊緣設備之間形成帶寬瓶頸，影響整套物聯(lián)網(wǎng)解決方案的性能。

極低延遲：TinyML可以以極低延遲處理數(shù)據(jù)。TinyML通過將某些機器學習任務轉移到設備本身，來進一步減少網(wǎng)絡延遲的可能性。TinyML允許在不連接任何服務器的情況下進行分析，物聯(lián)網(wǎng)設備可以實時處理數(shù)據(jù)并及時輸出。

很多公司開始嘗試將TinyML應用于各種場景，最普遍的應用是設備上的喚醒詞檢測、人數(shù)統(tǒng)計和人員檢測。還有一些公司嘗試將TinyML用于機器聽覺。

和視覺信息一樣，聲音無處不在。語音啟動的設備，在智能家居的應用中非常常見，最典型的比如智能音箱。還有很多聲音，比如機床震動的聲音、車輛拋錨的聲音、報警器鳴響的聲音…這些聲音不同于語音，沒有語言模型。

過去我們極大的發(fā)展了機器視覺，現(xiàn)在我們正在賦予機器聽覺。隨著越來越多的物聯(lián)網(wǎng)企業(yè)正在將分析的重點從視頻轉移到音頻，TinyML正在開啟一片新的藍海。

寫在最后

TinyML賦予千億終端設備以智能，是我們值得關注的確定性機會之一，但它并不是全部，還有很多商機有待我們一起挖掘。

參考資料：

1.Launching Useful Sensors!，作者：Pete Warden，來源：PETE WARDEN'S BLOG

2.Former Googler creates TinyML sensor startup，作者：STACEY HIGGINBOTHAM，來源：staceyoniot.com

3.ABI Research predicts the growing importance of TinyML SaaS，來源：FutureIoT