華為和AlphaZero親身示范，揭示物聯(lián)網(wǎng)蘊(yùn)藏在NB-IoT之后的新機(jī)遇

　　物聯(lián)網(wǎng)領(lǐng)域繼NB-IoT等低功耗廣域網(wǎng)技術(shù)的浪潮之后，下一個(gè)大的機(jī)遇蘊(yùn)藏在哪里?通過上周AlphaZero和華為的親身示范，下一波浪潮已經(jīng)呼之欲出，那就是“邊緣智能Edge Intelligence”。

　　上周連續(xù)發(fā)生了兩則重磅新聞：

　　一是10月16日，華為Mate 10系列如期在德國慕尼黑全球發(fā)布。華為Mate 10和華為Pro配備了全球首款帶有專門神經(jīng)網(wǎng)絡(luò)處理器NPU的人工智能芯片麒麟970，基于該芯片的Mate10系列手機(jī)的人工智能應(yīng)用性能得以大大增強(qiáng)，能像人腦一樣思考。顛覆性創(chuàng)新加營銷讓一眾腦殘粉直呼剁手，各大電商平臺(tái)均出現(xiàn)一機(jī)難求的盛況。

　　另一個(gè)是10月19日，DeepMind公布了最新版AlphaGo論文，介紹了迄今最強(qiáng)最新版本的AlphaGo Zero，使用純強(qiáng)化學(xué)習(xí)的算法，3天訓(xùn)練后就以100比0的慘烈比分擊敗了上一版本的AlphaGo。

　　最近我一直被問到物聯(lián)網(wǎng)領(lǐng)域繼NB-IoT等低功耗廣域網(wǎng)技術(shù)的浪潮之后，下一個(gè)大的機(jī)遇蘊(yùn)藏在哪里?答案已經(jīng)初見端倪，本文就來正式解答。通過本周AlphaZero和華為的親身示范，下一波浪潮已經(jīng)呼之欲出，那就是“邊緣智能Edge Intelligence”。

　　一、什么是邊緣智能(Edge Intelligence，EI)?

　　一句話概括，邊緣智能是指在終端側(cè)部署人工智能。

　　毫無疑問，人工智能正在成為一種改變各行各業(yè)的通用技術(shù)。此前，絕大部分的人工智能都是依賴云端實(shí)現(xiàn)，現(xiàn)在，部署在終端側(cè)的人工智能正在開辟更為廣闊的市場。除了智能手機(jī)等個(gè)人終端之外，靠近設(shè)備或數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣，物聯(lián)網(wǎng)終端將會(huì)成為最大戰(zhàn)場。

　　依靠云端實(shí)現(xiàn)的人工智能存在一些顯而易見的弊端，如業(yè)內(nèi)眾所周知的“三大罪”：首先，個(gè)人數(shù)據(jù)上傳到云端不利于隱私保護(hù);其次，云端人工智能需要較高的帶寬支持，功耗較高;第三，云端人工智能會(huì)有較高的延時(shí)性，很多需要實(shí)時(shí)物聯(lián)網(wǎng)RT-IoT的場景無法應(yīng)用。

　　而邊緣智能將會(huì)有效的避免這些問題，優(yōu)勢堪稱碾壓性的：

　　1. 網(wǎng)絡(luò)時(shí)延優(yōu)勢：邊緣終端的位置確保了時(shí)間敏感類應(yīng)用的實(shí)時(shí)性需求。

　　2. 網(wǎng)絡(luò)分布優(yōu)勢：部署于邊緣的人工智能讓終端設(shè)備直接得到AI分析結(jié)果，既減少了網(wǎng)絡(luò)流量，又分流了云端集中推理的計(jì)算壓力。

　　3. 安全性和可靠性提升：邊緣智能不必將個(gè)人數(shù)據(jù)上傳到云端，就地進(jìn)行人工智能分析，利于隱私保護(hù)，同時(shí)提升對(duì)網(wǎng)絡(luò)依賴方面的可靠性。

　　4. 產(chǎn)業(yè)布局靈活：圍繞邊緣智能將會(huì)衍生出全新生態(tài)，由于人工智能的各種算法發(fā)展日新月異、組合千變?nèi)f化，邊緣智能將會(huì)推動(dòng)產(chǎn)業(yè)的進(jìn)一步分工，產(chǎn)生算法提供商、終端生產(chǎn)商、邊緣智能服務(wù)運(yùn)營商等多重角色?？傊?，比邊緣計(jì)算更進(jìn)一步的邊緣智能，擁有更高的安全性、更低的功耗、更短的延時(shí)、更高的可靠性、更低的帶寬需求…這些都是邊緣智能EI傲視云端智能的資本。

　　二、從市場角度來講，邊緣智能的好處在哪里?省錢。

　　B2C領(lǐng)域的各種智能家居終端和可穿戴設(shè)備更通人性，幫你省電、省水、省洗衣粉、省糧食…這些好處根本不值再提。

　　這里僅以B2B范疇的工業(yè)為例，某研究機(jī)構(gòu)算了一筆詳細(xì)的經(jīng)濟(jì)賬。大部分邊緣設(shè)備都與云端相隔萬里，而當(dāng)邊緣與云端的距離減少到200英里時(shí)，數(shù)據(jù)處理成本將減少30%，相隔100英里時(shí)，數(shù)據(jù)處理成本將減少60%。而當(dāng)邊緣具備人工智能分析能力時(shí)，這一成本還有繼續(xù)縮減的空間。報(bào)告同時(shí)發(fā)現(xiàn)，近一半的設(shè)備維護(hù)工作實(shí)則雞肋。如果利用邊緣智能，根據(jù)機(jī)器的實(shí)際狀況開展維護(hù)工作，工廠就能更快地響應(yīng)異常情況，減少停機(jī)事件，避免白干活。如果利用視頻監(jiān)控施工現(xiàn)場或危險(xiǎn)區(qū)域的工人，并通過邊緣智能即時(shí)進(jìn)行分析，可以將人工觀察成本減少30%到50%。這些看得見摸得著的經(jīng)濟(jì)效益對(duì)工業(yè)、制造業(yè)有著致命的吸引力?？傮w而言，通過邊緣智能，企業(yè)能夠?qū)⑦\(yùn)營成本降低5%到12.5%，同時(shí)提高生產(chǎn)力，延長設(shè)備的使用壽命。

　　除了省錢之外，邊緣智能還有可能無心插柳柳成蔭，帶來意料之外的驚喜價(jià)值。根據(jù)麥肯錫的分析，雖然工業(yè)現(xiàn)場安裝了成千上萬的傳感器，但是決策時(shí)使用的傳感器數(shù)據(jù)卻僅僅只有1%。那么，其他99%的數(shù)據(jù)去哪兒了呢?丟了!

　　大多數(shù)的數(shù)據(jù)在采集點(diǎn)就丟了。麥肯錫發(fā)現(xiàn)，40%的數(shù)據(jù)完全沒有保存，剩余60%的數(shù)據(jù)也只是離線保存在采集終端上。僅僅依靠1%可憐的回傳數(shù)據(jù)，談何實(shí)時(shí)管理和深入分析?邊緣智能讓企業(yè)第一次有機(jī)會(huì)抓住事先和事中分析的可能性，從事后亡羊補(bǔ)牢的怪圈中跳出來，重新審視自身、重構(gòu)管理機(jī)制。

　　三、從技術(shù)發(fā)展的時(shí)間軸來看，為什么說邊緣智能的機(jī)遇在當(dāng)下這個(gè)時(shí)刻開啟了呢?

　　硬件是最直觀的說服力。開篇中提到華為Mate 10搭載的正是全球首款內(nèi)置神經(jīng)元網(wǎng)絡(luò)單元(NPU)的人工智能處理器麒麟970。無獨(dú)有偶，蘋果發(fā)布的新一代iPhone所搭載的A11仿生處理器也加入了全新的神經(jīng)網(wǎng)絡(luò)引擎。除了華為和蘋果之外，巨頭們也紛紛表示不想輸在起跑線上。雖然尚未推出移動(dòng)AI芯片，但高通將加大AI領(lǐng)域的投資：集中在提升CPU、GPU和DSP性能三大方面。事實(shí)上，高通神經(jīng)處理引擎的軟件開發(fā)工具包已經(jīng)在不久前面向開發(fā)者推出。

　　至于三星，韓媒稱這家公司也正在開發(fā)“多款”專用AI處理芯片。不久之前，Imagination發(fā)布了全新神經(jīng)網(wǎng)絡(luò)加速器PowerVR Series2NX NNA，據(jù)稱性能秒殺麒麟970和蘋果A11。ARM推出新架構(gòu)DynamIQ芯片，該CPU架構(gòu)將會(huì)通過為不同部分配置軟件的方式將多個(gè)處理核心集聚在一起，其中包括一個(gè)專門為AI算法設(shè)計(jì)的處理器。芯片廠商將可以為新處理器配置最多8個(gè)核心。同時(shí)為了能讓主流AI在自己的處理器上更好地運(yùn)行，ARM還將放出一系列軟件庫。英特爾也推出了Myriad X芯片，將專用的成像、計(jì)算機(jī)視覺以及高性能深度學(xué)習(xí)推理結(jié)合在同一個(gè)芯片中，立志以驚人的低功耗和高性能將人工智能引入邊緣。更多的企業(yè)正在半路殺來。比如，全球領(lǐng)先的智能和互聯(lián)設(shè)備的信號(hào)處理IP授權(quán)許可廠商CEVA和正在申請專利的深度學(xué)習(xí)技術(shù)廠商Brodmann17宣布合作，為邊緣設(shè)備增強(qiáng)20 倍AI性能。

　　雖然，移動(dòng)AI芯片并非一切通吃，它的普及也不是一朝一夕之事，技術(shù)需要不斷進(jìn)步，才能進(jìn)化出更符合我們期待的“邊緣智能大腦”，但是，華為和蘋果在手機(jī)中引入移動(dòng)AI芯片的做法具有首創(chuàng)與首試的重要意義：

　　首先，有預(yù)測稱，在巨頭們的帶動(dòng)下， 2018年的智能手機(jī)都會(huì)搭載AI芯片。由于手機(jī)仍舊是世界上出貨量最大的智能終端之一，移動(dòng)AI芯片搭載于手機(jī)端，似乎可預(yù)見一大波手機(jī)大戰(zhàn)，這無疑有利于促進(jìn)其成本的迅速下降。

　　其次，Mate 10并不是智能手機(jī)，而是智能機(jī)器。華為和蘋果引領(lǐng)的不只是手機(jī)市場革新，而是邊緣智能和下一代物聯(lián)網(wǎng)的技術(shù)趨勢。擁有移動(dòng)AI芯片的智能手機(jī)有利于終端用戶培養(yǎng)使用習(xí)慣，進(jìn)而很快接受甚至期待承載邊緣智能的家居硬件或者其他時(shí)尚可穿戴單品。最后，邊緣智能的普及需要建設(shè)新型生態(tài)。提供硬件、軟件和運(yùn)維的各種企業(yè)共同推進(jìn)，開發(fā)者同樣會(huì)扮演非常重要的角色。巨頭們已經(jīng)培育多年的開發(fā)者和合作企業(yè)生態(tài)，有利于將生態(tài)能力快速切換到IoT邊緣智能產(chǎn)品的打造中來。

　　四、再從軟件端來看。

　　我們一直有一個(gè)印象，很多人相信在人工智能的應(yīng)用中，必須依靠強(qiáng)大的算力支持和海量的數(shù)據(jù)積累。但是AlphaGo Zero讓他們第一次認(rèn)識(shí)到了算法的重要性遠(yuǎn)高于算力和數(shù)據(jù)，而且在AlphaGo Zero中，團(tuán)隊(duì)投入的算力比打造上一個(gè)版本的AlphaGo少使用了一個(gè)數(shù)量級(jí)。新一代的AlphaGo Zero達(dá)到這樣一個(gè)水準(zhǔn)，只用了4塊TPU，訓(xùn)練72小時(shí)就可以戰(zhàn)勝與李世石交手的AlphaGo，訓(xùn)練40天后可以戰(zhàn)勝與柯潔交手的AlphaGo。而它的哥哥阿法狗，需要在48個(gè)TPU上，花幾個(gè)月的時(shí)間，學(xué)習(xí)三千萬棋局，才能打敗人類。幾個(gè)不同版本所需的算力對(duì)比如下：

　　同樣重視算法的還有百度。百度硅谷AI實(shí)驗(yàn)室高級(jí)研究員Greg Diamos曾經(jīng)發(fā)布署名文章，其中指出，在人工智能領(lǐng)域，硬件研發(fā)速度已經(jīng)超過了人工智能算法，為了能更完全發(fā)揮當(dāng)今人工智能硬件的威力，加快人工智能的技術(shù)進(jìn)展，研發(fā)下一代算法成為了當(dāng)務(wù)之急。這里解釋一下AlphaGo Zero如何不依靠人類知識(shí)“自學(xué)成才”。AlphaGo Zero之所以能當(dāng)自己的老師，是用了一種叫強(qiáng)化學(xué)習(xí)的新模式。主要有兩個(gè)核心要素，一個(gè)是啟發(fā)式搜索，一個(gè)是深度殘差神經(jīng)網(wǎng)絡(luò)，而這兩者又實(shí)現(xiàn)了完美結(jié)合。前者，啟發(fā)式搜索的思想非常樸素，是個(gè)針對(duì)問題設(shè)計(jì)的一個(gè)高級(jí)定制版蒙特卡洛數(shù)搜索算法;而后者，深度殘差神經(jīng)網(wǎng)絡(luò)則讓簡單的搜索算法極大地提升了效率。

　　著重介紹后者的最新進(jìn)展，深度殘差神經(jīng)網(wǎng)絡(luò)ResNet在2015年由曠視科技首席科學(xué)家孫劍當(dāng)時(shí)帶領(lǐng)的團(tuán)隊(duì)率先提出，ResNet一個(gè)重要的突破是實(shí)現(xiàn)了152層的網(wǎng)絡(luò)深度，這讓一些非常復(fù)雜的函數(shù)做映射時(shí)的效率與有效性得到了極大的提升。結(jié)合了ResNet的強(qiáng)大網(wǎng)絡(luò)使AlphaGo Zero能夠快速、準(zhǔn)確地學(xué)習(xí)每一子的落子概率和對(duì)整個(gè)棋局進(jìn)行判斷。隨后孫劍在結(jié)構(gòu)上繼承了殘差網(wǎng)絡(luò)(ResNet)的設(shè)計(jì)思想，并在此基礎(chǔ)上做出了一系列改進(jìn)來提升模型的效率，曠視研究院在今年7月提出ShuffleNet，它專門為了移動(dòng)端的應(yīng)用而生，在設(shè)備提供的計(jì)算量很小的時(shí)候也能快速響應(yīng)。除了像ShuffleNet這樣通過網(wǎng)絡(luò)設(shè)計(jì)的方式把計(jì)算量降下來，曠視在去年還發(fā)表了一項(xiàng)工作DoReFaNet，并且其團(tuán)隊(duì)成員仍然繼續(xù)在降低計(jì)算量的這一方向上發(fā)力。

　　采用深度殘差神經(jīng)網(wǎng)絡(luò)ResNet，AlphaGo Zero在特征提取層采用了多個(gè)殘差模塊，每個(gè)模塊包含2個(gè)卷積層，比之前的AlphaGo深度明顯增加，從而可以實(shí)現(xiàn)更好的特征提取。AlphaGo Zero借此自我對(duì)弈，往復(fù)循環(huán)。每過一輪，系統(tǒng)的表現(xiàn)就提高了一點(diǎn)點(diǎn)，自我對(duì)弈的質(zhì)量也提高了一點(diǎn)點(diǎn)。神經(jīng)網(wǎng)絡(luò)越來越準(zhǔn)確，AlphaGo Zero的版本也越來越強(qiáng)。目前的這個(gè)結(jié)論，只有Google一家得出，沒有其他機(jī)構(gòu)復(fù)現(xiàn)該實(shí)驗(yàn)，或說“證實(shí)”與“證偽”。如果它是正確的話，那么將會(huì)極大的影響人工智能的演進(jìn)路徑。

　　過去在人工智能領(lǐng)域一直存在爭論，是算法重要還是算力重要。AlphaGo Zero展示了算法的重要性，使用了更先進(jìn)的算法和原理，讓AlphaGo Zero的程序性能本身更加優(yōu)秀，而不是等待硬件算力技術(shù)的提升。AlphaGo Zero揭示了依靠高效算法和較少算力實(shí)現(xiàn)AI的可行路徑。軟件算法的持續(xù)迭代與人工智能硬件的結(jié)合，將會(huì)催生爆發(fā)式的成長。這種低功耗、高性能的解決方案，推動(dòng)人工智能走向網(wǎng)絡(luò)邊緣。

　　五、是否有公司已經(jīng)在邊緣智能領(lǐng)域起跑?不少。

　　先從巨頭講起。收購了DeepMind科技的Google，還擁有一個(gè)物聯(lián)網(wǎng)領(lǐng)域的利器：Google IoT Core。目前Google正在與恩智浦合作，挖掘邊緣設(shè)備的潛能，進(jìn)一步發(fā)揮機(jī)器學(xué)習(xí)和人工智能的作用，推動(dòng)制造、運(yùn)輸、公用事業(yè)等各行各業(yè)快速受益。利用“云物聯(lián)網(wǎng)核心Google IoT Core”，企業(yè)可以輕松連接并集中管理全球各地成百上千萬的物聯(lián)網(wǎng)設(shè)備。

　　當(dāng)用作更廣泛的谷歌云物聯(lián)網(wǎng)解決方案的一部分時(shí)，“云物聯(lián)網(wǎng)核心”可以吸納所有物聯(lián)網(wǎng)數(shù)據(jù)并連接到谷歌云最先進(jìn)的分析服務(wù)，包括Cloud Pub/Sub、Dataflow、Bigtable、BigQuery和Machine Learning。微軟最新推出的Azure IoT Edge服務(wù)，是一個(gè)為物聯(lián)網(wǎng)準(zhǔn)備的邊緣服務(wù)。它會(huì)用各種傳感器和小型計(jì)算設(shè)備追蹤工業(yè)場景中的數(shù)據(jù)，然后由微軟的云和AI工具分析，通過這項(xiàng)功能將計(jì)算能力由云推向邊緣。使用微軟的Azure IoT Edge，不僅能采集和分析數(shù)據(jù)，還開始將Azure機(jī)器學(xué)習(xí)及AI認(rèn)知服務(wù)帶進(jìn)設(shè)備端，讓設(shè)備想要就近結(jié)合機(jī)器學(xué)習(xí)變得更容易多了。Azure IoT Edge使得IoT設(shè)備能夠?qū)崟r(shí)運(yùn)行云服務(wù)，處理數(shù)據(jù)，并與傳感器和其它與之相連的設(shè)備進(jìn)行通信。通過處理、分析和運(yùn)行數(shù)據(jù)源，Azure IoT Edge幫助用戶做出更快、更智能的決策，同時(shí)將關(guān)鍵信息發(fā)送到云進(jìn)一步分析來降低帶寬成本。

　　蘋果則發(fā)布了Core ML平臺(tái)，堅(jiān)持不在云端實(shí)現(xiàn)機(jī)器學(xué)習(xí)，核心是加速在iPhone、iPad、Apple Watch上的人工智能任務(wù)，支持深度神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)、樹集成、線性模型等。Core ML為設(shè)備性能進(jìn)行了優(yōu)化，從而減少了內(nèi)存占用和功耗。嚴(yán)格在設(shè)備上運(yùn)行能夠確保用戶數(shù)據(jù)的隱私，并且能保證各種應(yīng)用在沒有網(wǎng)絡(luò)連接時(shí)也能夠工作和響應(yīng)。由于Core ML減少了很多不必要的內(nèi)容，就算不在云端運(yùn)行也不會(huì)性能變差。

　　六、邊緣智能領(lǐng)域的初創(chuàng)企業(yè)更值得關(guān)注。

　　首先來說說我經(jīng)常提到的FogHorn公司。FogHorn 為工業(yè)和商業(yè)物聯(lián)網(wǎng)應(yīng)用提供邊緣智能計(jì)算平臺(tái)，這一平臺(tái)能夠在各類工業(yè)和企業(yè)中，發(fā)揮機(jī)器學(xué)習(xí)和高級(jí)分析的作用，推動(dòng)新一類的監(jiān)控和診斷、資產(chǎn)性能優(yōu)化、運(yùn)營智能化和預(yù)見性維護(hù)程序的發(fā)展。

　　FogHorn解決方案通過提供一個(gè)高度微型化的復(fù)雜事件處理CEP引擎(也被稱為分析引擎)和強(qiáng)大而富有表現(xiàn)力的域特定語言(DSL)，在多個(gè)傳入的傳感器數(shù)據(jù)流上表達(dá)規(guī)則，從而解決這一問題。然后，這些表達(dá)的輸出可用于立即防止費(fèi)用高昂的機(jī)器故障或停機(jī)時(shí)間，并可實(shí)時(shí)提高工業(yè)運(yùn)行和處理的效率及安全性。Foghorn最新的機(jī)器學(xué)習(xí)平臺(tái)Lightning ML，僅有256MB大小，將機(jī)器學(xué)習(xí)能力嵌入到邊緣設(shè)備，使得AI能夠運(yùn)行在計(jì)算能力高度受限的邊緣設(shè)備上，例如PLC、工業(yè)PC、Raspberry Pi系統(tǒng)和多種IoT網(wǎng)關(guān)。

　　關(guān)鍵特點(diǎn)：可在小型環(huán)境、高吞吐或網(wǎng)關(guān)環(huán)境內(nèi)運(yùn)行高度可擴(kuò)展的高效CEP引擎，可作用于未來流傳感器數(shù)據(jù)在帶有豐富數(shù)據(jù)訪問的邊緣進(jìn)行復(fù)雜應(yīng)用開發(fā)和部署跨越云和邊緣的應(yīng)用移動(dòng)性云與邊緣之間先進(jìn)的機(jī)器學(xué)習(xí)(ML)和模型傳輸FogHorn支持主要的工業(yè)數(shù)據(jù)提取協(xié)議(如 OPC-UA、Modbus、MQTT、DDS 等…)以及其他數(shù)據(jù)傳輸協(xié)議。

　　此外，用戶還可輕松地將自定義協(xié)議適配器插入FogHorn的數(shù)據(jù)提取層。另外一家初創(chuàng)企業(yè)來自中國，名為北京輕停網(wǎng)絡(luò)科技有限公司，正在進(jìn)行邊緣智慧方面的有益嘗試。“輕停”顧名思義就是輕松停車，這家公司從智能停車場景切入，進(jìn)而抽象通用能力，發(fā)布了EdgeOn企業(yè)級(jí)物聯(lián)網(wǎng)開發(fā)套件，讓更多的企業(yè)開發(fā)者和集成商，有能力像輕停一樣把優(yōu)質(zhì)的IoT服務(wù)做到各行各業(yè)。

　　EdgeOn IoT Suite針對(duì)物聯(lián)網(wǎng)行業(yè)應(yīng)用構(gòu)建，具有非常顯著的特點(diǎn)：

　　1. 它可以實(shí)現(xiàn)異構(gòu)的IT和OT系統(tǒng)的集成，支持所有工業(yè)協(xié)議的解析。2. 它支持行業(yè)模板，比如說一座大樓的樓宇、消防、安防等控制系統(tǒng)已經(jīng)運(yùn)行了4-5年，并且需要24小時(shí)連續(xù)工作，輕停確保從系統(tǒng)數(shù)據(jù)庫里獲取業(yè)務(wù)數(shù)據(jù)上傳到云端、再回寫到系統(tǒng)，每一個(gè)環(huán)節(jié)都安全可靠。3. 通過與青云QingCloud的合作，輕停在行業(yè)內(nèi)首發(fā)混合云部署架構(gòu)，支持企業(yè)各種云環(huán)境，實(shí)現(xiàn)全數(shù)字化轉(zhuǎn)型。4. EdgeOn行業(yè)模板里內(nèi)置的API可以幫助服務(wù)提供商快速集成和構(gòu)建物聯(lián)網(wǎng)服務(wù)。當(dāng)今技術(shù)的迭代速度明顯高于人們的預(yù)期，人工智能也不是萬能的，它還處于初級(jí)階段，而且人工智能的投資正在經(jīng)歷泡沫化，市場迷霧越來越濃。細(xì)節(jié)方向或許迷茫，不過，錯(cuò)過邊緣智能浪潮的戰(zhàn)略性失誤，那絕對(duì)是不可饒恕的。