中國首款嵌入式神經(jīng)網(wǎng)絡(luò)處理器(NPU)“星光智能一號(hào)”:智能監(jiān)控新篇章

    6月20日，“神威太湖之光”成為全球最強(qiáng)超級(jí)計(jì)算機(jī)。但是，這只是這一天祖國科技技術(shù)大躍進(jìn)的一小份。6月20日，南京大學(xué)的基于新型鋁鈦化合金屬技術(shù)的輕質(zhì)高可塑性高溫材料論文發(fā)表于《自然》雜志，性能領(lǐng)先國際先進(jìn)水平一個(gè)數(shù)量級(jí)。6月20日中星微的嵌入式經(jīng)網(wǎng)絡(luò)處理器(NPU)“星光智能一號(hào)”也正式發(fā)布。而在此前，該產(chǎn)品已經(jīng)實(shí)現(xiàn)在智能安防領(lǐng)域的商業(yè)化應(yīng)用。本文，大屏君想談的是后者，即NPU。因?yàn)檫@個(gè)與我們的大屏應(yīng)用距離最近。

    NPU這是一個(gè)新名詞，需要科普一下。NPU即是以神經(jīng)網(wǎng)絡(luò)算法和結(jié)構(gòu)為核心的并行處理器。其具有學(xué)習(xí)、聯(lián)想、記憶和模式識(shí)別的物理結(jié)構(gòu)，核心運(yùn)算是向量乘法，善于處理實(shí)時(shí)并行大數(shù)據(jù)，并行大數(shù)據(jù)的處理效率是同等功耗下傳統(tǒng)CPU的百倍乃至更高。同時(shí)，這種處理器也是對(duì)傳統(tǒng)馮諾依曼架構(gòu)的顛覆。

    在視頻領(lǐng)域，NPU的應(yīng)用是怎樣的呢？大屏君有一個(gè)簡單的比喻：我們電腦的GPU是把一些邏輯信息轉(zhuǎn)化成畫面，渲染出來；NPU的目的則相反——他是把視頻畫面，盡量轉(zhuǎn)化成可以直接被機(jī)器理解的邏輯信息。

    那么問題來了：為什么智能安防需要這樣一個(gè)新CPU呢？（準(zhǔn)確講應(yīng)該叫做NPU）。大屏君覺得這是一個(gè)很好的命題。

    大屏君數(shù)過我們辦公大樓的監(jiān)控探頭個(gè)數(shù)，一層一層下來好幾百，但是保安就那幾個(gè)。如果沒有千眼觀音菩薩的功力，這些探頭的真正意義也就在于：有了犯罪，可能提供一些線索。而如果視頻存儲(chǔ)能力不足，例如只存儲(chǔ)了7天的視頻，那么此前第8天的犯罪信息就沒有了。

    我們電影節(jié)目中，有很多這樣的橋段：持槍歹徒進(jìn)入銀行，銀行女職員企圖按報(bào)警器被制止，警察調(diào)用視頻監(jiān)控準(zhǔn)備破案，但是歹徒都帶了頭套，監(jiān)控畫面失去意義，或者干脆安防存儲(chǔ)系統(tǒng)已經(jīng)被破壞，失去了所有數(shù)據(jù)。而如果這是智能安防體系，那么當(dāng)持有武器和蒙面的歹徒進(jìn)入銀行一個(gè)探頭視野的時(shí)候，安防系統(tǒng)就會(huì)自動(dòng)報(bào)警，且銀行內(nèi)的各個(gè)區(qū)域會(huì)啟動(dòng)安全隔離和屏蔽裝置——歹徒進(jìn)得來，摸不到錢，也可能抓不到人質(zhì)，而且反身想跑：大門自己鎖上了。

    以上這個(gè)假設(shè)案例能成功的前提是：第一個(gè)探頭第一時(shí)間，知道歹徒來了。原始的解決方案是，找一個(gè)人24小時(shí)不眨眼的盯著第一個(gè)探頭的畫面——不能眨眼或者打瞌睡，那樣歹徒就有可乘之機(jī)。但是，這顯然不符合成本規(guī)律。

    另一個(gè)技術(shù)方案則是智能探頭。即攝像機(jī)探頭能夠主動(dòng)識(shí)別視頻中的信息，尤其是學(xué)習(xí)型、模糊化的識(shí)別違規(guī)信息，并按照預(yù)設(shè)等級(jí)觸發(fā)警報(bào)動(dòng)作。智能安防系統(tǒng)可以做到：可疑情況識(shí)別報(bào)警，預(yù)防犯罪；犯罪進(jìn)行中報(bào)警，實(shí)時(shí)抓捕；更多數(shù)據(jù)信息，尤其是有效元信息的長期存儲(chǔ)——這些元信息占據(jù)存儲(chǔ)空間的量，只有視頻的幾十分之一，甚至幾百分之一，進(jìn)而保持監(jiān)控系統(tǒng)的長期信息有效。

    不過實(shí)現(xiàn)以上這種智能探頭功能，不是一件簡單的事情：視頻內(nèi)容分析和處理，并與特定但不具體的違規(guī)信息匹配（為何說這些違規(guī)信息不具體呢？因?yàn)�，如持刀歹徒，刀的性狀各式各樣，難以提前預(yù)知，違規(guī)信息組只能給出一個(gè)模糊模型）需要強(qiáng)大的運(yùn)算支持。這是這個(gè)系統(tǒng)的核心要求：極低成本下，能夠有效即時(shí)的高速識(shí)別價(jià)值信息�；蛘哒f，安防進(jìn)入智能時(shí)代的核心前提就是有足夠強(qiáng)大的終端信息處理能力。

    大家還記得今年3月份，谷歌圍棋人工智能AlphaGo（阿爾法狗）大戰(zhàn)韓國圍棋高手李世石的事情嗎？這個(gè)圍棋算法就是典型的學(xué)習(xí)型、模糊算法，是高并行概率計(jì)算的神經(jīng)網(wǎng)絡(luò)。那個(gè)阿爾法狗的“人工智能”很厲害，水平非常高。但是，對(duì)于安防監(jiān)控的攝像頭，這個(gè)人工智能系統(tǒng)的“硬件”體積異常巨大——無法嵌入到安防探頭里面去。同時(shí)，這套系統(tǒng)的造價(jià)也很昂貴，也是安防探頭所不能承受的。

    這是現(xiàn)有IT技術(shù)的瓶頸：即傳統(tǒng)的CPU和軟件不是不能實(shí)現(xiàn)學(xué)習(xí)型的智慧算法和功能，而是需要極高的成本——包括設(shè)備體積、耗電量、采購價(jià)格等等。AlphaGo背后是幾十臺(tái)超級(jí)計(jì)算機(jī)和服務(wù)集群，下一盤棋要花費(fèi)3000美金電費(fèi)。

    那么，對(duì)比而言，另一個(gè)技術(shù)路線則是專門的嵌入式神經(jīng)算法處理器，即NPU技術(shù)。只有手指肚大小、耗電量相當(dāng)于一個(gè)LED燈泡（攝像頭都有數(shù)個(gè)紅外照明燈）的NPU方案，就成了智能安防的最好選擇。

    在應(yīng)用了NPU技術(shù)的攝像頭中，不僅記錄實(shí)時(shí)畫面，更會(huì)有效的分析并記錄視頻中的“元信息”。例如，人員著裝特征、車牌號(hào)碼、左轉(zhuǎn)右轉(zhuǎn)等等。這些元信息和視頻流一起傳回中央系統(tǒng)，供警報(bào)選擇程序調(diào)用，同時(shí)也能供后期數(shù)據(jù)挖掘使用�；蛘哌@些元信息也可以直接在探頭端觸發(fā)高階報(bào)警動(dòng)作，如上文假設(shè)中的搶銀行案例。

    通過大屏君的分析，各位可以看到：安防智能與否差別非常大。而安防進(jìn)入智能時(shí)代的核心前提就是有足夠強(qiáng)大的終端信息處理能力——谷歌阿爾法狗的能力雖然強(qiáng)大，卻不可能用在攝像頭上，這就是NPU的價(jià)值所在。未來的安防系統(tǒng)一定是智能化的。即，面對(duì)未來安防系統(tǒng)少則數(shù)十個(gè)、多則（如天網(wǎng)系統(tǒng)）千百萬單位計(jì)算的探頭規(guī)模和海量數(shù)據(jù)，沒有NPU智能系統(tǒng)，這些巨大投入的價(jià)值都會(huì)大打折扣。反之，NPU智能探頭則是安防價(jià)值倍增器。

    NPU如何做到這一點(diǎn)的呢？答案在于仿生模擬。例如，大屏君和老熟人在馬路上碰到，多長時(shí)間能認(rèn)出自己的朋友呢？答案是“馬上就行”。而如果換成傳統(tǒng)計(jì)算機(jī)處理，則需要人臉識(shí)別計(jì)算幾秒鐘，如果這個(gè)老朋友帶了眼鏡，那么問題就會(huì)變得更復(fù)雜（眼鏡會(huì)影響面部特征）——雖然，眼鏡不會(huì)影響大屏君對(duì)老朋友的認(rèn)識(shí)。這種“人”“機(jī)”差別就是人腦神經(jīng)網(wǎng)絡(luò)處理，與傳統(tǒng)計(jì)算機(jī)邏輯鏈路處理的效率差異：算1+1=2，人趕不上PC；但是計(jì)算模糊和學(xué)習(xí)模型，PC在人腦面前就是“渣渣”。

    NPU的特點(diǎn)就是以神經(jīng)元網(wǎng)絡(luò)為模型，開發(fā)嶄新的、專門用于某類大型并行數(shù)據(jù)的計(jì)算單元，它采用“數(shù)據(jù)驅(qū)動(dòng)并行計(jì)算”模式，極大地提升了計(jì)算能力與功耗的比例，特別擅長處理視頻、圖像類的海量多媒體數(shù)據(jù)。NPU為視頻監(jiān)控等應(yīng)用帶來的價(jià)值是：低成本、高效率、即時(shí)性，以及低功耗、小體積。

    當(dāng)然，嵌入式神經(jīng)網(wǎng)絡(luò)處理器NPU的用途不止安防一個(gè)：但凡需要高效率、高性能、大數(shù)據(jù)并行處理、即時(shí)計(jì)算的領(lǐng)域，NPU都可以大有可為。例如無人駕駛系統(tǒng)——日本汽車產(chǎn)業(yè)協(xié)會(huì)的報(bào)告稱，最晚2030年所有新車都會(huì)配備無人駕駛系統(tǒng)。無人駕駛汽車需要實(shí)時(shí)識(shí)別周邊的視頻信息，NPU技術(shù)可以提供高效、即時(shí)、可靠且低成本的解決方案。

    類似的例子非常多，這些例子總體上可以叫做“機(jī)器知覺”——即不再是簡單的傳遞攝像頭前前的信息，而是對(duì)這些信息給出知識(shí)性的分析和結(jié)論。所以，大屏君說NPU這類神經(jīng)網(wǎng)絡(luò)芯片是未來物聯(lián)網(wǎng)系統(tǒng)、智慧社會(huì)的核心之一。中星微電子星光一號(hào)雖然只采用了卷積神經(jīng)網(wǎng)路（CNN）技術(shù)，在其應(yīng)用上、性能上的瓶頸依然很明顯，但是不積跬步何以至千里，何況作為專用機(jī)器視覺產(chǎn)品，星光一號(hào)還有經(jīng)濟(jì)成本優(yōu)勢(shì)。

    所以，大屏君堅(jiān)信“我們一天天好起來，敵人一天天爛下去”。只需加以時(shí)日，中國創(chuàng)新、中國創(chuàng)造必將還你一個(gè)星辰大海。