提到邊緣計算,也許你感到很晦澀,但對于章魚(yú)你肯定不陌生。
章魚(yú)是一種無(wú)脊椎動(dòng)物,渾身布滿(mǎn)神經(jīng)元,但是它的腦部只有 40% 的神經(jīng)元,剩下的 60% 神經(jīng)元在八條腿(腕足)上。這等于章魚(yú)擁有 多個(gè)小腦 + 一個(gè)大腦,這樣的分布式結構使得它在捕獵時(shí)非常敏捷,腿部得到信號即可就近捕獵。
圖 | 章魚(yú)(來(lái)源:IC photo)
而邊緣計算的結構和章魚(yú)很相似,它是一種分布式計算,得到信息后無(wú)需把大量數據上傳到遠端管理平臺,直接可以就近處理。
而說(shuō)到邊緣計算,就不得不提傳感器。當前的傳感器網(wǎng)絡(luò )中,節點(diǎn)數量增長(cháng)非常迅速,傳感器終端和計算單元之間交換著(zhù)大量冗余數據,如何在處理大量數據的同時(shí)、還能降低功耗,是邊緣計算亟待解決的難題。
針對此,近日香港理工大學(xué)應用物理學(xué)系副教授柴揚發(fā)表在《自然?電子學(xué)》上題的論文《近傳感器計算與傳感器內計算》(Near-Sensor and In-Sensor Computing),創(chuàng )造性地提出了近傳感器計算與傳感器內計算的方法。
圖 |《近傳感器計算與傳感器內計算》(來(lái)源:Nature)
柴揚告訴 DeepTech,近傳感器計算與傳感器內計算的方法,可減少傳感器終端和計算單元之間的冗余數據移動(dòng)。而計算任務(wù)被部分轉移到傳感器終端后,能減少能耗和時(shí)間延遲,還可節省通信帶寬并增強數據安全性和隱私性。
不同架構,不同級別
談及一些情況下把數據處理放在傳感器端更好的原因,柴揚解釋稱(chēng),物聯(lián)網(wǎng)傳感器收集到的數據基本都是非結構性的,因此數據必須要先做處理。而一個(gè)完整的傳感系統既需要有傳感器,又需要有運算器。但實(shí)際上,傳感器的制造工藝和運算器的制造工藝很不一樣。以圖像傳感器為例,用 65 納米的節點(diǎn)已是非常先進(jìn)的工藝;而如果要做運算,目前最先進(jìn)的半導體工藝已經(jīng)發(fā)展到 5 納米節點(diǎn)。
此外,傳感器和運算器通常采用不同工藝制造,然后組裝為一個(gè)完整的系統,兩者在系統中的距離較遠,更多情況是傳感器收集數據,上傳到云端后做計算處理。那么在哪些情況下,把數據處理放在傳感器端比在云端更好呢?
柴揚表示,這主要出于兩個(gè)剛性需求考量:第一個(gè)考量是功耗,傳感器一般是靠電池來(lái)供電,因為電量受限,所以不能做太復雜的運算,復雜運算一般都要上傳到云端做進(jìn)一步處理;第二個(gè)考量是時(shí)間,也就是實(shí)時(shí)處理。
比如,自動(dòng)駕駛對延時(shí)非常敏感,如果傳到云端處理再傳回來(lái),會(huì )給安全駕駛帶來(lái)很大挑戰。因此,比較簡(jiǎn)單且對時(shí)間敏感的數據處理,放在傳感器端比放在云端更好。一般來(lái)說(shuō),傳感器和計算單元的材料不同,因此它們的功能、結構、設計和處理系統都不同。
在傳統的感覺(jué)計算架構中,傳感器和計算單元在物理空間上是分開(kāi)的,它們之間有較遠的物理距離。而在近傳感器計算和傳感器內計算架構中,傳感器和計算單元之間的距離通常會(huì )顯著(zhù)減少或消除。比如,在近傳感器計算架構中,前端處理單元被放置在傳感器旁邊,這意味著(zhù)處理單元可提高系統整體性能,并最大限度減少冗余數據傳輸;在傳感器內計算架構中,單個(gè)傳感器或多個(gè)連接的傳感器可直接處理收集到的信息,這樣的設計可將傳感和計算功能結合在單一器件中。
圖 | 不同的計算架構
圖 | 用于神經(jīng)網(wǎng)絡(luò )中乘法累加運算的、具有可重構傳感器的傳感器內計算架構示意圖
柴揚表示:近傳感器計算面臨的一大挑戰是傳感單元和計算單元的集成。例如,計算單元已經(jīng)采用了非常先進(jìn)的技術(shù)節點(diǎn),而大多數傳感基于大節點(diǎn)技術(shù)就可以很好地執行它們的功能。近傳感器計算的集成技術(shù)包括異質(zhì)集成、3D 單片集成、片上系統集成和 2.5D Chiplet 技術(shù)等,其中 3D 單片集成提供了一種高密度、短距離的系統集成方法,但是其復雜的制備工藝和散熱仍面臨巨大挑戰。
圖 | 近距離傳感器和傳感器內計算的集成技術(shù)
雖然傳感器內計算架構已被證明是結合計算和傳感能力的方法,但它們通常只適用于特定場(chǎng)景。此外,它們只能通過(guò)處于早期開(kāi)發(fā)階段的新材料和新器件結構來(lái)實(shí)現。近傳感器計算和傳感器內計算是一個(gè)跨學(xué)科的研究領(lǐng)域,涵蓋材料、器件、電路、架構、算法和集成技術(shù), 柴揚說(shuō),這些架構很復雜,因為它們需要在不同場(chǎng)景中處理大量不同類(lèi)型的信號。近傳感器計算和傳感器內計算的成功部署,需要傳感器、設備、集成技術(shù)和算法的共同開(kāi)發(fā)和共同優(yōu)化。
在本次研究中,該團隊為近傳感器計算和傳感器內計算提供了清晰定義,他們將信息處理分為低級處理和高級處理。低級處理,即通過(guò)抑制不必要的噪聲或失真,或通過(guò)增強進(jìn)一步處理的特征,從大量原始數據中有選擇性地提取有用數據;高級處理,即抽象表示,這涉及到認知過(guò)程,其能識別輸入信號是 什么 或 在哪里。最后,除了為近傳感器計算和傳感器內計算提供可靠的定義之外,研究人員還提出了實(shí)現集成傳感和處理單元的可能解決方案。在未來(lái),他們的工作可以激發(fā)進(jìn)一步的研究,旨在利用先進(jìn)的制造技術(shù)、實(shí)現這些架構或硬件組件。
實(shí)際應用,尚有距離
也就是說(shuō),近傳感器與傳感器內計算方法,是實(shí)現智能傳感處理高效硬件的一種可能途徑。在傳感器端處直接處理數據,可提供改進(jìn)的面積、時(shí)間和能量效率,并在實(shí)時(shí)和數據密集型應用中特別有益。
然而,在傳感器附近實(shí)現低級和高級的處理功能,需要開(kāi)發(fā)先進(jìn)的集成技術(shù)和新的計算算法;在傳感器內實(shí)現計算還需要開(kāi)發(fā)具有新功能和新機制的設備、以及合適的算法。
雖然在傳感器計算方面顯示出潛力,但目前大多數設備都處于研究開(kāi)發(fā)的早期階段,由于功能有限,僅限于特定的應用場(chǎng)景。此外,到目前為止,對于完整處理和與外圍控制的大規模集成只有有限的演示,而這對于傳感器處理架構的未來(lái)至關(guān)重要。同時(shí),柴揚告訴 DeepTech,自動(dòng)駕駛應該是比較好的切入口,一旦突破現在的 瓶頸,就可能會(huì )有更多的新的應用產(chǎn)生。
上海有一家叫芯侖科技的公司,他們研發(fā)的動(dòng)態(tài)視覺(jué)傳感器(Dynamic Vision Sensor,DVS)就是應用在車(chē)輛上,采集圖像、然后做一些實(shí)時(shí)的分析。他們在這個(gè)領(lǐng)域做得是比較好的,用得就是近傳感器計算(Near-Sensor Computing),已經(jīng)非常接近實(shí)用,在國內也是比較領(lǐng)先的。盡管柴揚團隊目前工作重心主要集中在視覺(jué)傳感器上,但是近傳感器與傳感器內計算方法也可以擴展到其他種類(lèi)的傳感器,如聽(tīng)覺(jué)、觸覺(jué)、味覺(jué)信號、化學(xué)信號甚至生物信號的傳感器。
玉汝于成,不忘初心
柴揚于香港科技大學(xué)電子工程系獲得博士學(xué)位;之后在斯坦福大學(xué)開(kāi)展博士后研究;后面在香港理工大學(xué)繼續電子器件方向的研究。
在談到成果落地的問(wèn)題時(shí),柴揚也提到,香港高校中有的老師做得非常成功,比如大疆創(chuàng )新、商湯科技和晶科電子都是從香港高校孵化出來(lái)的。談及此,柴揚也表示了對粵港澳大灣區未來(lái)發(fā)展的期待,現在國家針對大灣區提出了一些新的政策,香港政府也推出了一系列的支持科創(chuàng )政策,整個(gè)科創(chuàng )生態(tài)肯定能夠變得更好一些,雖然這個(gè)過(guò)程可能是相對漫長(cháng)的,希望最后的研究結果能夠解決目前存在的一些科學(xué)工程問(wèn)題,可以產(chǎn)生一些切實(shí)可用的東西。