如(ru)何利(li)用邊緣AI發(fā)(fa)現(xiàn)(xian)新機(jī)(ji)遇？

在(zai)當(dāng)前(qian)的經(jīng)(jing)濟(jì)環(huán)(huan)境下(xia)，研發(fā)資(zi)金(jin)必須比(bi)以(yi)往(wang)任(ren)何時(shí)候都(dou)更(geng)加(jia)充(chong)分。企(qi)業(yè)對未(wei)來(lai)技術(shù)和基(ji)礎(chǔ)(chu)設(shè)(she)施的投資往(wang)往不以(yi)為然(ran)，而(er)失敗(bai)的(de)風(fēng)險(xiǎn)(xian)卻給(gei)項(xiàng)目利益相(xiang)關(guān)者(zhe)帶(dai)來了巨大壓(ya)力。

然而，這并(bing)不意味著(zhe)創(chuàng)(chuang)新(xin)應(yīng)(ying)該停止(zhi)甚至放(fang)緩(huan)。對于(yu)初創(chuàng)企業(yè)和(he)大型(xing)企(qi)業(yè)(ye)而(er)言，致力(li)于(yu)新(xin)技術(shù)(shu)和變革性技術(shù)對于(yu)確(que)保當(dāng)(dang)前(qian)和(he)未(wei)來的競(jing)爭力至(zhi)關(guān)重(zhong)要。人工智能(neng)(AI) 為(wei)越(yue)來(lai)越(yue)廣(guang)泛的(de)行(xing)業(yè)提供(gong)多(duo)方(fang)面的(de)解決方案(an)。

在過去(qu)十年中(zhong)，人(ren)工(gong)智(zhi)能(neng)在釋(shi)放全新(xin)的收(shou)入機(jī)(ji)會(huì)(hui)方(fang)面(mian)發(fā)(fa)揮了(le)重要(yao)作(zuo)用(yong)。從理解(jie)和(he)預(yù)測用戶(hu)行(xing)為(wei)到(dao)協(xié)(xie)助(zhu)生(sheng)成(cheng)代碼(ma)和(he)內(nèi)(nei)容，人(ren)工(gong)智能和(he)機(jī)器學(xué)習(xí)(xi) (ML) 革命(ming)已經(jīng)使消費(fèi)者(zhe)從他們的(de)應(yīng)(ying)用(yong)、網(wǎng)站和(he)在(zai)線(xian)服務(wù)(wu)中獲(huo)得的價(jià)值成倍(bei)增(zeng)加(jia)。

然(ran)而(er)，這場(chang)革命(ming)在很大(da)程度上(shang)僅限于(yu)云(yun)，其(qi)中(zhong)幾乎(hu)無限(xian)的存(cun)儲(chǔ)和(he)計(jì)算(suan)，以及主(zhu)要(yao)公共(gong)云服(fu)務(wù)(wu)提供(gong)商提(ti)供(gong)的方便的虛擬(ni)硬件，使得為每(mei)個(gè)AI/ML應(yīng)用建(jian)立(li)最佳(jia)實(shí)踐(jian)模(mo)式(shi)變(bian)得相對容易可(ke)以(yi)想(xiang)象(xiang)。

AI：移(yi)動(dòng)到(dao)邊(bian)緣

由于(yu)AI處(chu)理(li)主(zhu)要發(fā)(fa)生(sheng)在云端，因(yin)此AI/ML革(ge)命(ming)對于(yu)邊(bian)緣(yuan)設(shè)備來說(shuo)仍(reng)然遙不可(ke)及。這(zhe)些(xie)是(shi)在工廠車(che)間、建(jian)筑工(gong)地(di)、研究(jiu)實(shí)驗(yàn)室、自然(ran)保(bao)護(hù)(hu)區(qū)(qu)、我(wo)們佩戴(dai)的(de)配飾(shi)和衣服(fu)上、我們(men)運(yùn)(yun)送(song)的包裹內(nèi)以及任何其(qi)他(ta)需要(yao)連(lian)接的環(huán)境(jing)中(zhong)發(fā)現(xiàn)(xian)的更小(xiao)、低功(gong)耗的(de)處理器、存儲(chǔ)(chu)、計(jì)(ji)算(suan)和能(neng)源(yuan)是(shi)有(you)限(xian)的或(huo)不(bu)能被視為理所當(dāng)(dang)然(ran)。在(zai)他們的(de)環(huán)境(jing)中，計(jì)算周(zhou)期和(he)硬(ying)件架(jia)構(gòu)(gou)很(hen)重(zhong)要(yao)，預(yù)算(suan)不是(shi)以端(duan)點(diǎn)(dian)或(huo)套接字連接的(de)數(shù)量(liang)來衡(heng)量的，而(er)是以瓦特和(he)納秒來衡量(liang)的(de)。

希(xi)望(wang)打破人(ren)工(gong)智能/機(jī)(ji)器(qi)學(xué)(xue)習(xí)領(lǐng)域下(xia)一個(gè)技術(shù)(shu)障礙(ai)的首席技術(shù)官(guan)、工(gong)程(cheng)、數(shù)(shu)據(jù)(ju)和機(jī)(ji)器(qi)學(xué)習(xí)(xi)領(lǐng)導(dǎo)(dao)者以(yi)及產(chǎn)品(pin)團(tuán)(tuan)隊(duì)必須將目(mu)光投向邊(bian)緣(yuan)。邊緣AI和(he)邊緣ML提出了(le)獨(dú)(du)特而復(fù)雜的(de)挑(tiao)戰(zhàn)(zhan)，需(xu)要(yao)許多(duo)利(li)益相關(guān)者的精(jing)心協(xié)(xie)調(diào)和參(can)與，這些利(li)益(yi)相(xiang)關(guān)(guan)者具(ju)有從系(xi)統(tǒng)集(ji)成、設(shè)(she)計(jì)、運(yùn)營和物(wu)流到嵌入式(shi)、數(shù)(shu)據(jù)、IT 和(he) ML工(gong)程(cheng)的廣(guang)泛專業(yè)(ye)知識(shí)。

邊緣AI意(yi)味著(zhe)算法必須(xu)在(zai)某(mou)種特定(ding)用途的硬件(jian)中(zhong)運(yùn)行(xing)，從(cong)高端(duan)的網(wǎng)(wang)關(guān)或本(ben)地服務(wù)器(qi)到(dao)低端的能量收(shou)集(ji)傳感(gan)器(qi)和(he)MCU。確(que)保(bao)此類產(chǎn)品(pin)和(he)應(yīng)用(yong)的(de)成(cheng)功需(xu)要(yao)數(shù)(shu)據(jù)和ML團(tuán)隊(duì)(dui)與產(chǎn)品(pin)和(he)硬件(jian)團(tuán)(tuan)隊(duì)密切合(he)作(zuo)，以(yi)了解(jie)和(he)考慮(lv)彼(bi)此(ci)的(de)需(xu)求(qiu)、約束和要求。

雖然構(gòu)建(jian)定制邊緣AI解(jie)決(jue)方案的挑(tiao)戰(zhàn)并(bing)非無法(fa)克(ke)服，但(dan)存在(zai)用(yong)于(yu)邊(bian)緣(yuan)AI算法(fa)開(kai)發(fā)(fa)的平臺(tái)可(ke)以(yi)幫助(zhu)彌合必(bi)要團(tuán)隊(duì)之(zhi)間的差距，確(que)保在(zai)更短(duan)的時(shí)(shi)間內(nèi)(nei)取(qu)得(de)更(geng)高(gao)水平的(de)成功，并(bing)驗(yàn)證(zheng)進(jìn)(jin)一(yi)步(bu)投資(zi)的(de)方向應(yīng)該制作(zuo)。以下(xia)是其(qi)他(ta)需(xu)要(yao)注(zhu)意(yi)的(de)事(shi)項(xiàng)(xiang)。

在(zai)開(kai)發(fā)(fa)算法(fa)的(de)同時(shí)測(ce)試硬(ying)件

由(you)數(shù)(shu)據(jù)(ju)科學(xué)和(he) ML團(tuán)(tuan)隊(duì)(dui)開發(fā)算(suan)法，然(ran)后(hou)將其傳遞給(gei)固(gu)件(jian)工程師以(yi)將(jiang)其(qi)安裝在設(shè)備上，這(zhe)既不高效(xiao)也(ye)不(bu)總(zong)是可能的。硬件(jian)在環(huán)(huan)測試(shi)和部署應(yīng)(ying)該(gai)是任何(he)邊(bian)緣(yuan) AI 開(kai)發(fā)(fa)管道的(de)基(ji)本(ben)組成部(bu)分。如(ru)果沒有(you)同(tong)時(shí)(shi)在(zai)硬件(jian)上(shang)運(yùn)行(xing)和測試(shi)算(suan)法的方法(fa)，則很難預(yù)見(jian)在(zai)開發(fā)邊(bian)緣(yuan)AI算(suan)法(fa)時(shí)可(ke)能(neng)出現(xiàn)(xian)的內(nèi)(nei)存(cun)、性(xing)能(neng)和延遲(chi)限(xian)制。

一些(xie)基(ji)于云(yun)的模型架(jia)構(gòu)也不意(yi)味(wei)著在任(ren)何(he)類(lei)型(xing)的(de)受(shou)限(xian)或(huo)邊(bian)緣(yuan)設(shè)(she)備上(shang)運(yùn)行，提前(qian)預(yù)(yu)測可以為固件和ML團(tuán)隊(duì)節(jié)省數(shù)(shu)月(yue)的痛(tong)苦(ku)。

物聯(lián)網(wǎng)數(shù)(shu)據(jù)不等(deng)于大(da)數(shù)據(jù)

大數(shù)(shu)據(jù)(ju)是(shi)指可以(yi)分析以(yi)揭(jie)示(shi)模(mo)式或(huo)趨勢的(de)大(da)型(xing)數(shù)(shu)據(jù)集。然而，物聯(lián)網(wǎng)(IoT) 數(shù)據(jù)(ju)并(bing)不一定與數(shù)量(liang)有(you)關(guān)(guan)，而是與(yu)數(shù)(shu)據(jù)(ju)的質(zhì)量(liang)有(you)關(guān)。此(ci)外，此(ci)數(shù)(shu)據(jù)可(ke)以(yi)是時(shí)間序(xu)列(lie)傳(chuan)感(gan)器(qi)或(huo)音(yin)頻數(shù)(shu)據(jù)(ju)，或(huo)圖像(xiang)，并(bing)且(qie)可(ke)能(neng)需要(yao)進(jìn)行(xing)預(yù)處(chu)理。

將(jiang)數(shù)(shu)字(zi)信(xin)號(hao)處(chu)理 (DSP) 等傳統(tǒng)傳(chuan)感器數(shù)(shu)據(jù)(ju)處(chu)理(li)技(ji)術(shù)(shu)與(yu)AI/ML相結(jié)合(he)，可(ke)以(yi)產(chǎn)生(sheng)新的(de)邊(bian)緣AI算(suan)法(fa)，提(ti)供(gong)以(yi)前技術(shù)(shu)無法實(shí)現(xiàn)(xian)的準(zhǔn)(zhun)確(que)洞(dong)察力。但物(wu)聯(lián)網(wǎng)(wang)數(shù)據(jù)(ju)不是(shi)大數(shù)(shu)據(jù)，因(yin)此(ci)用(yong)于邊(bian)緣(yuan)人(ren)工智(zhi)能(neng)開發(fā)的(de)這些數(shù)據(jù)(ju)集的(de)數(shù)(shu)量(liang)和(he)分析(xi)會(huì)有(you)所不(bu)同。根據(jù)生(sheng)成(cheng)的模型(xing)準(zhǔn)(zhun)確(que)性和(he)性能快速(su)試(shi)驗(yàn)(yan)數(shù)(shu)據(jù)(ju)集大(da)小(xiao)和(he)質(zhì)(zhi)量(liang)是(shi)通(tong)往(wang)生產(chǎn)可(ke)部署算法道路(lu)上的(de)重(zhong)要一步。

開(kai)發(fā)(fa)硬(ying)件(jian)已(yi)經(jīng)夠(gou)難(nan)了(le)

如果(guo)不(bu)知(zhi)道(dao)所選硬(ying)件是否(fou)可(ke)以(yi)運(yùn)行邊緣AI軟件(jian)工(gong)作(zuo)負(fù)載(zai)，則構(gòu)建(jian)硬(ying)件很困(kun)難(nan)。在(zai)選(xuan)擇(ze)材料(liao)清(qing)單(dan)之(zhi)前(qian)就開(kai)始(shi)對硬(ying)件(jian)進(jìn)(jin)行(xing)基準(zhǔn)(zhun)測試(shi)至關(guān)重(zhong)要(yao)。對(dui)于現(xiàn)有硬件，設(shè)備上可用內(nèi)(nei)存(cun)的限(xian)制(zhi)可能(neng)更(geng)為關(guān)(guan)鍵(jian)。

即(ji)使(shi)使(shi)用早(zao)期(qi)的(de)小型(xing)數(shù)(shu)據(jù)集(ji)，邊緣(yuan)AI開發(fā)(fa)平臺(tái)(tai)也可(ke)以開(kai)始提(ti)供(gong)運(yùn)行(xing)AI工作負(fù)(fu)載所需的(de)硬件類(lei)型(xing)的性(xing)能和(he)內(nèi)存(cun)估(gu)計(jì)(ji)。

有(you)一個(gè)(ge)過程(cheng)來權(quán)衡(heng)設(shè)(she)備選(xuan)擇和(he)基(ji)準(zhǔn)測(ce)試(shi)與早(zao)期版(ban)本的邊(bian)緣(yuan)AI模型(xing)可以確保(bao)硬件支(zhi)持(chi)到(dao)位(wei)，以(yi)支持(chi)將在設(shè)(she)備上運(yùn)(yun)行的所(suo)需固(gu)件(jian)和(he)AI模(mo)型(xing)。

構(gòu)建(jian)、驗(yàn)(yan)證新(xin)的(de)邊(bian)緣AI軟(ruan)件(jian)并(bing)將(jiang)其(qi)推(tui)向生產(chǎn)(chan)

選(xuan)擇(ze)開(kai)發(fā)平(ping)臺(tái)時(shí)，還(hai)值(zhi)得考(kao)慮(lv)不同(tong)廠商(shang)提(ti)供(gong)的(de)工程(cheng)支(zhi)持(chi)。Edge AI包含(han)數(shù)(shu)據(jù)科學(xué)、ML、固(gu)件(jian)和硬(ying)件(jian)，供應(yīng)(ying)商在(zai)內(nèi)部開(kai)發(fā)團(tuán)隊(duì)(dui)可能需(xu)要(yao)一(yi)些(xie)額外支持(chi)的(de)領(lǐng)(ling)域(yu)提供(gong)指導(dǎo)(dao)非常重要(yao)。

在某(mou)些(xie)情(qing)況(kuang)下(xia)，它不(bu)是(shi)關(guān)(guan)于(yu)將要(yao)開(kai)發(fā)(fa)的(de)實(shí)(shi)際(ji)模(mo)型，而(er)是(shi)更多(duo)關(guān)于(yu)系(xi)統(tǒng)(tong)級(ji)設(shè)(she)計(jì)(ji)流程(cheng)的規(guī)(gui)劃(hua)，包括數(shù)據(jù)(ju)基(ji)礎(chǔ)(chu)設(shè)施、ML開(kai)發(fā)(fa)工具、測(ce)試(shi)、部(bu)署(shu)環(huán)境(jing)和(he)持(chi)續(xù)(xu)集(ji)成、持續(xù)部署 (CI /CD) 管道。

最后，對(dui)于(yu)邊緣AI開發(fā)(fa)工(gong)具(ju)而(er)言，重(zhong)要(yao)的(de)是(shi)要適(shi)應(yīng)(ying)團(tuán)隊(duì)(dui)中的不(bu)同用(yong)戶——從ML工(gong)程(cheng)師(shi)到(dao)固(gu)件(jian)開(kai)發(fā)人員。低代(dai)碼(ma)/無(wu)代(dai)碼用戶(hu)界面是(shi)快速(su)構(gòu)(gou)建新(xin)應(yīng)用原(yuan)型和構(gòu)建新(xin)應(yīng)(ying)用(yong)的好方法，而(er)API和SDK對更(geng)有經(jīng)(jing)驗(yàn)(yan)的(de)ML開(kai)發(fā)人員很有(you)用，他(ta)們(men)可(ke)以從(cong)Jupyter notebooks使用Python更(geng)好(hao)更快(kuai)地(di)工(gong)作(zuo)。

平(ping)臺(tái)(tai)提(ti)供了訪問靈(ling)活(huo)性的優(yōu)勢，迎合了(le)構(gòu)建(jian)邊緣(yuan)AI應(yīng)(ying)用的(de)跨職(zhi)能團(tuán)(tuan)隊(duì)中(zhong)可能存在(zai)的(de)多(duo)個(gè)利益(yi)相關(guān)(guan)者(zhe)或(huo)開(kai)發(fā)人(ren)員的(de)需求(qiu)。