到目前為止,邊緣計(jì)算框架的局限性之一是如何在可能遠(yuǎn)離數(shù)據(jù)中心的本地連接設(shè)備上處理計(jì)算密集型操作(例如機(jī)器學(xué)習(xí)和人工智能所需的那種操作)。然而,最近Amazon Web Services (AWS)更新了Greengrass軟件以支持本地ML推斷。
快速機(jī)器學(xué)習(xí)復(fù)習(xí)
我們之前學(xué)過機(jī)器學(xué)習(xí),但是我們會再復(fù)習(xí)一些知識點(diǎn)。首先是如何訓(xùn)練機(jī)器學(xué)習(xí)模型。這些是資源密集型的操作,需要許多小時、大量計(jì)算能力和大型數(shù)據(jù)集。這就是為什么這些操作通常在云中或運(yùn)行Spark或Hadoop的大型分布式計(jì)算系統(tǒng)中執(zhí)行。
第二個問題是,一旦這些模型經(jīng)過訓(xùn)練,如何使用它們。雖然ML模型仍然需要處理能力,但它的運(yùn)行成本通常要低得多,這使得它對于許多需要基于模型從未見過的數(shù)據(jù)進(jìn)行實(shí)時推斷的操作非常重要。
AWS Greengrass的與眾不同之處在于它將ML模型的訓(xùn)練與ML推理分離開來。前者保留在云中,可以利用云資源的可伸縮性,而后者在連接的設(shè)備上進(jìn)行本地處理。這些設(shè)備只需要間歇性的云連接就可以獲得新版本的模型。其余的時間,他們可以從他們遇到的任何數(shù)據(jù)中推導(dǎo)出推論,并在存在連接性時傳遞這些數(shù)據(jù)。
ML、物聯(lián)網(wǎng)和邊緣計(jì)算
這種分工很自然地適合于物聯(lián)網(wǎng)設(shè)置,在這種環(huán)境中,系統(tǒng)可能需要實(shí)時推斷,而沒有大量計(jì)算資源的現(xiàn)成可用性。這項(xiàng)技術(shù)的一些潛在應(yīng)用包括:
工業(yè)設(shè)置,其中傳感器可以監(jiān)控活動水平(溫度、噪音等),檢測異常行為,并主動安排檢查或維修,以保持工廠在最高運(yùn)行效率。
在農(nóng)業(yè)領(lǐng)域,物聯(lián)網(wǎng)傳感器可以監(jiān)測傳統(tǒng)作物或溫室作物,測量溫度、濕度、酸度和其他因素,以預(yù)測作物產(chǎn)量,并幫助農(nóng)民根據(jù)環(huán)境變化調(diào)整耕作方式。
在零售和娛樂場所,攝像頭可以安裝物體和面部識別算法,以監(jiān)控人群并改善客戶服務(wù)。
其中面部識別和場景分析可用于主動檢測和識別潛在威脅。
此外,AWS Greengrass承諾在硬件和框架方面都非常靈活和強(qiáng)大。您可以將自己的預(yù)培訓(xùn)模型上傳到Amazon S3,但是ML推斷還包括TensorFlow Lite和Apache MXNet的包,并且可以支持其他流行的機(jī)器學(xué)習(xí)框架,如coff2和Microsoft Cognitive Toolkit。在硬件方面,ML推斷可以在由Raspberry Pi、Intel Atom或Nvidia Jetson TX2驅(qū)動的設(shè)備上運(yùn)行,還可以訪問設(shè)備的GPU,這對于某些應(yīng)用程序(如密碼學(xué)和數(shù)字貨幣挖掘)非常有用。
本文最初出現(xiàn)在Upwork中。