現今在邊緣裝置中人工智慧(AI)的運用

也許你感覺人工智慧(AI)還離我們很遙遠,但我們當中的許多人每天已在體驗人工智慧,像是智能手機上語音轉文本的虛擬助理或指紋辨識等應用。物聯網應用中的AI功能有助於識別模式並偵測具備感測器的物聯網邊緣裝置的變化,如環境參數溫度或壓力。
傳統上,簡單的嵌入式邊緣裝置從應用環境中的感測器收集這些數據,並將數據流傳輸到構建在雲端架構上的AI系統,以進行分析和推論。然而,隨著物聯網實施中對即時決策的需求不斷增長,連線或處理的需求也在增長,但並非總是可以將所有數據流傳輸到雲端進行AI處理。本文將討論如何在邊緣裝置中部署人工智慧來提高物聯網實施的效率和成本效益。
如何在邊緣裝置中部署人工智慧
標準邊緣AI模型的基本組件包括用於擷取感測器數據的硬體和軟體、用於訓練模型認識應用情境的軟體,以及在物聯網裝置上運行AI模型的應用軟體。
在邊緣裝置上運行的微服務軟體負責在用戶請求時啟動在邊緣裝置上的AI包。在邊緣裝置上,使用在訓練階段期間定義的特徵選擇和變換。模型可根據相應的功能集來客製,可擴展為包含聚合和工程功能。
智能邊緣裝置以電池供電的應用中,是低帶寬和間歇性網絡連線。邊緣裝置製造商正在構建具有集成處理和存儲功能的感測器,以及廣泛使用的低速通信協議,如BLE、Lora和NB-IoT,佔用空間小且功耗低。
在邊緣裝置中部署人工智慧的優點
雖然這種設計的複雜性可能使裝置昂貴,但其優點遠遠超過相關成本。
除了即時反應之外,基於邊緣端的AI還具有顯著的優勢,例如邊緣裝置內建的更高的安全機制以及網絡上下流動的數據較少。另外它非常靈活,因為每個應用程序具備客制的解決方案。由於推論是預先構建到邊緣裝置中的,因此需要較少的操作和維護。
邊緣運算中,開發人員可將一些複雜的運算傳輸到區域網絡中的邊緣處理器(如路由器、閘道器和伺服器)來在整個網絡中分散計算。邊緣處理器有很好的運行可靠度,因為可存儲數據並且獲得智能,這有助於在間歇性連網或沒有網絡連接的區域中進行部署。
一般而言,構建機器學習模型來解決挑戰是很複雜的。開發人員必須管理大量數據來進行模型訓練,選擇最佳演算法進行實施,並管理雲端服務來訓練模型。然後,應用程序開發人員使用Python等程式語言將模型部署到正式環境中。對智能邊緣裝置的製造商來說,投入資源從頭開始實施AI部屬是非常困難的。
