這為以前無法想象的邊緣AI開辟了新的機會——從幫助放射科醫生識別疾病，到在高速公路上駕駛汽車，再到幫助我們為植物授粉。

       被無數分析師和企業談論和實施的邊緣計算，其起源可以追溯到20世紀90年代，當時創建了內容交付網絡，以從部署在用戶附近的邊緣服務器提供Web和視頻內容。

       今天，幾乎每個企業都有可以從采用邊緣AI中受益的工作職能。事實上，邊緣應用正在推動下一波人工智能浪潮，以改善我們在家庭、工作、學校和交通中的生活。

       本文將帶您詳細了解邊緣 AI 是什么，它的優勢和工作原理，邊緣 AI 用例以及邊緣計算和云計算之間的關系。

       什么是邊緣AI？ 

       邊緣AI是在整個物理世界的設備中部署AI應用程序。之所以稱為"邊緣AI"，是因為AI計算是在網絡邊緣的用戶附近完成的，靠近數據所在的位置，而不是集中在云計算設施或私有數據中心。

       由于互聯網具有全球影響力，因此網絡的邊緣幾乎可以是任何位置。它可以是零售店、工廠、醫院或我們周圍的設備，如交通信號燈、電話、和自動化機器。

       邊緣AI：為什么是現在？ 

       各行各業的企業都在尋求提高自動化程度，以改善流程、效率和安全性。

       為了幫助他們，計算機程序需要識別模式并反復安全地執行任務。但世界是非結構化的，人類執行的任務范圍涵蓋了無限的環境，這些環境不可能在程序和規則中完全描述。

       邊緣AI的進步為機器和設備開辟了機會，無論它們身在何處，都可以用人類認知的"智能"進行操作。支持AI的智能應用程序可以學習在不同情況下執行類似的任務，就像現實生活一樣。

       在邊緣部署AI模型的興起源于最近3個領域的進展：

       神經網絡的成熟：神經網絡和相關的AI基礎設施終于發展到允許廣義機器學習的地步。企業正在學習如何成功訓練 AI 模型，并將其部署到邊緣生產環境中。

       計算基礎設施的進步：在邊緣運行 AI 需要強大的分布式計算能力。高度并行 GPU 的最新進展已適用于執行神經網絡。

       物聯網設備的采用：物聯網的廣泛采用推動了大數據的爆炸式增長。憑借突然能夠在企業的各個方面收集數據--從工業傳感器、智能相機、機器人等，我們現在擁有在邊緣部署 AI 模型所需的數據和設備。此外，5G 為物聯網提供了更快、更穩定和更安全的連接。

       為什么要在邊緣部署 AI？ 

       由于AI算法能夠理解語言、視覺、聲音、氣味、溫度、面部和其他模擬形式的非結構化信息，因此它們在有實際問題的最終用戶占據的地方特別有用。由于與延遲、帶寬和隱私相關的問題，將這些AI應用全部部署在集中式云或企業數據中心是不切實際的，甚至是不可能的。

       邊緣AI帶來的好處包括：

       智能化：AI應用程序比傳統的應用程序更加強大和靈活，因為傳統的應用程序只能對程序員預期的輸入做出反應。相比之下，AI神經網絡不是被訓練如何回答一個特定的問題，而是如何回答一個特定類型的問題，即使這個問題本身是新的。如果沒有AI，應用程序不可能處理無限多樣的輸入，如文本、口語或視頻。

       實時洞察力：由于邊緣技術在本地分析數據，而不是在遠程通信延遲的遙遠云中分析數據，因此可以實時響應用戶的需求。

       降低成本：通過使處理能力更接近邊緣，應用程序需要更少的互聯網帶寬，從而大大降低了網絡成本。

       增加隱私：AI可以分析現實世界的信息，而無需將其暴露給人類，從而大大增加了任何需要分析外觀、聲音、醫學圖像或任何其他個人信息的人的隱私。邊緣AI 通過在本地包含該數據，僅將分析和見解上傳到云來進一步增強隱私。即使某些數據是出于培訓目的而上傳的，也可以將其匿名化以保護用戶身份。通過保護隱私，邊緣 AI 簡化了與數據合規性相關的挑戰。

       高可用性：去中心化和離線功能使邊緣AI更加強大，因為處理數據不需要互聯網訪問。這為關鍵任務、生產級 AI 應用帶來了更高的可用性和可靠性。

       持續改進：隨著對更多數據的訓練，人工智能模型變得越來越準確。當邊緣 AI 應用程序遇到無法準確或自信地處理的數據時，它通常會上傳數據，以便 AI 可以重新訓練并從中學習。因此，模型在邊緣生產的時間越長，模型就越準確。

       邊緣AI技術如何工作？

       為了讓機器看到、執行物體檢測、駕駛汽車、理解語音、說話、走路或以其他方式模仿人類技能，它們需要在功能上復制人類智能。

       AI采用一種稱為深度神經網絡的數據結構來復制人類認知。這些 DNN 經過訓練，可以通過顯示該類型問題的許多示例以及正確答案來回答特定類型的問題。

       這種被稱為"深度學習"的訓練過程通常在數據中心或云端運行，因為訓練一個準確的模型需要大量數據，并且需要數據科學家協作配置模型。經過訓練，模型可以成為可以回答現實世界問題的"推理引擎"。

       在邊緣AI部署中，推理引擎可以在工廠、醫院、汽車、衛星和家庭等偏遠地區的某種計算機或設備上運行。當 AI 遇到問題時，麻煩的數據通常會上傳到云端，以對原始 AI 模型進行進一步訓練，在某個時候取代邊緣的推理引擎。這種反饋回路在提高模型性能方面發揮著重要作用；一旦部署了邊緣 AI 模型，它們只會變得越來越智能。

       邊緣 AI有哪些應用示例？ 

       AI是我們這個時代最強大的技術力量。我們現在處于一個人工智能正在徹底改變世界上最大行業的時代。

       在制造業、醫療保健、金融服務、交通運輸、能源等領域，邊緣AI正在推動各個領域的新業務成果，例如：

       能源智能預測：對于能源等關鍵行業，不連續供應會威脅到普通民眾的健康和福利，智能預測是關鍵。邊緣AI模型有助于結合歷史數據、天氣模式、電網運行狀況和其他信息，以創建復雜的模擬，從而為客戶提供更高效的能源生產、分配和管理信息。

       制造中的預測性維護：傳感器數據可用于及早檢測異常情況并預測機器何時發生故障。如果機器需要維修，設備上的傳感器會掃描缺陷并進行警報管理，以便及早解決問題，避免代價高昂的停機時間。

       醫療保健中的AI儀器：邊緣的現代醫療儀器正在通過使用超低延遲手術視頻流的設備啟用AI，以實現微創手術和按需洞察。

       零售中的智能虛擬助手：零售商希望通過引入語音訂購來用語音命令代替基于文本的搜索來改善數字客戶體驗。通過語音訂購，購物者可以使用智能揚聲器或其他智能移動設備輕松搜索商品、詢問產品信息和在線下單。

       云計算在邊緣計算中扮演什么角色？ 

       AI應用可以在公共云中的數據中心中運行，也可以在用戶附近的網絡邊緣的現場中運行。云計算和邊緣計算各自提供的優勢可以在部署邊緣AI時結合起來。

       云提供了與基礎架構成本、可擴展性、高利用率、服務器故障恢復能力和協作相關的優勢。邊緣計算提供更快的響應時間、更低的帶寬成本和網絡故障的彈性。

       云計算可以通過多種方式支持邊緣 AI 部署：

       云可以在訓練期間運行模型。

       云持續運行模型，因為它使用來自邊緣的數據進行了重新訓練。

       云可以運行AI推理引擎，當高計算能力比響應時間更重要時，這些引擎可以補充現場的模型。例如，語音助手可能會響應其名稱，但會將復雜的請求發送回云進行解析。

       云提供最新版本的 AI 模型和應用程序。

       相同的邊緣人工智能通常在現場的設備群中運行，軟件安裝在云中。

       邊緣AI的未來 

       由于神經網絡的商業成熟、物聯網設備的普及、并行計算和 5G 的進步，現在有用于通用機器學習的強大基礎設施。這使企業能夠利用這個巨大的機會，將 AI引入其應用領域，并根據實時洞察采取行動，同時降低成本并增加隱私。我們只是處于邊緣 AI 的早期階段，可能的應用似乎仍然無窮無盡。

       *本文作者：Tiffany Yeung是NVIDIA邊緣和企業計算解決方案的產品營銷經理。

來源：工業AI