專注於Edge AI影像分析、物聯網(IoT)以及網路安全防護技術的大猩猩科技(Gorilla Technology),自2001年成立以來,便積極投入政府機構、智慧城市、安全城市、教育機構、智慧建築和工廠等垂直領域的應用,不只提供各種人工智慧驅動的網路分析解決方案,更融合了安全的功能,為企業的IT/OT和資安需求,提供全面性的保護。
大猩猩科技商業成長副總江奕璁觀察,業界現今對於邊緣AI的定義仍有些模糊,但是對於大猩猩而言,所謂的邊緣指的就是真正發出訊號或產出資料的位置,也可以簡單看成是資料生成(Data Generation)的Hub。過去不管是透過有線或無線的網路裝置,所有的訊號或是資料都會被傳送到後方的地端資料中心或是雲端上進行運算處理。但是這種作法有其侷限性,像是多媒體或是生醫產業等有大量影音圖像傳輸需求的產業,對網路頻寬需求其實很高,而且無論部署多快的網路,要將這些資料傳送到資料中心或是雲端進行運算後,再把運算結果傳回到邊緣的設備上,過程中一定都會有所延遲,特別是對於需要即時回應的使用情境,往住很難滿足其需求。
舉例而言,智慧交通的監控系統設計,通常會在前端配置各種不同的攝影機、物聯網感測器,甚至在平交道或是路口還會有些告示牌或警示燈,當遇到狀況,收到來自於攝影機、物聯網感測器的訊號時,必須要在幾乎沒有延遲的情況下馬上反應才會來得及,甚至要提出即時的告警、發出聲響或是顯示到看板、對紅綠燈進行調整,才能避免意外事故或是風險發生,在這類的應用場景下,邊緣AI的角色就很重要,訊號的轉換,包含把影像轉換成資料,理論上都應該在邊緣就完成,否則會緩不濟急。
「當然,這些資料也應該要回傳紀錄在資料中心或是雲端上,以便進行資料視覺化(Data Visualization),諸如把圖表呈現在戰情中心的儀表板,或是進行大數據分析。」他提到,以往大型機場或港口均需要配置數十人進行作業管理,但是藉由數位轉型過程,透過混合架構,就能將邊緣的資料自動的收集、匯整,並且進行視覺化,降低管理的負擔與人力需求。
整合硬體與生態系 提供端到端解決方案
想要釋放邊緣AI的力量,除了要有硬體設備提供足夠運算力之外,軟體以及生態系夥伴的協助也非常重要。在MarketsandMarkets的調查報告中便提到,複雜度與成本,還有異質系統的整合,都是企業在部署邊緣AI過程中會面臨的挑戰。
為了提供端到端的邊緣AI完整解決方案,大猩猩科技投入大量的資源研發AI模型,例如Vision AI Training Platform可協助多元產業的專業人員透過單一平台,自行建立、訓練客製化的AI模型,並進一步部署至即時影像分析的應用環境中,大幅減少過往建立影像辨識AI模型的複雜度。該平台提供簡易的AI模型訓練步驟,從定義物件、影像資料匯入、影像標註到模型訓練,即使是非技術人員都能輕鬆完成。
此外,也與Intel緊密合作,例如即時邊緣AI方案IVAR(智慧影像分析平台)便是一款基於Intel OpenVINO技術優化的臉部辨識軟體,其運用了最先進的AI,能將現有攝影機的視訊影像進行有效的識別,包含人員、車輛以及物體,並且偵測異常事件,依據使用者的設定進行畫面告警或信件通知。
與網通安全設備大廠Lanner Electronics(立端科技)則是合作推出結合網路安全及影像監控的AIoT安全解決方案。隨著5G時代來臨,IoT設備也成為駭客鎖定攻擊的主要目標之一。以往IoT設備只有精簡的韌體或作業系統,極度缺乏對網路威脅的防禦工具,一旦被入侵,將可能對內部網路造成衝擊。這項方案整合了網路安全及影像監控於一體,以智慧影像分析平台IVAR管理營運場域的實體安全、網路威脅誘捕系統NetTrap誘捕網路內部的惡意滲透及攻擊、資安威脅監控分析平台SCP掌握整體網路及IoT設備的安全,以單一系統達成全方位安全管控。
江奕璁指出,許多人對AI的概念是一定要搭配NVIDIA或AMD GPU,其實在多數的邊緣案場中並不需要這麼高的算力,事實上Intel CPU就足以完成運算,而且AI分析表現也毫不遜色,好處是可以徹底解決外加GPU造成的高成本、高耗電、高散熱的根本問題。若是對算力需求較高,Gorilla也支援HAILO人工智慧加速模組,這款堪稱為平價版的高效GPU,只要把模組插上對應的PCIe插槽,即可有很高的算力表現。例如Edge Vision AI一體機便是搭載Hailo-8晶片組,可搭配客製化或預先載入的影像分析,適用於室內和嚴峻的戶外環境。
鐵道、港口應用成效優異
近幾年,大猩猩也在台灣累積了不少垂直領域的應用案例,例如與交通路鐵道局整合了影像分析與物聯網技術,在豐原車站打造了全亞洲第一個智慧車站,確保鐵路和車站安全,施行後跨越月台等候區黃線情形減少70%,因應速度也提高50%以上;臺灣港務公司也運用大猩猩的解決方案,打造集中式的管理平台,即時監控全台九座港口及縮短災害或異常事件因應時間,包含可自動偵測非法和可疑行為,節省監看人力,並且縮短反應時間的AI影像辨識分析系統,以及用於即時告警的電子化災害通報系統、對應作業流程與緊急應變事件資料庫。由於可連線監控全港區智慧攝影機,掌握港區狀況,因此大幅減少25%人力需求,而且成功偵測出異常及非法行動。
他提到,雖然都是邊緣AI的應用場景,但不同垂直領域所需的流程與架構全然不同,因此在進入新的垂直應用領域時,從最前端的邊緣設備、中間的控制設備到最後端系統或資料庫,連同網路拓樸(Network Topology)在內,大猩猩都會深入研究,以便規劃出最佳的解決方案,甚至把顧問專家以及維運人員也帶到企業,提供Operation as a Service服務。不只是軟硬體,還包含網路以及資安的完整方案。
江奕璁強調,在邊緣AI的應用中,OT的資訊安全是不容忽視的一環,由於邊緣裝置與物聯網設備分散在各地,IT部門很難做到像在企業內部一樣,時時地監控與防禦,再加上邊緣裝置通常會連接到網路,因為有IP位址,駭客極有可能透過這個管道入侵,因此邊緣AI除了資料生成外,AI也能用於協助判定前端有沒有異常的行為、資安攻擊或是資料遭到竄改。若是無法在邊緣端擋住病毒或惡意程式,當資料被傳回資料中心或雲端時,病毒或惡意程式就很可能會潛藏其中,進而推升資安風險。