現今消費者和企業的互動方式有所改變。全球嵌入式主機板與工業電腦領導者友通資訊(DFI)產品中心總經理張家益解釋道:「後疫情時代強調的是把實體接觸降到最低和簡化客戶服務。」
正因如此,零售領域對邊緣 AI 應用整合的需求日益增長。例如, AI 支援的自動服務機和報到解決方案可以讓客戶自行完成交易,協助減少實體接觸和等待時間。這些解決方案還能即時分析顧客行為和偏好,讓零售商提供個人化體驗,提升顧客滿意度和忠誠度,同時促進銷售。
張家益表示:「這些需求推動邊緣 AI 的轉變,讓處理過程更靠近資料來源,減少延遲還有增強隱私保護。即時決策的需求和邊緣產生的資料量成長是這個轉變的幕後推手。」
推動邊緣 AI 發展
但是問題在於,企業往往難以找到最佳方法,在現有的基礎架構和流程周圍部署 AI 應用程式。
雖然邊緣 AI 可以大幅減輕網路和資料中心的負載,但同時也可能對本機造成新的負擔,因為資源本來就已經有限。問題來了:要如何在不增加成本和複雜性的情況下部署邊緣 AI?
工作負載整合是因應這些挑戰的解方,讓單一硬體平台結合 AI 和其他功能。一款多功能邊緣裝置就此誕生。張家益解釋:「透過資源分割、隔離和遠端管理等功能,能利用有限的資源同時執行多個工作負載。」
友通資訊(DFI)這次在 2024 年嵌入式世界大會演示了結合電動車充電器和資訊站的範例,展現工作負載整合的可能性(影片 1)。資訊站部分採用了生物識別、語音識別和內建聊天機器人,推薦駕駛在車輛充電時可享受的附近購物和餐飲選擇。駕駛離開後,螢幕會切換到數位招牌模式,顯示附近商家引人注目的廣告。
![DFI showcases the possibilities of workload consolidation-1](https://blog.dfi.com/hs-fs/hubfs/DFI%20showcases%20the%20possibilities%20of%20workload%20consolidation-1.png?width=657&height=340&name=DFI%20showcases%20the%20possibilities%20of%20workload%20consolidation-1.png)
影片 1。友通資訊(DFI)在 2024 嵌入式世界大會展現工作負載整合的可能性。(來源:insight.tech)
DFI RPS630 工業主機板利用第 13 代 Intel® Core™ 處理器的硬體虛擬化技術,無縫整合 AI 功能與內容管理系統、電動車充電控制和付款處理系統。友通資訊(DFI)同時採用 Intel® Arc™ GPU ,為 AI 元件提供高效、符合成本效益的加速。
公司同樣利用 Intel® OpenVINO™ 工具組進行 GPU 最佳化,減少 AI 記憶體空間,讓主機板能在小於 6 GB 的記憶體執行複雜的大型語言模型。另外,透過將邊緣複雜的 AI 任務卸載到 Intel Arc GPU,友通資訊(DFI)能夠支援多種 AI 工作負載,同時縮短 66% 的回應時間。
全力邁向智慧系統未來
友通資訊(DFI)的工作整合技術遠遠超越電動汽車充電應用。這個平台整合了工業級產品和合作夥伴的軟體、AI 解決方案,放眼全球自助服務產業,應用範圍包括零售、醫療保健、運輸、智慧工廠、餐旅等。
透過整合 Hypervisor 虛擬機,友通資訊(DFI)將所有客戶的工作負載集中到單一工業電腦上。這項系統支援多種資源分配,讓各式作業系統平台同時運作。
張家益表示:「這些邊緣 AI 使用案例都需要工作負載整合平台,才能實現客戶資料的即時處理和高效作業。隨著越來越多的產業和組織採用這項技術,我們預期會看到更近一步的發展。
邊緣 AI 和工作負載整合平台的融合對邊緣運算的發展非常重要。」張家益繼續談到:「隨著硬體、軟體和其他邊緣 AI 技術持續發展,工作負載整合絕對會越來越普遍,最終開啟新一代邊緣運算應用的可能性。」
邊緣協同合作的價值
邊緣 AI 對許多產業來說是大好機會。張家益解釋,我們目前才剛開始接觸這個領域。透過結合高效的加速和合適的工作負載整合平台,我們可以開始探索技術真正可以達到的境界。
友通資訊(DFI)和 Intel 的合作提供了洞察,揭示支援持續進步的必要條件就是協同合作。現代邊緣 AI 應用需要結合硬體、軟體、AI 和產業專業知識的跨領域方法。
張家益解釋:「嵌入式虛擬化需要在硬體和軟體方面建立強大的合作關係。開發和部署工作負載整合技術要求大量的研究和開發資源。透過跟虛擬整合軟體供應商和其他公司合作,我們可以大幅縮短開發和上市時間。」
張家益總結道:「有了像友通資訊(DFI)和 Intel 這樣的合作關係,就能夠探索和開發新技術,協助塑造邊緣運算的未來。一路走來合作取得的成果讓我們很驕傲。我們也非常期待未來跟 Intel 在工作負載整合、AI 和其他方面更深入的合作。」
*本文原刊於insight.tech
友通資訊(DFI Inc.)成立於1981年,為全球高效能運算技術的領導廠商。憑藉在工業電腦領域耕耘多年的豐富經驗,友通致力於主機板及系統產品的創新設計與生產,為嵌入式解決方案提供嚴格版本控管及長生命週期的產品,專注工廠自動化、交通、醫療、博弈、國防等領域的深耕。友通於2017年底正式加入明基佳世達(Qisda)集團,透過研發技術、供應鏈管理及製造產能的整合,強化核心競爭力,同時藉由與集團內部豐富的資源互惠,友通提供更多元廣泛的嵌入式運算產品及先進的服務,包含LCD廠內整合、PCBA及系統組裝、測量試驗室,以及機箱的設計與製造。
![聯絡友通](https://no-cache.hubspot.com/cta/default/8330016/6dbc05e1-d103-464c-9146-cfb8eb86d59f.png)