華碩發表首款UGen 300 USB AI加速器,內建Hailo處理器與8GB專用記憶體

華碩揭曉品牌旗下首款 AI USB 裝置「UGen 300」,這款產品以僅有 105 x 50 x 18 mm 的輕薄機身,成功挑戰了邊緣運算的極限。機身內部搭載了高效能的 Hailo-10H AI 處理器,具備專為大型語言模型(LLM)與視覺語言模型(VLM)優化的 40 TOPS 強勁算力。

為了確保運算的流暢性,華碩更為其配備了 8GB LPDDR4 專用記憶體,透過主流的 USB-C 介面即可輕鬆連接各類裝置。值得關注的是,UGen 300 在一般工作負載下的功耗表現僅有極低的 2.5 W,並完整支援 Windows、Linux 與 Android 多平台,以及主流的 TensorFlow、PyTorch 和 ONNX 等 AI 架構,搭配熱插拔設計,讓專業應用真正實現隨處啟用的可能。

邊緣運算的民主化:Hailo 與華碩攜手實現 AI 應用的普及願景

針對本次合作,Hailo 營運長 Max Glover 表示,華碩將尖端的 Hailo-10H 技術整合至日常隨處可見的 USB 裝置中,象徵著生成式 AI 的完整效能將能觸及更多使用者。這項創新的核心理念在於落實 Hailo 對 AI 未來的願景:讓高效能運算變得親民易用且經濟實惠。透過 UGen 300 的問世,人人都能在無需負擔高額硬體成本的前提下,享受科技創新帶來的便利性,並在離線環境中體驗強大的智慧化功能。

擺脫雲端束縛的極致效能:免月費與低風險的端點推論新標準

全新 UGen 300 USB AI 加速器的定位在於補強主機原有的 CPU 或 NPU,透過分擔運算壓力來釋放系統資源,進而在裝置端直接實現多樣化的生成式 AI 推論。這類應用涵蓋了文字產生、視訊摘要、特定事件觸發、語音轉行動以及即時感知功能。

相較於過往依賴雲端運算的模式,UGen 300 讓使用者無需每月支付訂閱費用,就能享有零延遲的即時反饋,同時在無網路環境下也能運作,徹底杜絕了敏感資料外洩的隱私風險,提供使用者無與倫比的可靠性與安全保障。

獨立運作不拖累系統:8GB LPDDR4 專用記憶體確保負載平衡

不同於市場上許多 NPU 必須與主機系統共用記憶體的做法,UGen 300 內建了 8GB LPDDR4 專用記憶體。這種獨立設計的優點在於,即使在執行繁重的大型語言模型運算時,也能確保主機系統的效能維持在最佳平衡點,而不會因為資源競爭導致卡頓。

對於追求高處理量與運算穩定度的 AI 開發者與專業人士來說,UGen 300 能提供穩如泰山的效能輸出,是研發與測試過程中能讓工作事半功倍的得力助手。

隨插即用的研發利器:USB-C 介面與百種預訓練模型加速部署

在安裝與擴充性方面,UGen 300 採用 USB 3.1 Gen 2 Type-C 介面,具備簡單直覺的設定流程,能滿足教育工作者、嵌入式解決方案供應商對便攜式算力的苛求。為了進一步優化軟體體驗,華碩即將推出 UGen Utility 工具,預計提供超過 100 種預訓練模型,協助使用者快速完成概念驗證並提升研發產出。

使用者亦可前往 Hailo 開發者社群獲取豐富的教學課程與參考設計。華碩 UGen 300 建議售價為新台幣 6,380 元,為邊緣 AI 應用部署提供了最優質的升級方案。

史塔夫短評:算力隨身帶著走!

歐帝斯

現職Stuff Taiwan副總編輯,曾任職於Sogi與Mobile01,2003年開始擔任手機評測,喜歡玩新奇的3C產品,近年熱衷於自助旅行,喜歡在旅行時享受邊玩邊測試產品的樂趣。工作邀約:otis0329@gmail.com,個人粉專:https://www.facebook.com/otis1983