迎合AI新世代浪潮，工業(yè)物聯(lián)網(wǎng)領(lǐng)導(dǎo)品牌研華公司也在COMPUTEX 2024期間6月5~6日另闢場(chǎng)地，舉辦研華邊緣AI展示與交流會(huì)，並展示應(yīng)用輝達(dá)（NVIDIA）方案的全系列產(chǎn)業(yè)AI平臺(tái)，將涵括從邊緣生成式AI、醫(yī)療AI，智慧製造AI解決方案等3大主軸，從端到雲(yún)展示最新且完整的AI邊緣運(yùn)算系統(tǒng)與伺服器。

研華還偕同偲倢?zhuān)餐蛟霢I光學(xué)字元辨識(shí)（OCR）與AI光學(xué)瑕疵檢測(cè)（AOI）的硬、軟體與服務(wù)的整合方案。

研華產(chǎn)業(yè)雲(yún)暨影像科技副總經(jīng)理鮑志偉指出：「如今邊緣AI將是下一波AI的發(fā)展趨勢(shì)，但要能做到規(guī)模化，才可加速產(chǎn)業(yè)AI化落地；而要能躍升規(guī)模化方程式，則必須包含場(chǎng)域、平臺(tái)、協(xié)作與AI加速等4大要素。產(chǎn)業(yè)生態(tài)系的構(gòu)建與協(xié)作，更是實(shí)踐邊緣AI規(guī)模化至關(guān)重要的要素。」預(yù)估邊緣AI裝置自2025~2026年將開(kāi)始爆發(fā)式成長(zhǎng)，而生成式AI產(chǎn)品約需3~4年的驗(yàn)證時(shí)間，預(yù)計(jì)2029年才開(kāi)始顯著成長(zhǎng)。

鮑志偉進(jìn)一步分析邊緣AI的發(fā)展階段，首先需要藉由各國(guó)政府補(bǔ)助開(kāi)發(fā)，導(dǎo)入智慧城市場(chǎng)域，以利規(guī)模化發(fā)展，其次是在影像、醫(yī)療等領(lǐng)域受到採(cǎi)用，第3階段則是各種自主移動(dòng)機(jī)器人填補(bǔ)產(chǎn)業(yè)人力不足的問(wèn)題，最後是整體應(yīng)用更臻成熟之後將出現(xiàn)產(chǎn)品創(chuàng)新期。

這次展示內(nèi)容，則將聚焦如何利用深度學(xué)習(xí)，實(shí)現(xiàn)產(chǎn)業(yè)AI可行性與必要性，並藉此帶來(lái)產(chǎn)業(yè)新的態(tài)勢(shì)。包括透過(guò)研華MIC-733-AO邊緣AI系統(tǒng)，整合輝達(dá)Jetson AI實(shí)驗(yàn)室的生成式AI模型，已成功高效率運(yùn)行大型語(yǔ)言模型（LLMs）、視覺(jué)語(yǔ)言模型（VLM）、視覺(jué)變換器（ViT），以及圖像生成和對(duì)話生成Llamaspeak。

基於輝達(dá)Jetson AGX Orin擁有高AI運(yùn)算能力，整合AI軟體和預(yù)先訓(xùn)練的模型，MIC-733-AO將能大幅縮短開(kāi)發(fā)與部署時(shí)間，比起雲(yún)端AI將提供更即時(shí)的反應(yīng)、更低的資安風(fēng)險(xiǎn)與網(wǎng)路傳輸成本，適合在需要即時(shí)反應(yīng)的智慧城市與安全控制的應(yīng)用，現(xiàn)也已成功導(dǎo)入運(yùn)用在研華自家產(chǎn)線。

研華還偕同偲倢?zhuān)餐蛟霢I光學(xué)字元辨識(shí)（OCR）與AI光學(xué)瑕疵檢測(cè)（AOI）的硬、軟體與服務(wù)的整合方案。其中AI OCR解決方案使用研華ICAM-520智能相機(jī)，並內(nèi)建輝達(dá)Jetson運(yùn)算模組，整合光源、鏡頭與多種語(yǔ)言模型。藉其輕巧體積且便利安裝的特性，適用安裝於空間限制的設(shè)備中，或於高速流水產(chǎn)線上，執(zhí)行高速包裝噴印檢查或是出貨檢查。

AI AOI解決方案還可應(yīng)用在高速自動(dòng)化檢測(cè)設(shè)備，透過(guò)AI抓出難以定義或非預(yù)期的瑕疵，將大幅降低人力成本同時(shí)，提高生產(chǎn)良率與檢測(cè)速度，包括臺(tái)灣半導(dǎo)體代工廠正誠(chéng)電子，已導(dǎo)入AI AOI方案檢測(cè)，打造半導(dǎo)體封裝檢測(cè)生產(chǎn)線。