碩網資訊參與工研院Expo-Tech實證 結合KIOSK落地展示生成式AI最新技術
碩網資訊(Intumit, Inc.)一直以來皆專注於人工智慧技術的研發與應用,特別是在自然語言處理、語意分析和資訊萃取等領域,並致力於提供企業數位轉型所需的資訊軟體應用規劃與服務,產品涵蓋智能對話機器人、知識管理系統等,協助企業提升營運效率與客戶體驗。在ChatGPT正式上線,相關大型語言模型(LLM)功能也旋即開放串接後,碩網資訊迅速將這些先進技術整合至各式解決方案中,如對話式AI和知識管理系統。
經過近兩年的專案建置經驗,碩網資訊參與了113年EXPO-TECH數位展覽領航計畫,並以「虛擬文字與對話型多語言客服」項目,於2024台灣國際扣件展(Taiwan International Fastener Show)及TASS 2024亞洲永續供應+循環經濟會展(Taiwan International Circular Economy Show)進行「共創數位展覽服務方案合作」的落地實證。
傳統的對話式AI主要依賴辨識型AI(Discriminative AI),需要大量標註資料以提升辨識精準度,這增加了模型訓練的成本和人力負擔。然而,生成式AI(Generative AI)的出現,透過自我生成資料的方式,顯著降低了資料標註的需求,並維持高精準度。大型語言模型(LLM)能夠讀取機構內部的專業知識,並透過提示(Prompt)的方式,有效引導模型生成專屬內容。在本次實證中,碩網資訊結合了兩者的優點,並使用Azure OpenAI GPT-4o作為生成式AI模型運用,更可突破以往生成式AI回應時間較久的缺點,可從先前使用較舊模型回答時間的30秒左右,縮短至2~5秒即可回應一個問題,這也為兩個展會打造了專屬的智慧AI平台,提供更高效的服務。
在展會期間,碩網資訊運用了多項人工智慧技術,包括大型語言模型(LLM)、RAG語意搜尋、語音轉文字(STT)和文字轉語音(TTS),為參觀者和參展商提供全天候、多語言的即時支援。兩個展會共計約有400餘家參展廠商,使用了約1,000個攤位,透過本計畫相關技術,成功以中、英、日、泰、越、印尼共六種語言,在線上智能客服、線下的KIOSK機台兩管道,皆能即時為國內外參觀者提供多功能、多語言的問答諮詢,提升了展會的服務品質與參觀體驗。