AI Search | AI 企業應用焦點報

AI Search|AI 企業應用焦點報

生成式 AI 不再只是工具,企業該如何有效整合與導入?

本篇報告摘錄意藍《Gen AI 未來視野:年度技術趨勢與革命性應用》研討會精華,剖析生成式 AI 工具及技術發展趨勢外,展示如何透過 AI 加值輿情觀測,協助企業快速掌握市場動態;另外也呈現如何透過多來源資料訓練,打造企業、組織專屬 AI 模型,成為企業決策的智慧推手。

1-1年度AI發展趨勢

生成式 AI 應用發展多元 「理解」將成未來發展重點

隨著開源式AI生態系崛起,大語言模型將更容易被存取、應用,而過去由科技巨頭全面主導的AI技術將出現發展上的分化,各企業自研模型如雨後春筍誕生,帶動整體領域成長,模型百花齊放。目前市場上湧現多種生成、多模態及推理相關的生成式AI工具,包括圖片、影片和文字等多種形式的資訊處理,以不同特色獨霸一方,豐富的選擇進一步推動了生成式AI技術的應用,讓企業能根據需求找到最適合之工具,為各產業帶來新的可能性。

市面上常見生成式AI工具

▲ 市面上常見生成式 AI 工具 

如Google的Gemini可同時理解並處理文字以及影像等不同類型的資料;Copilot則可整合Bing與微軟的服務;而深度求索的DeepSeek因爲開源架構,使得第三方開發更有優勢。

開源式 AI 三大趨勢

現今的開源式AI呈現出三大趨勢,可見得AI正快速從實驗室走入日常應用場域。「技術開放」使智慧轉型的技術及經費門檻大幅下降,提升企業和開發者的導入意願,甚至可預期在接下來的1至2年內,各單位都將導入生成式AI;此外,近年AI服務供應商的「普及化」,則讓企業組織能夠選擇與當地服務商合作,獲得更貼近成本效益、資訊安全等需求的解決方案。而隨著技術持續演變,開源模型也呈現「樣態多元」的趨勢,收到使用者提問後,模型會自主收集內外部資料庫,不斷進行內部詰問處理,生成更符合使用者預期的結果,以期更順暢地被應用在各類AI工具當中。

1-2 生成式 AI 工具背景技術趨勢

特式化 AI 模型成主流需求 高品質原料及資料合成技術是關鍵

接著從實際導入需求觀察,企業組織大多期待有屬於自己的特式化AI模型,以取得根據自身產業、品牌、甚至是部門所量身打造的AI生成結果。以美妝產業為例,產品的成分、功效、用語往往具有高度產業特性,然而市面上開源模型的調整彈性有限,在這樣的需求期待下,專屬特式化的模型蓬勃發展,為破解既定印象中需要使用大量資料、耗時費力才能訓練出的AI模型,意藍以《OpView社群口碑資料庫》為基礎,透過大量、高品質、且即時的在地「資料原料」及「資料合成技術」,協助快銷品、各行各業、政府部門等單位高效建立專屬模型。

生成式AI工具

除了特式化能力,AI模型學習的即時性也備受重視。既有生成式AI遇到來不及學習的新知時易出現幻想情況,而意藍結合搜尋引擎與大語言模型,推出主動式檢索增強生成技術(eLAND Active RAGTM),能結合內部資訊和即時性高達15分鐘內的外部資料,進行多回合檢索及生成,以更符合企業即時性需求。

Active RAGTM 運作模式

▲ Active RAGTM 運作模式

2-1 OpView X AI:AI 助手打造高效工作流

生成式AI賦能OpView 協助統整海量資料與提供策略建議

觀察生成式AI與RAG技術實際在企業中的落地應用,在資訊量過載的時代下,AI也是幫助資訊精煉、加速作業的關鍵。

如果要針對自身企業、品牌進行網路討論狀況監測,人工逐一篩選及總結不僅耗時,還容易因為過量閱讀陷入資訊疲勞,影響分析中立性。而OpView的AI輿情應變顧問、文章探索助理,則能協助企業品牌快速掌握輿情風向。

OpView AI 服務

▲ OpView AI服務

以想快速了解「新光三越氣爆事件」相關新聞為例,便可以使用AI輿情應變顧問功能,以日常對話形式進行提問,便能獲得最即時的在地新聞資訊統整,省去人工查找、彙整的時間。甚至能進一步提問不同層面的問題,例如該事件對企業營運、股市、地區經濟、競爭對手與長遠經濟的影響。

AI輿情應變顧問 示意圖

另一方面,社群、討論區等其他來源也是企業及品牌在意的輿情觀測重點,然而大量而零碎的討論歸納起來費力耗時。

透過eLAND Active RAGTM檢索增強生成技術,能更深度地應用相關內容。如文章探索助理能在使用者所設定的主題範圍中,快速拆解使用者問題並檢視參考資料,接著針對搜索出的資料進行彙整與分析、統計議題討論量,最終提供資訊統整與策略建議。

以「台積電赴美設廠」話題為例,一個月間便累積了超過5萬筆討論,透過對文章探索助理提問,便能從海量資料中以列點式生成重點,迅速了解設廠新聞對台灣整體經濟與股市的影響。

文章探索助理 示意圖

對於需要經常性蒐集、彙整、分析網路情報的專業人員,OpView的AI自動化報表更是得力助手,除了將多種視覺化圖表以報告形式呈現,亦能整理網友討論摘要,並基於報告目的生成分析內容,提供如公關、行銷等不同切角的觀點。

AI自動化報表快速整合網路情報,提供AI分析建議

▲ AI自動化報表快速整合網路情報,提供AI分析建議

2-2  AI Model:企業/組織專屬AI模型

提煉客戶專屬AI特式化模型 有效提升組織內部資訊流轉效率

在應用場域中,企業組織遇到的問題往往十分複雜,此時AI Model整合服務便是以特式化AI模型提供專屬解決方案。透過標記企業關注、儲存的數據資料,意藍以自行研發的大語言模型eLAND GOAT為基礎,為客戶針對特定領域進行模型訓練,產生專屬客戶的AI模型,最終結合包括OpView或企業內部系統提供特式化服務。

以政府部門為例,涉及市政議題的話題眾多,並且單一事件經常需協調跨局處處理,易遇到資訊分散、局處分類困難、缺乏結構化處理等問題。AI Model市政專屬模型不同於以往關鍵字搜索的查詢方式,能夠自動爬取市政新聞,進行分配判斷並推送給相關對象,且判斷準確率高達94%,有效降低人力成本、提升市府內部資訊流轉效率。

AI Model特式化模型服務流程

▲ AI Model 特式化模型服務流程

小結

整體而言,從開源式AI趨勢可觀察出智能轉型已刻不容緩,而意藍整合搜尋引擎、語意分析與生成式AI等尖端軟體技術,可協助企業快速整合外部市場情報與內部專屬知識,並可透過特式化AI模型的訓練與導入,提供客戶更多元的AI解決方案。

從文件堆中找答案太慢?AI 如何幫第一線即時掌握災情?

近年來, AI 技術的持續創新突破,推動了政府和企業內的數位變革,如何導入並善用AI以提升服務的效率和品質,成為各單位組織的重要課題。 國家災害防救科技中心(National Science & Technology Center for Disaster Reduction,以下簡稱災防中心或NCDR)為政府於2003年設立的專業機構,多年來專注於災害風險管理防救科技的研究;為了能在災害發生時更即時地掌握災情、強化危機事件處理能力,災防中心與意藍資訊合作,導入意藍「AI Search For KM」系統,運用生成式AI與自然語言模型建構「災害防救知識問答平台」,大幅提升災情資訊處理效率,並以數據支持決策判斷,為智慧城市發展奠定穩固基礎。

災防中心背景與需求介紹

國家災害防救科技中心成立於2003年,主要任務在於提升台灣在面對各種自然災害時的應變能力與減災效果、確保民眾生命財產安全。面對台灣頻繁發生的地震、颱風、土石流等天然災害,災防中心不僅需在災前做好準備,也必須在災害發生後迅速掌握最新狀況,整合、分析各類災情資訊以協助政府及相關單位作出精確的應對決策,並提供必要的預警或通報。

隨著大量災情資訊不斷累積,災防中心在知識管理升級方面的需求日益增強;另一方面,數位化時代下社群媒體和網路社群亦成為災情資訊快速傳播的主要來源,這些公開管道中的資訊量龐大且更新頻繁,如何高效蒐集、結構化、分析並運用這些來自各地的災情回饋,也是災防中心需面對的重要課題之一。

以AI Search for KM 建構「災害防救知識問答平台」

為了更快速、準確地掌握災情資訊以提升災害應變效率,災防中心選擇與意藍資訊合作,導入意藍新一代生成式AI知識管理系統「AI Search for KM」,運用人工智慧與自然語言模型技術,並結合社群輿情資料和專屬的歷史數據庫,打造「災害防救知識問答平台」,解決資訊來源分散、數據處理繁複等痛點,協助單位提升資訊處理效率,以利更好地應對和管理災害風險。 意藍協助災防中心建構災害防救知識問答平台的流程如下:
  1. 資料蒐整與預處理:蒐集歷年來既有的災害事件情資研判報告、即時觀測數據(如雨量、河川水位等),以及各大公開媒體、Facebook粉絲團、Dcard、巴哈姆特、Mobile01及Ptt等公開討論區的地區版等資料,經過清整、結構化與預處理,將結構化與非結構化資料均轉換為模型可理解的格式。
  2. 語意分析與標記:透過語意分析技術,讓AI自動判別每一篇災情文章內容中提及的地理資訊、災害事件以及災情程度等,將這些重要詞彙辨識出來並自動標記,以利後續的索引和檢索。
  3. 大語言模型選擇:評估各個大語言模型在災害防救領域問答的真實性、回覆速度、正確性、可讀性、理解上下文與統整能力等效果,選擇最適用的自然語言模型。
  4. 建立資料向量索引、設定參數:提高檢索與問答時的效率及準確性,確保AI模型對災害知識有精準的搜尋能力與答覆效果。

透過AI Search for KM 所提供的知識平台,災防中心便能夠針對歷年災害事件、抑或即時災情進行問答,系統會逐步拆解使用者所輸入的問題,再透過大語言模型(Large Language Model, LLM)及檢索增強生成技術(Retrieval-Augmented Generation, RAG)生成完整回覆。

以颱風相關的問題為例,使用者可對系統以口語文字方式提問,如「哪個地方災情最嚴重」、「哪些鄉鎮的河川水位超過一級警戒」等等,AI Search for KM便會即時調用內部知識庫及外部即時數據,找出與使用者提問最相關的多個參考內容,從中綜合歸納出答覆。AI Search for KM具備簡便、容易使用的介面,能快速統整內部及外部、文字及數值的各類數據,在分秒必爭的防災與救災時刻,提升作業效率。

問答情境1 - 分析災情嚴重區域

▲ 問答情境1 – 分析災情嚴重區域

問答情境2 - 調用即時數據,掌握全面性災情

▲ 問答情境2 – 調用即時數據,掌握全面性災情

透過與意藍合作導入AI Search for KM系統,災防中心能夠更高效地整合歷史與即時災害數據,在災害發生前後做出精確的災情管理判斷,及時釐清災情狀況並調度人力與資源,落實循證決策、全面提升災害應變能力;未來意藍也將持續與災防中心攜手,逐步實踐智慧城市願景。

亞洲指標AI展「WAVE 2025(World AI Vision Exhibition)」

意藍將於7/31(四)-8/2(六)參展,攤位編號 B1709。現場將分享我們在 AI 應用上的實務經驗,歡迎有興趣的你一起來交流!

Copyright eLAND Information Co., Ltd.