AI Search 電子報 | vol.04 資訊零散難管理?這4步驟幫你解,知識活化立即上線

AI Search 電子報 | vol.04 資訊零散難管理?這4步驟幫你解,知識活化立即上線

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

翻轉資訊散落困境,4 步驟推動企業知識活化

隨著市場上的競爭日益激烈,如何有效推動知識管理成為了企業提升競爭力的關鍵;然而,許多企業在推動知識管理的初期,常常不知如何起步。知識管理不僅涉及知識的識別、儲存,更包括如何系統性地分享和應用這些知識,本文將介紹知識管理的基本概念,並說明可以從哪些面向著手建立和推動知識管理體系,最後深入探討生成式AI如何為知識管理領域帶來革新。

知識管理概念介紹

知識管理是什麼?

知識管理 (Knowledge Management, KM) 是指在企業或組織內部,對知識進行系統性的蒐集、保存、組織、分享和應用的過程,將分散在個人、團隊和系統中的知識轉化為整個組織可以利用的資產,進而提升組織的營運能量和整體競爭力。

知識管理如何提升企業競爭力?
知識管理可以透過以下多種面向提高企業競爭力:
  1. 改善營運效率:藉由知識管理,員工可以分享和存取企業或組織內部的資訊,在遇到問題時,也能通過知識庫或企業內部的知識分享平台迅速找到解決方案,避免重新投入時間和資源去解決過去發生過的問題,進而提升生產力與整體營運效率。
  2. 加速創新能力:企業可以透過知識管理,從現有技術和過往經驗中持續學習,並不斷進行優化,加速產品的創新及發展進程。
  3. 提高決策品質:知識管理促進了既有知識與資源的整合,使企業能夠記錄和分析過去的決策及其結果,藉此更準確地預測市場風險和潛在挑戰,加速決策過程並提升決策精準度。
  4. 經驗傳承:知識管理有助於經驗的傳承,除了避免人員重複學習和研究,也可以減少因員工離職或崗位變動造成的知識流失。

企業推動知識管理4步驟​

從零開始推動知識管理是一個需要循序漸進的系統化過程,涉及多個層面的協同與整合,而企業可以從以下四個步驟著手:

  1. 知識需求分析:分析企業內部的知識需求,確定哪些知識對企業的運營和發展至關重要,並識別現有知識資源和潛在的知識缺口;同時盤點目前的知識管理狀況,包括知識儲存方式、知識共享文化以及技術基礎設施等,找出需要改進的領域。
  2. 整合發展目標並制定策略:根據需求分析的結果,制定詳細的知識管理計劃,包括如何蒐集、存儲、分享和應用知識,並設定具體的里程碑,將知識管理融入企業發展策略中。
  3. 營造知識分享文化:持續宣導知識分享對於個人和企業長期發展的重要性,除了高層人員以身作則外,也通過培訓、激勵措施或知識管理競賽等,鼓勵員工主動分享經驗與知識,抑或讓知識物件的經營成為員工績效評估的加分專案。
  4. 導入適當技術:結合生成式AI人工智慧技術,對企業內外部知識進行系統性盤點,建構一站式資訊平台,實現 AI 輔助的知識檢索與問答,提供知識的分享、學習、再運用與創新,包括知識地圖、專家黃頁、知識社群、結構化在職訓練及問答等。
而若是原先就有既有知識庫的企業,則可以透過以下方式優化並提升知識運用效率:
  1. 評估現有知識庫:全面審視企業內部的知識庫,包括其結構、格式、內容及涵蓋範圍,識別關鍵知識,以及和潛在需要補強的地方。
  2. 導入新一代生成式AI知識管理系統:對現有知識庫與生成式AI知識管理系統進行整合,並利用AI的自然語言處理能力,提升知識檢索的準確性以及效率。
  3. 即時更新與動態適應:建立即時更新機制,確保知識庫中的內容能即時、動態調整,以快速反映業務需求和市場變化。
  4. 加強處理非結構化資料:透過語意分析技術,將非結構化資料轉換為結構化資料,並結合生成式AI技術,利用其自然語言理解和生成能力,自動化處理大量非結構化資訊,將其轉化為可檢索和使用的知識,提高知識庫的全面性和實用性。

生成式 AI 對知識管理的影響

隨著生成式 AI 技術的發展,其為知識管理領域帶來了重要的革新。在技術層面上,它讓知識的檢索變得更為彈性;在應用層面上,則讓使用者能更有效且快速地吸收相關知識。

技術面的影響:搜尋檢索更彈性,更容易學習上手

傳統的知識檢索方式主要仰賴關鍵字檢索與預設的分類樹結構,而這樣的檢索方式存在兩個痛點:

  1. 對於使用者來說,較難將問題轉換成複雜的關鍵字組合進行提問,也因此使用門檻較高。
  2. 關鍵字的檢索多是以「關鍵字組合的出現次數」作為搜尋依據,無法反映出問題與參考文本間的語意關係,造成檢索結果可能與用戶期望有所偏差。

將生成式 AI 導入知識管理領域後,應用其「自然語言對話」的特性,可以有效解決上述兩個痛點:

  1. 生成式 AI 允許使用者以自然語句直接輸入問題進行提問,用戶無須把問題轉換成複雜的關鍵字組合,降低了使用門檻。
  2. 生成式 AI 能夠更好地理解問題的語意,使搜尋結果能夠更準確地反映問題的內容,並找到與問題真正相關的參考文本。此外,生成式 AI 可以生成淺顯易懂的答案,直接解決使用者的問題。 
導入及使用上的影響:更有效的知識吸收與消化

傳統的知識管理,在導入及使用上往往停留在「檔案」層級,使用者須透過關鍵字檢索找到最可能的檔案後,自行閱讀數十甚至上百頁的內容,從中找出與問題相關的資訊,再進一步消化以解答問題;而這樣的架構將使得用戶無法「快速且有效」地吸收、消化知識。

引入生成式 AI 技術後,這一問題則能得到顯著改善。生成式 AI 將知識管理提升到「答案」層級,利用 AI 的語意理解及自然語言問答能力,讓使用者可以直接獲取系統所參考的資料庫中相關檔案的段落,並生成白話回答,協助使用者高效達成知識消化及吸收的目標。

企業導入 AI Search for KM 之優勢

意藍的 AI Search for KM 即是整合生成式 AI、高速搜尋引擎與 NLP 技術的新一代 GenAI 知識管理工作平台,其所具備的功能特色如下:

  1. 支援多種檔案格式:支援各種常見的檔案格式,包含常用的 Office、PDF、文字檔等等,滿足企業需求。
  2. 權限控管機制:確保使用者僅能查詢到自己有權限查看的檔案與文件,避免資料洩露,滿足企業管控機敏資訊、劃分部門權限等需求。
  3. 全文檢索:系統不僅能夠檢索檔案的標題和內文,也能查詢作者及其他相關資訊,提供廣泛且彈性的資料檢索範圍,提升使用者找到所需資訊的效率。
  4. 支援對話問答:支援使用者以對話問答方式與系統互動,並會根據問題和參考資料提供口語化的回答,幫助使用者輕鬆理解和應用所得知識。
  5. 支援地端或雲端服務:企業可以根據自身需求選擇最合適的部署方式,導入雲端或是地端服務,並可根據不同使用情境和文件資料需求切換不同的大型語言模型。

而對於企業而言,導入 AI Search for KM 具有以下優勢:

  1. 降低人力成本:透過自動化搜尋和回答的功能,有效減少員工手動處理知識資訊的需求,簡化知識搜尋與管理流程,節省人力成本。
  2. 提升作業效率:因支援多種格式的檔案管理,使得資訊不再分散,方便員工找到所需資料,並提供即時準確的回答,縮短員工資訊獲取時間。
  3. 增強知識內化與應用:支援自然語言互動方式,讓員工能以白話文提問,快速獲得所需知識,從而提升消化和應用知識的效率與準確度。
  4. 強化資料安全與隱私:具有權限控管機制,確保只有具備相應權限的人員才能查找和檢視資料,且系統支援地端服務,能有效防範內外資料洩露風險。
  5. 促進知識共享與協作:可整合不同來源的資料,讓各部門的員工都能輕鬆提問和搜尋知識,促進團隊合作交流。

推動知識管理對企業的長期發展至關重要,不僅是提升競爭力的核心,更是確保企業持續創新和應對市場變化的基礎。隨著生成式 AI 技術的引入,知識管理的應用層次也得到了極大提升,透過導入合適的知識管理系統,企業便能更靈活地管理和運用知識資源,從而在競爭激烈的市場中保持領先地位。

從碎片資料到即時答覆,AI 助力政府循證治理升級

隨著社會對於數據的信賴與依賴度愈發提升,近年來「循證治理」也開始備受重視,固本案旨在協助單位推廣運用資料科學於政府政策決策上,運用前瞻性的觀測分析工具,有效利用過去累積及研究團隊蒐集的大量資料,如相關座談、論壇等,進行社會趨勢的深入分析,精準辨識影響國家發展的關鍵社會課題。 而為了提升政府對公眾問題的回應能力與透明度,意藍透過生成式 AI 人工智慧與檢索增強生成技術(RAG),改善資料搜尋與處理流程,進一步建立「社會政策知識檢索問答平台」,供部會首長及政策制定者能在立法院質詢等公共場合中,即時並準確地回應各方提問,從而提供基於循證的決策支持,優化政策制定與執行過程。

社會政策知識檢索問答平台服務流程說明

  1. 資料發言者與屬性辨識

    根據過往資料,準確區分不同發言者在各議程中的發言內容,接著自動識別並標記文本中的屬性詞,如提及到的重點人物、組織名稱及地理位置資訊等,辨識出各發言者的關注焦點與觀點的異同,從而對其關注面向進行初步的探勘與分析。

  2. AI 摘要與自動分群

    藉由大型語言模型可自動解讀並提取文本的核心內容,再透過語意分群演算法,對這些經過摘要整理的文本進行分析。

  3. 檢索增強生成參數設定

    結合搜尋引擎、向量資料庫與大型語言模型,彙整並突顯資料中的重點,亦可驗證特定解釋是否正確,並提供更深入的洞察,及議題之關鍵觀點。

技術特色與優勢

在此專案中,意藍首先透過命名實體識別 (NER) 技術精準標記關鍵資訊,辨識發言者重點與關注焦點,再由大型語言模型 (LLM) 自動提取文本核心內容,並利用語意分群技術自動分類不同觀點,提升分析準確性。接著,藉由 RAG 技術結合搜尋引擎與向量資料庫,進行深入資料檢索與生成,讓 AI Search for KM 所提供的知識平台能夠整合施政計畫及歷史文本,透過即時資料處理,為部會首長在受立院質詢時提供即時且準確的回答,確保政策回應具備充分理據,支持循證治理,提升政策反應效率與決策品質。

問答情境展示

整合跨來源資料,評估公共議題與政策對社會之影響

當使用者提問「特定族群於公共議題/政策中會受到的影響」,系統便能根據相關參考資料自動彙整摘要,進行跨來源資料整合,同時確保決策者可追溯具體資料點,透過 AI 資料科學技術進行循證決策,提升公共決策者政策回應效率。

整合跨來源資料,評估公共議題與政策對社會之影響

發言者發言重點摘要,快速掌握核心論點

而 AI Search for KM 也能自動分析目標對象於各式會議或政策發言的重點,並生成總結,協助決策者快速掌握討論的核心觀點,實質提升政策討論的效率,支持政策的數據化決策過程。

發言者發言重點摘要,快速掌握核心論點

調取最新數據,分析政策實施成效

調取最新數據,分析政策實施成效

最後,我們也可以透過 AI 分析來幫助政府評估政策成效,即時分析、更新最新的政策執行情況,讓決策者能夠迅速反應並做出調整。如上圖中詢問「非營利幼兒園設立家數是否提升」,系統便能根據參考文章回覆目前累計的公共化幼兒園增設數量,亦提供如幼兒入園率、後續可如何推動,及現階段政策實施所遇到的困難等。

藉由數據化的分析結果不僅提供給決策者,也可向公眾展示政策執行進度與成效,提升政府在社會政策治理上的透明度和公信力。

2025台灣人工智慧年會 重磅登場!

即將在9/9(二)-9/10(三) 中研院舉行
匯聚1,500+產官學研菁英,邀集 Google DeepMind、華碩等頂尖講者,
共探 Agentic AI、機器人&無人機、運動科學、AI 政策與安全等前沿議題。
歡迎前往報名!

AI Search 電子報 | vol.03 掌握檢索增強生成技術

AI Search 電子報 | vol.03 掌握檢索增強生成技術

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

生成式 AI 回答總不精準?RAG 技術正是企業關鍵解方

AI 技術發展飛速,而檢索增強生成技術 (Retrieval-Augmented Generation, RAG) 則成了讓大型語言模型 (LLM) 更加高效、智能的關鍵技術。RAG 檢索增強生成結合了搜尋引擎與大語言模型,也就是檢索與生成的特點,能有效地先找出精準且相關的內容後,再讓大語言模型依據相關的內容做參考,理解後再生成回答,可以有效解決大語言模型幻想 (hallucination) 的問題,並且能夠提供相關內容的參考出處,增加了可解釋性 (Explainability) 和可驗證性 (Verifiability),並且能夠透過搜尋引擎來快速變換參考的相關資料,不需要對大語言模型進行再訓練,具備了速度和成本效益優勢,其企業應用範圍與情境更是廣泛。本文將深入探討 RAG 檢索增強生成的原理、優勢與應用場景,並說明意藍在此技術下的應用實踐。

認識檢索增強生成 (RAG)

什麼是檢索增強生成?

檢索增強生成 (Retrieval-Augmented Generation, RAG) 是一種結合了檢索 (Retrieval) 和生成 (Generation) 兩種方法的人工智慧技術,從大量的文本資料中搜尋相關的資訊,並基於檢索到的資訊生成更具體、更可信的答案。

檢索增強生成的優勢與挑戰

生成式 AI 在生成內容時,可能會出現杜撰答案或是答非所問等 AI 幻覺 (hallucination) 之情況。而檢索增強生成能解決此問題,增加其可解釋性和可信度,整體而言可歸納為以下優勢:

  1. 依照相關的參考資訊來生成內容,可以提高生成內容的準確性和品質,避免生成虛假、不切實際的誤導性資訊
  2. 增加可信度與可驗證性,確保生成的內容具有可靠的參考依據,而非僅根據過去的學習經驗推測,且生成的內容可被檢查驗證。
  3. 節省訓練成本,更快速地更新知識。由於訓練 (或微調再訓練) 語言模型新知識都需要大量的時間和金錢成本,但 RAG 檢索增強生成能利用現有模型,只要透過搜尋引擎快速更新相關的參考資料,就可以反應在生成結果上,不必進行新一輪的訓練,更新速度快、成本也低。

除了具備以上優勢外,一個好的 RAG 檢索增強生成技術需在實際應用中克服以下挑戰,以發揮其潛力並有效提升效能:

  1. 無檢索結果時的回覆

    當檢索增強生成沒有檢索到得以回答使用者問題的知識時,需判斷並回覆無相關參考資料,不要硬答,避免大語言模型杜撰答案,才不會出現AI幻覺問題。

  2. 生成回覆內容的實用性

    檢索增強生成需確保生成之內容不僅與檢索到的知識相關,且還需具備流暢性、準確性及實用性。

  3. 效率和擴展性

    隨著知識庫不斷擴大,檢索增強生成需維持檢索和生成過程的效率與精準度。

  4. 實際應用彈性

    應用檢索增強生成時須考慮到不同領域的需求,有些領域的知識點敘述較長、有些領域知識較分散,需能彈性調整段落長短、段落數多寡等,真正能夠完整地找出相關的內容,以符合不同的應用場景,這將是關鍵重點。

RAG 檢索增強生成的應用場景

RAG 檢索增強生成適用於需要透過相關的參考資料來輔助回答的問答系統、智能對話系統以及其他自然語言處理應用,來滿足客戶在不同場域的各種需求,如:

  1. 問答系統

    用於需要透過相關的參考資料來輔助回答的問答系統,例如客服人員使用的常見問答集 (Frequently-Asked Questions, FAQ) 或標準作業程序 (Standard Operation Procedures, SOP),特別是在回答專業知識問題時,RAG 檢索增強生成能提供更精準及可靠的解答。

  2. 智能對話系統

    對話系統通常需結合大量知識來回答使用者的問題,RAG 檢索增強生成可協助系統更好地理解用戶的問題並提供具有明確出處和連貫性的回應。

  3. 知識檢索及擴充

    企業或組織通常擁有大量的內部知識資源,包括文件、報告、手冊等。RAG 檢索增強生成可協助使用者快速檢索到所需的知識資訊,同時也可不斷擴充相關知識,提供更全面、深入的內容。

  4. 知識管理

    RAG 檢索增強生成可協助組織更有效地管理和利用大量的知識資源,以提高知識的可用性及共享性,促進團隊合作和創新。

RAG 檢索增強生成的應用實例

而 RAG 檢索增強生成又能應用在哪些場域呢?接著我們進一步說明應用實例如下:

  1. 輿情分析

    針對特定事件、議題,蒐集並觀測社會大眾的意見進行輿情分析,檢索增強生成可透過檢索大量相關的社群網站貼文、討論區評論、新聞文章等資料,找出特定內容作為參考,讓與搜尋引擎高度整合的大語言模型來生成對應的摘要或分析結果。此方式能從大量的資料源找出可用資訊,對輿情進行全面準確的分析,同時也保持生成內容的靈活性和即時性。

  2. 財經分析

    在金融領域,RAG 檢索增強生成可透過檢索過去至今完整相關的重大訊息、公開說明書、市場數據、公司報告、專家評論等資料,生成對於當前市場概況的歸納或未來趨勢的預測推論。此方式可充分利用豐富的歷史資料,同時了解即時的市場資訊,有助於提高分析預測的準確性和可信度。

總結而言,因大語言模型進行預先訓練或微調需要耗費大量時間和資源,無法即時應對快速變動的環境,而 RAG檢索增強生成能藉由結合檢索 (搜尋引擎) 和生成 (大語言模型) 的方法,即時地分析大量的資訊,有效協助使用者更佳理解及應對快速變動的情況。

意藍資訊於檢索增強生成的應用

意藍結合 RAG 檢索增強生成的發展優勢

RAG 檢索增強生成的概念是高度整合搜尋引擎與大語言模型,先透過檢索功能找出完整相關的參考資料,再基於大語言模型的理解和生成能力,讓該模型進行摘要,進而生成即時、精確的答案,因此搜尋引擎的好壞便成為 RAG 檢索增強生成出色與否的重要因素。

而意藍資訊在數據處理及分析領域深耕多年,也 將搜尋技術 (Search) 與自然語言 (NLP) 經驗結合,不僅能兼顧傳統關鍵字檢索的精準快速搜尋,以及向量搜尋可支援自然語言提問的特點,提供使用者更佳的檢索功能與卓越的 RAG 檢索增強生成服務體驗。

此外,擁有 RAG 檢索增強生成的系統就有如口袋中放了百科全書,使得在生成內容時不再受限於過往訓練的資料,而能即時瀏覽大量的專業知識文件,以解決特定領域的複雜問題,進一步提升問題解決的效率。且面對資訊爆炸的今日,新資料推陳出新,有了 RAG 檢索增強生成技術,可讓我們的產品與技術持續從新數據學習及擴展知識庫,使產品在任何情境下都能保持訊息的即時性。

意藍於檢索增強生成的應用

而意藍資訊在 RAG 檢索增強生成主要有以下應用:

  1. 訓練大語言模型

    意藍自行研發並訓練了大語言模型 eLAND GOAT,能夠與搜尋引擎高度整合並進行優化,用以加強 RAG 檢索增強生成中對於參考相關資訊的摘要及回答的能力。

  2. AI Search for KM 新一代 GenAI 知識管理工作平台

    我們將 RAG 檢索增強生成應用在知識管理領域,透過結合搜尋、NLP與大語言模型打造出新一代 GenAI 知識管理工作平台,提供使用者更高效、智能的知識搜尋與問答服務體驗。

  3. AI 輿情應變顧問

    將 RAG 檢索增強生成結合最完整、最即時的網路聲量資料,提供以自然語言口語文字查詢,就可以彙整、生成輿情重點,依照真實內容來提供 AI 應變建議,可以應用在市場研究、行銷趨勢、公關應變,任何需要快速掌握輿情重點的企業場景中。

意藍 AI 技術的未來展望

我們相信, 整合了搜尋引擎與大型語言模型 (LLM) 的 RAG 檢索增強生成技術,能夠轉化為企業的知識和營運數據中心。這意味著企業中的多個重要系統,如知識管理 (KM)、企業資源規劃 (ERP)、客戶關係管理 (CRM) 以及人力資源 (HR) 等,都可透過 RAG 檢索增強生成技術進行整合,不僅能提高數據的利用效率,也能加強企業的資料治理能力,讓企業更加依循正確的資料做出有效決策。展望未來,我們會持續致力於透過 AI 技術讓數據增值,並進一步賦能合作夥伴,協助提升企業營運效能。

民眾聲音太多、處理繁雜?AI 助攻政府即時掌握民意脈動

地方政府經年累月從派工系統、話務系統、人民陳情與市長信箱等來源接獲的陳情資料相當龐雜,無論是市府人員後續欲整理陳情資料進行分析,或是借鑒過往陳情案件的回覆用於新案件,皆費時費力。因此,意藍運用 AI 技術,提供市府陳情儀表板與陳情問答輔助解決方案,協助地方政府得以更有效分析資料輔助陳情回覆

陳情問答知識檢索問答平台服務流程說明

政府單位肩負服務民眾和執行公共政策的重責,其運作效率將直接關係到社會的發展與民眾福祉,而知識管理可透過以下多個面向提升政府效能:

  1. 收集各來源資料並進行語意分析

    集合來自派工系統、話務系統、市長信箱等各來源之陳情資料,透過 DeepNLP 技術進行情緒分析和特徵擷取,填補陳情資料中資訊欄位的缺失值,使整體陳情資料更為完整。

  2. 跨來源資料檢索,快速產製報表

    利用強大的搜尋引擎技術,提供市府同仁簡單、快速的陳情資料全文檢索服務,並進一步建置視覺化儀表板,以利單位人員透過檢視圖表,從中挖掘出陳情資料比例、變化、趨勢等資訊。

  3. 生成式 AI 陳情問答輔助

    利用 AI 技術,將過往市民陳情類型資料、機關的答覆內容,以及常見市政問答 (FAQ) 文本等資料,進行個資去除後,再使用大語言模型預先進行訓練和學習,最後結合生成式 AI,產出最合適的陳情回覆內容。

技術特色與優勢

為了協助專案單位自動化完成陳情資料分類與視覺化,並結合生成式 AI 提供陳情回覆作為參考,意藍規劃之 AI 智能搜尋解決方案,首先收集目標單位之1999陳情資料,再將各來源數據透過 DeepNLP 技術,分析民眾陳情情緒、擷取陳情內容特徵資訊等,整理成結構化資訊。接著,採用意藍搜尋引擎技術,讓使用者可以藉由彈性的檢索條件快速查詢到想了解的特定陳情案件,再串接 Google Looker Studio 整合成儀表板,提供視覺化圖表供使用者可以快速、清晰地了解案件概況與量化數值。最後我們使用 AI 技術,對歷史陳情問答資料進行個資去除與大語言模型預先訓練,建構新型態生成式 AI 陳情問答知識平台,並以 Web Service 形式提供自動生成式陳情回覆 API 服務,以利市府同仁得以更清楚且有效率地分析資料、加速陳情資料分類,並提升回覆效率。

導入成果展示

陳情資料結構化

結構化應用:加速資料處理流程,可用於各種統計分析(地點、時間、車牌、店家等)

陳情資料結構化

陳情問答輔助解決方案可除去個資使其更安心,並協助客服人員快速回覆民眾客訴內容,以提升效率、減輕人力負擔,以下為陳情資料回覆流程:

  1. 民眾客訴內容

    對原始資料進行去除個資處理,避免留存過多不必要的個資。

  2. 查詢不同資料源

    QA 問答紀錄、FAQ 常見問答集、規格說明書及疑難雜症技術文件。

  3. 大語言模型生成回覆信

    LLM 參考各種相關內容作為回覆依據,產出適合的回覆內容。

陳情資料回覆助理

協助客服人員快速回覆民眾陳情內容,提升客服效率、減輕客服人力負擔

陳情資料自動回覆助理

陳情資料回覆特點

陳情資料自動回覆特點

AI Search 電子報 | vol.02 導入不是目的,企業該如何部署大語言模型?

AI Search 電子報 | vol.02 導入不是目的,企業該如何部署大語言模型?

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

企業導入大語言模型,該從任務、流程還是模型本身開始?

大語言模型(Large Language Model,LLM)是生成式AI領域中十分重要的一項技術與應用,它通過大規模文本數據的訓練,學習語言文字中的上下文結構和語意關係,並能生成自然流暢的回應,與使用者的提問做互動。本文將帶您了解大語言模型的原理與特點,探討企業如何有效運用大語言模型、使其在工作場域中發揮價值,並介紹意藍自行研發之大語言模型 eLAND GOAT 的具體應用。

認識大語言模型

什麼是大語言模型?
大語言模型(Large Language Model,LLM) 是一種基於大量資料訓練而成的深度學習模型,其特色在於模型參數量大、學習訓練資料廣泛,且在模型的訓練過程中,能夠識別及理解大量資料中每個詞句間的上下文關係,以及在語意空間中背後的意義,再根據使用者的提問或指令(Prompt),提供符合邏輯的自然語言回應。大語言模型的運作邏輯就好比文字接龍遊戲──根據使用者所輸入的詞句,模型會基於已學習、訓練過的資料與上下文,來評估哪些字詞最有可能出現在使用者的輸入之後,並生成相對應的文字回應。  
大語言模型的核心特點?

綜前所述,大型語言模型的核心特點包含以下幾點:

  1. 上下文理解:大型語言模型能更好地理解和處理文意,生成連貫、有邏輯的流暢回應。
  2. 多任務適用:大型語言模型能夠應付多種自然語言處理任務,無需單獨為每種任務設計特定模型,也因此能夠廣泛應用於多種不同場景。
  3. 大數據訓練:大型語言模型通常基於數千萬、甚至數億的文本資料進行訓練,龐大的數據量使得模型掌握了豐富的知識,從而能夠做出更準確的判斷與回覆。

不過也需要注意的是,大語言模型是根據過往數據資料訓練而成的,若遇到訓練資料中缺乏、無法回應的提問、或參考資料本身有所偏誤,可能就會出現AI 杜撰、AI 幻覺 (Hallucination) 等現象,生成出錯誤甚至不存在的回應。

大語言模型的商業應用可能性

企業的大語言模型應用場域

而基於大語言模型具有的核心特點,可以被運用在以下幾個商業場域當中,來協助企業提升營運效率,輔助企業達成不同的目標:

  1. 市場行銷:大語言模型可以生成文案、分析市場趨勢以及顧客偏好,甚至優化廣告投放策略。它可以幫助撰寫社群媒體文章、電子郵件行銷內容,並根據市場數據預測消費者需求。
  2. 內部管理:大語言模型也可以成為內部知識管理的助力,幫助員工快速找到需要的資料,或者自動生成報告、會議記錄。此外,在客戶服務方面,也可以24小時即時回應客戶問題,減少人工客服負擔,並提供可驗證的參考內容出處。
  3. 輔助決策:透過分析企業數據,大語言模型還可以協助管理層做出更準確的市場預測,從而提升整體營運決策的效率和準確性。
企業如何善用大語言模型提升營運效率?
那企業究竟又該如何將大語言模型的優勢發揮出來?關鍵在於企業如何對模型下達準確的指令(Prompt)。對大語言模型提問時,語句及用詞要盡可能地具體、包含上下文訊息,才能讓大語言模型提供有效的回應,例如當想了解有關國內知名金融業者新光金控的相關資訊時,應避免簡化問句為「總資產?」,而是「請問新光金在今年第二季結束時的資產總額是多少?」,通過更精確的提問,大語言模型能提供更完整的回應。 除了應避免模糊不清的提問內容,提問的技巧也同樣重要,使用者應逐步引導模型進行推理,如欲詢問「新光金在大陸投資有賺錢嗎?」,可先調整提問為「請問新光金在大陸的投資項目為何?」,根據模型的回應,再進一步提問「投資損益為多少?」;藉由調整指令,讓模型能夠不斷學習並一次性回答多個相關問題,從而提升營運效率。  
企業導入大語言模型的關鍵要素​

隨著大語言模型的發展愈發成熟,企業導入大語言模型已是時下趨勢。而企業在導入大語言模型時則需考量多個關鍵要素:

  1. 數據隱私與資安控管:對於許多企業來說,使用大語言模型等相關服務時,除了須確保符合相關法律規範外,還需要對數據採取必要的保護,避免數據外洩或資安方面的風險。
  2. 模型與系統的相容性:在導入大語言模型時,需注意模型本身與企業現有系統的相容性,這涉及了技術、成本等多方面的考量,若企業缺乏相關經驗,便會使導入時的成本與難度增加。
  3. 企業基礎部署條件:不同企業在選擇大語言模型時,需根據自身具備的基礎條件,選擇雲端、地端或是混合部署。另外也須有足夠的計算資源與維運人力,確保模型運行並在必要時針對模型進行微調 (fine-tune)。 

意藍於大語言模型的應用

意藍深知大語言模型對企業營運的重要性與無限可能性,然而因目前主流的大語言模型多是使用英文語料進行訓練,中文語料的佔比相對較低,大部分資料又都是以簡體中文為主,與繁體、台灣所慣用的用字遣詞有一定差距。意藍挑選出台灣常用的語料,在兼顧適法性及合理使用的條件下,整理出AI的學習材料,開發出台灣本土的大語言模型 eLAND GOAT,目標讓大語言模型可以更加在地化,並兼顧效能及成本之考量,符合企業特定目的用途。 而意藍在發展出的台灣本土在地化大語言模型 eLAND GOAT 後,也將其運用在企業知識管理領域中,推出新一代 GenAI 知識管理工作平台-AI Search for KM,不僅提供使用者可以以自然語言的形式進行問答,還結合檢索增強生成(Retrieval-Augmented Generation, RAG)技術,能夠有效地找出精準且相關的內容,藉此提高大語言模型在生成內容的準確性和可靠性,並能夠在每次回應時附上參考內容出處以供驗證,有效避免 AI 幻覺的可能性。 除此之外,AI Search for KM 還可以串接企業知識庫,不需要大量的人力和機器資源重新訓練或微調模型,並且可選擇在雲端、地端或混合部署大語言模型,免除機敏資訊外洩的疑慮的同時,也能快速的從大量的檔案文件中找出所需內容,大幅縮減企業在知識內化的時間成本與負擔,使其能夠更有效地管理和運用知識資源、提升營運效率。

政府單位想提升行政效率?AI 可以這樣發揮效用

隨著數位化時代的加速發展,政府組織與各行各業都同樣面臨著數位轉型的重要轉折點;對於公部門而言,AI 的導入與應用不僅能夠提升作業效率,更能有效加強公共服務品質、協助應對日益複雜的科技挑戰。而隨著政府內部資料量急劇增加,其對於升級知識管理應用的需求也日益增強,如何引入合適的管理工具、創造知識的最大價值,已成為提升行政效能、實現循證治理智慧化的核心課題。

知識管理對政府單位的重要性

為什麼政府單位需要知識管理?
政府單位肩負服務民眾和執行公共政策的重責,其運作效率將直接關係到社會的發展與民眾福祉,而知識管理可透過以下多個面向提升政府效能:
  1. 提升行政效率
    透過知識的有效整合與共享,縮短資訊傳遞與行政處理的時間,實現更快速、精準的資源調度。
  2. 改善決策品質
    面對公共政策的制定或緊急事件的處理時,能掌握更即時且全面的資訊基礎,協助決策者迅速做出高品質的判斷與應對。
  3. 增強政府公信力
    透過知識管理,政府單位能更有效地整合分散於各部門的資訊,從而妥善梳理並清晰呈現政策內容,促進資訊的公開性與透明度;同時,針對民眾需求或突發事件的回應也能更及時且有力,進一步提升公眾對政府的信任。
政府單位的知識管理需求
相較於一般企業,政府單位在知識管理方面具備以下獨特需求──
  1. 提升資料透明度的同時,兼顧公眾隱私與敏感資料保護
    政府部門需要在推動資訊公開與透明的同時,妥善保護公民的隱私及敏感資料,防止未經授權的資料洩漏或濫用,因此用以輔助之知識管理工具不僅需能有效整合資訊,還需具備完善的存取控制機制,以確保資料安全。
  2. 長時間保存文件和數據,滿足稽核和法律合規需求
    政府部門的文件和數據保存期通常較企業更長,因涉及的資料需滿足各種法律、稽核及合規要求,如政策文件、預算報告或公共安全數據等資料,需長期保存並於必要時進行查閱、追溯。
  3. 業務範疇廣泛,資料量龐大且多樣性高
    政府內部通常由多個部門組成,且各單位的業務範疇不同,涵蓋政策規劃、業務執行、管理督導、勾稽核實等多元領域;各部門間的數據格式、常用檔案形式與管理流程可能存在差異,多樣的需求使得統一管理的難度也有所提升。

政府單位知識管理升級解方 ── 新一代 GenAI 知識管理工作平台

針對以上政府單位對於知識管理的需求,意藍的新一代 GenAI 知識管理工作平台便是理想的解方,其亮點特色如下:

  1. 支援多種常用檔案格式

    包含 Office、PDF 、CSV 等等,不需額外花費太多心力進行轉檔處理,可應對政府內部多樣化數據格式的需求,有效解決跨部門整合困難。

  2. 具備檔案權限劃分機制

    確保只有授權人員能夠存取、檢視特定檔案,降低機密資料洩露風險,滿足政府單位對敏感資料保護的嚴苛要求,並為跨部門合作提供安全的知識共享環境。

  3. 提供彈性的部署方式

    政府單位可根據自身需求,選擇雲端平台服務或導入地端服務,也可以針對不同的任務,自由切換 OpenAI GPT 系列、Meta Llama 系列、 國科會TAIDE 模型、或者意藍經由大量本地語料調校而成的 eLAND GOAT 等多種大語言模型,滿足政府對多樣化應用場景的處理需求,同時提升系統效能,符合成本效益。

  4. 支援語意全文檢索

    無需進行額外的資訊建立、分類或關鍵字標記,系統便能對檔案進行全範圍檢索,包含標題、內文、作者、建檔時間等資訊皆在搜尋範圍內,解決了龐大資料量下的搜尋困難。

  5. 支援易於使用的對話問答

    使用者可以自然語言對文件知識點提問,系統會根據問題與相關參考資料,回傳彙整後的口語化回覆,讓非技術人員與高層主管能以直覺方式獲取知識,提升整體操作便利性與工作效率。

導入生成式 AI 知識管理系統的長遠影響

生成式 AI 知識管理系統的導入,不僅能有效為政府單位解決跨部門協作與資料整合的挑戰、提升行政效率與決策品質,更能助力其持續優化知識的流通與應用模式,逐步實踐智能化治理與決策,為數位政府與智慧城市的長遠發展奠定堅實基礎。

WAVE_BN_2
亞洲指標 AI 造浪展
「WAVE 2025(World AI Vision Exhibition)」

意藍將於7/31(四)-8/2(六)參展,攤位編號 B1709
現場將分享我們在 AI 應用上的實務經驗,歡迎有興趣的你一起來交流!

AI Search 電子報 | AI 企業應用焦點

AI Search 電子報 | AI 企業應用焦點

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

生成式 AI 不再只是工具,企業該如何有效整合與導入?

本篇報告摘錄意藍《Gen AI 未來視野:年度技術趨勢與革命性應用》研討會精華,剖析生成式 AI 工具及技術發展趨勢外,展示如何透過 AI 加值輿情觀測,協助企業快速掌握市場動態;另外也呈現如何透過多來源資料訓練,打造企業、組織專屬 AI 模型,成為企業決策的智慧推手。

1-1年度 AI 發展趨勢

生成式 AI 應用發展多元 「理解」將成未來發展重點

隨著開源式 AI 生態系崛起,大語言模型將更容易被存取、應用,而過去由科技巨頭全面主導的 AI 技術將出現發展上的分化,各企業自研模型如雨後春筍誕生,帶動整體領域成長,模型百花齊放。目前市場上湧現多種生成、多模態及推理相關的生成式 AI 工具,包括圖片、影片和文字等多種形式的資訊處理,以不同特色獨霸一方,豐富的選擇進一步推動了生成式 AI 技術的應用,讓企業能根據需求找到最適合之工具,為各產業帶來新的可能性。

市面上常見生成式AI工具

▲ 市面上常見生成式 AI 工具 

如 Google 的 Gemini 可同時理解並處理文字以及影像等不同類型的資料;Copilot 則可整合 Bing 與微軟的服務;而深度求索的 DeepSeek 因爲開源架構,使得第三方開發更有優勢。

開源式 AI 三大趨勢

現今的開源式 AI 呈現出三大趨勢,可見得 AI 正快速從實驗室走入日常應用場域。「技術開放」使智慧轉型的技術及經費門檻大幅下降,提升企業和開發者的導入意願,甚至可預期在接下來的1至2年內,各單位都將導入生成式 AI;此外,近年 AI 服務供應商的「普及化」,則讓企業組織能夠選擇與當地服務商合作,獲得更貼近成本效益、資訊安全等需求的解決方案。而隨著技術持續演變,開源模型也呈現「樣態多元」的趨勢,收到使用者提問後,模型會自主收集內外部資料庫,不斷進行內部詰問處理,生成更符合使用者預期的結果,以期更順暢地被應用在各類 AI 工具當中。

1-2 生成式 AI 工具背景技術趨勢

特式化 AI 模型成主流需求 高品質原料及資料合成技術是關鍵

接著從實際導入需求觀察,企業組織大多期待有屬於自己的特式化 AI 模型,以取得根據自身產業、品牌、甚至是部門所量身打造的 AI 生成結果。以美妝產業為例,產品的成分、功效、用語往往具有高度產業特性,然而市面上開源模型的調整彈性有限,在這樣的需求期待下,專屬特式化的模型蓬勃發展,為破解既定印象中需要使用大量資料、耗時費力才能訓練出的 AI 模型,意藍以《OpView 社群口碑資料庫》為基礎,透過大量、高品質、且即時的在地「資料原料」及「資料合成技術」,協助快銷品、各行各業、政府部門等單位高效建立專屬模型。

生成式AI工具

除了特式化能力,AI 模型學習的即時性也備受重視。既有生成式AI遇到來不及學習的新知時易出現幻想情況,而意藍結合搜尋引擎與大語言模型,推出主動式檢索增強生成技術(eLAND Active RAGᵀᴹ),能結合內部資訊和即時性高達15分鐘內的外部資料,進行多回合檢索及生成,以更符合企業即時性需求。

Active RAGTM 運作模式

▲ Active RAGᵀᴹ 運作模式

2-1 OpView X AI:AI 助手打造高效工作流

生成式 AI 賦能 OpView 協助統整海量資料與提供策略建議

觀察生成式 AI 與 RAG 技術實際在企業中的落地應用,在資訊量過載的時代下,AI 也是幫助資訊精煉、加速作業的關鍵。

如果要針對自身企業、品牌進行網路討論狀況監測,人工逐一篩選及總結不僅耗時,還容易因為過量閱讀陷入資訊疲勞,影響分析中立性。而 OpView 的AI 輿情應變顧問、文章探索助理,則能協助企業品牌快速掌握輿情風向。

OpView AI 服務

▲ OpView AI服務

以想快速了解「新光三越氣爆事件」相關新聞為例,便可以使用 AI 輿情應變顧問功能,以日常對話形式進行提問,便能獲得最即時的在地新聞資訊統整,省去人工查找、彙整的時間。甚至能進一步提問不同層面的問題,例如該事件對企業營運、股市、地區經濟、競爭對手與長遠經濟的影響。

AI輿情應變顧問 示意圖

另一方面,社群、討論區等其他來源也是企業及品牌在意的輿情觀測重點,然而大量而零碎的討論歸納起來費力耗時。

透過 eLAND Active RAGᵀᴹ 檢索增強生成技術,能更深度地應用相關內容。如文章探索助理能在使用者所設定的主題範圍中,快速拆解使用者問題並檢視參考資料,接著針對搜索出的資料進行彙整與分析、統計議題討論量,最終提供資訊統整與策略建議。

以「台積電赴美設廠」話題為例,一個月間便累積了超過5萬筆討論,透過對文章探索助理提問,便能從海量資料中以列點式生成重點,迅速了解設廠新聞對台灣整體經濟與股市的影響。

文章探索助理 示意圖

對於需要經常性蒐集、彙整、分析網路情報的專業人員,OpView 的 AI 自動化報表更是得力助手,除了將多種視覺化圖表以報告形式呈現,亦能整理網友討論摘要,並基於報告目的生成分析內容,提供如公關、行銷等不同切角的觀點。

AI自動化報表快速整合網路情報,提供AI分析建議

▲ AI 自動化報表快速整合網路情報,提供 AI 分析建議

2-2  AI Model:企業/組織專屬 AI 模型

提煉客戶專屬 AI 特式化模型 有效提升組織內部資訊流轉效率

在應用場域中,企業組織遇到的問題往往十分複雜,此時 AI Model 整合服務便是以特式化 AI 模型提供專屬解決方案。透過標記企業關注、儲存的數據資料,意藍以自行研發的大語言模型 eLAND GOAT 為基礎,為客戶針對特定領域進行模型訓練,產生專屬客戶的 AI 模型,最終結合包括 OpView 或企業內部系統提供特式化服務。

以政府部門為例,涉及市政議題的話題眾多,並且單一事件經常需協調跨局處處理,易遇到資訊分散、局處分類困難、缺乏結構化處理等問題。AI Model 市政專屬模型不同於以往關鍵字搜索的查詢方式,能夠自動爬取市政新聞,進行分配判斷並推送給相關對象,且判斷準確率高達94%,有效降低人力成本、提升市府內部資訊流轉效率。

AI Model特式化模型服務流程

▲ AI Model 特式化模型服務流程

小結

整體而言,從開源式 AI 趨勢可觀察出智能轉型已刻不容緩,而意藍整合搜尋引擎、語意分析與生成式AI等尖端軟體技術,可協助企業快速整合外部市場情報與內部專屬知識,並可透過特式化 AI 模型的訓練與導入,提供客戶更多元的 AI 解決方案。

從文件堆中找答案太慢?AI 如何幫第一線即時掌握災情?

近年來, AI 技術的持續創新突破,推動了政府和企業內的數位變革,如何導入並善用 AI 以提升服務的效率和品質,成為各單位組織的重要課題。
國家災害防救科技中心(National Science & Technology Center for Disaster Reduction,以下簡稱災防中心或NCDR)為政府於2003年設立的專業機構,多年來專注於災害風險管理防救科技的研究;為了能在災害發生時更即時地掌握災情、強化危機事件處理能力,災防中心與意藍資訊合作,導入意藍「AI Search For KM」系統,運用生成式 AI 與自然語言模型建構「災害防救知識問答平台」,大幅提升災情資訊處理效率,並以數據支持決策判斷,為智慧城市發展奠定穩固基礎。

災防中心背景與需求介紹

國家災害防救科技中心成立於2003年,主要任務在於提升台灣在面對各種自然災害時的應變能力與減災效果、確保民眾生命財產安全。面對台灣頻繁發生的地震、颱風、土石流等天然災害,災防中心不僅需在災前做好準備,也必須在災害發生後迅速掌握最新狀況,整合、分析各類災情資訊以協助政府及相關單位作出精確的應對決策,並提供必要的預警或通報。

隨著大量災情資訊不斷累積,災防中心在知識管理升級方面的需求日益增強;另一方面,數位化時代下社群媒體和網路社群亦成為災情資訊快速傳播的主要來源,這些公開管道中的資訊量龐大且更新頻繁,如何高效蒐集、結構化、分析並運用這些來自各地的災情回饋,也是災防中心需面對的重要課題之一。

以 AI Search for KM 建構「災害防救知識問答平台」

為了更快速、準確地掌握災情資訊以提升災害應變效率,災防中心選擇與意藍資訊合作,導入意藍新一代 GenAI 知識管理工作平台「AI Search for KM」,運用人工智慧與自然語言模型技術,並結合社群輿情資料和專屬的歷史數據庫,打造「災害防救知識問答平台」,解決資訊來源分散、數據處理繁複等痛點,協助單位提升資訊處理效率,以利更好地應對和管理災害風險。

意藍協助災防中心建構災害防救知識問答平台的流程如下:

  1. 資料蒐整與預處理:蒐集歷年來既有的災害事件情資研判報告、即時觀測數據(如雨量、河川水位等),以及各大公開媒體、Facebook 粉絲團、Dcard、巴哈姆特、Mobile01 及 Ptt 等公開討論區的地區版等資料,經過清整、結構化與預處理,將結構化與非結構化資料均轉換為模型可理解的格式。
  2. 語意分析與標記:透過語意分析技術,讓 AI 自動判別每一篇災情文章內容中提及的地理資訊、災害事件以及災情程度等,將這些重要詞彙辨識出來並自動標記,以利後續的索引和檢索。
  3. 大語言模型選擇:評估各個大語言模型在災害防救領域問答的真實性、回覆速度、正確性、可讀性、理解上下文與統整能力等效果,選擇最適用的自然語言模型。
  4. 建立資料向量索引、設定參數:提高檢索與問答時的效率及準確性,確保 AI 模型對災害知識有精準的搜尋能力與答覆效果。

透過 AI Search for KM 所提供的知識平台,災防中心便能夠針對歷年災害事件、抑或即時災情進行問答,系統會逐步拆解使用者所輸入的問題,再透過大語言模型(Large Language Model, LLM)及檢索增強生成技術(Retrieval-Augmented Generation, RAG)生成完整回覆。

以颱風相關的問題為例,使用者可對系統以口語文字方式提問,如「哪個地方災情最嚴重」、「哪些鄉鎮的河川水位超過一級警戒」等等,AI Search for KM 便會即時調用內部知識庫及外部即時數據,找出與使用者提問最相關的多個參考內容,從中綜合歸納出答覆。AI Search for KM 具備簡便、容易使用的介面,能快速統整內部及外部、文字及數值的各類數據,在分秒必爭的防災與救災時刻,提升作業效率。

問答情境1 - 分析災情嚴重區域

▲ 問答情境1 – 分析災情嚴重區域

問答情境2 - 調用即時數據,掌握全面性災情

▲ 問答情境2 – 調用即時數據,掌握全面性災情

透過與意藍合作導入 AI Search for KM 系統,災防中心能夠更高效地整合歷史與即時災害數據,在災害發生前後做出精確的災情管理判斷,及時釐清災情狀況並調度人力與資源,落實循證決策、全面提升災害應變能力;未來意藍也將持續與災防中心攜手,逐步實踐智慧城市願景。

WAVE_BN_2
亞洲指標 AI 造浪展
「WAVE 2025(World AI Vision Exhibition)」

意藍將於7/31(四)-8/2(六)參展,攤位編號 B1709
現場將分享我們在 AI 應用上的實務經驗,歡迎有興趣的你一起來交流!

AI Search 電子報 | AI 企業應用焦點

AI Search 電子報 | AI 企業應用焦點

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

生成式 AI 不再只是工具,企業該如何有效整合與導入?

本篇報告摘錄意藍《Gen AI 未來視野:年度技術趨勢與革命性應用》研討會精華,剖析生成式 AI 工具及技術發展趨勢外,展示如何透過 AI 加值輿情觀測,協助企業快速掌握市場動態;另外也呈現如何透過多來源資料訓練,打造企業、組織專屬 AI 模型,成為企業決策的智慧推手。

1-1年度 AI 發展趨勢

生成式 AI 應用發展多元 「理解」將成未來發展重點

隨著開源式 AI 生態系崛起,大語言模型將更容易被存取、應用,而過去由科技巨頭全面主導的 AI 技術將出現發展上的分化,各企業自研模型如雨後春筍誕生,帶動整體領域成長,模型百花齊放。目前市場上湧現多種生成、多模態及推理相關的生成式 AI 工具,包括圖片、影片和文字等多種形式的資訊處理,以不同特色獨霸一方,豐富的選擇進一步推動了生成式 AI 技術的應用,讓企業能根據需求找到最適合之工具,為各產業帶來新的可能性。

市面上常見生成式AI工具

▲ 市面上常見生成式 AI 工具 

如 Google 的 Gemini 可同時理解並處理文字以及影像等不同類型的資料;Copilot 則可整合 Bing 與微軟的服務;而深度求索的 DeepSeek 因爲開源架構,使得第三方開發更有優勢。

開源式 AI 三大趨勢

現今的開源式 AI 呈現出三大趨勢,可見得 AI 正快速從實驗室走入日常應用場域。「技術開放」使智慧轉型的技術及經費門檻大幅下降,提升企業和開發者的導入意願,甚至可預期在接下來的1至2年內,各單位都將導入生成式 AI;此外,近年 AI 服務供應商的「普及化」,則讓企業組織能夠選擇與當地服務商合作,獲得更貼近成本效益、資訊安全等需求的解決方案。而隨著技術持續演變,開源模型也呈現「樣態多元」的趨勢,收到使用者提問後,模型會自主收集內外部資料庫,不斷進行內部詰問處理,生成更符合使用者預期的結果,以期更順暢地被應用在各類 AI 工具當中。

1-2 生成式 AI 工具背景技術趨勢

特式化 AI 模型成主流需求 高品質原料及資料合成技術是關鍵

接著從實際導入需求觀察,企業組織大多期待有屬於自己的特式化 AI 模型,以取得根據自身產業、品牌、甚至是部門所量身打造的 AI 生成結果。以美妝產業為例,產品的成分、功效、用語往往具有高度產業特性,然而市面上開源模型的調整彈性有限,在這樣的需求期待下,專屬特式化的模型蓬勃發展,為破解既定印象中需要使用大量資料、耗時費力才能訓練出的 AI 模型,意藍以《OpView 社群口碑資料庫》為基礎,透過大量、高品質、且即時的在地「資料原料」及「資料合成技術」,協助快銷品、各行各業、政府部門等單位高效建立專屬模型。

生成式AI工具

除了特式化能力,AI 模型學習的即時性也備受重視。既有生成式AI遇到來不及學習的新知時易出現幻想情況,而意藍結合搜尋引擎與大語言模型,推出主動式檢索增強生成技術(eLAND Active RAGᵀᴹ),能結合內部資訊和即時性高達15分鐘內的外部資料,進行多回合檢索及生成,以更符合企業即時性需求。

Active RAGTM 運作模式

▲ Active RAGᵀᴹ 運作模式

2-1 OpView X AI:AI 助手打造高效工作流

生成式 AI 賦能 OpView 協助統整海量資料與提供策略建議

觀察生成式 AI 與 RAG 技術實際在企業中的落地應用,在資訊量過載的時代下,AI 也是幫助資訊精煉、加速作業的關鍵。

如果要針對自身企業、品牌進行網路討論狀況監測,人工逐一篩選及總結不僅耗時,還容易因為過量閱讀陷入資訊疲勞,影響分析中立性。而 OpView 的AI 輿情應變顧問、文章探索助理,則能協助企業品牌快速掌握輿情風向。

OpView AI 服務

▲ OpView AI服務

以想快速了解「新光三越氣爆事件」相關新聞為例,便可以使用 AI 輿情應變顧問功能,以日常對話形式進行提問,便能獲得最即時的在地新聞資訊統整,省去人工查找、彙整的時間。甚至能進一步提問不同層面的問題,例如該事件對企業營運、股市、地區經濟、競爭對手與長遠經濟的影響。

AI輿情應變顧問 示意圖

另一方面,社群、討論區等其他來源也是企業及品牌在意的輿情觀測重點,然而大量而零碎的討論歸納起來費力耗時。

透過 eLAND Active RAGᵀᴹ 檢索增強生成技術,能更深度地應用相關內容。如文章探索助理能在使用者所設定的主題範圍中,快速拆解使用者問題並檢視參考資料,接著針對搜索出的資料進行彙整與分析、統計議題討論量,最終提供資訊統整與策略建議。

以「台積電赴美設廠」話題為例,一個月間便累積了超過5萬筆討論,透過對文章探索助理提問,便能從海量資料中以列點式生成重點,迅速了解設廠新聞對台灣整體經濟與股市的影響。

文章探索助理 示意圖

對於需要經常性蒐集、彙整、分析網路情報的專業人員,OpView 的 AI 自動化報表更是得力助手,除了將多種視覺化圖表以報告形式呈現,亦能整理網友討論摘要,並基於報告目的生成分析內容,提供如公關、行銷等不同切角的觀點。

AI自動化報表快速整合網路情報,提供AI分析建議

▲ AI 自動化報表快速整合網路情報,提供 AI 分析建議

2-2  AI Model:企業/組織專屬 AI 模型

提煉客戶專屬 AI 特式化模型 有效提升組織內部資訊流轉效率

在應用場域中,企業組織遇到的問題往往十分複雜,此時 AI Model 整合服務便是以特式化 AI 模型提供專屬解決方案。透過標記企業關注、儲存的數據資料,意藍以自行研發的大語言模型 eLAND GOAT 為基礎,為客戶針對特定領域進行模型訓練,產生專屬客戶的 AI 模型,最終結合包括 OpView 或企業內部系統提供特式化服務。

以政府部門為例,涉及市政議題的話題眾多,並且單一事件經常需協調跨局處處理,易遇到資訊分散、局處分類困難、缺乏結構化處理等問題。AI Model 市政專屬模型不同於以往關鍵字搜索的查詢方式,能夠自動爬取市政新聞,進行分配判斷並推送給相關對象,且判斷準確率高達94%,有效降低人力成本、提升市府內部資訊流轉效率。

AI Model特式化模型服務流程

▲ AI Model 特式化模型服務流程

小結

整體而言,從開源式 AI 趨勢可觀察出智能轉型已刻不容緩,而意藍整合搜尋引擎、語意分析與生成式AI等尖端軟體技術,可協助企業快速整合外部市場情報與內部專屬知識,並可透過特式化 AI 模型的訓練與導入,提供客戶更多元的 AI 解決方案。

從文件堆中找答案太慢?AI 如何幫第一線即時掌握災情?

近年來, AI 技術的持續創新突破,推動了政府和企業內的數位變革,如何導入並善用 AI 以提升服務的效率和品質,成為各單位組織的重要課題。
國家災害防救科技中心(National Science & Technology Center for Disaster Reduction,以下簡稱災防中心或NCDR)為政府於2003年設立的專業機構,多年來專注於災害風險管理防救科技的研究;為了能在災害發生時更即時地掌握災情、強化危機事件處理能力,災防中心與意藍資訊合作,導入意藍「AI Search For KM」系統,運用生成式 AI 與自然語言模型建構「災害防救知識問答平台」,大幅提升災情資訊處理效率,並以數據支持決策判斷,為智慧城市發展奠定穩固基礎。

災防中心背景與需求介紹

國家災害防救科技中心成立於2003年,主要任務在於提升台灣在面對各種自然災害時的應變能力與減災效果、確保民眾生命財產安全。面對台灣頻繁發生的地震、颱風、土石流等天然災害,災防中心不僅需在災前做好準備,也必須在災害發生後迅速掌握最新狀況,整合、分析各類災情資訊以協助政府及相關單位作出精確的應對決策,並提供必要的預警或通報。

隨著大量災情資訊不斷累積,災防中心在知識管理升級方面的需求日益增強;另一方面,數位化時代下社群媒體和網路社群亦成為災情資訊快速傳播的主要來源,這些公開管道中的資訊量龐大且更新頻繁,如何高效蒐集、結構化、分析並運用這些來自各地的災情回饋,也是災防中心需面對的重要課題之一。

以 AI Search for KM 建構「災害防救知識問答平台」

為了更快速、準確地掌握災情資訊以提升災害應變效率,災防中心選擇與意藍資訊合作,導入意藍新一代 GenAI 知識管理工作平台「AI Search for KM」,運用人工智慧與自然語言模型技術,並結合社群輿情資料和專屬的歷史數據庫,打造「災害防救知識問答平台」,解決資訊來源分散、數據處理繁複等痛點,協助單位提升資訊處理效率,以利更好地應對和管理災害風險。

意藍協助災防中心建構災害防救知識問答平台的流程如下:

  1. 資料蒐整與預處理:蒐集歷年來既有的災害事件情資研判報告、即時觀測數據(如雨量、河川水位等),以及各大公開媒體、Facebook 粉絲團、Dcard、巴哈姆特、Mobile01 及 Ptt 等公開討論區的地區版等資料,經過清整、結構化與預處理,將結構化與非結構化資料均轉換為模型可理解的格式。
  2. 語意分析與標記:透過語意分析技術,讓 AI 自動判別每一篇災情文章內容中提及的地理資訊、災害事件以及災情程度等,將這些重要詞彙辨識出來並自動標記,以利後續的索引和檢索。
  3. 大語言模型選擇:評估各個大語言模型在災害防救領域問答的真實性、回覆速度、正確性、可讀性、理解上下文與統整能力等效果,選擇最適用的自然語言模型。
  4. 建立資料向量索引、設定參數:提高檢索與問答時的效率及準確性,確保 AI 模型對災害知識有精準的搜尋能力與答覆效果。

透過 AI Search for KM 所提供的知識平台,災防中心便能夠針對歷年災害事件、抑或即時災情進行問答,系統會逐步拆解使用者所輸入的問題,再透過大語言模型(Large Language Model, LLM)及檢索增強生成技術(Retrieval-Augmented Generation, RAG)生成完整回覆。

以颱風相關的問題為例,使用者可對系統以口語文字方式提問,如「哪個地方災情最嚴重」、「哪些鄉鎮的河川水位超過一級警戒」等等,AI Search for KM 便會即時調用內部知識庫及外部即時數據,找出與使用者提問最相關的多個參考內容,從中綜合歸納出答覆。AI Search for KM 具備簡便、容易使用的介面,能快速統整內部及外部、文字及數值的各類數據,在分秒必爭的防災與救災時刻,提升作業效率。

問答情境1 - 分析災情嚴重區域

▲ 問答情境1 – 分析災情嚴重區域

問答情境2 - 調用即時數據,掌握全面性災情

▲ 問答情境2 – 調用即時數據,掌握全面性災情

透過與意藍合作導入 AI Search for KM 系統,災防中心能夠更高效地整合歷史與即時災害數據,在災害發生前後做出精確的災情管理判斷,及時釐清災情狀況並調度人力與資源,落實循證決策、全面提升災害應變能力;未來意藍也將持續與災防中心攜手,逐步實踐智慧城市願景。

亞洲指標AI展
「WAVE 2025(World AI Vision Exhibition)」

意藍將於7/31(四)-8/2(六)參展,攤位編號 B1709
現場將分享我們在 AI 應用上的實務經驗,歡迎有興趣的你一起來交流!

<span style=" display: block; font-size: 0.8em; font-weight: 100; color: #A5A3A3;">精華文章</span>打造企業專屬AI Model :精準賦能  提升決策與營運效能

精華文章打造企業專屬AI Model :精準賦能 提升決策與營運效能

打造企業專屬AI Model :
精準賦能 提升決策與營運效能

在數位轉型與資訊爆炸的現代,不少企業寄望 AI 技術能協助簡化工作流程、提升營運效率,然而在實際導入 AI 的過程中,卻發現通用的AI模型在面對企業內部專業知識、品牌語境或系統整合需求時,難以精準契合,導致應用效益未如預期。究竟如何真正讓AI轉化為營運與決策的助力?本文將帶您認識意藍推出的「企業專屬模型AI Model」,瞭解如何為企業量身打造更高效、貼合需求的AI模型應用服務。

為何企業需要打造專屬AI 模型?

在生成式 AI 技術普及之下,越來越多企業開始導入AI大語言模型以強化營運與決策流程。這類通用模型雖然具備強大的語言理解與生成能力,但由於訓練時多是基於開放性資料,缺乏對企業專業術語、內部流程與產業知識的理解,因此在實際應用上容易出現答非所問、編造內容,甚至資訊洩漏等風險。此外,許多通用模型無法無縫整合企業內部資料庫或系統,亦造成落地困難與開發成本增加。

因此,打造專屬的AI模型,並根據企業獨有的知識體系與資料架構進行訓練與調校,已成為企業邁向AI應用深化的關鍵一步,不僅能提升AI應答的準確率,也能確保回應內容符合內部規範與資訊安全要求,讓AI成為企業可信的智慧助理。

意藍AI Model介紹

AI Model四大功能特色

為打造更貼近企業真實需求的AI模型,意藍運用高品質的知識、外部數據,搭配組織內部的專屬資料進行AI訓練,強調透過事實資料準備法(Fact-based Data)強化四大AI核心能力:

  1. 精準判斷資料關聯性:不僅依賴關鍵字比對,更能進一步理解資料間的邏輯脈絡,迅速識別並掌握關鍵資訊。
  2. 自動萃取重點內容:從大量資料中提取核心資訊,大幅減少人工篩選與整理的工作負擔。
  3. 彈性生成摘要:依據需求調整摘要的長度與風格,將冗長資訊濃縮成清晰簡明的內容,協助快速決策與報告整理。
  4. 即時互動問答:使用者可透過對話方式提問,AI Model便會基於真實資料、根據企業語境,提供準確且具實用的回應。同時,AI Model也具備角色適應能力,可調整語氣與風格,使應答內容更貼近品牌形象,強化顧客互動體驗的一致性。
AI Model導入優勢
在具備核心能力的基礎上,若AI模型的導入過程更快速、靈活,將能進一步提升其在組織內部的應用成效與擴展性。意藍的AI Model具備三大導入優勢:
  1. 資料準備門檻低:企業僅需提供核心知識與關鍵文件,其餘部分可由意藍既有資源支援,透過意藍旗下 「OpView 社群口碑資料庫」,即可即時補足大量市場情報,顯著降低資料整理與清洗的負擔。
  2. 訓練週期短、部署快速:意藍AI Model以自研大語言模型 eLAND GOAT 為基礎,結合企業專屬資料進行訓練,無須從零建模,大幅縮短模型建置時程,相較於傳統模型多需半年以上的訓練時間,AI Model最快僅需 3 至 4 週即可完成訓練並部署上線,加速企業導入流程與應用落地。
  3. 彈性 API 串接:AI Model可依企業需求,彈性串接內部系統與平台,讓 AI 成為工作流程中的智能節點,實現知識查詢自動化、報告輔助撰寫、客服輔助回覆等多樣應用場景。

▲ AI Model 服務流程圖

綜前所述,AI Model結合企業內部專屬知識、外部即時市場情報、深度語境理解能力與靈活高效的系統整合架構,不僅真正「懂企業」,更能貼近企業實際營運與決策需求,成為企業可信賴的智慧助手。

想進一步了解意藍AI Model嗎?

<span style=" display: block; font-size: 0.8em; font-weight: 100; color: #A5A3A3;">2025/06/04</span></br>AI X 50+世代:品牌必知的 AI 市場情報與消費洞察全攻略

2025/06/04
AI X 50+世代:品牌必知的 AI 市場情報與消費洞察全攻略

掌握熟齡消費趨勢,運用 AI 強化行銷實力與知識管理雙軸效能
身為市場消費主力的 50+ 熟齡世代,展現出多元且成熟的生活態度與消費模式,

而如何洞察他們的價值觀與消費型態趨勢,成為品牌策略布局中的一大關鍵課題!

企業如何 運用 AI 洞察市場需求、提升組織工作效率、全面佈局未來?

意藍資訊(6925)持續在 AI 領域耕耘,作為首屈一指的智能數據代表廠商,帶領您探索及掌握 AI 賦能帶來的無限潛力。

非常感謝共襄盛舉的貴賓們!

⁕ 與會者回饋 ⁕

user, interface, agent, usability, account, profile, man

專案經理

可以知道目前品牌與市場趨勢,
透過AI大數據能更清楚趨勢走向~

user, interface, agent, usability, account, profile, man

專案經理

可以知道目前品牌與市場趨勢,透過AI大數據能更清楚趨勢走向~

user, interface, agent, usability, account, profile, woman

產品經理

帶入OpView的案例非常有感,
讓人實際感受到實務上的應用!

user, interface, agent, usability, account, profile, woman

產品經理

帶入OpView的案例非常有感,讓人實際感受到實務上的應用!

user, interface, agent, usability, account, profile, man

總經理室特助

主題性消費洞察很有意義!

user, interface, agent, usability, account, profile, man

總經理室特助

主題性消費洞察很有意義!

⁕ 精彩亮點節錄 ⁕

洞察報告》深入50+的身心樣貌 用數據讀懂新睿世代!

洞察報告》
深入50+的身心樣貌
用數據讀懂新睿世代!

意藍資訊團隊摘錄活動議程中的「用數據讀懂新睿世代:深入50+的健康心理密碼」,運用OpView 洞察50+世代的社群數據,並深入刻畫該族群的心理樣貌,提供企業與政策單位評估市場機會與服務設計的重要參考。

⁕ 精彩分析報告 ⁕

新睿世代 MBTI ── 深入50+的健康心理密碼

新睿世代 MBTI ──
深入50+的健康心理密碼

202503_電通OpView_新睿世代-MBTI-深入50的健康心理密碼-1024x576

除了議程中節錄「用數據讀懂新睿世代:深入50+的健康心理密碼」的部分內容,意藍團隊及電通集團聯手,帶您了解50+族群的心理與消費行為有何特徵?品牌如何與他們溝通?找出最具影響力的市場切入點,開創品牌新機會!

⁕ 精彩議程 ⁕

意藍資訊將持續推出不同主題的研討會,深入淺出展示智能數據在商業當中的應用,能夠如何賦能合作夥伴。

錯過了本場沒關係,歡迎訂閱OpView電子報!

除了可以收到社群趨勢概覽週報,每雙週我們也會提供產業洞察報告,帶您從社群數據了解各品牌、議題,

更能夠在第一時間接收到我們的活動訊息,搶先預訂限量席次!

意藍資訊將持續推出不同主題的研討會,深入淺出展示智能數據在商業當中的應用,能夠如何賦能合作夥伴!

錯過了本場沒關係,歡迎訂閱OpView電子報,除了可以收到社群趨勢概覽週報,每雙週我們也會提供產業洞察報告,帶您從社群數據了解各品牌、議題,更能夠在第一時間接收到我們的活動訊息,搶先預訂限量席次!

<span style=" display: block; font-size: 0.8em; font-weight: 100; color: #A5A3A3;">2025/03/27</span></br>AI AGENT 新時代!驅動組織數位轉型與高效管理

2025/03/27
AI AGENT 新時代!驅動組織數位轉型與高效管理

3 堂課帶你掌握 AI 數據治理 打造數位韌性
在瞬息萬變的數位時代,如何運用 AI 提升決策效能、強化風險管理,並推動組織創新,已成為各組織企業的關鍵課題。
無論是透過大數據分析優化公共服務,或藉由生成式 AI 提升組織作業效率,人工智慧技術正以驚人的速度顛覆傳統模式。
意藍資訊(6925)持續在 AI 領域耕耘,作為首屈一指的智能數據代表廠商,將帶領您探索及掌握 AI 賦能帶來的無限潛力。這場活動不僅將為您剖析最新技術應用,還將揭示如何提升組織效能與創新能力。

非常感謝共襄盛舉的貴賓們!

⁕ 與會者回饋 ⁕

user, interface, agent, usability, account, profile, man

專案經理

學習到許多 AI 應用及解決方案,
受益良多!

user, interface, agent, usability, account, profile, man

專案經理

學習到許多 AI 應用及解決方案,受益良多!

user, interface, agent, usability, account, profile, man

產品經理

透過個案解析更了解意藍的產品,
也更了解 AI 產業!

user, interface, agent, usability, account, profile, man

產品經理

透過個案解析更了解意藍的產品,也更了解 AI 產業!

user, interface, agent, usability, account, profile, woman

數據分析師

對於 AI 的應用有更深一層的認識,
Demo 區內容也很豐富!

user, interface, agent, usability, account, profile, woman

數據分析師

對於 AI 的應用有更深一層的認識,Demo 區內容也很豐富!

⁕ 精彩亮點節錄 ⁕

洞察報告》生成式AI年度趨勢:智慧應用賦能企業未來

洞察報告》
生成式AI年度趨勢:
智慧應用賦能企業未來

意藍資訊團隊摘錄活動議程中的「Gen AI未來視野:年度技術趨勢與革命性應用」,剖析生成式 AI 工具及技術發展趨勢外,展示意藍如何透過 AI 加值輿情觀測,協助企業快速掌握市場動態;另外也呈現如何透過多來源資料訓練,打造企業、組織專屬 AI 模型,成為企業決策的智慧推手。 

AI知識庫》從RAG到eLAND Active RAGᵀᴹ:開創知識管理新篇章

AI知識庫》
從RAG到eLAND Active RAGᵀᴹ:
開創知識管理新篇章

eLAND AI知識庫 文章BN

在「Gen AI 未來視野:年度技術趨勢與革命性應用」議程中,我們分享了隨著人工智慧技術不斷創新突破,開源 AI 崛起,AI 技術開放及模型樣態多元讓進入門檻降低,各式生成式 AI 百花齊放。針對此趨勢變化,意藍資訊結合檢索、生成技術的自然語言處理模型技術,將 RAG 技術發展為獨家專門的eLAND Active RAGTM(主動式檢索增強生成技術),大幅提高知識管理的效率與精準度,使各部門單位能更靈活應對多變的市場需求。

eLAND Active RAGᵀᴹ 在知識管理中的應用實例
eLAND Active RAGᵀᴹ 在知識管理中的應用實例

⁕ 精彩議程 ⁕

意藍資訊將持續推出不同主題的研討會,深入淺出展示智能數據在商業當中的應用,能夠如何賦能合作夥伴。

錯過了本場沒關係,歡迎訂閱OpView電子報!

除了可以收到社群趨勢概覽週報,每雙週我們也會提供產業洞察報告,帶您從社群數據了解各品牌、議題,

更能夠在第一時間接收到我們的活動訊息,搶先預訂限量席次!

意藍資訊將持續推出不同主題的研討會,深入淺出展示智能數據在商業當中的應用,能夠如何賦能合作夥伴!

錯過了本場沒關係,歡迎訂閱OpView電子報,除了可以收到社群趨勢概覽週報,每雙週我們也會提供產業洞察報告,帶您從社群數據了解各品牌、議題,更能夠在第一時間接收到我們的活動訊息,搶先預訂限量席次!

<span style=" display: block; font-size: 0.8em; font-weight: 100; color: #A5A3A3;">精華文章</span>Fine-tuning微調是什麼?打造企業專屬AI大語言模型的關鍵一步

精華文章Fine-tuning微調是什麼?打造企業專屬AI大語言模型的關鍵一步

Fine-tuning(微調)是什麼?
打造企業專屬AI大語言模型的關鍵一步

隨著 AI 技術的蓬勃發展,AI 大語言模型的應用也日益廣泛,從企業決策到內容生成,各行各業都在探索其潛力。然而,AI 模型有時無法準確回應特定需求,或因對特殊領域的知識有限而產生錯誤資訊,此時除了檢索增強生成(Retrieval-Augmented Generation,RAG)技術外,就需要透過 Fine-tuning(微調)技術來進一步優化、提升模型準確度。本文將帶您了解Fine-tuning的運作原理,並介紹其多元的應用與商業價值。

認識 Fine-tuning(微調)

什麼是 Fine-tuning?

Fine-tuning,也就是微調,是一種針對既有 AI 大語言模型進行優化的機器學習技術,透過調整模型權重,使其在特定應用場景下的輸出結果更準確、符合預期。Fine-tuning 保留基礎模型的能力,同時針對特定領域強化應答準確性,相比從零開始訓練一個新模型,大幅節省了開發所需的成本與時間。

為什麼需要 Fine-tuning?

現成通用的 AI 大語言模型雖然功能強大,但在特定領域如法律、醫療、金融、科技製造等產業中,可能無法精確理解專業術語或規則,甚至可能產生錯誤資訊,無法直接應對每個組織或企業的獨特需求。而透過 Fine-tuning,可以讓模型深度學習特定領域的知識、更準確地理解特定語境,進而提升整體專業性與應用價值,成為企業AI部署的重要步驟。

Fine-tuning 運作流程

Fine-tuning 的作業流程通常包括以下幾個步驟:

  1. 選擇預訓練(pre-train)模型

    根據企業組織的需求,選擇合適的 AI 大語言模型,如OpenAI GPT系列、Meta Llama系列、 國科會TAIDE模型、聯發科Breeze模型,或是eLAND GOAT模型等。

  2. 準備微調數據

    提供與任務或應用場景相關的資料作為模型的學習素材,如客服對話紀錄、法律文件、產品規格或研發文件、企業內部資料等,使模型能更準確地理解專業內容並優化回應品質。

  3. 調整模型參數

    透過微調數據對模型進行訓練,更新部分或全部數據資料的權重參數,使其更貼近企業應用場景的需求。

  4. 評估與優化

    藉由準確率(Accuracy)、召回率(Recall)、F1分數(F1 Score)等指標來衡量微調效果,並根據測試結果不斷進行調整與優化,確保模型輸出更符合使用者需求。

經過微調的AI模型,能夠更有效地應對高度定制化的需求,對於企業而言,無論在提升業務效率、改善客戶服務,或者優化內部決策過程中,都能發揮重要作用。

Fine-tuning 於企業中的應用

如前段所述,Fine-tuning 不僅是提升模型準確度的工具,更成為幫助企業提升營運效率、降低成本和創造競爭優勢的關鍵,以下進一步彙整 Fine-tuning 在企業中的三大應用價值:

  1. 增強企業專屬化服務

    透過 Fine-tuning,企業能夠調整 AI 模型的回應語氣、風格與內容,從而提供更具個性化的服務體驗。例如,在客服領域,企業可以根據不同客戶群體的特性、偏好或文化背景,調整模型的回應方式,進一步提升顧客滿意度;在科技製造業,許多特殊的產品規格、專業的用字及術語,都可以透過微調模型,讓研發人員在使用上更順暢。

  2. 提升專業知識掌握度

    Fine-tuning 可強化 AI 在特定領域的知識理解與應用能力,特別適用於法律、醫療、金融等高度專業的行業。例如,透過 Fine-tuning,使 AI 更熟悉特定的專利法條文與案例,不僅能幫助法律人員更快地檢索相關判例,還能協助草擬專業的法律文書,從而提高工作效率並確保法律建議的精準性。

  3. 提升業務流程的自動化與效率

    Fine-tuning 可根據企業的運營需求進行調整,使 AI 更精準地理解並執行特定任務,進而提升業務流程的自動化程度與運營效率,並降低人為錯誤。例如,在銷售自動化方面,一家電子商務公司可透過 Fine-tuning 優化 AI 銷售助理,使其根據顧客的購物歷史與個人偏好,自動生成量身定制的促銷訊息或產品推薦。如此一來,AI 不僅能更準確地預測顧客需求,還能主動推送適合的產品與折扣資訊,提高銷售轉化率,同時減輕銷售人員的工作負擔。

Fine-tuning 的優勢與挑戰

綜合來說,Fine-tuning 的核心價值在於 將 AI 從「通用」變成「專屬」,「標準化」變成「個人化」,讓企業能更有效地利用 AI 工具滿足需求。運用微調技術,企業可以大幅減少每次與 AI 互動所需的 Token 數量,從而降低運行成本。此外,企業可在內部環境中訓練 AI,既能確保敏感資料不外流,也能強化資料安全性,而經內部數據微調後的 AI ,能更快速生成精確回應,提升互動流暢度並減少錯誤資訊的風險。

而雖然 Fine-tuning 具有諸多好處,但是也具備一定的技術難度。一般而言,Fine-tuning 需克服的挑戰如下:

  1. 選擇合適的預訓練(pre-train)模型及微調方法

    在技術層面, Fine-tuning 微調可採用多種不同的方法,如何在保留模型原有能力(capability)的同時,又獲得最好的學習效果,需仰賴有經驗的專家給予指導,並進行系統化的實驗。

  2. 準備適當的訓練資料集

    微調數據的數量、品質以及形式都將直接影響最終成果。大量但品質低劣或格式不佳的數據,未必能得到好的微調結果;而具備高品質、形式佳的數據,即便數量有限,仍可透過數據合成(data synthesis)或強化等技術的輔助,也可能有利於微調的成功。

  3. 確保適當的運算資源

    在 Fine-tuning 微調模型時,通常需要比模型推論(inference)更多的資源,如算力和記憶體等,而有時不一定一次就能微調成功,可能需要多回合地嘗試。因此,如何有效地運用算力及資源、提高微調成功率,也是必須克服的挑戰之一。

綜前所述, Fine-tuning 是企業打造專屬 AI 模型的重要技術,能協助企業更靈活應對市場變化、拓展創新應用,無論是提升客戶服務、優化內部流程,或創造新的商業價值,都將成為數位轉型與業務成長的關鍵。若企業希望充分發揮 Fine-tuning 的效益,則可選擇與具備經驗的廠商合作,以降低試錯成本與時間,提高成功率並加速導入。

想進一步了解更多意藍AI技術嗎?
<span style=" display: block; font-size: 0.8em; font-weight: 100; color: #A5A3A3;">精華文章</span>從RAG到eLAND Active RAGᵀᴹ: 開創知識管理新篇章

精華文章從RAG到eLAND Active RAGᵀᴹ: 開創知識管理新篇章

從RAG到eLAND Active RAGᵀᴹ:開創知識管理新篇章

在數位化時代,資訊量爆炸式增長,如何有效地蒐集、整理、儲存並運用知識,無疑是各企業組織提升競爭力的關鍵之一,良好的知識管理不僅能縮短決策時間,還能提高員工效率、促進創新,以在快速變化的環境中保持彈性與活力。檢索增強生成技術(Retrieval-Augmented Generation, RAG)的出現,為知識管理帶來了全新突破,而透過引入多輪次資料整合與更高效的檢索能力,意藍進而將RAG 技術發展為獨家專門的eLAND Active RAGTM(主動式檢索增強生成技術),大幅提高知識管理的效率與精準度,使各部門單位能更靈活應對多變的市場需求。

本期 AI 知識庫亮點

主動式檢索增強生成技術如何重塑知識管理
  1. 認識eLAND Active RAGᵀᴹ ── 主動式檢索增強生成技術
  2. 導入主動式檢索增強生成技術對知識管理的影響
eLAND Active RAGᵀᴹ 在知識管理中的應用實例

主動式檢索增強生成技術如何重塑知識管理

知識不僅是企業組織日常運營的基礎,更是其持續發展和創造價值的核心驅動力,透過有效的知識管理,能夠累積並共享內部專業知識,進而減少重複性工作,促進跨部門合作、優化決策過程並提高運營效率。然而,傳統的知識管理方法往往面臨資訊分散、無法即時更新及搜尋效率低下等挑戰,使得企業在應對快速變化的業務需求時,可能需投入較多時間和資源以達成目標。

而檢索增強技術的出現,逐步突破了這些障礙,它結合了搜尋引擎快速檢索的優勢與大語言模型的生成能力,在生成答案前先檢索最新的相關資訊,以確保結果更可靠精準。特別是意藍所獨家發展之進階版本——主動式檢索增強生成技術(eLAND Active RAGᵀᴹ),更是在此基礎上實現突破,能針對複雜的問題進行多回合查詢,逐步完善答案,大幅提升知識檢索效率,為知識管理帶來嶄新的轉機。

認識eLAND Active RAGᵀᴹ ── 主動式檢索增強生成技術
eLAND Active RAGᵀᴹ(主動式檢索增強生成)是在RAG(檢索增強生成)的基礎上進一步升級的技術,具備以下核心功能特性,使其在知識管理中更具優勢:
  1. 內外部數據動態整合:
    eLAND Active RAGᵀᴹ 能根據問題性質,自動判斷最佳數據來源,從內部系統、資料庫以及外部網站等多元數據庫中進行查詢,並進行綜合分析,使生成之回覆不再僅依賴過時數據,而是根據最新資料產出精確、全面的結果。
  2. 語義理解與推理:
    與傳統基於靜態關鍵詞的檢索方式不同,eLAND Active RAGᵀᴹ 能夠理解語句的語義,並依據問題的背景進行推理和回應,使結果更相關且精準。例如,對於問題「如何優化員工的工作流程?」,系統會理解問題的核心是提升工作效率,並基於此提供具體的建議,如檢視現有工具的使用情況、引入自動化流程或改善跨部門協作等。
  3. 多回合查詢與自主優化
    eLAND Active RAGᵀᴹ 能根據已獲得之初步資訊動態調整查詢策略,多回合查詢以逐步完善答案,從而實現更深入的問題解決和分析。例如,對於「如何提升某產品市場佔有率?」的提問,在第一輪查詢時先自內部資料中提取產品的銷售數據,提供概括性分析;接著,再根據已取得的結果,進一步從外部資料庫提取相關細節,如競品的市場策略、消費者對產品的反饋等,於後續查詢中補充數據背景或上下文資訊。
導入主動式檢索增強生成技術對知識管理的影響
綜上所述,導入主動式檢索增強生成技術將對知識管理帶來深遠影響,主要體現在以下幾個方面:
  1. 提升數據整合能力,突破資訊孤島
    支援內外部數據的動態整合,能夠從企業內部資料庫、檔案系統到外部網站、公開數據源中提取所需資訊,並進行綜合分析,有效解決了傳統知識管理中數據分散、無法即時更新的難題。
  2. 增強問題理解與回應的精準性
    理解使用者提問的核心意圖,並結合問題背景進行智能推理,提供更精準且相關的答案,大幅提升知識檢索的有效性,避免使用者因模糊或不相關的資訊浪費時間。
  3. 提升知識應用價值
    透過 eLAND Active RAGᵀᴹ,能將分散的資訊轉化為結構化且易於應用的知識,例如生成與決策相關的報告或建議方案,協助企業組織快速識別業務機會或解決問題,抑或縮短內部問題回應時間、提升市場預測準確度,進而實現更高效的資源配置。

eLAND Active RAGᵀᴹ 在知識管理中的應用實例

意藍的新一代生成式AI知識管理系統 AI Search for KM 便結合了 eLAND Active RAGᵀᴹ 以及搜尋引擎、NLP與大語言模型等技術,提供使用者更高效、智能的知識搜尋與問答服務體驗,其應用情境相當多元,對複合型知識任務具備強大處理能力,能夠主動拆解複雜問題並完成知識任務,以下將舉例說明。
當對系統提問「少子女化對社會產生什麼樣的衝擊?」,在 eLAND Active RAGᵀᴹ 的輔助下,系統將依循以下步驟進行運作,確保提供精準且有所依據的回答:

  1. 拆解任務及選用工具

    系統首先分析問題,識別核心關鍵字(如「少子女化」、「社會衝擊」),並將問題拆解為可操作的子任務。接著,系統檢視可用的資料來源,如政策資料庫、最新的媒體報導、少子女化相關的學術研究與報告等,並選定最符合此問題的資料來源作為後續查詢的基礎。

  2. 生成輸入參數

    根據問題內容與選定資料庫,系統會再進一步生成適配的查詢參數,即設定一組適合用來搜尋資料的條件,並以設定之參數為基礎,啟動後續資料檢索過程。例如:

    – 關鍵字:少子女化、社會影響、政策、新聞、研究計畫。
    – 時間範圍:過去1年的相關資料。
    – 查詢格式:結構化的API請求或自然語言查詢。

  3. 解析輸出結果

    接著,系統會對檢索到的資料進行整理與分析,例如自少子女化相關的新聞報導中,統計出過去一年該議題的討論成長率,或是從研究資料中,彙整人口統計變化以及對社會經濟的具體影響點。

  4. 進行判斷及回覆

    最後,系統將檢視目前取得的資訊是否足以回答問題。若資訊足夠,則系統便會根據統計之結果與分析,生成針對使用者提問的回答,如「少子女化對社會的衝擊包括勞動力減少、教育資源分配過剩及老齡化社會負擔增加等。」
    而若判斷資訊仍不足,系統則會重新進行檢索、調整參數(如擴大時間範圍或查詢更多資料庫),最多重複三次,以確保回答的完整性與準確性。

無論是企業組織或公部門單位,在 AI Search for KM 及 eLAND Active RAGᵀᴹ 的助力下,將能夠實現更高效、更精準的資訊處理與應用,發揮知識管理的最大價值。

想進一步了解「新一代生成式AI知識管理系統(AI Search for KM)」?

Copyright eLAND Information Co., Ltd.