AI Search 電子報 | vol.06 企業如何與 AI Agent 協作打造高效工作流程?

AI Search 電子報 | vol.06 企業如何與 AI Agent 協作打造高效工作流程?

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

從理解到協作:AI Agent 為企業打造高效工作流程

前 2 年,企業導入 AI 主要用來回應問題或加快資訊處理速度。但自今年起,企業更期待 AI 能主動思考、完成多步驟任務,這也讓「AI Agent(AI代理)」成為新一代 AI 應用的核心焦點。不同於先前只能被動執行指令的 AI,AI Agent 具備自主感知、決策與行動能力,能像一位可靠的虛擬助理,協助你完成多步驟任務、主動分析資訊,甚至隨著使用次數越多越聰明。本文將帶你全面認識 AI Agent 的概念、運作流程與實際應用價值。

什麼是AI Agent(AI代理)?

AI Agent 定義 / 基本概念

AI Agent,是一種具備自主決策與行動能力的人工智慧系統。與傳統 AI 需要明確指令才能運作不同,AI Agent 不僅能理解任務本身,更能推敲背後的目標、從環境中感知資訊,並根據累積的經驗做出最佳決策;簡單來說,它不只是「能做」,而是「知道為何做、該怎麼做、接下來該做什麼」。AI Agent 通常具備以下四大能力:

  1. 目標導向(Goal-oriented):可以根據使用者指定的目標,自行規劃任務執行流程。
  2. 感知能力(Perception):能自外部環境或使用者互動中,擷取關鍵資訊。
  3. 記憶與學習(Memory & Learning):擁有記憶機制,可學習並累積過去的經驗,進一步優化未來表現。
  4. 自主行動(Autonomous Action):能主動採取行動,如呼叫 API、使用工具、完成多步任務等。
AI Agent 與一般生成式AI的差異

一般的生成式 AI 多半仰賴輸入指令來完成特定任務,例如當使用者輸入問題時,AI 便根據資料庫回傳答案。而 AI Agent 則更進一步強調「任務導向」與「自主規劃」,它不僅聽得懂指令,更能主動思考「要怎麼完成這項任務最有效率」。
舉例來說,如果你希望 AI 幫你撰寫一份市場報告,一般的 AI 應用能基於所學習過的知識來回應問題;而 AI Agent 則會主動搜尋多個資料來源、整合內容、過濾重複資訊,甚至回顧以往你提供的文字風格偏好,自動調整格式與語氣,自主性和靈活性大幅提升,真正成為一位可靠的虛擬助理

AI Agent 工作流程解析

隨著 AI Agent 技術成熟,其應用場景已從簡單的聊天對話,逐漸延伸到多步驟、跨系統的企業任務處理。以下列舉 5 個高潛力應用場域:

  1. 客戶服務:不只是回覆問答,AI Agent 更能記住過往對話脈絡、主動追蹤處理進度,甚至呼叫內部 CRM 系統查詢資訊。
  2. 推薦系統:透過 AI Agent,電商零售平台可根據使用者站內行為與搜尋內容,主動推薦合適商品,並整合庫存、優惠與物流資訊,提升購物體驗與下單意願。
  3. 法務工作:AI Agent 能支援提供案件摘要、撰寫法律文件草案、查找相關判例等任務,提升法務工作效率與準確性。
  4. 金融投資:即時分析市場資訊、監控資產波動,並根據個人投資偏好,提出個人化的理財建議,或執行條件式自動交易。
  5. 輿情分析與策略規劃:AI Agent 能接收開放式提問,自動檢索最新網路聲量趨勢、熱門關鍵詞等資料,生成結論或建議,協助企業快速掌握輿情風向與行銷重點。

綜上所述,AI Agent 的出現,象徵著企業 AI 應用邁入新階段,從被動使用工具,到擁有一位能主動協助任務的智慧虛擬助理。在生成式 AI 已成標配的當下,具備任務理解與自主執行能力的 AI Agent,正成為企業深化數位轉型的關鍵,透過減少重複性工作、加快決策流程、優化資源配置,AI Agent 能有效提升整體營運效能,為企業打造更高效、智慧的營運模式。

公共治理新利器:AI 在員額評鑑的應用效益

近年來,各級政府積極推動數位轉型,各種AI 工具被廣泛導入於資料處理、行政作業與公共服務中,為智慧治理奠定了基礎。其中,「員額評鑑」是需要跨部會協作的大型作業,過程中必須整合來自不同單位的大量人事資料、並加以比對與分析,以作為人力配置與政策規劃的重要依據。這類作業流程在傳統做法多仰賴人工,往往需要投入可觀的時間與人力來完成,而隨著資料規模逐年增加,以及各政府單位對政策即時性與精準度的需求提升,如何運用新技術來提升效能,已成為重點發展方向。

為何員額評鑑專案需導入 AI 技術?

員額評鑑是人力配置與政策規劃的重要基礎,然而在傳統作業流程中仍存在一些挑戰,主要包含以下幾個面向:
  1. 資料分散與格式不一:各單位的人事資料往往分布於不同系統,各自採用的格式與欄位設計可能也不完全一致,因此在整合過程中需要額外的整理與比對步驟。
  2. 計算規則繁複:評鑑作業涉及缺額比率、配置比例等多種指標,每一項都需要依循特定規則計算,當數據量龐大時,往往需要投入大量人力與時間。
  3. 報告撰寫一致性:由不同人員撰寫的分析報告,常因表達方式或重點選擇不同,而在結構與呈現上存在差異,使得跨單位報告之間,雖各自完整,但難以直接逐項對照。
  4. 決策資訊延伸有限:傳統報告多偏重數字與表格呈現,雖能反映現況,但較少延伸至趨勢研判或策略建議等,若要做為高層決策時的參考依據,則需再投入額外時間進行解讀。
  5. 評鑑作業的持續性需求:員額評鑑不是單次作業,而是需長期推動與追蹤的核心管理機制,過程中必須同時參考當期數據、歷年人力發展計畫以及現行施政方針,進行跨期的比對與差異分析;若僅依靠人工,可能造成比對標準不一致或耗費過多時間。

員額評鑑專案採用 AI Agent 之效益

針對上述痛點,導入AI技術成為理想的解決方案。其中,「AI Agent」與一般仰賴接收指令、並自既有資料庫中搜尋回傳答案的生成式 AI 相比,具備了任務導向與自主規劃能力,不僅能進一步理解指令,還能主動拆解任務流程、規劃執行步驟,在更複雜的任務中發揮價值;而在公共治理的情境中,這樣的特性特別適用於員額評鑑這類需要跨部會協作、涵蓋資料龐大的任務。
意藍作為台灣代表性的智能數據廠商,便曾協助公部門單位執行員額評鑑之專案。在專案中,我們以 AI Agent 架構貫穿解決方案,並結合「自動化流程」與「大語言模型生成」,協助整合不同來源的資料、依規則完成計算與標註,進一步生成具體的分析與建議。

專案執行主要分為四個層面,各自帶來的效益如下:

  1. 資料整合與分類:透過自動化工具,將不同來源的員額數據表格與其他業務系統資料彙整成統一格式,並依照特定評鑑面向進行分類。這一步驟大幅降低了人工清理資料的時間成本,並確保後續分析的基礎更為穩定。
  2. 自動化計算與重點標註:系統依照既定規則,自動完成缺額比率計算,並即時以紅字粗體標註超過整體平均值的單位。這樣的標註機制能幫助決策者迅速聚焦於需優先關注的重點,而不必再逐一比對大量數據。
  3. AI 報告生成與摘要:借助大語言模型,將枯燥的數據轉化為文字敘述,自動生成完整報告。報告中不僅包含增減員因素分析,還能提出具體的改善建議與政策回應,例如留才策略、配置建議等,使報告真正具備決策參考價值。
  4. 共通性問題分析:除了單位別的數據與建議外,AI Agent 也能跨單位自動彙總共通性問題,並生成全域性的分析。這使得高層在制定政策時,不再只看到單點狀況,而能獲得更全面的參考視角。

綜上所述,AI Agent 的導入全面優化了員額評鑑流程,從資料整合、計算、報告撰寫到跨單位分析,都能以更高的效率及一致性完成,不僅減少人力負擔,更提升成果的決策參考價值,驗證了智慧公共治理中的 AI 應用潛力。

2025 意藍 AI 數據年會線上場 熱烈報名中!

即將在9/16(二) 台大集思會議中心舉行,匯聚400+產業菁英,
帶您一次掌握企業決策、產業應用、落地案例,
歡迎前往報名!

AI Search 電子報 | vol.05 企業不只部署 AI,該如何透過 Fine-tuning 找到最佳解?

AI Search 電子報 | vol.05 企業不只部署 AI,該如何透過 Fine-tuning 找到最佳解?

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

不只是訓練,更是優化:Fine-tuning 在企業 AI 應用的角色

隨著 AI 技術的蓬勃發展,AI 大語言模型的應用也日益廣泛,從企業決策到內容生成,各行各業都在探索其潛力。然而,AI 模型有時無法準確回應特定需求,或因對特殊領域的知識有限而產生錯誤資訊,此時除了檢索增強生成(Retrieval-Augmented Generation,RAG)技術外,就需要透過 Fine-tuning(微調)技術來進一步優化、提升模型準確度。本文將帶您了解Fine-tuning的運作原理,並介紹其多元的應用與商業價值。

認識 Fine-tuning(微調)

什麼是 Fine-tuning?
Fine-tuning,也就是微調,是一種針對既有 AI 大語言模型進行優化的機器學習技術,透過調整模型權重,使其在特定應用場景下的輸出結果更準確、符合預期。Fine-tuning 保留基礎模型的能力,同時針對特定領域強化應答準確性,相比從零開始訓練一個新模型,大幅節省了開發所需的成本與時間。
為什麼需要 Fine-tuning?
現成通用的 AI 大語言模型雖然功能強大,但在特定領域如法律、醫療、金融、科技製造等產業中,可能無法精確理解專業術語或規則,甚至可能產生錯誤資訊,無法直接應對每個組織或企業的獨特需求。而透過 Fine-tuning,可以讓模型深度學習特定領域的知識、更準確地理解特定語境,進而提升整體專業性與應用價值,成為企業AI部署的重要步驟。
Fine-tuning 運作流程

Fine-tuning 的作業流程通常包括以下幾個步驟:

  1. 選擇預訓練(pre-train)模型

    根據企業組織的需求,選擇合適的 AI 大語言模型,如OpenAI GPT系列、Meta Llama系列、 國科會TAIDE模型、聯發科Breeze模型,或是eLAND GOAT模型等。

  2. 準備微調數據

    提供與任務或應用場景相關的資料作為模型的學習素材,如客服對話紀錄、法律文件、產品規格或研發文件、企業內部資料等,使模型能更準確地理解專業內容並優化回應品質。

  3. 調整模型參數

    透過微調數據對模型進行訓練,更新部分或全部數據資料的權重參數,使其更貼近企業應用場景的需求。

  4. 評估與優化

    藉由準確率(Accuracy)、召回率(Recall)、F1分數(F1 Score)等指標來衡量微調效果,並根據測試結果不斷進行調整與優化,確保模型輸出更符合使用者需求。

經過微調的AI模型,能夠更有效地應對高度定制化的需求,對於企業而言,無論在提升業務效率、改善客戶服務,或者優化內部決策過程中,都能發揮重要作用。

Fine-tuning 於企業中的應用

如前段所述,Fine-tuning 不僅是提升模型準確度的工具,更成為幫助企業提升營運效率、降低成本和創造競爭優勢的關鍵,以下進一步彙整 Fine-tuning 在企業中的三大應用價值:
  1. 增強企業專屬化服務
    透過 Fine-tuning,企業能夠調整 AI 模型的回應語氣、風格與內容,從而提供更具個性化的服務體驗。例如,在客服領域,企業可以根據不同客戶群體的特性、偏好或文化背景,調整模型的回應方式,進一步提升顧客滿意度;在科技製造業,許多特殊的產品規格、專業的用字及術語,都可以透過微調模型,讓研發人員在使用上更順暢。
  2. 提升專業知識掌握度
    Fine-tuning 可強化 AI 在特定領域的知識理解與應用能力,特別適用於法律、醫療、金融等高度專業的行業。例如,透過 Fine-tuning,使 AI 更熟悉特定的專利法條文與案例,不僅能幫助法律人員更快地檢索相關判例,還能協助草擬專業的法律文書,從而提高工作效率並確保法律建議的精準性。
  3. 提升業務流程的自動化與效率
    Fine-tuning 可根據企業的運營需求進行調整,使 AI 更精準地理解並執行特定任務,進而提升業務流程的自動化程度與運營效率,並降低人為錯誤。例如,在銷售自動化方面,一家電子商務公司可透過 Fine-tuning 優化 AI 銷售助理,使其根據顧客的購物歷史與個人偏好,自動生成量身定制的促銷訊息或產品推薦。如此一來,AI 不僅能更準確地預測顧客需求,還能主動推送適合的產品與折扣資訊,提高銷售轉化率,同時減輕銷售人員的工作負擔。

Fine-tuning 的優勢與挑戰

綜合來說,Fine-tuning 的核心價值在於 將 AI 從「一般通用」變成「企業專屬」,讓企業能更有效地利用 AI 工具滿足需求。運用微調技術,企業可以大幅減少每次與 AI 互動所需的 Token 數量,從而降低運行成本。此外,企業可在內部環境中訓練 AI,既能確保敏感資料不外流,也能強化資料安全性,而經內部數據微調後的 AI ,能更快速生成精確回應,提升互動流暢度並減少錯誤資訊的風險。

而雖然 Fine-tuning 具有諸多好處,但是也具備一定的技術難度。一般而言,Fine-tuning 需克服的挑戰如下:

  1. 選擇合適的預訓練(pre-train)模型及微調方法

    在技術層面, Fine-tuning 微調可採用多種不同的方法,如何在保留模型原有能力(capability)的同時,又獲得最好的學習效果,需仰賴有經驗的專家給予指導,並進行系統化的實驗。

  2. 準備適當的訓練資料集

    微調數據的數量、品質以及形式都將直接影響最終成果。大量但品質低劣或格式不佳的數據,未必能得到好的微調結果;而具備高品質、形式佳的數據,即便數量有限,仍可透過數據合成(data synthesis)或強化等技術的輔助,也可能有利於微調的成功。

  3. 確保適當的運算資源

    在 Fine-tuning 微調模型時,通常需要比模型推論(inference)更多的資源,如算力和記憶體等,而有時不一定一次就能微調成功,可能需要多回合地嘗試。因此,如何有效地運用算力及資源、提高微調成功率,也是必須克服的挑戰之一。

綜前所述, Fine-tuning 是企業打造專屬 AI 模型的重要技術,能協助企業更靈活應對市場變化、拓展創新應用,無論是提升客戶服務、優化內部流程,或創造新的商業價值,都將成為數位轉型與業務成長的關鍵。若企業希望充分發揮 Fine-tuning 的效益,則可選擇與具備經驗的廠商合作,以降低試錯成本與時間,提高成功率並加速導入。

AI 在金融業的價值:把資訊轉化為即時決策力

協助金控企業整合內外部數據,以權限控管提升知識管理效能

以大型金控企業為例,其組織規模龐大、檔案文件眾多且分散,故希望能將專業知識與大型語言模型整合,提供各部門自建 AI 大腦與客製化 AI 助理,實現全面的教育訓練與技術轉移計劃,並有效提升業務效率,且需根據不同部門進行權限控管設定。

而在大型金控企業的服務流程中, AI Search for KM 首先會從使用者帳號、其輸入的問題進行權限判斷,確保符合企業機敏資料的資安規範。另 AI Search for KM 不僅支持使用者上傳內部檔案作為分析標的,還能向外部網站、外部指定資料庫、現有搜尋引擎資料結果進行資料查詢請求,並優化檔案內容之解析效果,以幫助問答結果更加精準。如與《OpView 社群口碑資料庫》做串接,便能提供企業即時掌握市場輿情資料等外部動態,透過多元數據整合,打造全面的知識數據中心,讓企業能夠應對快速變動的產業環境,實現更智能化的知識搜尋與決策支持服務。

問答情境展示

搜尋內部知識 - 智能辨識使用者所屬部門,提供精準且差異化的專屬回覆

下圖中如證券部門與期貨部門人員同樣詢問「當沖交易的限制」,系統便能自動判別其所屬部門,並提供「證券交易的限制」與「期貨當沖交易的限制」兩種版本之完整回覆:智能辨識使用者所屬部門,提供精準且差異化的專屬回覆

串接外部資料 - 結合即時市場數據與輿情分析,提供多元化預測視角

而若是提問上市櫃企業「近期的議題重點及未來一周股價預測」,AI Search for KM 也能調用即時市場數據,並給出完整、多元的回應與預測看法,快速整理社群媒體近期的熱議焦點供使用者做參考:

 

智能辨識使用者所屬部門,提供精準且差異化的專屬回覆

進階應用 - 檢查與生成文件

結合生成式 AI 與 NLP 技術,智慧助理系統支援法規知識檢索、跨文件整合與一致性檢查,協助承銷人員快速消化龐雜資料並生成報告,提升效率與正確性,全面優化金融作業流程。

2025意藍 AI 數據年會 熱烈報名中!

即將在9/16(二) 台大集思會議中心舉行,匯聚400+產業菁英,
帶您一次掌握企業決策、產業應用、落地案例,
歡迎前往報名!

AI Search 電子報 | vol.04 資訊零散難管理?這4步驟幫你解,知識活化立即上線

AI Search 電子報 | vol.04 資訊零散難管理?這4步驟幫你解,知識活化立即上線

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

翻轉資訊散落困境,4 步驟推動企業知識活化

隨著市場上的競爭日益激烈,如何有效推動知識管理成為了企業提升競爭力的關鍵;然而,許多企業在推動知識管理的初期,常常不知如何起步。知識管理不僅涉及知識的識別、儲存,更包括如何系統性地分享和應用這些知識,本文將介紹知識管理的基本概念,並說明可以從哪些面向著手建立和推動知識管理體系,最後深入探討生成式AI如何為知識管理領域帶來革新。

知識管理概念介紹

知識管理是什麼?

知識管理 (Knowledge Management, KM) 是指在企業或組織內部,對知識進行系統性的蒐集、保存、組織、分享和應用的過程,將分散在個人、團隊和系統中的知識轉化為整個組織可以利用的資產,進而提升組織的營運能量和整體競爭力。

知識管理如何提升企業競爭力?
知識管理可以透過以下多種面向提高企業競爭力:
  1. 改善營運效率:藉由知識管理,員工可以分享和存取企業或組織內部的資訊,在遇到問題時,也能通過知識庫或企業內部的知識分享平台迅速找到解決方案,避免重新投入時間和資源去解決過去發生過的問題,進而提升生產力與整體營運效率。
  2. 加速創新能力:企業可以透過知識管理,從現有技術和過往經驗中持續學習,並不斷進行優化,加速產品的創新及發展進程。
  3. 提高決策品質:知識管理促進了既有知識與資源的整合,使企業能夠記錄和分析過去的決策及其結果,藉此更準確地預測市場風險和潛在挑戰,加速決策過程並提升決策精準度。
  4. 經驗傳承:知識管理有助於經驗的傳承,除了避免人員重複學習和研究,也可以減少因員工離職或崗位變動造成的知識流失。

企業推動知識管理4步驟​

從零開始推動知識管理是一個需要循序漸進的系統化過程,涉及多個層面的協同與整合,而企業可以從以下四個步驟著手:

  1. 知識需求分析:分析企業內部的知識需求,確定哪些知識對企業的運營和發展至關重要,並識別現有知識資源和潛在的知識缺口;同時盤點目前的知識管理狀況,包括知識儲存方式、知識共享文化以及技術基礎設施等,找出需要改進的領域。
  2. 整合發展目標並制定策略:根據需求分析的結果,制定詳細的知識管理計劃,包括如何蒐集、存儲、分享和應用知識,並設定具體的里程碑,將知識管理融入企業發展策略中。
  3. 營造知識分享文化:持續宣導知識分享對於個人和企業長期發展的重要性,除了高層人員以身作則外,也通過培訓、激勵措施或知識管理競賽等,鼓勵員工主動分享經驗與知識,抑或讓知識物件的經營成為員工績效評估的加分專案。
  4. 導入適當技術:結合生成式AI人工智慧技術,對企業內外部知識進行系統性盤點,建構一站式資訊平台,實現 AI 輔助的知識檢索與問答,提供知識的分享、學習、再運用與創新,包括知識地圖、專家黃頁、知識社群、結構化在職訓練及問答等。
而若是原先就有既有知識庫的企業,則可以透過以下方式優化並提升知識運用效率:
  1. 評估現有知識庫:全面審視企業內部的知識庫,包括其結構、格式、內容及涵蓋範圍,識別關鍵知識,以及和潛在需要補強的地方。
  2. 導入新一代生成式AI知識管理系統:對現有知識庫與生成式AI知識管理系統進行整合,並利用AI的自然語言處理能力,提升知識檢索的準確性以及效率。
  3. 即時更新與動態適應:建立即時更新機制,確保知識庫中的內容能即時、動態調整,以快速反映業務需求和市場變化。
  4. 加強處理非結構化資料:透過語意分析技術,將非結構化資料轉換為結構化資料,並結合生成式AI技術,利用其自然語言理解和生成能力,自動化處理大量非結構化資訊,將其轉化為可檢索和使用的知識,提高知識庫的全面性和實用性。

生成式 AI 對知識管理的影響

隨著生成式 AI 技術的發展,其為知識管理領域帶來了重要的革新。在技術層面上,它讓知識的檢索變得更為彈性;在應用層面上,則讓使用者能更有效且快速地吸收相關知識。

技術面的影響:搜尋檢索更彈性,更容易學習上手

傳統的知識檢索方式主要仰賴關鍵字檢索與預設的分類樹結構,而這樣的檢索方式存在兩個痛點:

  1. 對於使用者來說,較難將問題轉換成複雜的關鍵字組合進行提問,也因此使用門檻較高。
  2. 關鍵字的檢索多是以「關鍵字組合的出現次數」作為搜尋依據,無法反映出問題與參考文本間的語意關係,造成檢索結果可能與用戶期望有所偏差。

將生成式 AI 導入知識管理領域後,應用其「自然語言對話」的特性,可以有效解決上述兩個痛點:

  1. 生成式 AI 允許使用者以自然語句直接輸入問題進行提問,用戶無須把問題轉換成複雜的關鍵字組合,降低了使用門檻。
  2. 生成式 AI 能夠更好地理解問題的語意,使搜尋結果能夠更準確地反映問題的內容,並找到與問題真正相關的參考文本。此外,生成式 AI 可以生成淺顯易懂的答案,直接解決使用者的問題。 
導入及使用上的影響:更有效的知識吸收與消化

傳統的知識管理,在導入及使用上往往停留在「檔案」層級,使用者須透過關鍵字檢索找到最可能的檔案後,自行閱讀數十甚至上百頁的內容,從中找出與問題相關的資訊,再進一步消化以解答問題;而這樣的架構將使得用戶無法「快速且有效」地吸收、消化知識。

引入生成式 AI 技術後,這一問題則能得到顯著改善。生成式 AI 將知識管理提升到「答案」層級,利用 AI 的語意理解及自然語言問答能力,讓使用者可以直接獲取系統所參考的資料庫中相關檔案的段落,並生成白話回答,協助使用者高效達成知識消化及吸收的目標。

企業導入 AI Search for KM 之優勢

意藍的 AI Search for KM 即是整合生成式 AI、高速搜尋引擎與 NLP 技術的新一代 GenAI 知識管理工作平台,其所具備的功能特色如下:

  1. 支援多種檔案格式:支援各種常見的檔案格式,包含常用的 Office、PDF、文字檔等等,滿足企業需求。
  2. 權限控管機制:確保使用者僅能查詢到自己有權限查看的檔案與文件,避免資料洩露,滿足企業管控機敏資訊、劃分部門權限等需求。
  3. 全文檢索:系統不僅能夠檢索檔案的標題和內文,也能查詢作者及其他相關資訊,提供廣泛且彈性的資料檢索範圍,提升使用者找到所需資訊的效率。
  4. 支援對話問答:支援使用者以對話問答方式與系統互動,並會根據問題和參考資料提供口語化的回答,幫助使用者輕鬆理解和應用所得知識。
  5. 支援地端或雲端服務:企業可以根據自身需求選擇最合適的部署方式,導入雲端或是地端服務,並可根據不同使用情境和文件資料需求切換不同的大型語言模型。

而對於企業而言,導入 AI Search for KM 具有以下優勢:

  1. 降低人力成本:透過自動化搜尋和回答的功能,有效減少員工手動處理知識資訊的需求,簡化知識搜尋與管理流程,節省人力成本。
  2. 提升作業效率:因支援多種格式的檔案管理,使得資訊不再分散,方便員工找到所需資料,並提供即時準確的回答,縮短員工資訊獲取時間。
  3. 增強知識內化與應用:支援自然語言互動方式,讓員工能以白話文提問,快速獲得所需知識,從而提升消化和應用知識的效率與準確度。
  4. 強化資料安全與隱私:具有權限控管機制,確保只有具備相應權限的人員才能查找和檢視資料,且系統支援地端服務,能有效防範內外資料洩露風險。
  5. 促進知識共享與協作:可整合不同來源的資料,讓各部門的員工都能輕鬆提問和搜尋知識,促進團隊合作交流。

推動知識管理對企業的長期發展至關重要,不僅是提升競爭力的核心,更是確保企業持續創新和應對市場變化的基礎。隨著生成式 AI 技術的引入,知識管理的應用層次也得到了極大提升,透過導入合適的知識管理系統,企業便能更靈活地管理和運用知識資源,從而在競爭激烈的市場中保持領先地位。

從碎片資料到即時答覆,AI 助力政府循證治理升級

隨著社會對於數據的信賴與依賴度愈發提升,近年來「循證治理」也開始備受重視,固本案旨在協助單位推廣運用資料科學於政府政策決策上,運用前瞻性的觀測分析工具,有效利用過去累積及研究團隊蒐集的大量資料,如相關座談、論壇等,進行社會趨勢的深入分析,精準辨識影響國家發展的關鍵社會課題。 而為了提升政府對公眾問題的回應能力與透明度,意藍透過生成式 AI 人工智慧與檢索增強生成技術(RAG),改善資料搜尋與處理流程,進一步建立「社會政策知識檢索問答平台」,供部會首長及政策制定者能在立法院質詢等公共場合中,即時並準確地回應各方提問,從而提供基於循證的決策支持,優化政策制定與執行過程。

社會政策知識檢索問答平台服務流程說明

  1. 資料發言者與屬性辨識

    根據過往資料,準確區分不同發言者在各議程中的發言內容,接著自動識別並標記文本中的屬性詞,如提及到的重點人物、組織名稱及地理位置資訊等,辨識出各發言者的關注焦點與觀點的異同,從而對其關注面向進行初步的探勘與分析。

  2. AI 摘要與自動分群

    藉由大型語言模型可自動解讀並提取文本的核心內容,再透過語意分群演算法,對這些經過摘要整理的文本進行分析。

  3. 檢索增強生成參數設定

    結合搜尋引擎、向量資料庫與大型語言模型,彙整並突顯資料中的重點,亦可驗證特定解釋是否正確,並提供更深入的洞察,及議題之關鍵觀點。

技術特色與優勢

在此專案中,意藍首先透過命名實體識別 (NER) 技術精準標記關鍵資訊,辨識發言者重點與關注焦點,再由大型語言模型 (LLM) 自動提取文本核心內容,並利用語意分群技術自動分類不同觀點,提升分析準確性。接著,藉由 RAG 技術結合搜尋引擎與向量資料庫,進行深入資料檢索與生成,讓 AI Search for KM 所提供的知識平台能夠整合施政計畫及歷史文本,透過即時資料處理,為部會首長在受立院質詢時提供即時且準確的回答,確保政策回應具備充分理據,支持循證治理,提升政策反應效率與決策品質。

問答情境展示

整合跨來源資料,評估公共議題與政策對社會之影響

當使用者提問「特定族群於公共議題/政策中會受到的影響」,系統便能根據相關參考資料自動彙整摘要,進行跨來源資料整合,同時確保決策者可追溯具體資料點,透過 AI 資料科學技術進行循證決策,提升公共決策者政策回應效率。

整合跨來源資料,評估公共議題與政策對社會之影響

發言者發言重點摘要,快速掌握核心論點

而 AI Search for KM 也能自動分析目標對象於各式會議或政策發言的重點,並生成總結,協助決策者快速掌握討論的核心觀點,實質提升政策討論的效率,支持政策的數據化決策過程。

發言者發言重點摘要,快速掌握核心論點

調取最新數據,分析政策實施成效

調取最新數據,分析政策實施成效

最後,我們也可以透過 AI 分析來幫助政府評估政策成效,即時分析、更新最新的政策執行情況,讓決策者能夠迅速反應並做出調整。如上圖中詢問「非營利幼兒園設立家數是否提升」,系統便能根據參考文章回覆目前累計的公共化幼兒園增設數量,亦提供如幼兒入園率、後續可如何推動,及現階段政策實施所遇到的困難等。

藉由數據化的分析結果不僅提供給決策者,也可向公眾展示政策執行進度與成效,提升政府在社會政策治理上的透明度和公信力。

2025台灣人工智慧年會 重磅登場!

即將在9/9(二)-9/10(三) 中研院舉行
匯聚1,500+產官學研菁英,邀集 Google DeepMind、華碩等頂尖講者,
共探 Agentic AI、機器人&無人機、運動科學、AI 政策與安全等前沿議題。
歡迎前往報名!

AI Search 電子報 | vol.03 掌握檢索增強生成技術

AI Search 電子報 | vol.03 掌握檢索增強生成技術

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

生成式 AI 回答總不精準?RAG 技術正是企業關鍵解方

AI 技術發展飛速,而檢索增強生成技術 (Retrieval-Augmented Generation, RAG) 則成了讓大型語言模型 (LLM) 更加高效、智能的關鍵技術。RAG 檢索增強生成結合了搜尋引擎與大語言模型,也就是檢索與生成的特點,能有效地先找出精準且相關的內容後,再讓大語言模型依據相關的內容做參考,理解後再生成回答,可以有效解決大語言模型幻想 (hallucination) 的問題,並且能夠提供相關內容的參考出處,增加了可解釋性 (Explainability) 和可驗證性 (Verifiability),並且能夠透過搜尋引擎來快速變換參考的相關資料,不需要對大語言模型進行再訓練,具備了速度和成本效益優勢,其企業應用範圍與情境更是廣泛。本文將深入探討 RAG 檢索增強生成的原理、優勢與應用場景,並說明意藍在此技術下的應用實踐。

認識檢索增強生成 (RAG)

什麼是檢索增強生成?

檢索增強生成 (Retrieval-Augmented Generation, RAG) 是一種結合了檢索 (Retrieval) 和生成 (Generation) 兩種方法的人工智慧技術,從大量的文本資料中搜尋相關的資訊,並基於檢索到的資訊生成更具體、更可信的答案。

檢索增強生成的優勢與挑戰

生成式 AI 在生成內容時,可能會出現杜撰答案或是答非所問等 AI 幻覺 (hallucination) 之情況。而檢索增強生成能解決此問題,增加其可解釋性和可信度,整體而言可歸納為以下優勢:

  1. 依照相關的參考資訊來生成內容,可以提高生成內容的準確性和品質,避免生成虛假、不切實際的誤導性資訊
  2. 增加可信度與可驗證性,確保生成的內容具有可靠的參考依據,而非僅根據過去的學習經驗推測,且生成的內容可被檢查驗證。
  3. 節省訓練成本,更快速地更新知識。由於訓練 (或微調再訓練) 語言模型新知識都需要大量的時間和金錢成本,但 RAG 檢索增強生成能利用現有模型,只要透過搜尋引擎快速更新相關的參考資料,就可以反應在生成結果上,不必進行新一輪的訓練,更新速度快、成本也低。

除了具備以上優勢外,一個好的 RAG 檢索增強生成技術需在實際應用中克服以下挑戰,以發揮其潛力並有效提升效能:

  1. 無檢索結果時的回覆

    當檢索增強生成沒有檢索到得以回答使用者問題的知識時,需判斷並回覆無相關參考資料,不要硬答,避免大語言模型杜撰答案,才不會出現AI幻覺問題。

  2. 生成回覆內容的實用性

    檢索增強生成需確保生成之內容不僅與檢索到的知識相關,且還需具備流暢性、準確性及實用性。

  3. 效率和擴展性

    隨著知識庫不斷擴大,檢索增強生成需維持檢索和生成過程的效率與精準度。

  4. 實際應用彈性

    應用檢索增強生成時須考慮到不同領域的需求,有些領域的知識點敘述較長、有些領域知識較分散,需能彈性調整段落長短、段落數多寡等,真正能夠完整地找出相關的內容,以符合不同的應用場景,這將是關鍵重點。

RAG 檢索增強生成的應用場景

RAG 檢索增強生成適用於需要透過相關的參考資料來輔助回答的問答系統、智能對話系統以及其他自然語言處理應用,來滿足客戶在不同場域的各種需求,如:

  1. 問答系統

    用於需要透過相關的參考資料來輔助回答的問答系統,例如客服人員使用的常見問答集 (Frequently-Asked Questions, FAQ) 或標準作業程序 (Standard Operation Procedures, SOP),特別是在回答專業知識問題時,RAG 檢索增強生成能提供更精準及可靠的解答。

  2. 智能對話系統

    對話系統通常需結合大量知識來回答使用者的問題,RAG 檢索增強生成可協助系統更好地理解用戶的問題並提供具有明確出處和連貫性的回應。

  3. 知識檢索及擴充

    企業或組織通常擁有大量的內部知識資源,包括文件、報告、手冊等。RAG 檢索增強生成可協助使用者快速檢索到所需的知識資訊,同時也可不斷擴充相關知識,提供更全面、深入的內容。

  4. 知識管理

    RAG 檢索增強生成可協助組織更有效地管理和利用大量的知識資源,以提高知識的可用性及共享性,促進團隊合作和創新。

RAG 檢索增強生成的應用實例

而 RAG 檢索增強生成又能應用在哪些場域呢?接著我們進一步說明應用實例如下:

  1. 輿情分析

    針對特定事件、議題,蒐集並觀測社會大眾的意見進行輿情分析,檢索增強生成可透過檢索大量相關的社群網站貼文、討論區評論、新聞文章等資料,找出特定內容作為參考,讓與搜尋引擎高度整合的大語言模型來生成對應的摘要或分析結果。此方式能從大量的資料源找出可用資訊,對輿情進行全面準確的分析,同時也保持生成內容的靈活性和即時性。

  2. 財經分析

    在金融領域,RAG 檢索增強生成可透過檢索過去至今完整相關的重大訊息、公開說明書、市場數據、公司報告、專家評論等資料,生成對於當前市場概況的歸納或未來趨勢的預測推論。此方式可充分利用豐富的歷史資料,同時了解即時的市場資訊,有助於提高分析預測的準確性和可信度。

總結而言,因大語言模型進行預先訓練或微調需要耗費大量時間和資源,無法即時應對快速變動的環境,而 RAG檢索增強生成能藉由結合檢索 (搜尋引擎) 和生成 (大語言模型) 的方法,即時地分析大量的資訊,有效協助使用者更佳理解及應對快速變動的情況。

意藍資訊於檢索增強生成的應用

意藍結合 RAG 檢索增強生成的發展優勢

RAG 檢索增強生成的概念是高度整合搜尋引擎與大語言模型,先透過檢索功能找出完整相關的參考資料,再基於大語言模型的理解和生成能力,讓該模型進行摘要,進而生成即時、精確的答案,因此搜尋引擎的好壞便成為 RAG 檢索增強生成出色與否的重要因素。

而意藍資訊在數據處理及分析領域深耕多年,也 將搜尋技術 (Search) 與自然語言 (NLP) 經驗結合,不僅能兼顧傳統關鍵字檢索的精準快速搜尋,以及向量搜尋可支援自然語言提問的特點,提供使用者更佳的檢索功能與卓越的 RAG 檢索增強生成服務體驗。

此外,擁有 RAG 檢索增強生成的系統就有如口袋中放了百科全書,使得在生成內容時不再受限於過往訓練的資料,而能即時瀏覽大量的專業知識文件,以解決特定領域的複雜問題,進一步提升問題解決的效率。且面對資訊爆炸的今日,新資料推陳出新,有了 RAG 檢索增強生成技術,可讓我們的產品與技術持續從新數據學習及擴展知識庫,使產品在任何情境下都能保持訊息的即時性。

意藍於檢索增強生成的應用

而意藍資訊在 RAG 檢索增強生成主要有以下應用:

  1. 訓練大語言模型

    意藍自行研發並訓練了大語言模型 eLAND GOAT,能夠與搜尋引擎高度整合並進行優化,用以加強 RAG 檢索增強生成中對於參考相關資訊的摘要及回答的能力。

  2. AI Search for KM 新一代 GenAI 知識管理工作平台

    我們將 RAG 檢索增強生成應用在知識管理領域,透過結合搜尋、NLP與大語言模型打造出新一代 GenAI 知識管理工作平台,提供使用者更高效、智能的知識搜尋與問答服務體驗。

  3. AI 輿情應變顧問

    將 RAG 檢索增強生成結合最完整、最即時的網路聲量資料,提供以自然語言口語文字查詢,就可以彙整、生成輿情重點,依照真實內容來提供 AI 應變建議,可以應用在市場研究、行銷趨勢、公關應變,任何需要快速掌握輿情重點的企業場景中。

意藍 AI 技術的未來展望

我們相信, 整合了搜尋引擎與大型語言模型 (LLM) 的 RAG 檢索增強生成技術,能夠轉化為企業的知識和營運數據中心。這意味著企業中的多個重要系統,如知識管理 (KM)、企業資源規劃 (ERP)、客戶關係管理 (CRM) 以及人力資源 (HR) 等,都可透過 RAG 檢索增強生成技術進行整合,不僅能提高數據的利用效率,也能加強企業的資料治理能力,讓企業更加依循正確的資料做出有效決策。展望未來,我們會持續致力於透過 AI 技術讓數據增值,並進一步賦能合作夥伴,協助提升企業營運效能。

民眾聲音太多、處理繁雜?AI 助攻政府即時掌握民意脈動

地方政府經年累月從派工系統、話務系統、人民陳情與市長信箱等來源接獲的陳情資料相當龐雜,無論是市府人員後續欲整理陳情資料進行分析,或是借鑒過往陳情案件的回覆用於新案件,皆費時費力。因此,意藍運用 AI 技術,提供市府陳情儀表板與陳情問答輔助解決方案,協助地方政府得以更有效分析資料輔助陳情回覆

陳情問答知識檢索問答平台服務流程說明

政府單位肩負服務民眾和執行公共政策的重責,其運作效率將直接關係到社會的發展與民眾福祉,而知識管理可透過以下多個面向提升政府效能:

  1. 收集各來源資料並進行語意分析

    集合來自派工系統、話務系統、市長信箱等各來源之陳情資料,透過 DeepNLP 技術進行情緒分析和特徵擷取,填補陳情資料中資訊欄位的缺失值,使整體陳情資料更為完整。

  2. 跨來源資料檢索,快速產製報表

    利用強大的搜尋引擎技術,提供市府同仁簡單、快速的陳情資料全文檢索服務,並進一步建置視覺化儀表板,以利單位人員透過檢視圖表,從中挖掘出陳情資料比例、變化、趨勢等資訊。

  3. 生成式 AI 陳情問答輔助

    利用 AI 技術,將過往市民陳情類型資料、機關的答覆內容,以及常見市政問答 (FAQ) 文本等資料,進行個資去除後,再使用大語言模型預先進行訓練和學習,最後結合生成式 AI,產出最合適的陳情回覆內容。

技術特色與優勢

為了協助專案單位自動化完成陳情資料分類與視覺化,並結合生成式 AI 提供陳情回覆作為參考,意藍規劃之 AI 智能搜尋解決方案,首先收集目標單位之1999陳情資料,再將各來源數據透過 DeepNLP 技術,分析民眾陳情情緒、擷取陳情內容特徵資訊等,整理成結構化資訊。接著,採用意藍搜尋引擎技術,讓使用者可以藉由彈性的檢索條件快速查詢到想了解的特定陳情案件,再串接 Google Looker Studio 整合成儀表板,提供視覺化圖表供使用者可以快速、清晰地了解案件概況與量化數值。最後我們使用 AI 技術,對歷史陳情問答資料進行個資去除與大語言模型預先訓練,建構新型態生成式 AI 陳情問答知識平台,並以 Web Service 形式提供自動生成式陳情回覆 API 服務,以利市府同仁得以更清楚且有效率地分析資料、加速陳情資料分類,並提升回覆效率。

導入成果展示

陳情資料結構化

結構化應用:加速資料處理流程,可用於各種統計分析(地點、時間、車牌、店家等)

陳情資料結構化

陳情問答輔助解決方案可除去個資使其更安心,並協助客服人員快速回覆民眾客訴內容,以提升效率、減輕人力負擔,以下為陳情資料回覆流程:

  1. 民眾客訴內容

    對原始資料進行去除個資處理,避免留存過多不必要的個資。

  2. 查詢不同資料源

    QA 問答紀錄、FAQ 常見問答集、規格說明書及疑難雜症技術文件。

  3. 大語言模型生成回覆信

    LLM 參考各種相關內容作為回覆依據,產出適合的回覆內容。

陳情資料回覆助理

協助客服人員快速回覆民眾陳情內容,提升客服效率、減輕客服人力負擔

陳情資料自動回覆助理

陳情資料回覆特點

陳情資料自動回覆特點

AI Search 電子報 | vol.02 導入不是目的,企業該如何部署大語言模型?

AI Search 電子報 | vol.02 導入不是目的,企業該如何部署大語言模型?

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

企業導入大語言模型,該從任務、流程還是模型本身開始?

大語言模型(Large Language Model,LLM)是生成式AI領域中十分重要的一項技術與應用,它通過大規模文本數據的訓練,學習語言文字中的上下文結構和語意關係,並能生成自然流暢的回應,與使用者的提問做互動。本文將帶您了解大語言模型的原理與特點,探討企業如何有效運用大語言模型、使其在工作場域中發揮價值,並介紹意藍自行研發之大語言模型 eLAND GOAT 的具體應用。

認識大語言模型

什麼是大語言模型?
大語言模型(Large Language Model,LLM) 是一種基於大量資料訓練而成的深度學習模型,其特色在於模型參數量大、學習訓練資料廣泛,且在模型的訓練過程中,能夠識別及理解大量資料中每個詞句間的上下文關係,以及在語意空間中背後的意義,再根據使用者的提問或指令(Prompt),提供符合邏輯的自然語言回應。大語言模型的運作邏輯就好比文字接龍遊戲──根據使用者所輸入的詞句,模型會基於已學習、訓練過的資料與上下文,來評估哪些字詞最有可能出現在使用者的輸入之後,並生成相對應的文字回應。  
大語言模型的核心特點?

綜前所述,大型語言模型的核心特點包含以下幾點:

  1. 上下文理解:大型語言模型能更好地理解和處理文意,生成連貫、有邏輯的流暢回應。
  2. 多任務適用:大型語言模型能夠應付多種自然語言處理任務,無需單獨為每種任務設計特定模型,也因此能夠廣泛應用於多種不同場景。
  3. 大數據訓練:大型語言模型通常基於數千萬、甚至數億的文本資料進行訓練,龐大的數據量使得模型掌握了豐富的知識,從而能夠做出更準確的判斷與回覆。

不過也需要注意的是,大語言模型是根據過往數據資料訓練而成的,若遇到訓練資料中缺乏、無法回應的提問、或參考資料本身有所偏誤,可能就會出現AI 杜撰、AI 幻覺 (Hallucination) 等現象,生成出錯誤甚至不存在的回應。

大語言模型的商業應用可能性

企業的大語言模型應用場域

而基於大語言模型具有的核心特點,可以被運用在以下幾個商業場域當中,來協助企業提升營運效率,輔助企業達成不同的目標:

  1. 市場行銷:大語言模型可以生成文案、分析市場趨勢以及顧客偏好,甚至優化廣告投放策略。它可以幫助撰寫社群媒體文章、電子郵件行銷內容,並根據市場數據預測消費者需求。
  2. 內部管理:大語言模型也可以成為內部知識管理的助力,幫助員工快速找到需要的資料,或者自動生成報告、會議記錄。此外,在客戶服務方面,也可以24小時即時回應客戶問題,減少人工客服負擔,並提供可驗證的參考內容出處。
  3. 輔助決策:透過分析企業數據,大語言模型還可以協助管理層做出更準確的市場預測,從而提升整體營運決策的效率和準確性。
企業如何善用大語言模型提升營運效率?
那企業究竟又該如何將大語言模型的優勢發揮出來?關鍵在於企業如何對模型下達準確的指令(Prompt)。對大語言模型提問時,語句及用詞要盡可能地具體、包含上下文訊息,才能讓大語言模型提供有效的回應,例如當想了解有關國內知名金融業者新光金控的相關資訊時,應避免簡化問句為「總資產?」,而是「請問新光金在今年第二季結束時的資產總額是多少?」,通過更精確的提問,大語言模型能提供更完整的回應。 除了應避免模糊不清的提問內容,提問的技巧也同樣重要,使用者應逐步引導模型進行推理,如欲詢問「新光金在大陸投資有賺錢嗎?」,可先調整提問為「請問新光金在大陸的投資項目為何?」,根據模型的回應,再進一步提問「投資損益為多少?」;藉由調整指令,讓模型能夠不斷學習並一次性回答多個相關問題,從而提升營運效率。  
企業導入大語言模型的關鍵要素​

隨著大語言模型的發展愈發成熟,企業導入大語言模型已是時下趨勢。而企業在導入大語言模型時則需考量多個關鍵要素:

  1. 數據隱私與資安控管:對於許多企業來說,使用大語言模型等相關服務時,除了須確保符合相關法律規範外,還需要對數據採取必要的保護,避免數據外洩或資安方面的風險。
  2. 模型與系統的相容性:在導入大語言模型時,需注意模型本身與企業現有系統的相容性,這涉及了技術、成本等多方面的考量,若企業缺乏相關經驗,便會使導入時的成本與難度增加。
  3. 企業基礎部署條件:不同企業在選擇大語言模型時,需根據自身具備的基礎條件,選擇雲端、地端或是混合部署。另外也須有足夠的計算資源與維運人力,確保模型運行並在必要時針對模型進行微調 (fine-tune)。 

意藍於大語言模型的應用

意藍深知大語言模型對企業營運的重要性與無限可能性,然而因目前主流的大語言模型多是使用英文語料進行訓練,中文語料的佔比相對較低,大部分資料又都是以簡體中文為主,與繁體、台灣所慣用的用字遣詞有一定差距。意藍挑選出台灣常用的語料,在兼顧適法性及合理使用的條件下,整理出AI的學習材料,開發出台灣本土的大語言模型 eLAND GOAT,目標讓大語言模型可以更加在地化,並兼顧效能及成本之考量,符合企業特定目的用途。 而意藍在發展出的台灣本土在地化大語言模型 eLAND GOAT 後,也將其運用在企業知識管理領域中,推出新一代 GenAI 知識管理工作平台-AI Search for KM,不僅提供使用者可以以自然語言的形式進行問答,還結合檢索增強生成(Retrieval-Augmented Generation, RAG)技術,能夠有效地找出精準且相關的內容,藉此提高大語言模型在生成內容的準確性和可靠性,並能夠在每次回應時附上參考內容出處以供驗證,有效避免 AI 幻覺的可能性。 除此之外,AI Search for KM 還可以串接企業知識庫,不需要大量的人力和機器資源重新訓練或微調模型,並且可選擇在雲端、地端或混合部署大語言模型,免除機敏資訊外洩的疑慮的同時,也能快速的從大量的檔案文件中找出所需內容,大幅縮減企業在知識內化的時間成本與負擔,使其能夠更有效地管理和運用知識資源、提升營運效率。

政府單位想提升行政效率?AI 可以這樣發揮效用

隨著數位化時代的加速發展,政府組織與各行各業都同樣面臨著數位轉型的重要轉折點;對於公部門而言,AI 的導入與應用不僅能夠提升作業效率,更能有效加強公共服務品質、協助應對日益複雜的科技挑戰。而隨著政府內部資料量急劇增加,其對於升級知識管理應用的需求也日益增強,如何引入合適的管理工具、創造知識的最大價值,已成為提升行政效能、實現循證治理智慧化的核心課題。

知識管理對政府單位的重要性

為什麼政府單位需要知識管理?
政府單位肩負服務民眾和執行公共政策的重責,其運作效率將直接關係到社會的發展與民眾福祉,而知識管理可透過以下多個面向提升政府效能:
  1. 提升行政效率
    透過知識的有效整合與共享,縮短資訊傳遞與行政處理的時間,實現更快速、精準的資源調度。
  2. 改善決策品質
    面對公共政策的制定或緊急事件的處理時,能掌握更即時且全面的資訊基礎,協助決策者迅速做出高品質的判斷與應對。
  3. 增強政府公信力
    透過知識管理,政府單位能更有效地整合分散於各部門的資訊,從而妥善梳理並清晰呈現政策內容,促進資訊的公開性與透明度;同時,針對民眾需求或突發事件的回應也能更及時且有力,進一步提升公眾對政府的信任。
政府單位的知識管理需求
相較於一般企業,政府單位在知識管理方面具備以下獨特需求──
  1. 提升資料透明度的同時,兼顧公眾隱私與敏感資料保護
    政府部門需要在推動資訊公開與透明的同時,妥善保護公民的隱私及敏感資料,防止未經授權的資料洩漏或濫用,因此用以輔助之知識管理工具不僅需能有效整合資訊,還需具備完善的存取控制機制,以確保資料安全。
  2. 長時間保存文件和數據,滿足稽核和法律合規需求
    政府部門的文件和數據保存期通常較企業更長,因涉及的資料需滿足各種法律、稽核及合規要求,如政策文件、預算報告或公共安全數據等資料,需長期保存並於必要時進行查閱、追溯。
  3. 業務範疇廣泛,資料量龐大且多樣性高
    政府內部通常由多個部門組成,且各單位的業務範疇不同,涵蓋政策規劃、業務執行、管理督導、勾稽核實等多元領域;各部門間的數據格式、常用檔案形式與管理流程可能存在差異,多樣的需求使得統一管理的難度也有所提升。

政府單位知識管理升級解方 ── 新一代 GenAI 知識管理工作平台

針對以上政府單位對於知識管理的需求,意藍的新一代 GenAI 知識管理工作平台便是理想的解方,其亮點特色如下:

  1. 支援多種常用檔案格式

    包含 Office、PDF 、CSV 等等,不需額外花費太多心力進行轉檔處理,可應對政府內部多樣化數據格式的需求,有效解決跨部門整合困難。

  2. 具備檔案權限劃分機制

    確保只有授權人員能夠存取、檢視特定檔案,降低機密資料洩露風險,滿足政府單位對敏感資料保護的嚴苛要求,並為跨部門合作提供安全的知識共享環境。

  3. 提供彈性的部署方式

    政府單位可根據自身需求,選擇雲端平台服務或導入地端服務,也可以針對不同的任務,自由切換 OpenAI GPT 系列、Meta Llama 系列、 國科會TAIDE 模型、或者意藍經由大量本地語料調校而成的 eLAND GOAT 等多種大語言模型,滿足政府對多樣化應用場景的處理需求,同時提升系統效能,符合成本效益。

  4. 支援語意全文檢索

    無需進行額外的資訊建立、分類或關鍵字標記,系統便能對檔案進行全範圍檢索,包含標題、內文、作者、建檔時間等資訊皆在搜尋範圍內,解決了龐大資料量下的搜尋困難。

  5. 支援易於使用的對話問答

    使用者可以自然語言對文件知識點提問,系統會根據問題與相關參考資料,回傳彙整後的口語化回覆,讓非技術人員與高層主管能以直覺方式獲取知識,提升整體操作便利性與工作效率。

導入生成式 AI 知識管理系統的長遠影響

生成式 AI 知識管理系統的導入,不僅能有效為政府單位解決跨部門協作與資料整合的挑戰、提升行政效率與決策品質,更能助力其持續優化知識的流通與應用模式,逐步實踐智能化治理與決策,為數位政府與智慧城市的長遠發展奠定堅實基礎。

WAVE_BN_2
亞洲指標 AI 造浪展
「WAVE 2025(World AI Vision Exhibition)」

意藍將於7/31(四)-8/2(六)參展,攤位編號 B1709
現場將分享我們在 AI 應用上的實務經驗,歡迎有興趣的你一起來交流!

AI Search 電子報 | AI 企業應用焦點

AI Search 電子報 | AI 企業應用焦點

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

生成式 AI 不再只是工具,企業該如何有效整合與導入?

本篇報告摘錄意藍《Gen AI 未來視野:年度技術趨勢與革命性應用》研討會精華,剖析生成式 AI 工具及技術發展趨勢外,展示如何透過 AI 加值輿情觀測,協助企業快速掌握市場動態;另外也呈現如何透過多來源資料訓練,打造企業、組織專屬 AI 模型,成為企業決策的智慧推手。

1-1年度 AI 發展趨勢

生成式 AI 應用發展多元 「理解」將成未來發展重點

隨著開源式 AI 生態系崛起,大語言模型將更容易被存取、應用,而過去由科技巨頭全面主導的 AI 技術將出現發展上的分化,各企業自研模型如雨後春筍誕生,帶動整體領域成長,模型百花齊放。目前市場上湧現多種生成、多模態及推理相關的生成式 AI 工具,包括圖片、影片和文字等多種形式的資訊處理,以不同特色獨霸一方,豐富的選擇進一步推動了生成式 AI 技術的應用,讓企業能根據需求找到最適合之工具,為各產業帶來新的可能性。

市面上常見生成式AI工具

▲ 市面上常見生成式 AI 工具 

如 Google 的 Gemini 可同時理解並處理文字以及影像等不同類型的資料;Copilot 則可整合 Bing 與微軟的服務;而深度求索的 DeepSeek 因爲開源架構,使得第三方開發更有優勢。

開源式 AI 三大趨勢

現今的開源式 AI 呈現出三大趨勢,可見得 AI 正快速從實驗室走入日常應用場域。「技術開放」使智慧轉型的技術及經費門檻大幅下降,提升企業和開發者的導入意願,甚至可預期在接下來的1至2年內,各單位都將導入生成式 AI;此外,近年 AI 服務供應商的「普及化」,則讓企業組織能夠選擇與當地服務商合作,獲得更貼近成本效益、資訊安全等需求的解決方案。而隨著技術持續演變,開源模型也呈現「樣態多元」的趨勢,收到使用者提問後,模型會自主收集內外部資料庫,不斷進行內部詰問處理,生成更符合使用者預期的結果,以期更順暢地被應用在各類 AI 工具當中。

1-2 生成式 AI 工具背景技術趨勢

特式化 AI 模型成主流需求 高品質原料及資料合成技術是關鍵

接著從實際導入需求觀察,企業組織大多期待有屬於自己的特式化 AI 模型,以取得根據自身產業、品牌、甚至是部門所量身打造的 AI 生成結果。以美妝產業為例,產品的成分、功效、用語往往具有高度產業特性,然而市面上開源模型的調整彈性有限,在這樣的需求期待下,專屬特式化的模型蓬勃發展,為破解既定印象中需要使用大量資料、耗時費力才能訓練出的 AI 模型,意藍以《OpView 社群口碑資料庫》為基礎,透過大量、高品質、且即時的在地「資料原料」及「資料合成技術」,協助快銷品、各行各業、政府部門等單位高效建立專屬模型。

生成式AI工具

除了特式化能力,AI 模型學習的即時性也備受重視。既有生成式AI遇到來不及學習的新知時易出現幻想情況,而意藍結合搜尋引擎與大語言模型,推出主動式檢索增強生成技術(eLAND Active RAGᵀᴹ),能結合內部資訊和即時性高達15分鐘內的外部資料,進行多回合檢索及生成,以更符合企業即時性需求。

Active RAGTM 運作模式

▲ Active RAGᵀᴹ 運作模式

2-1 OpView X AI:AI 助手打造高效工作流

生成式 AI 賦能 OpView 協助統整海量資料與提供策略建議

觀察生成式 AI 與 RAG 技術實際在企業中的落地應用,在資訊量過載的時代下,AI 也是幫助資訊精煉、加速作業的關鍵。

如果要針對自身企業、品牌進行網路討論狀況監測,人工逐一篩選及總結不僅耗時,還容易因為過量閱讀陷入資訊疲勞,影響分析中立性。而 OpView 的AI 輿情應變顧問、文章探索助理,則能協助企業品牌快速掌握輿情風向。

OpView AI 服務

▲ OpView AI服務

以想快速了解「新光三越氣爆事件」相關新聞為例,便可以使用 AI 輿情應變顧問功能,以日常對話形式進行提問,便能獲得最即時的在地新聞資訊統整,省去人工查找、彙整的時間。甚至能進一步提問不同層面的問題,例如該事件對企業營運、股市、地區經濟、競爭對手與長遠經濟的影響。

AI輿情應變顧問 示意圖

另一方面,社群、討論區等其他來源也是企業及品牌在意的輿情觀測重點,然而大量而零碎的討論歸納起來費力耗時。

透過 eLAND Active RAGᵀᴹ 檢索增強生成技術,能更深度地應用相關內容。如文章探索助理能在使用者所設定的主題範圍中,快速拆解使用者問題並檢視參考資料,接著針對搜索出的資料進行彙整與分析、統計議題討論量,最終提供資訊統整與策略建議。

以「台積電赴美設廠」話題為例,一個月間便累積了超過5萬筆討論,透過對文章探索助理提問,便能從海量資料中以列點式生成重點,迅速了解設廠新聞對台灣整體經濟與股市的影響。

文章探索助理 示意圖

對於需要經常性蒐集、彙整、分析網路情報的專業人員,OpView 的 AI 自動化報表更是得力助手,除了將多種視覺化圖表以報告形式呈現,亦能整理網友討論摘要,並基於報告目的生成分析內容,提供如公關、行銷等不同切角的觀點。

AI自動化報表快速整合網路情報,提供AI分析建議

▲ AI 自動化報表快速整合網路情報,提供 AI 分析建議

2-2  AI Model:企業/組織專屬 AI 模型

提煉客戶專屬 AI 特式化模型 有效提升組織內部資訊流轉效率

在應用場域中,企業組織遇到的問題往往十分複雜,此時 AI Model 整合服務便是以特式化 AI 模型提供專屬解決方案。透過標記企業關注、儲存的數據資料,意藍以自行研發的大語言模型 eLAND GOAT 為基礎,為客戶針對特定領域進行模型訓練,產生專屬客戶的 AI 模型,最終結合包括 OpView 或企業內部系統提供特式化服務。

以政府部門為例,涉及市政議題的話題眾多,並且單一事件經常需協調跨局處處理,易遇到資訊分散、局處分類困難、缺乏結構化處理等問題。AI Model 市政專屬模型不同於以往關鍵字搜索的查詢方式,能夠自動爬取市政新聞,進行分配判斷並推送給相關對象,且判斷準確率高達94%,有效降低人力成本、提升市府內部資訊流轉效率。

AI Model特式化模型服務流程

▲ AI Model 特式化模型服務流程

小結

整體而言,從開源式 AI 趨勢可觀察出智能轉型已刻不容緩,而意藍整合搜尋引擎、語意分析與生成式AI等尖端軟體技術,可協助企業快速整合外部市場情報與內部專屬知識,並可透過特式化 AI 模型的訓練與導入,提供客戶更多元的 AI 解決方案。

從文件堆中找答案太慢?AI 如何幫第一線即時掌握災情?

近年來, AI 技術的持續創新突破,推動了政府和企業內的數位變革,如何導入並善用 AI 以提升服務的效率和品質,成為各單位組織的重要課題。
國家災害防救科技中心(National Science & Technology Center for Disaster Reduction,以下簡稱災防中心或NCDR)為政府於2003年設立的專業機構,多年來專注於災害風險管理防救科技的研究;為了能在災害發生時更即時地掌握災情、強化危機事件處理能力,災防中心與意藍資訊合作,導入意藍「AI Search For KM」系統,運用生成式 AI 與自然語言模型建構「災害防救知識問答平台」,大幅提升災情資訊處理效率,並以數據支持決策判斷,為智慧城市發展奠定穩固基礎。

災防中心背景與需求介紹

國家災害防救科技中心成立於2003年,主要任務在於提升台灣在面對各種自然災害時的應變能力與減災效果、確保民眾生命財產安全。面對台灣頻繁發生的地震、颱風、土石流等天然災害,災防中心不僅需在災前做好準備,也必須在災害發生後迅速掌握最新狀況,整合、分析各類災情資訊以協助政府及相關單位作出精確的應對決策,並提供必要的預警或通報。

隨著大量災情資訊不斷累積,災防中心在知識管理升級方面的需求日益增強;另一方面,數位化時代下社群媒體和網路社群亦成為災情資訊快速傳播的主要來源,這些公開管道中的資訊量龐大且更新頻繁,如何高效蒐集、結構化、分析並運用這些來自各地的災情回饋,也是災防中心需面對的重要課題之一。

以 AI Search for KM 建構「災害防救知識問答平台」

為了更快速、準確地掌握災情資訊以提升災害應變效率,災防中心選擇與意藍資訊合作,導入意藍新一代 GenAI 知識管理工作平台「AI Search for KM」,運用人工智慧與自然語言模型技術,並結合社群輿情資料和專屬的歷史數據庫,打造「災害防救知識問答平台」,解決資訊來源分散、數據處理繁複等痛點,協助單位提升資訊處理效率,以利更好地應對和管理災害風險。

意藍協助災防中心建構災害防救知識問答平台的流程如下:

  1. 資料蒐整與預處理:蒐集歷年來既有的災害事件情資研判報告、即時觀測數據(如雨量、河川水位等),以及各大公開媒體、Facebook 粉絲團、Dcard、巴哈姆特、Mobile01 及 Ptt 等公開討論區的地區版等資料,經過清整、結構化與預處理,將結構化與非結構化資料均轉換為模型可理解的格式。
  2. 語意分析與標記:透過語意分析技術,讓 AI 自動判別每一篇災情文章內容中提及的地理資訊、災害事件以及災情程度等,將這些重要詞彙辨識出來並自動標記,以利後續的索引和檢索。
  3. 大語言模型選擇:評估各個大語言模型在災害防救領域問答的真實性、回覆速度、正確性、可讀性、理解上下文與統整能力等效果,選擇最適用的自然語言模型。
  4. 建立資料向量索引、設定參數:提高檢索與問答時的效率及準確性,確保 AI 模型對災害知識有精準的搜尋能力與答覆效果。

透過 AI Search for KM 所提供的知識平台,災防中心便能夠針對歷年災害事件、抑或即時災情進行問答,系統會逐步拆解使用者所輸入的問題,再透過大語言模型(Large Language Model, LLM)及檢索增強生成技術(Retrieval-Augmented Generation, RAG)生成完整回覆。

以颱風相關的問題為例,使用者可對系統以口語文字方式提問,如「哪個地方災情最嚴重」、「哪些鄉鎮的河川水位超過一級警戒」等等,AI Search for KM 便會即時調用內部知識庫及外部即時數據,找出與使用者提問最相關的多個參考內容,從中綜合歸納出答覆。AI Search for KM 具備簡便、容易使用的介面,能快速統整內部及外部、文字及數值的各類數據,在分秒必爭的防災與救災時刻,提升作業效率。

問答情境1 - 分析災情嚴重區域

▲ 問答情境1 – 分析災情嚴重區域

問答情境2 - 調用即時數據,掌握全面性災情

▲ 問答情境2 – 調用即時數據,掌握全面性災情

透過與意藍合作導入 AI Search for KM 系統,災防中心能夠更高效地整合歷史與即時災害數據,在災害發生前後做出精確的災情管理判斷,及時釐清災情狀況並調度人力與資源,落實循證決策、全面提升災害應變能力;未來意藍也將持續與災防中心攜手,逐步實踐智慧城市願景。

WAVE_BN_2
亞洲指標 AI 造浪展
「WAVE 2025(World AI Vision Exhibition)」

意藍將於7/31(四)-8/2(六)參展,攤位編號 B1709
現場將分享我們在 AI 應用上的實務經驗,歡迎有興趣的你一起來交流!

AI Search 電子報 | AI 企業應用焦點

AI Search 電子報 | AI 企業應用焦點

AI Search 電子報|AI 企業應用焦點

AI Search 電子報:洞悉台灣企業 AI 落地真實力

在 AI 浪潮席捲全球的今日,資訊焦慮已成為企業共同的課題。國外最新的模型、最炫的應用,雖令人目不暇給,卻往往與台灣企業的日常營運有著一段不小的距離。我們真正需要的,不只是追逐國際 AI 快訊,而是在地實踐的洞見與智慧。

意藍資訊身為台灣第一家 AI 智能數據上櫃公司,站在產業第一線,深刻理解台灣企業導入 AI 時所面臨的真實挑戰,包括了各種產業應用,例如金融、製造、零售、服務、連鎖、乃至政府及公部門等,提出如何導入生成式 AI,真正滿足企業需求、解決企業問題、符合企業效益的解方。

這份《AI Search 電子報》因此而生。意藍資訊將以 AI 及數據的專業視角,分享生成式 AI 在台灣各行各業的導入故事,透過務實的策略與案例,旨在協助您找到最適合自身企業的 AI 路徑。誠摯邀請您,與意藍資訊一同探索 AI 在台灣企業的各種應用及可能。

意藍資訊總經理 楊立偉 博士

生成式 AI 不再只是工具,企業該如何有效整合與導入?

本篇報告摘錄意藍《Gen AI 未來視野:年度技術趨勢與革命性應用》研討會精華,剖析生成式 AI 工具及技術發展趨勢外,展示如何透過 AI 加值輿情觀測,協助企業快速掌握市場動態;另外也呈現如何透過多來源資料訓練,打造企業、組織專屬 AI 模型,成為企業決策的智慧推手。

1-1年度 AI 發展趨勢

生成式 AI 應用發展多元 「理解」將成未來發展重點

隨著開源式 AI 生態系崛起,大語言模型將更容易被存取、應用,而過去由科技巨頭全面主導的 AI 技術將出現發展上的分化,各企業自研模型如雨後春筍誕生,帶動整體領域成長,模型百花齊放。目前市場上湧現多種生成、多模態及推理相關的生成式 AI 工具,包括圖片、影片和文字等多種形式的資訊處理,以不同特色獨霸一方,豐富的選擇進一步推動了生成式 AI 技術的應用,讓企業能根據需求找到最適合之工具,為各產業帶來新的可能性。

市面上常見生成式AI工具

▲ 市面上常見生成式 AI 工具 

如 Google 的 Gemini 可同時理解並處理文字以及影像等不同類型的資料;Copilot 則可整合 Bing 與微軟的服務;而深度求索的 DeepSeek 因爲開源架構,使得第三方開發更有優勢。

開源式 AI 三大趨勢

現今的開源式 AI 呈現出三大趨勢,可見得 AI 正快速從實驗室走入日常應用場域。「技術開放」使智慧轉型的技術及經費門檻大幅下降,提升企業和開發者的導入意願,甚至可預期在接下來的1至2年內,各單位都將導入生成式 AI;此外,近年 AI 服務供應商的「普及化」,則讓企業組織能夠選擇與當地服務商合作,獲得更貼近成本效益、資訊安全等需求的解決方案。而隨著技術持續演變,開源模型也呈現「樣態多元」的趨勢,收到使用者提問後,模型會自主收集內外部資料庫,不斷進行內部詰問處理,生成更符合使用者預期的結果,以期更順暢地被應用在各類 AI 工具當中。

1-2 生成式 AI 工具背景技術趨勢

特式化 AI 模型成主流需求 高品質原料及資料合成技術是關鍵

接著從實際導入需求觀察,企業組織大多期待有屬於自己的特式化 AI 模型,以取得根據自身產業、品牌、甚至是部門所量身打造的 AI 生成結果。以美妝產業為例,產品的成分、功效、用語往往具有高度產業特性,然而市面上開源模型的調整彈性有限,在這樣的需求期待下,專屬特式化的模型蓬勃發展,為破解既定印象中需要使用大量資料、耗時費力才能訓練出的 AI 模型,意藍以《OpView 社群口碑資料庫》為基礎,透過大量、高品質、且即時的在地「資料原料」及「資料合成技術」,協助快銷品、各行各業、政府部門等單位高效建立專屬模型。

生成式AI工具

除了特式化能力,AI 模型學習的即時性也備受重視。既有生成式AI遇到來不及學習的新知時易出現幻想情況,而意藍結合搜尋引擎與大語言模型,推出主動式檢索增強生成技術(eLAND Active RAGᵀᴹ),能結合內部資訊和即時性高達15分鐘內的外部資料,進行多回合檢索及生成,以更符合企業即時性需求。

Active RAGTM 運作模式

▲ Active RAGᵀᴹ 運作模式

2-1 OpView X AI:AI 助手打造高效工作流

生成式 AI 賦能 OpView 協助統整海量資料與提供策略建議

觀察生成式 AI 與 RAG 技術實際在企業中的落地應用,在資訊量過載的時代下,AI 也是幫助資訊精煉、加速作業的關鍵。

如果要針對自身企業、品牌進行網路討論狀況監測,人工逐一篩選及總結不僅耗時,還容易因為過量閱讀陷入資訊疲勞,影響分析中立性。而 OpView 的AI 輿情應變顧問、文章探索助理,則能協助企業品牌快速掌握輿情風向。

OpView AI 服務

▲ OpView AI服務

以想快速了解「新光三越氣爆事件」相關新聞為例,便可以使用 AI 輿情應變顧問功能,以日常對話形式進行提問,便能獲得最即時的在地新聞資訊統整,省去人工查找、彙整的時間。甚至能進一步提問不同層面的問題,例如該事件對企業營運、股市、地區經濟、競爭對手與長遠經濟的影響。

AI輿情應變顧問 示意圖

另一方面,社群、討論區等其他來源也是企業及品牌在意的輿情觀測重點,然而大量而零碎的討論歸納起來費力耗時。

透過 eLAND Active RAGᵀᴹ 檢索增強生成技術,能更深度地應用相關內容。如文章探索助理能在使用者所設定的主題範圍中,快速拆解使用者問題並檢視參考資料,接著針對搜索出的資料進行彙整與分析、統計議題討論量,最終提供資訊統整與策略建議。

以「台積電赴美設廠」話題為例,一個月間便累積了超過5萬筆討論,透過對文章探索助理提問,便能從海量資料中以列點式生成重點,迅速了解設廠新聞對台灣整體經濟與股市的影響。

文章探索助理 示意圖

對於需要經常性蒐集、彙整、分析網路情報的專業人員,OpView 的 AI 自動化報表更是得力助手,除了將多種視覺化圖表以報告形式呈現,亦能整理網友討論摘要,並基於報告目的生成分析內容,提供如公關、行銷等不同切角的觀點。

AI自動化報表快速整合網路情報,提供AI分析建議

▲ AI 自動化報表快速整合網路情報,提供 AI 分析建議

2-2  AI Model:企業/組織專屬 AI 模型

提煉客戶專屬 AI 特式化模型 有效提升組織內部資訊流轉效率

在應用場域中,企業組織遇到的問題往往十分複雜,此時 AI Model 整合服務便是以特式化 AI 模型提供專屬解決方案。透過標記企業關注、儲存的數據資料,意藍以自行研發的大語言模型 eLAND GOAT 為基礎,為客戶針對特定領域進行模型訓練,產生專屬客戶的 AI 模型,最終結合包括 OpView 或企業內部系統提供特式化服務。

以政府部門為例,涉及市政議題的話題眾多,並且單一事件經常需協調跨局處處理,易遇到資訊分散、局處分類困難、缺乏結構化處理等問題。AI Model 市政專屬模型不同於以往關鍵字搜索的查詢方式,能夠自動爬取市政新聞,進行分配判斷並推送給相關對象,且判斷準確率高達94%,有效降低人力成本、提升市府內部資訊流轉效率。

AI Model特式化模型服務流程

▲ AI Model 特式化模型服務流程

小結

整體而言,從開源式 AI 趨勢可觀察出智能轉型已刻不容緩,而意藍整合搜尋引擎、語意分析與生成式AI等尖端軟體技術,可協助企業快速整合外部市場情報與內部專屬知識,並可透過特式化 AI 模型的訓練與導入,提供客戶更多元的 AI 解決方案。

從文件堆中找答案太慢?AI 如何幫第一線即時掌握災情?

近年來, AI 技術的持續創新突破,推動了政府和企業內的數位變革,如何導入並善用 AI 以提升服務的效率和品質,成為各單位組織的重要課題。
國家災害防救科技中心(National Science & Technology Center for Disaster Reduction,以下簡稱災防中心或NCDR)為政府於2003年設立的專業機構,多年來專注於災害風險管理防救科技的研究;為了能在災害發生時更即時地掌握災情、強化危機事件處理能力,災防中心與意藍資訊合作,導入意藍「AI Search For KM」系統,運用生成式 AI 與自然語言模型建構「災害防救知識問答平台」,大幅提升災情資訊處理效率,並以數據支持決策判斷,為智慧城市發展奠定穩固基礎。

災防中心背景與需求介紹

國家災害防救科技中心成立於2003年,主要任務在於提升台灣在面對各種自然災害時的應變能力與減災效果、確保民眾生命財產安全。面對台灣頻繁發生的地震、颱風、土石流等天然災害,災防中心不僅需在災前做好準備,也必須在災害發生後迅速掌握最新狀況,整合、分析各類災情資訊以協助政府及相關單位作出精確的應對決策,並提供必要的預警或通報。

隨著大量災情資訊不斷累積,災防中心在知識管理升級方面的需求日益增強;另一方面,數位化時代下社群媒體和網路社群亦成為災情資訊快速傳播的主要來源,這些公開管道中的資訊量龐大且更新頻繁,如何高效蒐集、結構化、分析並運用這些來自各地的災情回饋,也是災防中心需面對的重要課題之一。

以 AI Search for KM 建構「災害防救知識問答平台」

為了更快速、準確地掌握災情資訊以提升災害應變效率,災防中心選擇與意藍資訊合作,導入意藍新一代 GenAI 知識管理工作平台「AI Search for KM」,運用人工智慧與自然語言模型技術,並結合社群輿情資料和專屬的歷史數據庫,打造「災害防救知識問答平台」,解決資訊來源分散、數據處理繁複等痛點,協助單位提升資訊處理效率,以利更好地應對和管理災害風險。

意藍協助災防中心建構災害防救知識問答平台的流程如下:

  1. 資料蒐整與預處理:蒐集歷年來既有的災害事件情資研判報告、即時觀測數據(如雨量、河川水位等),以及各大公開媒體、Facebook 粉絲團、Dcard、巴哈姆特、Mobile01 及 Ptt 等公開討論區的地區版等資料,經過清整、結構化與預處理,將結構化與非結構化資料均轉換為模型可理解的格式。
  2. 語意分析與標記:透過語意分析技術,讓 AI 自動判別每一篇災情文章內容中提及的地理資訊、災害事件以及災情程度等,將這些重要詞彙辨識出來並自動標記,以利後續的索引和檢索。
  3. 大語言模型選擇:評估各個大語言模型在災害防救領域問答的真實性、回覆速度、正確性、可讀性、理解上下文與統整能力等效果,選擇最適用的自然語言模型。
  4. 建立資料向量索引、設定參數:提高檢索與問答時的效率及準確性,確保 AI 模型對災害知識有精準的搜尋能力與答覆效果。

透過 AI Search for KM 所提供的知識平台,災防中心便能夠針對歷年災害事件、抑或即時災情進行問答,系統會逐步拆解使用者所輸入的問題,再透過大語言模型(Large Language Model, LLM)及檢索增強生成技術(Retrieval-Augmented Generation, RAG)生成完整回覆。

以颱風相關的問題為例,使用者可對系統以口語文字方式提問,如「哪個地方災情最嚴重」、「哪些鄉鎮的河川水位超過一級警戒」等等,AI Search for KM 便會即時調用內部知識庫及外部即時數據,找出與使用者提問最相關的多個參考內容,從中綜合歸納出答覆。AI Search for KM 具備簡便、容易使用的介面,能快速統整內部及外部、文字及數值的各類數據,在分秒必爭的防災與救災時刻,提升作業效率。

問答情境1 - 分析災情嚴重區域

▲ 問答情境1 – 分析災情嚴重區域

問答情境2 - 調用即時數據,掌握全面性災情

▲ 問答情境2 – 調用即時數據,掌握全面性災情

透過與意藍合作導入 AI Search for KM 系統,災防中心能夠更高效地整合歷史與即時災害數據,在災害發生前後做出精確的災情管理判斷,及時釐清災情狀況並調度人力與資源,落實循證決策、全面提升災害應變能力;未來意藍也將持續與災防中心攜手,逐步實踐智慧城市願景。

亞洲指標AI展
「WAVE 2025(World AI Vision Exhibition)」

意藍將於7/31(四)-8/2(六)參展,攤位編號 B1709
現場將分享我們在 AI 應用上的實務經驗,歡迎有興趣的你一起來交流!

Copyright eLAND Information Co., Ltd.