<span style=" display: block; font-size: 0.8em; font-weight: 100; color: #A5A3A3;">精華文章</span> 生成式AI的商業機會與挑戰:意藍資訊在 AI 技術上的應用

精華文章 生成式AI的商業機會與挑戰:意藍資訊在 AI 技術上的應用

生成式AI的商業機會與挑戰:
意藍資訊在 AI 技術上的應用

生成式AI是一種人工智慧技術,主要特點是能夠生成新的內容,例如文字、圖像或音訊,來解決問題。而意藍資訊除了有自行研發的大語言模型eLAND GOAT外,也推出了許多的AI智能數據解決方案。

本期 AI 知識庫亮點

認識生成式AI

生成式AI的原理是什麼?
生成式AI是 基於深度學習,透過擁有大參數量的神經網絡來記憶學習大量的資料,並且在沒有明確標籤或指導之下,自行學習資料的分佈,來生成更多類似的資料。工作邏輯就好比文字接龍遊戲,使用者在輸入詞句後,生成式AI便會根據過往學習時曾看過的訓練資料,來評估該詞句接下來在高機率的情況下會產生的字詞為何,並進行相對應的文字生成。

目前的生成式AI通常會配合兩種建立模型的技術,第一個是預訓練 (pre-train),也就是先在沒有特定任務目標的情況下先進行模型的訓練,之後再將該訓練好的模型投入到實際應用中。打一個比方,就像預先訓練AI的基本語文能力,之後在克漏字測驗、改錯、造句、摘要、閱讀理解等任務上都會用到這些能力;另一個是大模型 (large model),包括不斷推升神經網路模型的參數量規模,以及給予更多的訓練資料,都是希望讓生成式AI的能力及適用狀況可以更加地擴大。

生成式AI的應用場域與未來發展

生成式AI的應用實例
生成式AI可以在文書生成、摘要、提供方法推論、回答知識題等方面提供協助,並且也能在行銷、廣告、政治社會等領域,甚至是學術研究、政府單位當中扮演探索或發想性質的角色。不過需要注意的是,若是要針對如計算題這種有標準答案的內容時,生成式AI有時可能無法完全正確的回應,這時就會需要仰賴使用者再多留意與求證。
生成式AI的挑戰與未來趨勢
2023年劍橋字典選出的年度代表字:Hallucination (幻想),其便反應了人工智慧的可信賴性會是一大挑戰,尤其生成式AI有杜撰、編造消息來源的不可控性。因為生成式AI的能力一大部分是仰賴過往曾經看過的訓練資料再經過類似機率選擇的過程來生成內容,因此存在不確定性,以及拼湊內容、無中生有的可能。另外,生成式AI還有資安風險的隱憂,例如提供的資訊被模型業者拿去做為訓練模型之用,而近來也有許多例子都能證實,即使在訓練模型時設了重重關卡,訓練出來的模型還是可能會在無意之間把公司內的機敏資料洩漏出去。

而要克服這些問題,首先我們要能讓AI產出的答案變成是載明參考資料出處且可驗證的。在未來,生成式AI模型一定會不斷推陳出新,成為繼30年前圖形化界面 (Graphical User Interface) 之後,最大的一個人機界面革命,可以理解使用者的口語表達並完成各項任務的自然介面 (Natural User Interface)。目前已有利用生成式AI的自動化框架,能夠將一個任務的所有工作流程進行拆解的案例,使得生成式AI可以去完成每一個環節相應的步驟,成為生成式AI發展的趨勢方向。

意藍資訊的AI服務應用

意藍大語言模型eLAND GOAT 與 OpenAI的差異
而為了解決生成式AI在應用上的幻想杜撰、資安等問題,以及台灣本土大語言模型缺乏繁體 (正體) 中文語料等情況,意藍資訊也在AI領域持續追求成長與卓越。相較於OpenAI的GPT模型,由意藍所自行研發出的大語言模型eLAND GOAT,即是以大量台灣社群網站、網路媒體的繁體中文語料進行訓練,具備了更好的繁體中文理解、生成能力,在使用上能夠提供更為在地化的體驗。此外,相較於OpenAI僅提供放在公有雲上的模型,eLAND GOAT能夠提供企業小型化、特式化 (specialized) 的地端模型,可以運行在企業內部環境中,依循企業組織的權限設定,滿足企業對於資安上的需求。
意藍AI智能數據解決方案

除了大語言模型eLAND GOAT,意藍資訊也致力於發展各式AI智能數據解決方案,來滿足客戶在不同場域的各種需求,如:

  1. 輿情GPT

    結合全台最大的社群口碑資料庫OpView,讓使用者能夠在輸入簡單的關鍵詞後,快速找出最相關的資料,並藉由生成式AI來生成口語化、條列重點的輿情精華摘要,解決過去在解讀社群輿情時,需要人工對話題逐篇檢視、理解的時間。

  2. AI Search for EC 新一代智能貼標與搜尋推薦系統

    以AI語意分析技術,自動解析商品中所帶有的各式資訊文本,生成能代表商品的重點標籤,再綜合評估聲量、搜量、銷量等多元指標,能有效解決電商品牌在商品曝光、推薦、搜尋引擎優化上的各項痛點,讓消費者可以更精準的找所需的商品。

  3. AI Search for KM 新一代生成式AI知識管理系統

    整合了生成式AI、搜尋引擎,和NLP(自然語言處理)技術,讓企業員工只要上傳知識文件後,就可以輕鬆地檢索和提問,且AI Search for KM專注於企業自身所建構的知識庫,確保回答乃基於實際數據和企業內部知識,並提供地端運算方案,避免內部資料外洩風險。

想進一步了解更多意藍AI技術嗎?
<span style=" display: block; font-size: 0.8em; font-weight: 100; color: #A5A3A3;">精華文章</span>本土生成式AI大語言模型的發展與優勢:意藍輿情GPT的技術與應用

精華文章本土生成式AI大語言模型的發展與優勢:意藍輿情GPT的技術與應用

本土生成式AI大語言模型的發展與優勢:
意藍輿情GPT的技術與應用

大語言模型的優勢在於使用了先進的自然語言處理技術,由大參數量的深度學習架構,加上大規模的學習語料,來達到自行理解詞句間關係的能力,進而依照提示來生成各種內容,可以廣泛應用在多種場景,例如理解文章、生成摘要、依提示寫作及問答等。而由於目前繁體 (正體) 中文語料相對較少的緣故,台灣各界都開始投入蒐集與標註繁體中文語料,並以建置本土大語言模型為目標。

本期 AI 知識庫亮點

生成式AI大語言模型的核心特點
本土生成式AI大語言模型的可能性
意藍資訊的生成式AI應用內容

AI大語言模型的核心特點

什麼是大語言模型?
大語言模型 (Large Language Model,LLM) 是一種基於大量資料訓練而成的深度學習模型,其特色在於模型參數量大、學習訓練資料量大。而模型的核心特點在於訓練過程中,可以自行學習、理解大量資料中每個詞句間的關係與背後的意義,成為基礎的預訓練 (pre-train) 模型,隨後再依照不同的任務類別進行微調 (fine-tune),例如成為可以根據指令來提供符合邏輯的自然語言回應。 大語言模型的工作邏輯就好比文字接龍遊戲、或是猜測下一字詞的智慧型輸入法,使用者在輸入詞句後,大語言模型便會根據過學習、訓練的資料,來評估詞句背後高機率會產生的字詞為何,並進行相對應的文字生成。
大語言模型的優勢為何?

大型語言模型的優勢在於使用更先進的NLP (Natural Language Processing),也就是自然語言處理技術。相較於傳統的自然語言處理技術,大型語言模型的優勢包含:

(1)上下文理解:不是只針對字詞本身來解釋,而是透過分析上下文來更好地理解和處理文意,可以解決單一字詞依上下情境會有不同解釋的問題,所生成的回應也會更有連貫性且有邏輯。

(2)多任務適用:經過預訓練的大語言模型,就像有了基本語文能力的AI,對處理各種自然語言處理的任務都會大有幫助,例如有了基本語文能力,則學測中的克漏字測驗、改錯、造句、摘要、閱讀理解等分數都會上升,不需要單獨為每種任務來設計特定的模型,讓模型的應用更多元、廣泛。

(3)大規模資料訓練:透過數十億字符 (token)、甚至到上兆等級 (tera-) 的語料進行大規模的學習,讓模型能夠掌握更豐富的知識,從書籍、百科、論文、資料庫、網頁內容、社群貼文等,進而做出更好的理解與回覆。

本土生成式AI大語言模型的可能性

台灣大語言模型的發展

由於目前主流的大語言模型,如OpenAI的GPT系列,或是Meta的LLaMa系列,在訓練時所使用的語料都以英文為大宗,而中文語料佔比都非常低,其中大部分資料又為簡體中文,和繁體、台灣地區所慣用之用字遣詞有一定差距,因此台灣的產、官、學界也都持續致力於台灣本土大語言模型的發展,如國科會的TAIDE模型、台智雲公司的FFM(Formosa Foundation Model)、聯發科公司下聯發創新基地的breeze模型,以及作為國內自然語言處理的先導廠商 – 意藍資訊所發展之eLAND GOAT模型,目標均是讓大型語言模型能夠更加在地化。

意藍資訊在生成式AI大語言模型的發展
大語言模型的訓練是依靠大量高品質的數據資料來執行,而意藍資訊累積超過十年、規模最大的台灣公開社群與網路輿情資料,包含國人常用的各大社群平台、問答網站、評論網站、討論區、公開內容等,這些繁體中文語料就是生成式AI最好的學習教材。除此之外,意藍也發展了自己的自然語言處理演算法與模型,且經過第三方機構的驗證,語意判斷的準確度高達九成。此外,在相關性檢索、情緒判別、與AI對話等競賽中都名列前茅。故在台灣大語言模型的發展中,意藍資訊具備生成式AI領域中最核心的資料、演算法與應用,擁有如輿情分析、數位人群分析、電商搜尋推薦引擎、知識檢索與問答等不同的商業應用方向。

意藍資訊的AI應用內容

輿情GPT的特色與優勢
在研發大語言模型上,由於意藍資訊擁有全台最大、最完整的OpView社群口碑資料庫,再結合意藍訓練研發的自然語言處理技術DeepNLP,成功打造出領先全台的「輿情GPT」服務,讓輿情GPT在面對巨量的語料能夠更有效地處理並加以運用。只需要在輿情GPT中輸入簡單的關鍵詞,便可以在最短時間找出相關的資料,並藉由大型語言模型來生成口語化、條列重點的輿情精華摘要,解決過去在解讀輿情話題時,需要逐篇話題一一進行檢視、理解的大量時間。除此之外,輿情GPT強大的質化分析能力,能讓企業即時掌握突發公關事件的輿情走向,或精準抓住行銷上的流行爆紅元素。
生成式AI技術未來展望
隨著大型語言模型的能力越來越強,大眾對於資訊安全和資料保密議題的重視也日漸增加。企業在大語言模型應用上,常會受限於服務供應商多為公有雲的緣故,不放心將企業重要資訊上傳外露,使得無法讓模型在具備企業內部知識的情況下,提供更精確的產出結果。因此,意藍資訊持續發展企業專屬的地端 (on-premise) 模型,提供企業小型化、客製化的模型選項,並且不斷的探索大型語言模型的應用場景,嘗試、解決企業遇到的商業問題。
想進一步了解更多意藍AI技術嗎?

Copyright eLAND Information Co., Ltd.