RAG（檢索增強生成）是近年來生成式AI領域備受關注的新技術，它讓AI不僅依賴過往的學習資料，還能結合外部資訊生成更準確的回答。RAG技術的出現，能在不需要對AI進行重新訓練的情況下，有效補充LLM的知識，提升回答的準確性，並拓展其應用範圍。

RAG是Retrieval Augmented Generation的縮寫，這項技術能將企業內部累積的資料與外部最新資訊整合到ChatGPT等大型語言模型（LLM）中，用以生成更加精確的內容。傳統的LLM存在「知識截止（knowledge cutoff）」的限制，因為它只能掌握特定時間點之前的資訊（訓練時所學習的內容）。這不僅導致它無法處理最新的問題，還可能生成「幻覺」（即錯誤的回答）。RAG的資訊來源非常多元，包括網路上的最新消息、企業的商業數據，以及內部機密文件等，這些都是傳統LLM無法覆蓋的範疇。透過結合外部資訊，RAG不僅彌補LLM的知識盲點，還進一步提升生成式AI的實用價值。

RAG的運作機制主要分為兩個階段：搜尋階段和生成階段。

1. 搜尋階段
搜尋階段旨在補充LLM不具備的知識，透過從組織內部累積的資料以及組織外部的最新資訊中獲取相關內容。為了提升搜尋的精確度，需考量搜尋的便捷性與結構化的策略，並選擇適合的搜尋技術。例如，使用高效的資訊檢索工具或演算法，能確保找到與使用者問題最相關的資料。

2. 生成階段
生成階段則是利用搜尋階段獲得的資訊來回答使用者的問題。在這個過程中，系統會將使用者的提問與搜尋階段檢索到的相關資料一併傳遞給LLM，讓LLM生成最符合需求的回答。透過搜尋與生成的結合，不僅能有效避免幻覺現象（如生成與事實不符或不存在的資訊），還能提高回答的可信度，為使用者提供更可靠的內容。

導入RAG技術可以帶來多項優勢，以下是導入RAG的四大好處：

1. 生成高可信度的回答
傳統LLM生成的回答可能因原始資料過時而需要額外進行事實核查，耗費時間與精力。而RAG能夠即時搜尋可信賴的外部資訊，並與生成式AI結合，提供更準確的回答。此外，若對生成內容的可信度存有疑問，還可檢視參考來源，進一步驗證回答的可靠性。

2. 更容易更新外部資訊
更新LLM的知識通常需通過「微調（fine-tuning）」過程，這不僅繁瑣，還需投入大量資源。而RAG能夠搜尋使用者準備的最新且正確的外部資訊，無需重新訓練模型。雖然微調與RAG都能讓AI獲得新知識，但兩者有顯著差異。微調需要龐大的資料和時間成本，且更適合訓練特定語言風格，而非高效更新知識內容。相比之下，RAG不僅有效解決知識更新問題，還能在高專業性的領域中輕鬆吸收新知識，大幅提升效率。

3. 大幅降低成本
微調LLM需要準備龐大的資料庫和構建訓練環境，這會顯著增加運營成本。而RAG只需在LLM的生成過程中增加一個外部資訊搜尋步驟，無需耗費大量資源重新訓練模型。與微調相比，RAG不僅降低了生成幻覺風險，在成本效益方面也更具競爭力。

4. 生成個性化回答
RAG能夠從外部資料庫中提取用戶的行為歷史、興趣偏好等資料，經過綜合分析後，為用戶提供更加個性化的商品推薦或服務建議。例如，結合用戶的購買與查詢記錄，RAG能生成針對性更強、滿足個人需求的回答，進一步提升用戶體驗。

RAG在日本業界的應用實例：

1. 在Chatbot的應用
RAG技術可幫助Chatbot更有效地處理日益增長的詢問工作量。透過結合過往的應對紀錄和工作指南作為外部資訊，Chatbot能自動回應提問，取代原本需由人工完成的客戶服務工作，大幅減輕接線人員的負擔。

以京都市保健福祉局身心障礙保健福祉推進室為例，他們利用搭載RAG技術的對話型Chatbot來有效處理每日約200通的詢問電話。在導入RAG之前，由於人手不足，電話回應經常延遲，且無法確保有足夠的時間應對來電。導入RAG技術後，Chatbot能全年無休提供電話諮詢服務，來電者不需等待即可獲得即時回答，大幅提升了服務效率與滿意度。

圖1：京都市查詢專用聊天機器人
資料來源：京都市：問合せチャットボット・問合せフォーム専用ページ

2. 行銷支援
RAG技術在企業行銷和市場調查中具有顯著優勢。透過分析大量顧客資料，包括購買歷史和個人喜好，企業可以為每位顧客量身設計精準的促銷策略。這不僅能減少傳統市場調查所需的人力與工時，還能建立高精確度的商品提案系統，提升行銷效能。

以東京瓦斯公司為例，他們開發了一款名為「AIGNIS-marketing」的行銷工具，充分運用RAG技術，能針對多樣化的客戶屬性，從行銷方案的規劃到執行，進行高效且有效的全過程操作，使每位客戶都能獲得最適合的資訊服務。


圖2：AIGNIS-marketing的使用情境概念
資料來源：東京ガス、生成AI搭載のアプリ「AIGNIS」開発　One to Oneマーケ自動実行ツールも導入：MarkeZine（マーケジン）

3. 支援企業內部知識的搜尋與輸出
導入RAG技術能有效管理和運用企業內部大量的文件與知識。例如在製造業中，RAG可解決技術文件、故障應對記錄等大量文檔無法妥善管理與利用的問題。當生產現場出現問題時，作業人員可藉助結合RAG技術的生成式AI，即時搜尋並參考過去的相似案例與解決方案，提升應對效率。

具體而言，當設備發生異常時，作業人員只需輸入異常情況，RAG就能快速從過去的維修記錄中提取相關案例，並提供對應的處理方法。這不僅縮短了故障處理時間，還有助於知識的有效傳遞與重複利用，進一步優化企業的運營流程。

在導入RAG時的注意事項

導入RAG需要完善的規劃與方案。以下分享兩點關鍵建議：

1. 進行外部資訊的事實查證
RAG生成的資訊精確度極大程度取決於參考資料庫的準確性。如果所使用的資料來源包含不當內容或錯誤資訊，生成結果也可能存在偏差。因此，選擇可信賴的資料來源至關重要。優先考慮公共機構的資料、經過審核的研究成果以及內部驗證過的文件等可靠資訊來源。此外，為避免資料過時，應設立定期更新機制，將舊資訊替換為最新內容，以持續提升回應的準確性與可靠性。

2. 必要的資安對策
RAG擁有廣泛資料搜尋的能力，但也因此可能在未經篩選的情況下引用機密資訊，導致潛在的資訊洩漏風險。為了避免這種情況，應從系統構建階段開始就實施適當的安全措施，從搜尋對象的資料庫，依據存取權限來限制資訊的參考範圍。

RAG透過搜尋企業內部資訊和可信賴的外部資料來源，彌補了生成式AI的幻覺問題，成為能生成獨特且精確資訊的有力工具。展望未來，期待RAG在商業領域能有更多應用與創新發展。

封面圖片來源：本文作者以AI生成

參考資料來源：

1.RAG（検索拡張生成）とは何かをわかりやすく解説、LLMとどう併用？安野氏の活用例とは ｜ビジネス+IT

2.東京ガス、生成AI搭載のアプリ「AIGNIS」開発　One to Oneマーケ自動実行ツールも導入：MarkeZine（マーケジン）