天下雜誌曾經引用《經濟學人》的調查，發現在「AI 採用排行榜」中前百大的企業股價中位數上漲了11%，而得分最低的五分之一企業股價則毫無變化。這說明了企業對於 AI 的興趣、使用程度都可能大大影響投資人對其的信心，讓企業營運管理階層無不絞盡腦汁，希望能將最新 AI 技術融入工作流程當中。但「理想很豐滿，現實很骨感」，也許是應用場景不夠明確，也許是沒有足夠 AI 人才協助流程改善轉型，實際的操作和應用往往會遇上許多困難，現在，Google 的 Vertex AI Search and Conversation 將能協助企業跨過這些阻礙！
Enterprise Search 及 Conversational AI 全面上線再升級！
在今年第一季，Google 宣布在 Generative AI App Builder 上推出預覽版的 Enterprise Search 及 Conversational AI，提供了簡單的 Orchestration layer 將企業的數據資料和基礎生成模型、對話式 AI 和資訊檢索技術結合。企業開發人員不再需要花費數個月建構生成式 AI 的應用程式，而可快速地獲得數據、加上客製化功能，且可在幾個步驟間輕鬆建立搜尋引擎或聊天機器人，加速回覆客戶時間的同時，也可先行回答資料庫中包含的問題。這樣的服務在各行業都可以廣泛應用，幾乎沒有產業限制。
這樣便利的功能現在已經改名為 Vertex AI Search and Conversation 全面上線，甚至還追加了新的功能，包含透過自然語言查找重要資訊、自動採取行動，讓開發人員可以做出更加實用的應用程式，新功能包含：
- 多輪搜尋（Multi-turn Search）：支援追加提問，毋需重新開始互動及對話。
- 對話及搜尋結果摘要（Conversation and Search Summarisation）
- Vertex AI 延伸功能（Vertex AI Extensions）：從 Google 及第三方應用程式像是 Datastax, MongoDB, Redis 等獲取即時的資訊並回應。
- Vertex AI 數據連接器（Vertex AI Data Connectors）：可幫助連接企業常用的資料系統，例如 Salesforce, Confluence, Jira 等。
- Grounding：以企業數據資料庫內容為基礎，可透過提供註解讓用戶清楚看到生成內容出處，提高生成內容可信度。企業組織也可彈性地決定這樣的數據是否要被補充至基礎訓練模型數據。
Vertex AI Search：建立企業專屬搜尋引擎的強大服務
Vertex AI Search 幫助開發者建立一個端到端的搜尋應用程式，可透過 Vertex AI Pipeline 訓練基礎模型並部署到終端，這個搜尋模型可了解自然語言需求、從數據來源獲取相關結果並依照相關性排序，同時，也提供需求建議、拼字檢查、Entity Extraction（NER）及需求重寫，開發者可客製化及延伸相關功能以達到更精確的搜尋。
就像是含有大量企業內部資料的 Google 搜尋引擎，可以透過關鍵字、圖片搜尋，還提供搜尋結果摘要、搜尋結果分析等額外功能，在未來，更會加上存取控制設定，確保資料安全，也提高此功能於企業內部實用性。若有更複雜的需求，企業組織可結合 LLM Embedding 和 Vector Search，讓此搜尋引擎加上語意搜尋、個人化推薦、聊天、多模式搜尋等豐富功能。
舉例來說，企業組織可將內部規章、SOP流程等資料放入 Vertex AI Search ，當員工有疑問，就可以立刻搜尋到需要的資訊。
Vertex AI Conversation：結合流程設計製作出更加細緻的聊天機器人
Vertex AI Conversation 讓開發者可透過 Vertex AI Pipeline 訓練對話式介面和聊天機器人，對話模型可以了解自然語言並產生適當的回應。Vertex AI Conversation 支援語音和文字模型，特色功能包含 Entity Extraction（NER）、指代消解（Coreference Resolution）、回應排序、回應產出等，預先訓練好的模型和模板可以客製化及延伸以達成企業的目標和需求，也可連接對話式模型到下游任務，根據用戶意圖採取行動。
值得一提的是，Vertex AI 讓開發人員可將 rules-based 的工作流程與生成式模型的輸出結合，建立更精緻、更符合企業需求的的應用程式。企業組織可以使用來自網站、文件、常見問題庫、電子郵件、專員對話紀錄等各種數據資料調整聊天內容和方式，同時產生互動摘要、引文及其他數據，以減輕客服人員人力負擔。
Vertex AI Search 及 Conversation 都是應用場景十分多元的服務，將其投入流程可為企業組織帶來不少好處，包含：
- 為員工和客戶打造沈浸式體驗，提升滿意度
將過去需要耗費數個小時的任務轉變為快速、簡便的搜尋或對話式探索，從依據正確的上下文顯示正確的資訊，到操作執行、圖像生成、引用註解、提出建議，應用程式可自然地針對用戶的指令回應，同時，企業組織也可自行控制語氣、對話流程、存取控制等。
- 加速開發、減輕人力負擔
開發人員可直接利用 Orchestration 介面快速建立應用程式，僅需使用少量、甚至是不需要使用程式碼，也不需要事前的機器學習或生成式模型應用開發經驗。
- 協助維持對 Grounding、應用程式操作和資安的控制
開發人員可透過將輸出 grounding 在企業數據中提高輸出相關性並減少 AI 幻覺（hallucinations），他們也可以透過連接器控管應用程式可存取的數據及應用程式可代替用戶執行的動作。從資安的面向來看，企業組織可透過存取控制確保資訊安全，這些服務也符合 HIPAA、DRZ 等國際標準，相關數據都儲存在 Google Cloud 上，但 Google 絕對不會擅自使用。
現在，Vertex AI Search 及 Conversation 已經全面上線，若您目前正在思考如何將生成式 AI 融入企業，Vertex AI Search 及 Conversation 可以透過減少程式碼及內建模板加速開發、減輕人力負擔、也透過高度客製提高應用多元性及產業實用度，是一個很簡單、好上手的服務。
歡迎聯繫思想科技 Master Concept 了解更多！
