Google Cloud Next ’23登場：AI與雲端科技驅動創新

 

在 Google Cloud Next ’23 大會上，Google 很高興能夠邀請眾多客戶和合作夥伴共聚一堂，並發表 Google 在基礎架構、資料和 AI、Workspace 協作和資安解決方案等全系列產品不斷創新的成果。Google 對自己的努力與成果感到自豪，因為 Google 不斷推陳出新，協助企業、政府部門和使用者，讓他們能得益於生成式 AI 和領先的雲端科技，包括：

• AI 最佳化基礎架構：最先進的 AI 最佳化基礎架構，供企業訓練和部署模型。Google 的雲端區域提供此基礎架構，讓你能使用 Google 分散式雲端在你的資料中心和邊緣運行。
• Vertex AI：用於建構模型和 AI 應用程式的開發人員工具，透過 Vertex AI 在建構自訂模型以及使用企業資料建構自訂搜尋和對話應用程式方面獲得重大進展。
• Duet AI：Duet AI 是一款全天候運作的 AI 協作工具，深度整合在 Google Workspace 和 Google Cloud 中。在 Workspace 中的 Duet AI，能讓每位使用者享有寫作幫手、試算表專家、專案經理、會議記錄員和創意視覺設計師的協助，這項功能現已全面上線。在 Google Cloud 中活用 Duet AI，就像和專業編碼人員、網站穩定性工程師（SRE）、資料庫專家、專業資料分析師和資安專家進行協作。Google 也在預覽版中擴大支援 Duet AI，並將於今年稍晚全面推出。
• Google 也會陸續發表有關開發人員工具、資料、安全性、永續發展，以及 Google 快速成長的雲端生態系統等相關更重要的最新資訊。

協助客戶的全新基礎架構和工具

革命性的生成式 AI 帶來許多先進的功能並可廣泛的使用於各種應用成式，因此需要最先進、最強大的基礎架構。Google 25 年來不斷投資資料中心和網路，現在 Google 擁有涵蓋 38 個雲端區域的全球網路，目標在 2030 年完全達到全天候採用無碳能源維持營運。

Google 的 AI 最佳化基礎架構是訓練和實現生成式 AI 模型的優先選擇。事實上，有超過 70% 的生成式 AI 獨角獸公司和超過一半獲得融資的生成式 AI 新創公司都是 Google Cloud 客戶。Google 宣布協助客戶的基礎架構關鍵革新，包括：

• • Cloud TPU v5e：Google 推出業界最新、最具成本效益、多功能且可擴充的專屬 AI 加速器。現在，客戶可以使用單個 Cloud TPU 平台來運作大規模 AI 訓練和推理。Cloud TPU v5e 可擴充到數萬個晶片且經過效能最佳化。與 Cloud TPU v4 相比，每 1 美元的訓練效能可提升 2 倍，每 1 美元的推論效能可提升 2.5 倍。
  • 搭載 NVIDIA H100 GPU 的 A3 虛擬機器：搭載 NVIDIA H100 GPU 的 A3 虛擬機器將於下個月全面上市。這是專為實現高效能網路和其他先進技術而建構，以因應當今對生成式 AI 和大型語言模型（LLM）的高度需求。這使得機構能夠實現比上一代 A2 高出三倍的訓練效能。
  • GKE Enterprise：為要求最高、完成關鍵任務的 AI/ML 工作負載，提供所需的多叢集水平擴充；客戶已看到生產力提高 45%，同時軟體部署時間減少 70% 以上。Cloud TPU v5e 現已能享有和 GKE 同樣的優勢，包括自動擴充、工作負載自動化調度管理和自動升級。

• 跨雲端網路（Cross-Cloud Network）：這個全球網路平台可協助客戶跨雲端連結和保護應用程式，更具備開放性、最佳化工作負載，並採用機器學習驅動的安全性措施，能真正落實零信任機制。跨雲端網路目的是讓客戶能更輕鬆地從任何雲端存取 Google 服務，將網路延遲率降低將近 35%。

• Google 分散式雲端（Google Distributed Cloud）：專為滿足機構要在邊緣或資料中心執行工作負載的獨特需求。除了新一代硬體和新安全功能之外，Google 還加強了 GDC 產品組合，透過 Vertex AI 整合功能和 GDC Hosted 上的 AlloyDB Omni 新代管產品將 AI 擴展至邊緣。

Google 的 Vertex AI 平台變得更好

在世界一流的基礎架構之上，Google提供了相信是最全面的 AI 平台— Vertex AI，讓客戶能夠建構、部署和擴充機器學習（ML）模型。Google 看到了驚人的使用量，從今年 4 月到 7 月，生成式 AI 客戶專案數量成長了 150 多倍。客戶可以在 Google 的模型園地中存取 100 多個基礎模型，包括第三方和熱門的開放原始碼版本。這些模型都依據不同任務和不同大小進行了最佳化，包括文本、聊天、圖像、語音、軟體程式碼等等。Google 還針對網路資訊安全提供像是 Sec-PaLM 2 的產業特定模型，為 Broadcom 和 Tenable 等全球安全服務供應商提供支援；Google 也協助領先的醫療保健和生命科學公司，包括拜耳製藥（Bayer Pharmaceuticals）、HCA Healthcare 和 Meditech，提供 Med-PaLM 2 模型。

Vertex AI 中的搜尋和對話現已全面上線，這讓機構只需編寫少量的程式碼和簡單的企業管理和內建安全措施，就能夠在短短幾分鐘內使用其資料建立搜尋和聊天應用程式。此外，Vertex AI Generative AI Studio 為使用者提供具有企業級資料安全控管且容易使用的工具，方便使用者調整和自訂模型。這包括 Text Embeddings API 等開發人員工具，讓開發人員可以依據文本或圖像的語義理解，建構複雜的應用程式，以及運用人類回饋強化學習（RLHF）技術，結合使用者的反饋來深度自訂和提升模型效能。

Google很高興地宣布 Vertex AI 平台中的幾個新模型和工具：

• PaLM 2、Imagen 和 Codey 升級版：Google 將 PaLM 2 更新為 32k 背景脈絡窗口，以便企業可以輕鬆處理較長格式的文檔，例如研究論文和書籍。還改進了 Imagen 的視覺效果，並擴大了 Codey 對新語言的支援範圍。

• 調整工具：Google 也針對 PaLM 2 和 Codey 全面提供轉接器微調功能，讓使用者即使只有 100 個範例，也可以提高 LLM 效能。Google 還推出了一種新的 Imagen 微調方法，稱為「風格化（Style Tuning）」，這讓企業僅需要少量參考圖像，就可以創作出符合品牌指南或其他創意需求的圖像。

• 新模型：Google 宣布推出 Meta 的 Llama 2 與 Code Llama，以及備受歡迎的Technology Innovative Institute Falcon LLM 開源模型，另外也預先發布Anthropic Claude 2。就 LLama 2 而言，Google 將是唯一同時提供轉接器微調和 RLHF 的雲端服務供應商。

• Vertex AI 擴充功能：開發人員可以存取、建構和管理擴充功能，以提供即時資訊、整合公司資料並代表使用者採取行動。這為生成式 AI 應用程式開闢了無限的新可能性，這些應用程式可以作為企業的擴充功能，從第三方平台（如 CRM 系統或電子郵件）存取專有資訊並採取行動的能力。
• Grounding：Google 宣布推出適用於 Vertex AI 基礎模型、搜尋及對話（Search and Conversation）的企業 Grounding 服務，協助客戶能將回覆納入企業自身的資料中，以提供更準確的回覆內容。Google 正在與一些早期客戶合作，使用支援 Google 搜尋的技術來測試 Grounding 功能。

• 在 Vertex AI 上產生數位浮水印：由 Google DeepMind SynthID 支援，提供一種非常先進的技術，能將肉眼不可見的浮水印直接嵌入於圖像像素中，且無法被輕易竄改。數位浮水印為客戶提供了一種可擴充的方法，以負責任地方式創建和識別 AI 生成的圖像。Google 是第一個為 AI 生成的圖像提供此技術的超大規模雲端供應商。
• Colab Enterprise：這項代管服務將結合 Google Colab 筆記本的易用性與企業級安全性和合規性功能。資料科學家可以使用 Colab Enterprise 來協作加速 AI 工作流程，存取 Vertex AI 平台的全部功能、與 BigQuery 整合，甚至完成和生成程式碼。

控管資料和發掘及訓練正確的模型一樣重要。Google 在設計 Vertex AI 之初，目的就是讓你能夠完全控管和區隔你的資料、程式碼和 IP，並且確保零資料洩漏。當你使用 Vertex AI 自訂和訓練模型時，例如：使用來自 SaaS 應用程式、資料庫或其他特定來源的私人文件檔和資料，並不會將該資料暴露給基礎模型。Google 會對模型進行快照，讓你可以訓練並在私有配置中封存它，藉此讓你完全控管你的資料。Google 不會使用你的提示、資料及推理時輸入的使用者資訊來改善模型，其他客戶也無法存取。

在 Workspace 和 Google Cloud 中擴大支援 Duet AI

Google 在 5 月的 I/O 大會上推出了 Duet AI，並在 Workspace 中導入強大的新功能，並展示了 Google Cloud 中的程式碼輔助（code assistance）和聊天輔助（chat assistance）等開發人員功能。從那時起，世界各地值得信賴的測試人員都體驗到了 Duet AI 的強大能力，同時 Google 致力拓展 Duet AI 的功能，並將其整合到 Workspace 和 Google Cloud 的各項產品和服務中。

從 Workspace 這個世界上最受歡迎的生產力工具開始說起，每天有超過 30 億的使用者和超過 1,000 萬付費的客戶靠它來完成工作。幾個月前 Google 推出 Duet AI ，並提供了許多功能來提高團隊的工作效率，例如協助你在 Gmail 和 Google 文件中編寫和潤飾內容、在 Google 簡報中創建原始圖像、在 Google 試算表中將想法轉化為行動、將資料轉化為洞察，或在 Google Meet 中促進更有意義的交流互動等等。

從此，有數千家公司和超過一百萬名值得信賴的測試人員使用 Duet AI，讓 Duet AI 成為一位重要的協作夥伴、教練、靈感來源，和生產力推進器，同時協助確保每個使用者和機構都能掌控自己的資料。

Google 推出了一系列全新進階功能：

• Google Meet 中的 Duet AI：Duet AI 將在視訊通話期間為你做筆記、發送會議摘要，甚至將字幕自動翻譯成 18 種語言。此外，為了確保每位會議參與者都能清晰地看見、聽見和理解，針對在 Google Meet 中使用 Duet AI 的部分，Google 也推出新的攝影棚效果（studio look）、攝影棚燈光（studio lighting）和攝影棚音效（studio sound）等新功能。
• Google Chat 中的 Duet AI：你將能夠直接與 Duet AI 聊天，詢問有關你的內容的相關問題，獲取協作空間中共享文件的摘要，並了解錯過的對話。Google 還提供了更新的使用者介面、新的捷徑和進階的搜尋功能，讓你能夠掌握對話的最新情況，並在 Google Chat 中提供 Huddles 功能，讓團隊可以從他們已經在協作的地方開始會議。

各種規模及產業的 Workspace 客戶都在使用 Duet AI，並看到客戶體驗、生產力和效率的改善。Instacart 不斷創建出新的客戶服務工作流程，工業技術公司 Trimble 現在可以更迅速地向客戶提供解決方案。Adore Me、Uniformed Services University 和 Thoughtworks 也透過使用 Duet AI 來提升生產力，只要簡單的提示，即可快速編寫電子郵件、活動簡報和專案計畫。

Google 將在 Google Workspace 中全面推出 Duet AI，同時擴充 Google Cloud 中 Duet AI 的預覽版功能，並於今年稍晚全面推出。

Duet AI 不僅支援 Workspace，現在也提供許多 Google Cloud 產品與服務適用的 AI 功能，像是擔任程式設計小幫手，加快開發人員寫程式的速度；化身專家級顧問，協助操作人員迅速解決應用程式和基礎架構的問題；當你的資料分析師，快速提供更實用的深入分析洞察；也可以當資安專家，推薦防範網路資訊威脅的最佳做法。

Google 在 Google Cloud 擴大支援 Duet AI 協作工具文章中，分享了以下層面的技術進展：

• 軟體開發：在整個軟體開發生命週期中，Duet AI 都能提供專業協助，減少作業環境切換，有利開發人員提高生產力，長時間維持專注力。除了完成及產生程式碼外，Duet AI 還能執行程式碼重構作業，有效進行應用程式現代化。在 Apigee 中使用 Duet AI 也非常方便，所有開發人員都能透過簡單的自然語言提示，輕鬆建構應用程式介面（API）並進行整合。
• 應用程式及基礎架構操作：操作人員可以直接透過 Google Cloud 控制台，在許多服務中用自然語言和 Duet AI 對話，快速取得操作說明，瞭解基礎架構設定、部署最佳做法，以及成本、效能最佳化的專業建議。
• 資料分析：在 BigQuery 中，Duet AI 可根據情境幫忙撰寫 SQL 查詢指令及 Python 程式碼，產生完整函式及程式碼區塊，自動建議如何完成程式碼，用自然語言解釋 SQL 陳述式，還能根據你的結構定義和詮釋資料(Metadata)提供建議。有了這些功能，資料團隊將能更專注於提升業務成果。
• 資料庫翻新及加速：在 Cloud Spanner、AlloyDB 和 Cloud SQL 中，Duet AI 能產生程式碼，方便您用自然語言建構、修改或查詢資料。Duet AI 現在也支援資料庫移轉服務（DMS），能自動轉換資料庫程式碼，如預存程序、函式、觸發條件和套件等無法用傳統轉譯技術轉換的項目。
• 資安作業：Google 將 Duet AI 整合至 Chronicle Security Operations、Mandiant Threat Intelligence、Security Command Center 等資安產品，協助資安專家更有效率地防範威脅、減少安全工作流程中的繁瑣工作，並提升相關人才的技能。

Duet AI 奠基於 PaLM 2 大型語言模型，採用 Google Cloud 相關內容進行訓練與微調 （如文件、範例程式碼和最佳做法等），可提供符合當下情境的建議及專業指引。此外，Duet AI 在設計階段就遵照 Google 的 AI 準則，也完善考量使用者的資料安全與隱私 － 你的資料完全由你掌控，無論是程式碼、輸入 Duet AI 的內容，或 Duet AI 產生的建議，都不會用來訓練共用模型或開發產品。

整合資料和 AI 基礎，大規模簡化分析作業

資料是生成式 AI 的核心，所以 Google 的資料與 AI 雲端開發新功能，期待為資料團隊帶來全新分析資訊並提高生產力。新推出的 Duet AI 能協助資料工程師和分析師使用 BigQuery、Looker、Spanner、Dataplex 和資料庫遷移工具；此外，Google 也宣布在資料與分析上的幾項重要創新：

• BigQuery Studio：BigQuery Studio 是一個可執行資料工程、分析作業和預測分析的單一介面，有助提升資料團隊的效率。此外，Vertex AI 基礎模型整合新功能後，也能幫助企業組織利用跨雲端分析、管理及安全資料共用的創新技術，將 AI 應用於資料湖倉。
• AlloyDB AI：在與 PostgreSQL 相容的資料庫服務 AlloyDB 中，Google 推出的 AlloyDB AI 是不可或缺的一環，提供成套的整合式功能，如速度高達標準 PostgreSQL 10 倍的高效能向量查詢，可簡化生成式 AI 應用程式的建構作業。此外，有了 AlloyDB Omni，你幾乎在任何環境下都能執行 AlloyDB，從地端部署系統、Google Cloud、AWS、Azure 到 Google 分散式雲端都沒問題。
• 資料雲合作夥伴：對客戶的生成式 AI 策略而言，Google 的開放式資料生態系是一大資產，Google 也持續擴增 Google Cloud 上現有合作夥伴的解決方案與資料集。舉例來說，Confluent、DataRobot、Dataiku、Datastax、Elastic、MongoDB、Neo4j、Redis、SingleStore 和 Starburst 等合作夥伴都推出了新功能，協助客戶善用資料，加快並提升生成式 AI 的開發作業。Google 的合作夥伴也在 Analytics Hub 中新增了更多資料集，供客戶建構、訓練生成式 AI 模型，包括 Acxiom、Bloomberg、Dun & Bradstreet、TransUnion、ZoomInfo 等企業都提供了值得信賴的資料。

上述創新能透過統一的資料基礎，協助企業組織發揮資料及 AI 的最大潛力。有了 Google Cloud，企業在任何環境都能執行資料作業，並直接用 AI 和機器學習工具處理資料，降低移動資料的風險與成本。

解決重大資安難題

Google Cloud 提供領先業界的資安服務，也是唯一能夠結合不可或缺的前線情報和專業知識、現代化 SecOps 平台，以及值得信賴的雲端基礎，並同時全部注入生成式 AI 的強大功能的雲端安全服務供應商，確保客戶能實現理想中的資安成果。

今年 Google 推出了 Security AI Workbench，是業界首創的可擴充平台，由 Google 的新一代安全性大型語言模型 Sec-PaLM 2 驅動，結合 Google 獨有的觀測技術，幫助使用者掌握不斷變化的安全性威脅，也專門為網路安全作業精心微調。幾週前，Google 推出 Chronicle CyberShield，政府使用這個安全作業解決方案後，能解決資料孤島的問題，也能集中管理安全性資料，提升相關人員對國家當前局勢的認知，並統一規劃處理方式。除了以上介紹的 Duet AI 創新技術外，Google 也要宣布幾項功能：

• Mandiant Hunt for Chronicle：這項服務結合 Mandiant 前線專家對攻擊者行為的最新分析，以及 Chronicle Security Operations 快速分析、搜尋安全性資料的功能，客戶不必聘請專人，也不必處理工具和人才培訓的複雜工作，就能享有專業級支援。

• 無代理程式安全漏洞掃描：Security Command Center 提供防護機制管理功能，可為 Compute Engine 虛擬機器上的作業系統、軟體及網路偵測安全漏洞。

• 網路安全技術提升：Cloud Firewall Plus 推出進階威脅防護和新一代防火牆 (NGFW) 功能，強化由 Palo Alto Networks 提供技術支援的分散式防火牆服務；Network Service Integration Manager 則方便網路管理員整合值得信任的第三方 NGFW 虛擬設備，有效執行流量檢查。
• Assured Workloads 新增日本區域：客戶現在可以建立強制實施資料落地儲存日本區域的環境，並擁有將加密金鑰存放本地的控制選項，以及能掌握雲服務業者存取資料的完整稽核日誌。Google 也持續拓展監管與主權解決方案合作夥伴計畫，為受法規監管的雲端環境提供更多第三方創新解決方案。

在 AI 的助攻下，Google 已進入全新數位轉型時代。AI 不僅提升企業營運與人際互動，也改變了醫療照護和日常溝通模式，連職場安全的維護方式都因而有所變化，而且這些還只是剛開始而已。

現在，Google 將攜手構築全新雲世代，能與客戶及合作夥伴一同踏上這趟旅程，Google 深感榮幸。

本文作者：Google Cloud 執行長 Thomas Kurian

史塔夫短評：生成式AI與雲端運用潛力無窮