Amazon Bedrock新功能登場 助港企建立安全AI應用 捷足先登搶商機
Amazon Bedrock新功能登場 助港企建立安全AI應用 捷足先登搶商機|Amazon Web Services(AWS)宣布推出 Amazon Bedrock 的全新功能,為客戶提供更簡單、更快捷、更安全的方法協助開發先進的生成式人工智能(Generative AI)應用程式。
Amazon Bedrock 加入全新功能 助客戶更快捷地構建和擴展安全的生成式 AI 應用程式
目前,已有成千上萬的用戶選擇將 Amazon Bedrock 作為其生成式 AI 策略的核心基礎。Amazon Bedrock 讓用戶能夠輕鬆導入來自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 以及亞馬遜等公司的領先基礎模型(FMs),同時滿足開發和部署生成式 AI 應用程式所需的功能性和企業級安全性需求。Amazon Bedrock 上可用的強大模型均以完全託管服務的方式提供給客戶,為應用程式的無縫部署、可擴展性和持續優化提供了保障,因此客戶無需擔心底層基礎設施。
新增的功能允許客戶在 Amazon Bedrock 上運行專屬的完全託管模型,簡化了為特定應用場景選擇最佳模型的過程,並讓生成式 AI 應用程式的保護措施更易於實施,同時擴展了模型的選擇範圍。如需了解更多資訊或使用 Amazon Bedrock,請瀏覽:
。從迅速崛起的初創公司到注重安全的大型企業及政府機構,全球各類組織正透過 Amazon Bedrock 激發創新、提升生產效率並打造全新的用戶體驗。例如,紐約證券交易所利用 Amazon Bedrock 豐富的基礎模型和先進的 AI 生成能力,處理眾多的監管檔案,並將複雜的法規內容轉化為易於理解的語言。
此外,歐洲最大的航空公司瑞安航空亦正透過 Amazon Bedrock 協助機組人員即時查詢特定國家法規的相關資訊,或從數量龐大的手冊中快速擷取關鍵摘要,確保乘客的旅遊順利順暢出行,並提升服務效率。專注於為社區醫療機構提供電子健康記錄(EHR)解決方案的技術供應商 Netsmart,正透過在 AmazonBedrock 上構建的生成式 AI 自動化工具,協助將個人健康記錄的管理時間減少高達 50%,以減輕醫護工作者在臨床檔案管理上的工作負擔。構建這將加快 Netsmart 客戶提交患者索償申請過程,同時提升患者所獲得的護理體驗。
AWS AI 和數據全球副總裁 Swami Sivasubramanian 表示:「企業應用 Amazon Bedrock 正呈現出爆炸式的增長。成千上萬來自不同產業、不同規模的企業已選擇 Amazon Bedrock 作為他們生成式 AI 策略的核心基礎,它極大加快並簡化了企業從試驗階段到實際生產的過程。客戶對 Amazon Bedrock 充滿熱情,因為它不僅提供企業級的安全性和私隱保護,還提供了廣泛的前瞻模型選擇,使構建生成式 AI 應用變得前所未有的簡單。隨著今天新功能的推出,我們將繼續加快創新,為客戶提供更豐富的功能和業界領先的模型,並進一步推動生成式 AI 的大規模普及。」
全新的專有模型導入功能協助客戶將客製化模型整合至 Amazon Bedrock,減少營運成本並加速應用程式開發
在 Amazon Bedrock 上,來自醫療保健與金融服務等產業的客戶不僅可以輕鬆使用 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和亞馬遜多款領先基礎模型,還能利用自身資料定製公開模型,以支援特定產業的應用。當企業需要用自有數據構建這些模型時,他們通常需要透過模型訓練服務如Amazon SageMaker,以從頭開始訓練模型或對現有的公開模型如 Llama、Mistral 和 Flan-T5 進行進階客製化。自 2017 年推出以來,Amazon SageMaker 已成為構建和訓練世界級基礎模型的平台,其中包括超大參數量的公開模型 Falcon 180。同時,客戶希望能夠將他們自己的客製化模型與 Amazon Bedrock內建的高級生成式 AI 工具結合,如知識庫、Guardrails、代理(Agents)和模型評估等,而無需自行開發這些功能。
借助全新的 Amazon Bedrock 專有模型導入功能,企業現在能夠將自己的客製化模型導入到 AmazonBedrock 中,以完全託管的應用程式開發介面(API)形式使用,這種方式為構建生成式 AI 應用程式帶來前所未有的體驗。只需點擊幾下,客戶即可將他們使用 Amazon SageMaker 或其他工具開發的模型整合到 Amazon Bedrock 平台上。模型透過自動化驗證流程後,客戶便可像使用平台上其他模型一樣使用自己的客製化模型,同時享受目前 Amazon Bedrock 所具備的全部優勢,包括無縫的可擴展性、強大的保護能力、遵循負責任的 AI 原則、利用檢索增強生成(RAG)擴充模型知識庫、輕鬆打造用於完成多步驟任務的代理(Agents)、進行微調以持續訓練和優化模型,且無需管理底層基礎設施。這項新功能讓企業能夠輕鬆地透過同一 API 使用 Amazon Bedrock 的模型與自己的客製化模型,AmazonBedrock 專有模型導入功能現已推出預覽版,並支援三種最受歡迎的開放模型架構:Flan-T5、Llama 和Mistral,並計劃未來支援更多模型。
全新模型評估功能協助客戶評估、比較和選擇適合其應用程式的最佳模型
Amazon Bedrock 提供了最廣泛和業界領先的模型選擇,滿足企業在價格、效能或功能方面的各種需求,並允許企業獨佔或與其他企業共享模型。構建生成式 AI 應用程式的關鍵步驟是找到合適的模型,而選擇特定應用場景的最佳模型則需要客戶在準確性和效能之間達成微妙的平衡。現在,企業仍需要花費大量時間分析每個新模型可以如何滿足他們的應用場景,這拖慢了他們向用戶提供生成式 AI 體驗的速度。全新模型評估功能已於今天正式可用,它是企業快速分析和比較 Amazon Bedrock 上模型的最快方式,讓評估模型的時間從幾星期縮短到幾小時,進而加快推出新的應用程式並改善使用者體驗。客戶可以立即開始評估,透過選擇預定義的評估標準(例如準確性和穩健性)並上傳自有數據庫或提示庫,或者從內建的、公開可用的資源中進行選擇。對於主觀標準或需要細緻判斷的內容,Amazon Bedrock 使客戶能夠輕鬆將人工審核融入到工作流程中,以根據特定應用場景的指標(如相關性、風格和品牌聲量)對模型進行評估。當完成設定,Amazon Bedrock 將執行評估並生成報告,使客戶能夠輕鬆了解模型在關鍵指標上的表現,並迅速選擇最適合其應用場景的模型。
透過 Amazon Bedrock Guardrails 功能,客戶可利用前瞻技術輕鬆實施防護措施,去除個人訊息和敏感資訊、不當語言、特定詞彙並過濾有害內容
企業需要以安全、可信和負責任的方式使用生成式 AI。現時大量模型使用內建控制來過濾不良和有害內容,但多數客戶希望進一步客製化他們的生成式 AI 應用程式,以確保生成結果更具相關性,在符合公司政策的同時遵循負責任的 AI 原則。現時,Amazon Bedrock 的 Guardrails 功能已正式可用,它在基礎模型的原有功能之上提供了業界領先的安全保護,能夠協助客戶阻止高達 85% 的有害內容。Guardrails 是唯一一項由頂級雲端服務供應商提供的解決方案,它允許客戶在單一服務中同時擁有內建和客製化的防護機制,並可與 Amazon Bedrock 中的所有大型語言模型(LLMs)以及經過微調的模型一起使用。要打造一個 Guardrail,客戶只需提供一個自然語言描述來定義其應用程式上下文中不予顯示的主題。此外,客戶還可以設定閾值以過濾仇恨言論、侮辱、性相關用語、攻擊和暴力性等內容,並設定篩檢程式以移除個人訊息和敏感資訊、不當言論或過濾特定詞彙。Amazon Bedrock Guardrails 透過為生成式 AI 應用程式提供一致的使用者體驗和標準化的安全和私隱控制,讓客戶能夠快速且安全地進行創新。
更多模型選擇:Amazon Titan Text Embeddings V2、正式可用的 Titan Image Generator,以及來自 Cohere
和 Meta 的最新模型Amazon Bedrock 專屬的 Amazon Titan 模型是由 AWS 在大規模且多樣化的數據庫上建立和預訓練而成的,專為多種應用場景而設,並內建負責任的 AI 功能。Amazon Bedrock 不斷擴展 Amazon Titan 系列,為客戶提供更多選擇和靈活性。Amazon Titan Text Embeddings V2 優化了針對使用 RAG 的應用場景,適合資訊搜尋、問答聊天機械人和客製化推薦等用途。許多企業正採用流行的 RAG 模型客製化技術,透過連接到知識源頭以增強基礎模型生成的內容。然而,運行這些操作可能會消耗大量運算和儲存資源。即將推出的新版 Amazon Titan Text Embeddings V2 模型透過為客戶提供靈活的嵌入(embeddings)功能,將儲存需求降低至原來的四分之一,降低儲存、運算和營運成本,同時在 RAG應用場景中保持 97% 的準確性,表現優於其他領先模型。
Amazon Titan Image Generator 現已正式可用,為廣告、電子商務、媒體和娛樂等產業客戶提供了一種低成本的方式以自然語言提示來生成專業級別的圖像,或對現有圖像進行優化和編輯。Amazon TitanImage Generator 同時為生成的所有圖像設計隱形浮水印,以協助識別 AI 生成的圖像,推動 AI 技術的安全度、可靠度和透明度發展,減少傳播虛假資訊。同時,Amazon Titan Image Generator 還可以檢查圖片中是否存在浮水印,協助客戶確認圖片是否由其生成。
同時,Amazon Bedrock 上的 Meta Llama 3 基礎模型已正式可用,Cohere 的 Command R 和 Command R+ 模型亦即將推出。Llama 3 專為開發者、研究人員和企業而設,旨在支持他們構建、試驗並負責任地擴展生成式 AI 專案。Llama 3 模型是一系列經過預訓練及微調的大型語言模型,適用於廣泛的應用場景,特別擅長執行文本摘要和分類、情感分析、語言翻譯及程式碼生成等任務。而 Cohere 的 Command R 和 Command R+ 模型則是前瞻的基礎模型,客戶能夠基於該模型構建支援 10 種語言、具備先進 RAG 功能的企業級生成式 AI 應用,協助全球業務拓展。
來自 Amazon Bedrock 客戶和合作夥伴的回饋
亞馬遜打造的 Rufus 是一款以生成式 AI 為核心的專業購物助手,它基於公司龐大的產品目錄、客戶建議、社群問答以及互聯網資訊進行訓練。Rufus 能解答客戶的購物疑問、提供產品比較,並根據對話情境進行推薦。亞馬遜商店 Foundational AI 副總裁兼傑出科學家 Trishul Chilimbi 表示:「為了在亞馬遜商店中提供卓越的對話式購物體驗,我們致力於為 Rufus 開發先進的模型,並期待它為客戶帶來超乎預期的價值。透過利用 Amazon Bedrock 的客製化模型導入功能,我們能夠將 Rufus 先進的底層模型提供給內部開發人員,以完全託管的 API 形式使用它。現在,各個業務團隊都可以使用這個模型來構建自己的應用,而 Amazon Bedrock 則簡化了開發流程,協助所有亞馬遜客戶快速開發新體驗。」
電通(Dentsu)為全球領先的綜合行銷和技術服務提供者之一。電通創意全球技術總監 James Thomas表示:「在過去三個月裡,我們利用 Amazon Titan Image Generator 模型的預覽版,透過自然語言提示創造了大量仿真的工作室級圖像,主要用於產品推廣和一致的品牌標誌生成。我們的創意團隊對 Titan Image Generator 生成的多樣化內容感到印象深刻,這些內容協助我們為全球廣告活動創造了引人注目的圖像。我們期待體驗該模型新推出的浮水印檢測功能,這將提升 AI 生成內容的透明度,並協助我們與客戶建立更牢固的信任關係。」
Salesforce 為全球 AI 客戶關係管理(CRM)領域的領導者,其「CRM + 數據 + AI + 信任」的組合為企業提供了強大的客戶連結。Salesforce AI 產品資深副總裁 Kaushal Kurapati 表示:「AI 是我們承諾協助客戶在 Salesforce 應用中提供客製化體驗的核心,這些應用都建立在 Data Cloud 的數據之上。為了在我們的統一數據平台上實施生成式 AI,我們正在評估各種基礎模型,確保所選模型最符合客戶的需求。Amazon Bedrock 是我們開放生態系統模型策略的關鍵部分,這項新的模型評估功能提供自動化與人工評估兩種方式,加速了我們比較和選擇模型的過程。現在,我們不僅可以基於直觀標準評估模型,還能從友好性、風格和品牌相關性等更多質性標準進行評估。這種能力的提升將使我們為客戶營運模型變得更簡單和迅速。」
關於 Amazon Web Services
自 2006 年來,Amazon Web Services 一直在提供世界上服務最豐富、應用廣泛的雲端服務。AWS 為客戶提供超過 240 種功能全面的雲端服務,包括運算、儲存、數據庫、網絡、分析、機器學習與人工智能、物聯網、流動、安全、混合雲、媒體,以及應用開發、部署和管理等方面,遍及 33 個地理區域內的 105 個可用區域(Availability Zones),並已公佈計畫在馬來西亞、墨西哥、紐西蘭、沙特阿拉伯和泰國等建立 6 個 AWS 地理區域、18 個可用區域。AWS 的服務獲得全球超過百萬客戶的信任,包括發展迅速的初創公司、大型企業和政府機構。通過 AWS 的服務,客戶能夠有效強化自身基礎設施,提高營運上的彈性與應變能力,同時降低成本。欲了解更多有關 AWS 的資訊,請瀏覽:
。