AWS 將使客戶更快建構和擴展安全的生成式 AI 應用程式
Amazon Bedrock讓用戶能夠輕鬆導入來自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI以及亞馬遜等公司的領先基礎模型(FMs),同時滿足了開發和部署生成式AI應用所需的功能性和企業級安全性需求。Amazon Bedrock上可用的強大模型均以完全託管服務的方式提供給客戶,因此客戶無需擔心底層基礎設施,這為應用程式的無縫部署、可擴展性和持續優化提供保障。新增的功能允許客戶在Amazon Bedrock上運行專屬的完全託管模型,簡化了為特定應用場景選擇最佳模型的過程,並讓生成式AI應用程式的保護措施更易於實施,同時還擴展了模型的選擇範圍。
從迅速崛起的新創公司到注重安全的大型企業及政府機構,全球各類組織正透過Amazon Bedrock激發創新、提升生產效率並打造全新的用戶體驗。例如,紐約證券交易所(NYSE)利用Amazon Bedrock豐富的基礎模型和先進的AI生成能力,處理眾多的監管檔案,並將複雜的法規內容轉化為易於理解的語言。歐洲最大的航空公司瑞安航空正透過Amazon Bedrock提升服務效率。Amazon Bedrock能夠幫助機組人員即時查詢特定國家法規的相關資訊,或從數量龐大的手冊中快速擷取關鍵摘要,確保乘客的旅遊順利順暢出行;專注於為社區醫療機構提供電子健康記錄(EHR)解決方案的技術供應商Netsmart,正在努力減輕醫護工作者在臨床檔案管理上的工作負擔。透過在Amazon Bedrock上建構的生成式AI自動化工具,他們旨在將個人健康記錄的管理時間減少高達50%。這將使Netsmart客戶加速患者報銷申請的提交過程,同時提升患者所得到的護理體驗。
AWS AI和資料全球副總裁Swami Sivasubramanian表示:「企業應用Amazon Bedrock正呈現出爆炸式的增長。成千上萬不同規模,來自不同產業的企業選擇Amazon Bedrock作為他們生成式AI策略的核心基礎,它極大加速並簡化了企業從試驗階段到實際生產的過程。客戶對Amazon Bedrock充滿熱情,因為它不僅提供企業級的安全性和隱私保護,還提供了廣泛的前瞻模型選擇,使得建構生成式AI應用變得前所未有的簡單。隨著今天新功能的推出,我們將繼續快速創新,以為我們的客戶提供更豐富的功能和業界領先的模型,並進一步推動生成式AI的大規模普及。」
全新的專有模型導入功能可以幫助客戶將客製化模型整合至Amazon Bedrock,減少營運成本並加速應用程式開發,在Amazon Bedrock上,來自醫療保健與金融服務等產業的客戶不僅可以輕鬆使用AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和亞馬遜的多種領先的基礎模型,還能利用自身資料客製化公開模型,以支援特定產業的應用。當企業需要用自有資料建構這些模型時,他們通常仰賴模型訓練服務如Amazon SageMaker,以從頭開始訓練模型或對現有的公開模型如Llama、Mistral和Flan-T5進行進階客製化。自2017年推出以來,Amazon SageMaker已成為建構和訓練世界級基礎模型的平台,其中包括超大參數量的公開模型Falcon 180。同時,客戶還希望能夠將他們自己的客製化模型與Amazon Bedrock內建的高級生成式AI工具結合,如知識庫、Guardrails、代理(Agents)和模型評估等,而無需自行開發這些功能。
借助全新的Amazon Bedrock專有模型導入功能,企業現在能夠將自己的客製化模型導入到Amazon Bedrock中,以完全託管的應用程式開發介面(API)形式使用,這種方式為建構生成式AI應用程式帶來前所未有的體驗。只需點擊幾下,客戶即可將他們使用Amazon SageMaker或其他工具開發的模型整合到Amazon Bedrock平台上。模型透過自動化驗證流程後,客戶便可像使用平台上其他模型一樣使用自己的客製化模型,同時享受目前Amazon Bedrock所具備的所有優勢,包括無縫的可擴展性、強大的保護能力、遵循負責任的AI原則、利用檢索增強生成(RAG)擴充模型知識庫、輕鬆打造用於完成多步驟任務的代理(Agents)、進行微調以持續訓練和優化模型,且無需管理底層基礎設施。這一新功能讓企業能夠輕鬆地透過同一API使用Amazon Bedrock的模型與自己的客製化模型,Amazon Bedrock專有模型導入功能現已推出預覽版,並支援三種最受歡迎的開放模型架構:Flan-T5、Llama和Mistral,並計畫未來支援更多模型。