Amazon推出雲端AI模型平臺Bedrock、大型語言模型Titan

圖片來源: 

AWS

Amazon也加入AI LLM模型競賽。可供用戶選用不同AI基礎模型的雲端服務Amazon Bedrock,和該公司第一個大型語言模型(Large Language Model,LLM)Titan。

Bedrock讓客戶可透過API使用AI21 Labs、Anthropic、Stability AI及Amazon自有基礎模型(foundation model,FM),以便開發及部署生成式AI應用。Bedrock服務讓用戶在AWS代管雲端平臺上,使用可生成文字或圖形的基礎模型。AWS指出,客戶可視其應用選擇適合的基礎模型,以其自有資料訓練出獨有的模型,並可用AWS工具整合到他們的應用程式中。AWS說,這項服務也可整合其他AWS工具和功能,像是Amazon SageMaker的Experiments功能追蹤、分析、測試模型參數、程式碼版本及訓練資料集,或是以Pipelines功能來管理大規模基礎模型。

Bedrock目前提供的模型中,AI21 Labs的多語言LLM Jurassic-2可生成西語、法語、德語、葡語、義語、荷語文字。Anthropic的Claude LLM可執行多種對話及文字處理作業,號稱是誠實及負責任的AI系統。Stability AI則提供從文字生成圖片的基礎模型套件,包括Stable Diffusion,可生成逼真、高品質的圖片、藝術、Logo和設計。

AWS今天也公布了第一個自有基礎LLM名為Titan FM。Titan FM包含兩個新LLM,一是生成式LLM,適用於摘要總結、生成文字(如部落格貼文)、分類和開放式QA、搜尋資訊等任務。二是嵌入LLM,可將文字(如字、詞或文字單位)輸入轉成數值形式(稱為嵌入embedding)來表徵文字語意,適合個人化服務、推薦及搜尋等。AWS表示,Amazon.com平臺上的產品搜尋功能也用了類似的嵌入模型,幫使用者尋找相關商品。Titan FM還支援負責任的AI原則,能偵測及移除資料中心有害內容、拒絕用戶輸入的低俗或不當內容,並且過濾掉模型產出的不良內容(如仇恨言論、色情和暴力內容)。

感應門神,推薦沙發修理,老師傅的專業手工!海島型木地板是否會有潮濕變形疑慮?測試專家告訴你如何好好使用示波器。好的茗茶,更需要密封性高的茶葉罐,才能留住香氣!如何利用一般常見的「L型資料夾」真空封口機該不該買?使用心得分享!專業客製化禮物、贈品設計,辦公用品常見【L夾】搖身一變大受好評!空壓機合理價格為您解決工作中需要。臭氧機推薦。貨櫃屋,結合生活理念、發揮無限的創意及時尚的設計。竹北床墊推薦!總是為了廚餘煩惱嗎?雅高環保提供最適用的廚餘機,滿足多樣需求。實木地板、海島型地板、耐磨地板怎麼挑? 木地板三倍價差的秘密!!沙發換皮省更多,延長老沙發壽命!竹北床墊工廠,賣場商品防竊是怎麼做的

AWS強調Bedrock最重要的特色是允許客製化模型。用戶只要將Bedrock指向Amazon S3幾個標註過的範例,它就能微調出特定任務適用的模型,而無需再標註大量資料(大約20個範例就足夠)。AWS舉例,零售服飾業者的內容行銷業者要為新的手提包設計行銷活動,只要給Bedrock該公司做過的行銷活動中效果最好的標題,以及相關新品描述,它就能自動生成社群平臺行銷內容、展示廣告,以及新手提包的網頁行銷資料。訓練模型過程中不需使用客戶個資,所有資料都經過加密,也不會離開客戶的虛擬私有雲(Virtual Private Cloud,VPC),確保所有用戶資料的隱私和安全。

目前Bedrock以限定預覽版形式上線,早期試用客戶包括線上檔案編輯器軟體商Coda在其環境訓練AI模型,ISV如C3 AI及Pega也以Bedrock使用基礎模型。Amazon Titan FM也有一些客戶試用過,AWS表示接下來幾個月內將推廣給更多企業測試。AWS尚未公布Bedrock的價格。

Bedrock是AWS生成式AI方案三項元素之一。AWS今天同時宣布另二項元素的消息,,個人版免費提供,專業版則為每人每月19美元。

此外,AWS也正式推出2個生成式AI適用的執行個體,包括AWS Inferentia2晶片的Amazon EC2 Inf2 instances,以及使用更高階Trainium機器學習加速晶片的Amazon EC2 Trn1n執行個體,分別提供800 Gbps及1600 Gbps網路頻寬。

https://www.ithome.com.tw/news/156411

您可能也會喜歡…