Amazon Bedrock新增的“專有模型導入功能”意義何在?怎么玩轉?快訊
隨著Amazon Bedrock專有模型導入功能的推出,專有模型導入功能意義重大 借助全新的Amazon Bedrock專有模型導入功能,企業客戶能夠將他們自己的定制模型與Amazon Bedrock內置的高級生成式AI工具相結合。
【TechWeb】4月25日消息,亞馬遜云科技全球同步發布Amazon Bedrock重磅更新,新的功能包括專有模型導入功能,為特定應用場景選擇最佳模型的模型評估功能,為生成式AI應用程序提供易于實施的保護措施的Guardrails功能,以及新增了更多可選擇的新模型,包括Amazon Titan Image Generator、Meta Llama 3基礎模型已正式可用。
更多信息請見(Amazon Bedrock上新專有模型導入、模型評估等功能https://www.techweb.com.cn/internet/2024-04-24/2943938.shtml)
Amazon Bedrock是亞馬遜云科在去年4月份推出的一項全新的全托管服務,它允許用戶通過API訪問亞馬遜云科技和第三方基礎模型提供商的預訓練基礎模型。
此次重磅功能更新恰逢Amazon Bedrock推出一周年。
亞馬遜云科技AI和數據副總裁Swami Sivasubramanian介紹道:“企業應用Amazon Bedrock正呈現出爆炸式的增長。成千上萬不同規模,來自不同行業的企業選擇Amazon Bedrock作為他們生成式AI戰略的核心基礎,它極大加速并簡化了企業從試驗階段到實際生產的轉變?!?/p>
專有模型導入功能意義重大
借助全新的Amazon Bedrock專有模型導入功能,只需點擊幾下,企業用戶即可將他們使用Amazon SageMaker或其他工具開發的模型集成到Amazon Bedrock平臺上,以完全托管的API形式進行訪問。
Amazon Bedrock專有模型導入功能現已推出預覽版并支持三種開放模型架構:Flan-T5、Llama和Mistral,并計劃未來支持更多模型。
此次推出的全新專有模型導入功能可謂意義重大。
這意味著通過該服務,企業客戶能夠在Amazon Bedrock上接入其定制模型,從而能夠利用Amazon Bedrock內置的一系列功能。這將有利于客戶降低模型成本,同時享受Serverless提供的易用性,全面加速應用開發。
對亞馬遜云科技來說,專有模型導入功能的推出,打通了Amazon Bedrock和Amazon SageMaker的工具鏈連接,讓二者的能力發揮出1+1>2的效果。
為何如此說呢。在此之前,Amazon Bedrock和Amazon Sagemaker可以說是兩個獨立的服務。
Amazon SageMaker是亞馬遜云科技在2017年推出的端到端的機器學習平臺,它的功能包括從數據標注到數據訓練、再到部署、上線以后的持續監控以及基于原始數據的再迭代等端到端的能力。
Amazon SageMaker提供的模型訓練功能,可以從頭開始訓練模型或對現有的公開模型如Llama、Mistral和Flan-T5進行高級定制。
當亞馬遜云科技的客戶需要用自有數據構建這些模型時,他們通常是依賴Amazon SageMaker來訓練定制自己的專有模型。
而Amazon Bedrock內置了眾多第三方基礎大模型和高級生成式AI工具供用戶通過API訪問使用。
現在,隨著Amazon Bedrock專有模型導入功能的推出,企業客戶能夠將他們自己的定制模型與Amazon Bedrock內置的高級生成式AI工具相結合,如知識庫、Guardrails、代理(Agents)和模型評估等,而無需自行開發這些功能。
這一新功能讓企業能夠輕松地通過同一API訪問Amazon Bedrock的模型與自己的定制模型組合,這給企業在選擇和使用模型的靈活性方面帶來進一步躍升。
10分鐘完成模型導入
亞馬遜云科技還同步發布了“在Amazon Bedrock中導入自定義模型”的教程。
演示教程中,在向Amazon Bedrock導入一個微調的Mistral-7 B-v0.1語言模型,只用了10分鐘就完成。
步驟:
在Amazon Bedrock控制臺中,從導航窗格的Foundation models部分選擇Imported models。
選擇要導入的模型MistralLite,是一個微調的Mistral-7 B-v0.1語言模型,具有處理32K tokens的能力。

在模型導入設置中選擇模型權重,然后選擇上傳模型的位置。
大約10分鐘就完成了導入。
在控制臺中就能看到導入的模型MistralLite。
1.TMT觀察網遵循行業規范,任何轉載的稿件都會明確標注作者和來源;
2.TMT觀察網的原創文章,請轉載時務必注明文章作者和"來源:TMT觀察網",不尊重原創的行為TMT觀察網或將追究責任;
3.作者投稿可能會經TMT觀察網編輯修改或補充。