麻豆国内精品欧美在线-麻豆国内精品久久久久久-麻豆国产在线观看一区二区-麻豆国产在线观看免费-麻豆国产原创-麻豆国产一区二区在线观看

“鐵打的應用,流水的模型”形勢下,該如何構建企業級AI應用?快訊

TechWeb.com.cn 2025-02-07 14:52
分享到:
導讀

亞馬遜云科技就已為企業提供了4種方式來部署DeepSeek-R1系列模型,亞馬遜云科技現已推出針對DeepSeek-R1模型四種不同的部署方式,基于場景選擇合適的模型只是企業構建應用旅程的第一步。

【TechWeb】2月7日消息,新年伊始,AI領域又迎來了一位耀眼的新星——DeepSeek。這位初出茅廬卻勢不可擋的選手,以驚人的速度席卷全球,超越ChatGPT成為全球增速最快的AI應用,也吸引了越來越多的企業使用DeepSeek系列模型。

事實上,類似的劇情在過去一年中已屢見不鮮,從GPT4到Claude 3.5再到o1……雖然這次的主角是DeepSeek,但AI領域還處于“模型爭霸”時代的本質依然沒變。

每當一個更強模型出現時,對普通用戶而言,要使用最新AI很簡單,下載對應的APP(比如這次是DeepSeek APP)直接用起來就行了。但是,對依賴大模型構建的企業級AI應用來說,要想每次都能快速、無縫使用上最新大模型的能力,就沒這么簡單了,需要解決一系列部署和使用模型中的工程化問題。

站在企業視角,“模型爭霸”時代可謂是“鐵打的應用,流水的模型”。那么,自身鐵打的應用,該如何每次都能無縫搭乘上流水般涌現的新模型的東風,無疑是企業最關心的事。

“不會有一個模型一統天下”,亞馬遜CEO Andy Jassy在2024 re:Invent上分享了亞馬遜自身部署人工智能的關鍵洞察時就強調過。

在此洞察下,亞馬遜云科技對幫助客戶構建企業級AI應用早已有了一套成熟的思維方式和工具箱。比如,在第一時間,亞馬遜云科技就已為企業提供了4種方式來部署DeepSeek-R1系列模型。

這里一起看看亞馬遜云科技構建企業級AI應用的思維和工具。

認識到模型多樣性的重要

如同Andy Jassy在此前的演講中所述:“就像數據庫領域,探討了10年,大家會使用各種各樣的關系型數據庫或者非關系型數據庫。在分析領域也是如此,曾經大家覺得TensorFlow會成為唯一的AI框架,而一直強調會有很多不同框架出現,最終PyTorch成為了最受歡迎的那個。”企業在基于大模型構建應用時,不同的應用場景需要的技術指標也各不相同,延遲、成本、微調能力、知識庫協調能力、多模態支持能力等等,都會因場景需求的不同而被取舍。

2024年12月亞馬遜CEO Andy Jassy在2024 re:Invent上演講

就以DeepSeek為例,其于2024年12月推出DeepSeek-V3模型后,于2025年1月20日相繼發布了參數規模達6710億的DeepSeek-R1、DeepSeek-R1-Zero以及參數范圍覆蓋15億至700億的DeepSeek-R1-Distill系列模型。2025年1月27日,DeepSeek又新增了基于視覺的Janus-Pro-7B模型。這些模型均已開源,公開資料顯示,DeepSeek系列模型通過強化學習等創新訓練方法,在推理能力方面具有顯著優勢,并且成本效益比同類模型高出90%-95%。

但是,以快速響應場景為例,DeepSeek R1的深層思考模式顯然不太合適,其生成首個token的用時超過30秒,而Amazon Nova模型則只需要數百毫秒即可生成響應。另外,目前的DeepSeek-V3模型只是文生文模型,不支持圖形等多模態信息的輸入。

可見,強如DeepSeek模型也不是萬能的。

正是從最初就洞察到“不會有一個模型一統天下”,亞馬遜云科技在精進自身大模型的同時,一直致力于為企業用戶提供豐富的模型“選擇”。

目前,Amazon Bedrock已上架AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI、Luma AI、poolside等廠商的最新大模型,近期還上線了Luma AI Ray 2 模型。

同時,亞馬遜云科技還推出了Amazon Bedrock Marketplace功能,為客戶提供100多個熱門、新興及專業模型,這其中就包括DeepSeek-R1。

如Andy Jassy所言,亞馬遜云科技提供的豐富且有深度的模型,讓客戶能夠根據自身獨特需求,精確選擇最合適的解決方案。關注客戶需求與技術發展,亞馬遜云科技持續擴展模型選擇,既要有潛力的新興模型,也要有行業內的經典模型。

打造企業級AI工具全家桶

需要注意的是,基于場景選擇合適的模型只是企業構建應用旅程的第一步。隨著構建的深入,解決工程化問題的能力成為能否成功構建的關鍵。

模型成本、性能、能否針對私有數據進行定制優化,夠不夠安全,不同尺寸的模型和日益增長的各種智能體的復雜調度等等,這些企業部署和使用模型中的工程化問題都需要得到完美解決。

以DeepSeek為例,其公開的模型有V3和R1等不同的型號,R1也有不同的尺寸規模,如DeepSeek-R1-Distill系列模型參數范圍是15億至700億,而R1和R1-Zero的參數規模則達到6710億。要完整部署R1實現完美推理和響應,還需要配套的便捷工具。

Amazon Bedrock聚焦企業應用AI的實際需求,在提供豐富模型選擇的同時,增添了一系列工具和功能。如低延遲優化推理、模型蒸餾、提示詞緩存等功能,大幅提升推理效率。以模型蒸餾功能為例,它能夠將特定知識從功能強大的大模型轉移到更小、更高效的模型,運行速度最快可提高500%,成本降低75%。

Amazon Bedrock支持基于企業自有數據的定制優化。如模型微調功能,支持GraphRAG等圖數據,以及夠快速且經濟高效地從文檔、圖像、音頻以及視頻中提取信息,并將其轉換為結構化格式的Amazon Bedrock Data Automation功能等。

Amazon Bedrock負責任AI的安全和審查,通過不斷豐富Guardrails功能,以簡化企業實施負責任AI的投入,例入為其加入自動推理檢查功能,從而能夠輕松識別事實性錯誤,以提升生成回答的準確性。

Amazon Bedrock不但提供智能體功能,還針對智能體的快速發展,進一步推出了多智能體協作功能,使客戶能夠輕松地構建和協調專業智能體來執行復雜的工作流程。憑借多智能體協作功能,客戶可以通過為項目的特定步驟創建和分配專用智能體,從而獲得更準確的結果,并通過編排多個并行工作的智能體來加速任務。

目前,亞馬遜云科技現已推出針對DeepSeek-R1模型四種不同的部署方式,企業可以在熟悉的亞馬遜云科技環境中輕松部署該系列模型,例如在Amazon Bedrock Marketplace中部署,或在Amazon SageMaker Jumpstart中部署,也可以通過Amazon Bedrock自定義導入功能或Amazon EC2 Trn1實例中部署DeepSeek-R1-Distill系列模型。

圖注:在Amazon Bedrock Marketplace中調用DeepSeek-R1模型

圖注:在Amazon SageMaker Jumpstart中部署DeepSeek-R1模型

總結來看,亞馬遜云科技圍繞云和AI領域展開的全棧式創新,為企業運用全球領先模型提供三大支持:

首先是云端本身的優勢,與本地部署相比,云端部署更靈活更易擴展,同時也能與云端豐富且成熟的分析、數據等基礎服務進行無縫集成;

其次是多樣化的模型選擇優勢,不同的場景能夠靈活選擇不同成本、性能、響應速度的模型,從而實現最優的性價比組合;

最后是模型從原型走向企業化生產環境時必須要考慮的一系列重要功能,堪稱企業級AI全家桶,包括優化成本、根據自有數據定制提升準確性、至關重要的安全性以及針對未來復雜的多智能體構建和管理等。

亞馬遜云科技大中華區產品部總經理陳曉建強調:“亞馬遜云科技是全球云計算的開創者和引領者,更是企業構建和應用生成式AI的首選。我們不僅在云的核心服務層面持續創新,更在從芯片到模型,再到應用的每一個技術堆棧取得突破,讓不同層級的創新相互賦能、協同進化。我相信,只有這樣全棧聯動的大規模創新才能真正滿足當今客戶的發展需求,加速前沿技術的價值釋放,助力各行各業重塑未來。”(果青)

模型 AI 企業 DeepSeek 功能
分享到:

1.TMT觀察網遵循行業規范,任何轉載的稿件都會明確標注作者和來源;
2.TMT觀察網的原創文章,請轉載時務必注明文章作者和"來源:TMT觀察網",不尊重原創的行為TMT觀察網或將追究責任;
3.作者投稿可能會經TMT觀察網編輯修改或補充。


主站蜘蛛池模板: 户外露出野战hd | 欧美日韩国产一区二区三区不卡 | 韩国三级在线播放 | 国产rpg迷雾之风冷狐破解 | 日本中文字幕一区二区有码在线 | 99在线精品免费视频 | 色中色破解版 | 久久久久久久国产精品视频 | 成人亚洲欧美日韩在线观看 | 果冻传媒九一制片厂网站 | 91精品久久一区二区三区 | 504神宫寺奈绪大战黑人 | 色老板在线观看 | 精品国产美女福利在线 | 午夜伦伦电影理论片大片 | 午夜A级理论片左线播放 | 亚洲国产精品一区二区首页 | 美女张开腿黄网站免费精品动漫 | 欧美 变态 另类 人妖班 | 婷婷综合久久 | 538精品视频在线观看 | 乌克兰精品摘花处破 | 成人男女网免费 | 日本人交换乱理伦片 | 91porn最新网址 | 欧美专区在线观看 | 黑人巨大vs北条麻妃在线 | 美女黑人做受xxxxxⅹ | 国产亚洲99影院 | 男人天堂网www | 天天色天天综合网 | 四虎免费影院4hu永久免费 | 亚洲狠狠婷婷综合久久蜜桃 | 国产精品视频一区二区三区经 | 韩国丽卡三级作品 | 99热资源 | 521色香蕉网在线观看免费 | 7788理论片在线观看 | 日本捏胸吃奶视频免费 | 四虎国产精品免费久久麻豆 | 精品久久久久久久久免费影院 |