原來 亞馬遜云科技的GenAI科技樹是這么點的快訊
亞馬遜云科技還新發布了模型集成服務Amazon Bedrock 代理功能，亞馬遜云科技發布生成式AI服務Amazon Q，亞馬遜云科技又提供了模型定制服務工具。
【TechWeb】12月15日消息，自去年末ChatGPT橫空出世后，這一年來，全球各大科技公司都在加快旗下GenAI技術研發和應用能力。
微軟聯合OpenAI的能力推出各種copilot服務，谷歌就在上周推出了號稱“迄今為止最強大、最通用的多模態模型”Gemini；亞馬遜一方面斥資40億美元投資了Anthropic，另一方面在剛剛過去的亞馬遜云科技re:Invent上一共發布了200多項新服務和功能、超過350項持續的更新，其中就包括不少GenAI相關的服務。
通過2023亞馬遜云科技re:Invent，可以明顯看出亞馬遜的GenAI科技樹發展脈絡已經非常明晰。
三層架構為基
如亞馬遜云科技大中華區產品部總經理陳曉建所說，在理解亞馬遜云科技的GenAI技術發展時，要先了解到亞馬遜云科技GenAI技術所要服務的目標對象，這一首要目標群體就是亞馬遜云科技現有的數百萬客戶。亞馬遜云科技的GenAI服務和功能期望能幫助客戶更好的應用GenAI能力。
因此，亞馬遜云科技將端到端應用生成式AI做了三層架構的規劃，由下至上在底層提供用于訓練基礎模型和在生產中運行這些模型的基礎設施；中間層提供調用和訪問基礎模型的最便捷的工具，讓沒有AI經驗的構建者，直接獲得應用生成式人工智能所需的所有工具，來構建自己的應用；頂層是利用基礎模型構建的開箱即用的應用程序，讓沒有技術基礎的業務用戶，也能在具體場景中直接使用生成式AI。
底層 從芯片層的優化開始
在底層，亞馬遜云科技提供用于基礎模型訓練和推理的基礎設施。其中，就包括芯片層面的創新。
一方面，2023亞馬遜云科技re:Invent，新發布自研Amazon Trainium2處理器，用于生成式 AI 和機器學習訓練的專用芯片，針對訓練具有數千億至數萬億參數的基礎模型進行優化，相較 Amazon Trainium 4 倍性能提升，65 exaflops的按需超級計算性能。
另一方面，亞馬遜云科技和英偉達共同宣布了幾項最新合作，亞馬遜云科技將提供首款搭載NVIDIA Grace Hopper超級芯片和亞馬遜云科技UltraClusters技術的云AI超級計算機；亞馬遜云科技將提供首款搭載NVIDIA Grace Hopper超級芯片和亞馬遜云科技UltraClusters技術的云AI超級計算機
中間層 三個遞進層面的工具服務更新
在中間工具層，亞馬遜云科技提供調用大語言模型和基礎模型進行構建的工具。這些工具又分為3個層面，一是可供選擇的大模型、二是可以用來定制模型的工具、三是模型集成工具。
亞馬遜云科技于今年4月發布的Amazon Bedrock是一項全面托管的服務，通過它，企業用戶可以通過API等方式輕松訪問包括亞馬遜云科技自研的Titan（Amazon Titan）系列模型和AI21 Labs、Anthropic、Cohere、Meta、Stability AI等眾多主流第三方大模型。
在2023亞馬遜云科技re:Invent，Amazon Bedrock進一步拓展了可被調用的模型類型，包括新增支持Anthropic Claude 2.1和Meta LLama 2 70B兩款業內領先大模型；同時，亞馬遜云科技自有的Titan模型推出了，Amazon Titan Text Embeddings模型，能將文本轉換為向量；Amazon Titan Text Lite 一種更小巧、更具成本效益的模型，支持聊天機器人問答或文本摘要等用例；Amazon Titan Text Express 模型參數量更大，可用于更廣泛的任務，如開放式文本生成和對話聊天；Amazon Titan Multimodal Embeddings多模態嵌入模型，能夠創建更豐富的多模態搜索和推薦體驗；Amazon Titan Image Generator圖像生成模型預覽版，現已推出預覽版，使客戶能夠使用自然語言提示生成高質量、逼真的圖像或增強現有圖像。
亞馬遜云科技認為，企業創造真正價值的生成式人工智能應用程序的關鍵就是能夠用企業自己的書據進行定制，用數據進行定制才能構建企業的差異化壁壘。
因而，在提供更多模型選擇的基礎上，亞馬遜云科技又提供了模型定制服務工具。
2023亞馬遜云科技re:Invent上，新發布了Amazon Bedrock持續預訓練功能，支持對 Amazon Titan Text Lite 與 Express持續預訓練。據介紹，持續預訓練是在Amazon Bedrock 中一種自定義模型的方法是。這是一種使用大量未標記數據（如內部報告、財務計劃或研究成果的原始文本）來提高基礎模型對特定領域的知識和推理能力的技術，這種方式是適合想要擁有“領域大模型”，或者說將領域知識以及技能嵌入大模型能力的場景。
一同新發布的還有Amazon Bedrock微調功能，微調是另外一項重要模型定制技術，經常被用來控制模型去理解特定的輸入格式（比如固定問問題的問法），輸出以及理解回答問題的角色。然后，Amazon Bedrock 會復制一個客戶專屬的基礎模型，并結合客戶準備的S3上的數據，進行微調，并生成一個新的定制模型。目前，Amazon Bedrock微調功能支持的模型包括Cohere Command、Meta Llama 2和Amazon Titan，并將很快支持Anthropic Claude 2。
還新發布Amazon Bedrock具有知識庫的檢索增強生成功能。RAG檢索增強可能是現在最常見的用企業數據定制的方式。知識庫功能可將模型安全地連接到公司內部數據源，并通過RAG檢索增強生成的方式為聊天機器人或問答系統等應用提供更準確的回答。
有了模型和定制能力，還需要和應用集成才能服務于業務。
2023亞馬遜云科技re:Invent上，亞馬遜云科技還新發布了模型集成服務Amazon Bedrock 代理功能。它可以使生成式AI應用跨公司系統和數據源執行多步驟任務。通過代理功能，客戶在進行訪問權限等簡單設置后即可用自然語言編寫要求，隨后代理即可自動分析請求并將其分解為邏輯序列，以及采取相應的行動。
頂層應用層 生成式AI助手Amazon Q+初成規模
在亞馬遜云科技端到端應用生成式AI的最上層，就是應用層為客戶直接提供利用基礎模型構建的應用程序。
2023亞馬遜云科技re:Invent上，亞馬遜云科技發布生成式AI服務Amazon Q。
Amazon Q是亞馬遜云科技的專家，由亞馬遜云科技17年來積累的知識和經驗訓練而成，可以在多種界面回答客戶提出的各種亞馬遜云科技相關的專業問題。Amazon Q可以在Amazon CodeWhisperer中回答開發人員的各種代碼相關的問題并附上可一鍵實施的代碼，并提供代碼轉換功能可以將應用維護和升級時的代碼轉換所需時間從幾天縮短至幾分鐘。
Amazon Q也是企業業務的專家，它擁有40多個兼容流行數據源的內置連接器，并支持自定義連接器，企業可以輕松將其連接至其業務數據和系統中。Amazon Q可使用身份驗證系統來確認用戶職能和訪問權限，并支持指定話題屏蔽或關鍵詞過濾等管理控制功能。
Amazon Q也是商業智能專家，Amazon Q支持將其引入多種服務和應用中以提供基于生成式AI的幫助。 將Amazon Q引入BI應用Amazon QuickSight中，它能夠在幾秒鐘內響應用戶要求，創建精準且美觀的月度業務變化的相關描述。
Amazon Q也是聯絡中心專家。將Amazon Q引入云聯絡中心應用Amazon Connect中，它能夠根據實時對話檢測客戶問題，并能夠自動回復、給出建議以及提供相關資料。
從Amazon Q的能力來看，亞馬遜云科技將自身本來就有的服務和能力，加持生成式AI技術后通過Amazon Q來賦能給企業客戶，這也就意味著未來Amazon Q或許有更多的能力，Amazon Q+各行各業能力的模式已經初現。
至此，以三層架構為骨架的亞馬遜GenAI科技樹發展優化脈絡已然躍然紙上。
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
