亞馬遜云科技CEO：推理將成為應用未來的核心組件

如果2023年是生成式AI概念的興起之年，吸引到全球各類用戶的關注；那么2024年則是生成式AI的驗證之年，不同行業的各類用戶均或多或少在不同業務場景中對生成式AI進行驗證。

無疑，經過兩年的發展之后，生成式AI這項變革性技術正展露出極大的應用潛力。那么，生成式AI接下來會對企業業務應用場景產生哪些巨大影響？企業又應該如何讓生成式AI應用順利融入到生產場景之中？大模型未來又有哪些關鍵的趨勢？

作為云計算領域的頂級盛會，亞馬遜云科技 re：Invent大會一向是云計算、人工智能等前沿技術應用與探索的風向標。對于生成式AI帶來的變革性影響，亞馬遜云科技在2024 re：Invent大會帶來全新的思考與洞察。

正如亞馬遜云科技新CEO Matt Garman在大會所言，生成式AI是一項變革性技術，隨著生成式AI更多進入生產場景，生成式AI將會與各類應用緊密集成，而推理也會成為未來應用中一個極為重要的組件。

與此同時，亞馬遜CEO Andy Jassy也時隔三年再次出現在re：Invent舞臺上。他在大會上宣布了亞馬遜最新多模態大模型Nova，包括六個基礎模型，支持多模式任務的文本、圖像和視頻處理。Andy Jassy 認為Amazon Nova是提供智能和行業領先性價比的最先進的新基礎模型。

01

推理將成為未來應用的核心組件

“應用已經徹底改變了。”Matt Garman在大會上直言道。

根據亞馬遜過去多年的構建經驗，計算、存儲和數據庫通常是應用構建的三大不可或缺核心模塊；但現在，隨著生成式AI的興起和融入，推理正變得愈發重要，成為構建應用當之無愧的核心組件模塊之一。

在Matt Garman看來，生成式AI具有改變和顛覆每一個行業的潛力，改變每一個流程、應用體驗，而讓生成式AI真正融入生產應用端，而不是停留在驗證階段，關鍵就是把推理這個核心組件做好。

因此，亞馬遜云科技在今年大會上，著重介紹Bedrock產品的重要性，旨在在產品層上提供高性能、靈活、安全的模型推理服務，顯著降低AI推理的門檻，真正幫助用戶們用最簡單的方法與工具來構建、擴展生成式AI應用。

例如，在Scaling Law的驅動下，大模型參數規模越來越大，但模型規模并非越大越好，在一些特別的領域或者場景中，往往需要小且快的模型，這也讓模型蒸餾正變得越來越重要。但過去用戶在模型蒸餾往往只能選擇開源大模型，并且需要依靠AI框架和代碼開發來完成工作，在效率和使用上屬實一言難盡。

為此，亞馬遜云科技在本次大會上推出Amazon Bedrock Model Distilation模型蒸餾功能，選擇自己想要的模型去契合場景使用需求，更能夠讓模型運行速度大幅提升、成本大幅下降。

又如，哪怕是再好的大模型，也需要面臨幻覺的挑戰。當生成式AI進入到現實生產場景，用戶不可避免地會遇到幻覺問題，這也是當前用戶們對于模型在生產場景中應用的顧慮所在。亞馬遜云科技的思路是自動推理檢查，通過Amazon Bedrock Automated Reasoning checks來檢查推理是否正確，防止事實錯誤、模型幻覺等出現。

再如，AI Agent是生成式AI應用的巨大價值所在。在單一、簡單的工作任務重，AI Agent已經能夠勝任，但是面對復雜任務時，數百個任務并行處理則帶來的極為復雜的工作流，需要多個代理進行協同。為此，亞馬遜云科技打造了Amazon Bedrock multi-agent Collaboration，支持多代理的復雜工作流程。

除了上述功能之外，亞馬遜云科技在此次大會上還發布了不少于Amazon Bedrock相關功能。可以看出，隨著生成式AI融入生產應用中，推理在未來將會無處不在，幫助用戶真正做好推理的意義重大，而亞馬遜云科技正在不斷圍繞Amazon Bedrock構建起越來越豐富的功能，以滿足用戶們在推理中遇到的各色各樣的需求，從而加速推動生成式AI在生產場景的應用。

02

亞馬遜最新大模型Amazon Nova亮相

在本次大會上，亞馬遜CEO Andy Jassy的出現可謂是一大驚喜，這是他在三年之后重返re：Invent舞臺。

作為全球電商巨頭，亞馬遜與其他行業用戶一樣，也是積極擁抱生成式AI的一份子。在Andy Jassy看來，永遠不會有一種工具統治世界，推動人工智能的應用關鍵在于降低成本和提升生產效率，而非參與各種評測和競賽。

Andy Jassy介紹，亞馬遜內部有大約1000個正在運行的生成式AI應用，并且開發了供內部使用的新模型，現在決定公開分享出來，于是就有了本次大會上發布的Amazon Nova最新一代多模態基礎大模型。

據悉，Amazon Nova包括四款模型：Amazon Nova Micro是一款僅處理文本的模型，能夠以極低的延遲和成本提供響應；Amazon Nova Lite是一款極具成本效益的多模態模型，能夠快速處理圖像、視頻和文本輸入；Amazon Nova Pro是一款功能強大的多模態模型，可在準確性、速度和成本之間實現絕佳平衡，適合多種任務；Amazon Nova Premier是亞馬遜的頂級多模態模型，專為復雜推理任務而生，并可用于作為“教師模型”來蒸餾定制模型。

此外，亞馬遜還推出了兩款專注于創意內容生成的模型：Amazon Nova Canvas用于生成高質量圖像；Amazon Nova Reel用于制作高質量視頻。

Andy Jassy透露，目前Amazon Nova Micro、Lite、Pro、Canvas、Reel已全部正式可用，并且已經在Amazon Bedrock上線，而Amazon Nova Premier預計將在2025年第一季度可用。預計明年，亞馬遜還將推出Amazon Nova Speech-to-Speech語音轉語音模型和Amazon Nova Any to Any任意模態生成任意模態模型。

根據相關行業基準測試結果顯示，Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro表現出非常不錯的競爭力。例如，Amazon Nova Micro在所有11項適用基準測試中，其表現與Meta的LLaMa 3.1 8B相當或更優，Amazon Nova Pro在與OpenAI的GPT-4o的20項基準測試中，有17項表現相當或更優。

事實上，亞馬遜云科技在大模型領域的布局正在走向完善，其競爭力也在加速凸顯。除了過去Amazon Titan大模型之外，隨著Amazon Nova系列基礎模型的發布，亞馬遜云科技進一步增強了自身大模型的實力。此外，亞馬遜云科技與Anthropic的深度合作，也將有利于亞馬遜云科技提供豐富的生成式AI服務給各種用戶。

03

給予客戶選擇權

“給予用戶選擇權”是亞馬遜云科技反復強調的核心原則。“亞馬遜公司內部團隊的洞察與實踐表面，開發人員希望有廣泛的 AI 模型可供選擇，預計這種情況將持續下去。”Andy Jassy如是說。

當下，生成式AI、大模型依然處于產業發展的早期，技術、產品的創新保持著極高的活躍性，這也使得各類大模型涌現，模型本身也在不斷地迭代、升級與演進，新版本、新功能層出不窮；另一方面，用戶在生成式AI與場景的適配方面也處于早期，不同領域不同場景往往存在著不一樣的需求，需要綜合考慮大模型的性能、成本、可靠性等各種因素。

因此，亞馬遜云科技認為用戶在生成式AI需要有充分的選擇權，從而更好地將生成式AI與業務場景進行融合。

例如，Amazon Bedrock已經推出了Marketplace，匯聚了超過100個大模型供用戶進行選擇。另外，用戶往往需要根據具體業務場景需求來對模型進行蒸餾，亞馬遜云科技Amazon Bedrock Model Distilation可以讓用戶選擇lLama、Claude等多種先進模型進行蒸餾，讓用戶可以蒸餾出更適配業務場景的模型。

綜合觀察，如果說去年亞馬遜云科技展示的生成式AI三層技術棧，給業界展示了推動生成式AI應用的整體技術框架；那么，今年大會亞馬遜云科技針對生成式AI 的眼花繚亂、目不暇接眾多新功能發布，意味著亞馬遜云科技極大填充了生成式AI技術應用的技術框架，讓生成式AI在工程化方面大幅前進。面向未來，隨著生成式AI與場景的深度融合，亞馬遜云科技在人工智能的數據、分析、訓練和推理等方面全面、細致的工作，將推動用戶們在通往生成式AI之路中行穩致遠。

大數據在線是聚焦人工智能、大數據、云計算等前沿科技領域深度觀察的深度媒體。目前，大數據在線在微信公眾號、今日頭條號、新浪財經、36氪、雪球號、觀察號等主流自媒體平臺均有入駐，積累粉絲超過20W；并榮獲今日頭條十大科技新銳媒體、商業新知十大人工智能媒體等多項殊榮。商務聯系請添加微信：Owen_Inter，添加請備注具體信息。