作者|金旺
2024年12月2日,亞馬遜云科技一年一度的re:Invent大會在美國拉斯維加斯召開。
作為亞馬遜云科技年度盛會,2024 re:Invent大會現場吸引了6萬人參會,40萬人線上觀看。
大會期間,至頂科技也在現場目睹了這場盛會的人潮洶涌,以及來自亞馬遜云科技的諸多云計算、人工智能技術和產品發布。
我們看到了亞馬遜云科技的新一代計算實例、看到了新一代AI芯片,也看到了亞馬遜云科技在生成式AI領域密集的戰略部署。
更讓現場觀眾感到意外的是,蘋果高管——機器學習和AI高級總監Benoit Dupin難得一見地親臨現場為亞馬遜云科技站臺,并透露,其備受關注的Apple Intelligence,正是基于亞馬遜云科技的服務。
僅僅是在十幾天后,12月18日,亞馬遜云科技再次將2024 re:Invent大會帶到了上海,為中國合作伙伴和開發者帶來了一個親臨現場感受亞馬遜云科技新一代技術和產品的機會。
在上海發布會現場,我們重溫了亞馬遜云科技Amazon EC2 Trn2實例、Amazon Aurora DSQL、Amazon Graviton4、Amazon Nova等新一代產品的新特性,也與亞馬遜云科技大中華區解決方案架構總經理代聞一起聊了聊他們對當下人工智能技術的理解和布局。
01 自研芯片的亞馬遜云科技,為Anthropic建十萬“卡”集群
在過去十五年里,云計算技術的快速演進支撐了全球數字經濟的崛起。
作為云計算的主要推動者之一,亞馬遜云科技的基石產品Amazon EC2的更新,成了每年的一大看點。
Amazon EC2實例是如何推陳出新的呢?
據代聞透露,這主要依賴其背后的底層平臺Amazon Nitro System的持續迭代。
亞馬遜云科技的Nitro系統自2017年正式對外發布以來,已經迭代了多個版本,作為亞馬遜云科技旨在幫助Amazon EC2進行硬件卸載、提高網絡和存儲性能,以及提高虛擬化安全性的技術,如今的Nitro系統已經成為亞馬遜云科技軟硬件一體化發展的重要基礎。
為了推動計算實例的發展,亞馬遜云科技團隊將Nitro系統進行了解耦,即將完整的虛擬化軟件堆棧部署于獨立于計算服務器的Nitro系統上,讓底層虛擬化平臺與上層計算實例分離。
這樣設計的好處是,亞馬遜云科技可以分別推進兩部分產品的演進——底層硬件吞吐、存儲虛擬化、計算虛擬化完全在Nitro系統中進行,上層可計算實例也可以獨立發展。
得益于這樣的產品發展策略,亞馬遜云科技在2020年對外發布了Amazon EC2 Mac實例,實現了在Amazon EC2上運行Mac系統。
在本次發布會上,亞馬遜云科技基于Trainium2芯片的Amazon EC2 Trn2實例正式發布。
被譽為個人計算機之父的Alan Kay曾有這樣一句廣為流傳的名言,“真正認真對待軟件的人就應該自己做硬件”。這句話后來被喬布斯在2007年的iPhone發布會上所引用。
不可否認的是,借助軟硬結合理念,蘋果在全球取得了巨大的成功,不過,亞馬遜云科技同樣是這一理念的忠實擁躉。
早在2018年,注意到ARM芯片架構的重要性后,亞馬遜云科技開始著手自主研發CPU,在這之后,亞馬遜云科技特別針對云計算設計優化了Neoverse架構,今年基于這一架構的第四代Amazon Graviton4也在今年早些時候正式對外發布。
與此同時,面向人工智能應用,亞馬遜還在2019年推出了首款推理芯片Amazon Inferentia,2022年推出了首款訓練芯片Amazon Trainium1,2023年官宣了宣布了Amazon Trainium2開發計劃。
本次亞馬遜云科技發布的Amazon EC2 Trn2計算實例也正是搭載了Amazon Trainium2。
搭載自研的Amazon Trainium2的Amazon EC2 Trn2計算實例,是目前亞馬遜云科技推出的最強自研芯片的AI實例,相較于當前基于H100的GPU實例,Amazon Trainium2的性價比提升了30%到40%。
值得注意的是,Amazon Trainium2底層硬件工作原理與GPU不同,是以Systolic Array(脈動陣列)方式來運行,這顆芯片工作時會和HBM(高帶寬內存)模塊一起封裝在SoC中。
這其中,以什么樣的計算單元,又以多少個HBM模塊、采用怎樣的封裝方式封裝,這些因素決定了單顆芯片的內存帶寬和計算能力。
代聞指出,“我們是面向現在機器學習訓練和推理等不同場景,綜合當下一些難題,反過來思考硬件應該如何重構、怎樣設計,進而推出了這樣的芯片。所以你會看到,從Trainium1到Trainium2,再到今年預發布的Trainium3,每一次更新都會逐步解決當下遇到的很多難題。”
此外,采用NeuronLink技術將搭載64個Amazon Trainium2的實例相連構成的Amazon EC2 Trn2 UltraServers服務器,單個計算節點峰值計算性能將超過83.2 Petaflops,這不僅為超大規模模型提供了更強的推理性能,而且由此構建超大規模訓練集群的過程也將更加高效。
被視為OpenAI的頭號對手的Anthropic正是采用了這一模式。
據悉,亞馬遜云科技正在與Anthropic合作一個Project Rainier項目,這一項目旨在為Anthropic構建一個擁有數十萬顆芯片的訓練集群,這個新集群運算性能預計是目前Anthropic訓練Claude的GPU集群的五倍以上。
值得注意的是,人工智能作為當下科技領域大勢所趨,亞馬遜不僅向AI獨角獸Anthropic先后投資了共計80億美元,還在今年的re:Invent大會上發布了自己的大模型產品,公布了自己的人工智能戰略。
02 讓企業輕松構建AI原生應用
自2022年11月ChatGPT面世后,經過兩年的爆炸式發展,生成式AI已經不再是一個可選項,而成了應用構建不可或缺的核心組件。
在代聞看來,“這次生成式AI與五六年前的人工智能發展有所不同,我們注意到很多需求其實是源于業務部門。”
對此,代聞舉了兩個應用案例:
其一是在企業營銷領域,通過利用生成式AI生成營銷文案、圖片海報,極大地加快了整個營銷方案生產流程、降低了營銷方案制作復雜度;
其二是在應用開發領域,生成式AI可以自動檢測代碼,大幅簡化開發人員工作量,提升開發人員工作效率。
當在任何設計架構中都需要考慮如何為應用程序賦予生成式AI能力時,面對應用開發者各種各樣的需求,如何選擇模型就成了首先要考慮的問題。
代聞指出,“現在大模型各有所長,但沒有任何一種模型可以解決所有問題。”
正是看到了這一趨勢亞馬遜云科技此次發布了Amazon Nova系列模型,6個模型,包括:
快速文本生成模型Amazon Nova Micro,能夠處理文本、圖像和視頻并生成文本的多模態模型Amazon Nova Lite、Amazon Nova Pro、Amazon Nova Premier,以及用于生成高質量圖像的Amazon Nova Canvas和用于生成高質量視頻的Amazon Nova Reel。
代聞在接受媒體采訪時指出:
“如今很多人在進行信息檢索、人機交互、APP使用時,都已經開始借助大模型來完成。
這就帶來了從面向消費者(To C)到面向企業(To B)領域中,對于整個應用程序的重構,這種重構涉及能否開箱即用、開發人員能否更好地利用大模型為自己的應用程序賦能,以及底層平臺能否具備更好的性價比等問題。”
為此,亞馬遜云科技推出了Amazon Q Developer、Amazon Q Business和Amazon Q擴展更多應用場景,顯著提升了開發效率、簡化復雜任務,并為不同行業和應用場景提供可定制的智能解決方案。
以Amazon Q Developer為例,Amazon Q Developer此次推出了能夠實現自動生成和執行單元測試、自動生成精準文檔、自動執行代碼審查流程的三款智能體,還推出了新的遷移功能,可以用于將.NET從Windows迅速遷移到Linux、將VMware工作負載遷移到云原生架構、通過應用轉化加速大型機遷移,大幅提升開發人員在整個軟件開發流程中的效率。
通過這些AI開發工具,亞馬遜云科技旨在加速生成式AI應用開發效率,與此同時,亞馬遜云科技還構建了面向開發者的生成式AI服務平臺Amazon Bedrock。
Amazon Bedrock自2023年9月發布后,陸續上線了多種可選模型,包括LumaAI的Ray2、poolside的malibu和point、Stable Diffusion 3.5,以及本次發布的Amazon Nova系列模型,新推出的Amazon Bedrock Marketplace更是提供了100+模型可選項。
此外,據大會上公布信息顯示,亞馬遜云科技進一步就Amazon Bedrock增強了私有數據應用、AI安全、智能體功能,支持知識庫微調、GraphRAG、結構化數據檢索、自動推理檢查、多智能體協作等新功能。
實際上,生成式AI不僅正在成為應用構建的核心組件,也在成為云計算的底層邏輯。
作為云計算模式的早期應用者,也是當下全球最大的云計算服務供應商,亞馬遜云科技深刻體會到了云計算正在從云原生轉向AI原生。
代聞告訴我們,“從云原生到AI原生已經在逐漸發生,你會發現,現在沒有AI不是在云上發生。”
至于亞馬遜云科技,正在面向AI原生提供構建AI的全部技術棧,包括底層專為AI打造的芯片和服務器,輕松接入領先模型并擁有各種模型定制工具的Amazon Bedrock,以及頂層開箱即用的Amazon Q。
代聞指出,“亞馬遜云科技是要讓各種不同技術棧的企業,都可以在亞馬遜云科技上輕松構建AI原生的應用。”
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.