4月13日，亞馬遜云科技數(shù)據(jù)庫、數(shù)據(jù)分析和機(jī)器學(xué)習(xí)全球副總裁Swami Sivasubramanian 宣布了數(shù)項(xiàng)創(chuàng)新技術(shù)，據(jù)他介紹，這些創(chuàng)新技術(shù)將幫助客戶更簡(jiǎn)單、更容易地在業(yè)務(wù)中使用生成式AI。

生成式AI和基礎(chǔ)模型

生成式AI是人工智能的一種，能夠創(chuàng)造新內(nèi)容和想法，包括對(duì)話、故事、圖像、視頻和音樂。與所有人工智能技術(shù)一樣，生成式AI的能力由機(jī)器學(xué)習(xí)模型提供。這些模型是基于大量數(shù)據(jù)進(jìn)行預(yù)先訓(xùn)練的大模型，通常被稱為基礎(chǔ)模型（Foundation Models）。

機(jī)器學(xué)習(xí)的最新進(jìn)展（特別是基于transformer的神經(jīng)網(wǎng)絡(luò)架構(gòu)的發(fā)明）直接帶來這一類模型的爆發(fā)式增長(zhǎng)，這類模型通常包含數(shù)十億個(gè)參數(shù)或變量。2019年最大的預(yù)訓(xùn)練模型是3.3億個(gè)參數(shù)?，F(xiàn)在，最大的模型包含的參數(shù)超過5千億個(gè)，相當(dāng)于幾年間增加了1600倍。如今的基礎(chǔ)模型，例如大型語言模型GPT3.5或BLOOM，以及由Stability AI開發(fā)的文生圖模型Stable Diffusion，可以執(zhí)行跨多個(gè)領(lǐng)域的多種任務(wù)，例如撰寫博客文章、生成圖像、解決算術(shù)問題、對(duì)話聊天，基于文檔回答問題等?；A(chǔ)模型的規(guī)模和面向通用場(chǎng)景的性質(zhì)使其不同于傳統(tǒng)的機(jī)器學(xué)習(xí)模型，后者通常僅執(zhí)行特定的任務(wù)，例如分析文本觀點(diǎn)、分類圖像和預(yù)測(cè)趨勢(shì)等。

基礎(chǔ)模型包含大量參數(shù)，能夠?qū)W習(xí)復(fù)雜的概念，因此可以執(zhí)行更多任務(wù)。通過基于互聯(lián)網(wǎng)規(guī)模的、各種形式和模態(tài)的海量數(shù)據(jù)進(jìn)行預(yù)先訓(xùn)練，基礎(chǔ)模型學(xué)會(huì)在各種語境中應(yīng)用所習(xí)得的知識(shí)。盡管預(yù)訓(xùn)練基礎(chǔ)模型所帶來的功能和可能性已足夠令人驚嘆，而真正讓客戶為此興奮不已的是，這些通用模型也可以被定制化加工，執(zhí)行專屬于其業(yè)務(wù)領(lǐng)域的特定功能，幫助業(yè)務(wù)建立差異化競(jìng)爭(zhēng)優(yōu)勢(shì)，與從零開始訓(xùn)練模型相比，僅需使用一小部分?jǐn)?shù)據(jù)和計(jì)算資源。定制化的基礎(chǔ)模型可以帶來獨(dú)有的顧客體驗(yàn)，體現(xiàn)公司的觀點(diǎn)、風(fēng)格和服務(wù)，適用于眾多消費(fèi)者行業(yè)，如金融銀行、旅行和醫(yī)療等。例如，一家金融公司如果需要使用所有相關(guān)交易自動(dòng)生成活動(dòng)日?qǐng)?bào)以供內(nèi)部流通，它可以使用包括既往報(bào)告在內(nèi)的專有數(shù)據(jù)來定制模型，以便基礎(chǔ)模型了解如何閱讀報(bào)告和使用哪些數(shù)據(jù)來生成日?qǐng)?bào)。

——Amazon Bedrock和Amazon Titan模型：借助基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序的最簡(jiǎn)單途徑

據(jù)Swami Sivasubramanian介紹，Amazon Bedrock這項(xiàng)新服務(wù)允許用戶通過API訪問來自AI21 Labs、Anthropic、Stability AI和亞馬遜的基礎(chǔ)模型。Bedrock是客戶使用基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序的最簡(jiǎn)單方法，為所有開發(fā)者降低使用門檻。在Bedrock上，用戶可以通過可擴(kuò)展、可靠且安全的亞馬遜云科技托管服務(wù)，訪問從文本到圖像的一系列強(qiáng)大的基礎(chǔ)模型，以及Amazon Titan基礎(chǔ)模型。

Amazon Titan基礎(chǔ)模型目前包括了兩個(gè)全新的大語言模型。憑借Bedrock所帶來的無服務(wù)器體驗(yàn)，客戶可以輕松找到適合自身業(yè)務(wù)的模型，快速上手，在確保數(shù)據(jù)安全和隱私保護(hù)的前提下，使用自有數(shù)據(jù)基于基礎(chǔ)模型進(jìn)行定制，并使用他們已經(jīng)熟悉的亞馬遜云科技工具和能力，將定制化模型集成并部署到他們的應(yīng)用程序中，同時(shí)無需管理任何基礎(chǔ)設(shè)施。比如，客戶可以將基礎(chǔ)模型與Amazon SageMaker機(jī)器學(xué)習(xí)功能集成，使用Experiments測(cè)試不同模型和使用Pipelines大規(guī)模管理基礎(chǔ)模型等。

客戶也可使用Bedrock訪問一些當(dāng)前最領(lǐng)先的可用基礎(chǔ)模型。這將包括AI21 Labs開發(fā)的Jurassic-2多語種大語言模型系列，能夠根據(jù)自然語言指令生成文本內(nèi)容，目前支持西班牙語、法語、德語、葡萄牙語、意大利語和荷蘭語。還有Anthropic開發(fā)的大語言模型Claude，它是基于Anthropic對(duì)于訓(xùn)練誠實(shí)和負(fù)責(zé)任的AI（responsible AI）系統(tǒng)的大量研究，能夠執(zhí)行多種對(duì)話和文本處理任務(wù)?？蛻暨€可以通過Bedrock輕松訪問Stability AI開發(fā)的文生圖基礎(chǔ)模型Stable Diffusion，這是文生圖領(lǐng)域目前最流行的模型，能夠生成獨(dú)特、寫實(shí)、高清的圖像、藝術(shù)作品、商標(biāo)和其它設(shè)計(jì)圖。

Bedrock最重要的能力之一是極其容易定制模型?？蛻糁恍柘駼edrock展示Amazon S3中的幾個(gè)標(biāo)注好的數(shù)據(jù)示例，Bedrock就可以針對(duì)特定任務(wù)微調(diào)模型，最少僅需20個(gè)示例即可，而無需標(biāo)注大量數(shù)據(jù)。假設(shè)一位時(shí)裝零售行業(yè)的內(nèi)容營(yíng)銷經(jīng)理，想為即將推出的手提包新品系列開發(fā)新的、針對(duì)目標(biāo)用戶的廣告創(chuàng)意。他向Bedrock提供了一些標(biāo)注過的表現(xiàn)最佳的既往營(yíng)銷廣告示例，以及新品的相關(guān)描述，Bedrock將能自動(dòng)為這些新品生成有效的社交媒體推文內(nèi)容、展示廣告和產(chǎn)品網(wǎng)頁。沒有任何客戶數(shù)據(jù)被用于訓(xùn)練底層模型。所有數(shù)據(jù)都進(jìn)行了加密，且不會(huì)離開客戶的虛擬私有網(wǎng)絡(luò)（VPC），因此客戶完全可以確信獲得數(shù)據(jù)安全和隱私保護(hù)。

Bedrock目前提供有限預(yù)覽，Coda等客戶的開發(fā)團(tuán)隊(duì)對(duì)使用Bedrock充滿期待。Coda的聯(lián)合創(chuàng)始人兼CEO Shishir Mehrotra表示：“作為亞馬遜云科技的長(zhǎng)期客戶，我們對(duì)Amazon Bedrock帶來的高品質(zhì)、可擴(kuò)展性和性能充滿期待。我們所有的據(jù)已經(jīng)存儲(chǔ)在亞馬遜云科技上，我們能夠利用Bedrock快速采用生成式AI，并能充分保證我們數(shù)據(jù)的安全和隱私。目前，包括Uber、紐約時(shí)報(bào)、Square在內(nèi)的成千上萬個(gè)團(tuán)隊(duì)都在采用Coda，因此，可靠性與可擴(kuò)展性十分重要。”

據(jù)介紹，亞馬遜全新的Titan基礎(chǔ)模型，在未來幾個(gè)月內(nèi)，會(huì)進(jìn)一步擴(kuò)展其可用范圍。屆時(shí)，將首先發(fā)布兩個(gè)Titan模型。第一個(gè)是針對(duì)總結(jié)、文本生成（如原創(chuàng)博客）、分類、開放式問答和信息提取等任務(wù)的生成式大語言模型。第二個(gè)是文本嵌入（embeddings）大語言模型，能夠?qū)⑽谋据斎耄ㄗ衷~、短語甚至是大篇幅文章）翻譯成包含語義的數(shù)字表達(dá)（即embeddings 嵌入編碼）。雖然這種大語言模型不生成文本，但對(duì)個(gè)性化推薦和搜索等應(yīng)用程序卻大有裨益，因?yàn)橄鄬?duì)于匹配文字，對(duì)比編碼可以幫助模型反饋更相關(guān)、更符合情境的結(jié)果。實(shí)際上，Amazon.com的產(chǎn)品搜索能力就是采用了類似的文本嵌入模型，能夠幫助客戶更好地查找所需的商品。為了持續(xù)推動(dòng)使用負(fù)責(zé)任AI的最佳實(shí)踐，Titan基礎(chǔ)模型可以識(shí)別和刪除客戶提交給定制模型的數(shù)據(jù)中的有害內(nèi)容，拒絕用戶輸入不當(dāng)內(nèi)容，過濾模型中包含不當(dāng)內(nèi)容的輸出結(jié)果，如仇恨言論、臟話和語言暴力。

至此，任何規(guī)模的企業(yè)都可以通過Bedrock訪問基礎(chǔ)模型，加速機(jī)器學(xué)習(xí)在組織內(nèi)部的應(yīng)用，并憑借其輕松上手的特性，構(gòu)建自己的生成式AI應(yīng)用程序。Bedrock將是基礎(chǔ)模型普惠化進(jìn)程中的一大步。埃森哲、德勤、Infosys和Slalom等合作伙伴都在構(gòu)建最佳實(shí)踐，幫助企業(yè)借助生成式AI實(shí)現(xiàn)快速發(fā)展。C3AI和Pega等獨(dú)立軟件開發(fā)商（ISV）對(duì)于利用Bedrock輕松訪問大量基礎(chǔ)模型，兼具安全性、隱私性和可靠性充滿期待。

——Amazon EC2 Trn1n和Amazon EC2 Inf2實(shí)例正式可用：最具成本效益的生成式AI云基礎(chǔ)設(shè)施

由Trainium支持的Trn1計(jì)算實(shí)例與其他任何EC2實(shí)例相比，都可以節(jié)省高達(dá)50%的訓(xùn)練成本，并經(jīng)過優(yōu)化，可以在與高達(dá)800Gbps的第二代EFA（彈性結(jié)構(gòu)適配器）網(wǎng)絡(luò)相連的多個(gè)服務(wù)器上分發(fā)訓(xùn)練任務(wù)。客戶可以在超大規(guī)模集群（UltraClusters）中部署Trn1實(shí)例，數(shù)量可以擴(kuò)展到在同一可用區(qū)中3萬個(gè)Trainium芯片，相當(dāng)于超過6 exaflops的計(jì)算能力，并具有PB級(jí)網(wǎng)絡(luò)。許多亞馬遜云科技客戶，包括Helixon、Money Forward和亞馬遜的搜索團(tuán)隊(duì)，都使用Trn1實(shí)例將訓(xùn)練最大規(guī)模的深度學(xué)習(xí)模型所需的時(shí)間從幾個(gè)月縮短到幾周甚至幾天，并且降低了成本。800 Gbps的帶寬已經(jīng)很大，但我們?nèi)圆粩鄤?chuàng)新、拓展帶寬。今天我們宣布全新的、網(wǎng)絡(luò)優(yōu)化型Trn1n實(shí)例正式可用，它可以提供1600 Gbps的網(wǎng)絡(luò)帶寬，專為大型網(wǎng)絡(luò)密集型模型設(shè)計(jì)，其性能比Trn1高出20%。

當(dāng)基礎(chǔ)模型進(jìn)入大規(guī)模部署時(shí)，大部分成本將用于運(yùn)行模型和進(jìn)行推理。客戶通常會(huì)定期訓(xùn)練模型，于是生產(chǎn)應(yīng)用程序會(huì)不斷生成預(yù)測(cè)（稱為推理）——每小時(shí)可能生成數(shù)百萬預(yù)測(cè)。而且這些預(yù)測(cè)需要實(shí)時(shí)發(fā)生，這就需要極低延遲和高吞吐量的網(wǎng)絡(luò)。Alexa就是一個(gè)典型的例子，它每分鐘都會(huì)接受數(shù)百萬次請(qǐng)求，處理這些請(qǐng)求占所有計(jì)算成本的40%。

未來大部分機(jī)器學(xué)習(xí)成由Amazon Inferentia2提供支持的Inf2實(shí)例正式可用，這些實(shí)例專門針對(duì)運(yùn)行數(shù)千億個(gè)參數(shù)模型的大規(guī)模生成式AI應(yīng)用程序進(jìn)行了優(yōu)化。與上一代相比，Inf2實(shí)例不僅吞吐量提高了4倍，延遲降低了10倍，還可實(shí)現(xiàn)加速器之間的超高速連接以支持大規(guī)模分布式推理。與同類Amazon EC2實(shí)例相比，這些能力將推理性價(jià)比提高了40%，并把云中的推理成本降到最低。與同類Amazon EC2實(shí)例相比，Runway等客戶有望利用Inf2將部分模型的吞吐量提升至原來的兩倍。受益于高性能和低成本的推理，Runway能夠引入更多功能，部署更復(fù)雜的模型，并最終為自己的數(shù)百萬用戶交付更優(yōu)質(zhì)的體驗(yàn)。

——Amazon CodeWhisperer正式可用，并面向個(gè)人開發(fā)者免費(fèi)開放

生成式 AI 可以通過“編寫”大部分無差別的代碼來大大減少這種繁重的工作，讓開發(fā)人員能夠更快地編寫代碼，同時(shí)讓他們有時(shí)間專注在更具創(chuàng)造性的編程工作上。

隨著Amazon CodeWhisperer正式可用，在適用 Python、Java、JavaScript、TypeScript 和 C#之外，新增支持Go、Kotlin、Rust、PHP 和 SQL等10 種開發(fā)語言。開發(fā)者可以通過在VS Code、IntelliJ IDEA、Amazon Cloud9等集成開發(fā)環(huán)境中的Amazon Toolkit 插件訪問 CodeWhisperer。CodeWhisperer 也可在Amazon Lambda控制臺(tái)中使用。除了從數(shù)十億行公開代碼中學(xué)習(xí)之外，CodeWhisperer 也基于亞馬遜的代碼進(jìn)行了訓(xùn)練。 我們相信 CodeWhisperer 是目前為亞馬遜云服務(wù)（包括 Amazon EC2、Amazon Lambda和Amazon S3）生成代碼的最準(zhǔn)確、最快和最安全的方式。

如果生成式 AI 工具建議的代碼包含隱藏的安全漏洞或未能負(fù)責(zé)任地處理開源代碼，開發(fā)人員則無法真正提高工作效率。CodeWhisperer是唯一具有內(nèi)置安全掃描功能（通過自動(dòng)推理實(shí)現(xiàn)）的 AI 編程助手，用于查找難以檢測(cè)的漏洞并提出補(bǔ)救建議，例如十大開放式Web應(yīng)用程序安全項(xiàng)目(OWASP)中的漏洞以及不符合加密庫最佳實(shí)踐的漏洞等。為了幫助開發(fā)人員以負(fù)責(zé)任的方式開發(fā)代碼，CodeWhisperer會(huì)過濾掉可能被認(rèn)為有偏見或不公平的代碼建議，同時(shí)，由于客戶可能需要對(duì)開源代碼源進(jìn)行參考或獲得其使用許可，CodeWhisperer 還是唯一可以對(duì)疑似開源代碼建議進(jìn)行過濾和標(biāo)記的編程助手。

可以預(yù)見，生成式AI將改變開發(fā)者的游戲規(guī)則，因此希望它能為盡可能多的人所用。 所以，CodeWhisperer對(duì)所有個(gè)人用戶免費(fèi)，并不設(shè)任何資質(zhì)或使用時(shí)長(zhǎng)的限制！任何人都可以通過郵箱賬戶在幾分鐘內(nèi)注冊(cè) CodeWhisperer進(jìn)行使用，而無需亞馬遜云服務(wù)賬號(hào)。對(duì)于企業(yè)客戶，我們則提供了CodeWhisperer 專業(yè)版，其中包括更多高級(jí)管理功能，如集成了身份與訪問管理服務(wù)(IAM)的單點(diǎn)登錄 (SSO)，以及使用更高限額的安全掃描。

新一波機(jī)器學(xué)習(xí)技術(shù)創(chuàng)新才剛剛開始、方興未艾，未來還有無限可能。