▲點(diǎn)擊訂閱,抓住風(fēng)口
3月18—21日,英偉達(dá)GTC2024大會召開,黃仁勛的開幕演講成為所有科技媒體的焦點(diǎn)。
其實(shí)這場科技盛會比大家想象更豐富,共有1010場活動,AI領(lǐng)域的專家學(xué)者齊聚一堂,內(nèi)容十分豐富。
今天,我們?yōu)榇蠹規(guī)硇畔⒚芏茸畲蟮囊粓觯?月19日黃仁勛與華爾街分析師的現(xiàn)場問答記錄。
黃仁勛現(xiàn)場回答了13個關(guān)鍵問題:英偉達(dá)未來是軟件公司還是硬件企業(yè)?GPU進(jìn)步的下一個方向?公司未來的市場上限,供應(yīng)鏈管理以及定價策略是什么?
每個問題都直戳技術(shù)專家、專業(yè)投資人痛點(diǎn),原文共3萬字,經(jīng)過梳理現(xiàn)有1.5萬字,歡迎收藏后閱讀。
3月28日,前哨科技特訓(xùn)營直播也將專題點(diǎn)評GTC2024,屆時王煜全將為大家分享,他從GTC2024中看到哪些未來趨勢,人工智能的未來3年將如何變化。
歡迎點(diǎn)擊文首入口,3月28日晚8點(diǎn),我們一起抓住下一個科技前沿!
提示:以下內(nèi)容不夠成投資建議,投資有風(fēng)險,入市需謹(jǐn)慎。
精彩要點(diǎn)
1.未來NVIDIA軟件業(yè)務(wù)的發(fā)展空間
NVIDIA正在創(chuàng)造一個新的AI軟件行業(yè),將提供稱為NIM的微服務(wù)以及NVIDIA AI Enterprise軟件套件,幫助企業(yè)部署AI應(yīng)用,未來會是一個非常大的業(yè)務(wù)。
2.NVIDIA的潛在市場規(guī)模
當(dāng)前數(shù)據(jù)中心市場規(guī)模為1萬億美元,每年2500億美元。NVIDIA通過銷售系統(tǒng)而不是芯片,在這2500億美元中的占比會高于其他公司。此外,生成式AI也將創(chuàng)造巨大市場機(jī)會。
3.Grace Hopper到Grace Blackwell的過渡對NVIDIA業(yè)務(wù)的影響
黃仁勛建議客戶把精力放在更強(qiáng)大的Grace Blackwell平臺上。Grace Hopper的需求不會改變,因?yàn)榭蛻粢?wù)當(dāng)下業(yè)務(wù),但Grace Blackwell代表未來。
黃仁勛現(xiàn)場問答記錄
黃仁勛
早上好。很高興見到你們所有人。今天的計劃是什么?
科萊特·克雷斯(英偉達(dá)CFO)
感謝大家出席討論。老黃和我在這里會回答大家的所有問題,無論是昨天的開幕式演講,還是其他問題。
現(xiàn)在把話筒先交給老黃,由他做個簡單的介紹,然后回答大家的問題,我們也希望不要把這場活動做成另一場演講,希望大家多提問。
黃仁勛
是的,謝謝。我很高興見到你們。我昨天有很多想說的話,可能已經(jīng)說過了,但我想再說一遍。我必須承認(rèn),我之前從未在搖滾音樂會上表演過。我試圖想象會是什么樣子,但在走上舞臺時,我仍然感到緊張。不管怎樣,我盡了我能做的。
我明白,下次巡演我會做得更好。我只需要多練習(xí)。我想告訴你們幾件事。你看,這就像做空間計算一樣。如果你有機(jī)會看到 Omniverse 在 Vision Pro 中的表現(xiàn),你會覺得很驚奇。它實(shí)在太逼真了。
我們昨天談到了五件事,我想解釋第一件事。我認(rèn)為新的工業(yè)革命正在發(fā)生。兩個變化正在發(fā)生:一是從通用計算轉(zhuǎn)向加速計算。如果你只看通用計算的趨勢,你會發(fā)現(xiàn)它已經(jīng)在放慢速度。
事實(shí)上,我們都知道,過去十年它已經(jīng)在放慢速度,但我們不得不面對這個事實(shí)。你可以看到,人們正在延長數(shù)據(jù)中心的使用期限。你可以買一套全新的服務(wù)器,但它并不會顯著提高整個數(shù)據(jù)中心的效率。
所以,你可能會繼續(xù)用你現(xiàn)有的設(shè)備一段時間。這種趨勢是無法逆轉(zhuǎn)的。通用計算已經(jīng)達(dá)到了極限。我們?nèi)匀恍枰驗(yàn)橛泻芏嘬浖枰\(yùn)行,但我們需要盡可能地加速計算。
許多行業(yè)已經(jīng)開始加速發(fā)展,其中一些是很大的工作負(fù)載,我們希望能進(jìn)一步加速。加速計算的好處是顯而易見的。
我昨天沒有研究數(shù)據(jù)處理,這是我真正感興趣的領(lǐng)域。NVIDIA有一套可以處理各種數(shù)據(jù)的庫。數(shù)據(jù)量很大,世界各地都在產(chǎn)生大量數(shù)據(jù)。
數(shù)據(jù)處理很重要,如果你沒有采用加速計算,處理數(shù)據(jù)的成本會越來越高。許多公司,如阿斯利康、Visa、美國運(yùn)通、萬事達(dá)卡,已經(jīng)通過與我們合作,將數(shù)據(jù)處理成本降低了95%。
我們有一個叫做rapids的庫,它的加速效果非常好。因此,Databricks公司宣布他們將使用NVIDIA的GPU來加速他們的光子引擎。
加速的好處是可以節(jié)省成本,并將這些節(jié)省下來的成本傳遞給客戶。這樣你就可以持續(xù)進(jìn)行計算。否則,你就會落后于趨勢。
我們已經(jīng)加速了算法,使得計算的成本在過去十年中大幅下降。這使得一種新的軟件,叫做生成式人工智能,成為了可能。生成式人工智能需要大量的計算,但現(xiàn)在它已經(jīng)可以經(jīng)濟(jì)高效地完成。
新的方式是使用計算機(jī)來編寫軟件,這需要大量的數(shù)據(jù)。我們使用GPU超級計算機(jī)來處理這些數(shù)據(jù),從而產(chǎn)生我們可以享受的服務(wù),比如ChatGPT。
我們的數(shù)據(jù)中心不是普通的數(shù)據(jù)中心,它是一家工廠。它不像過去的數(shù)據(jù)中心那樣被很多人共享,也不做很多不同的事情。它一直在運(yùn)行一個應(yīng)用程序,它的目標(biāo)不僅僅是省錢,而是賺錢。
這就像上一次工業(yè)革命的電動發(fā)電機(jī)。原材料是水,他們向水施加能量,轉(zhuǎn)化為電能。現(xiàn)在,我們的原材料是數(shù)據(jù),我們使用數(shù)據(jù)處理和生成式AI模型來改進(jìn)它。
這樣我們就可以產(chǎn)生有價值的服務(wù)。我們將使用這種方法來生成軟件,處理數(shù)據(jù),與你互動,就像ChatGPT在與你互動一樣。
我們的合作方式就像你和人工智能代理共同駕駛,你可以隨你喜歡的程度擴(kuò)展這個想法。這個想法來自一個叫做人工智能生成器的東西,我們稱之為GPU超級計算機(jī),它正在產(chǎn)生軟件和代幣。
有兩個主要觀點(diǎn)。一個是,我們今天使用的傳統(tǒng)數(shù)據(jù)中心需要加速發(fā)展。它們正在現(xiàn)代化并影響越來越多的行業(yè)。所以,價值一萬億美元的數(shù)據(jù)中心一定會加速發(fā)展。但這個過程需要多少年才能完成?另一個觀點(diǎn)是,人工智能的好處將加速這個趨勢。
另外,我們有第二種數(shù)據(jù)中心,我們稱之為人工智能發(fā)電機(jī)或人工智能工廠。這是一個新事物,產(chǎn)生新的寶貴資源,將被公司、行業(yè)、國家創(chuàng)建,這是一個新的行業(yè)。
我們還有一個新平臺,叫做Blackwell。它的核心是一塊芯片,但它也是一個計算機(jī)系統(tǒng)。我們不僅僅是制造芯片,我們構(gòu)建了一整臺超級計算機(jī),從芯片到系統(tǒng),再到互連、NVLink、網(wǎng)絡(luò),但最重要的是軟件。
你能想象你家里堆積如山的電子產(chǎn)品,你要如何編程?如果沒有多年來創(chuàng)建的庫,你就有了價值數(shù)十億美元的資產(chǎn),你剛剛帶入了你的公司。任何時候它沒有被利用都會讓你花錢,而且費(fèi)用非常高。所以,我們不僅幫助公司購買芯片,還幫助他們開發(fā)系統(tǒng)并投入使用,然后一直與他們合作,使其得到更好的利用,這非常重要。
我們的工作方式是,我們構(gòu)建了這個垂直集成的系統(tǒng),但我們以一種可以稍后拆卸的方式構(gòu)建它,并讓你分批購買。也許你想把它連接到x86,或者PCI-Express結(jié)構(gòu),或者通過一大堆光纖連接它,也許你想要非常大的NVLink域,或者更小的NVLink域,等等。這有意義嗎?
以太網(wǎng)對人工智能來說不是很好,但你不能改變這個事實(shí)。但是,你可以使以太網(wǎng)非常適合AI,這就是我們所說的超級以太網(wǎng)。在大約三到四年內(nèi),超以太網(wǎng)將會到來,這對人工智能來說會更好。但在那之前,以太網(wǎng)并不適合人工智能。所以,我們擴(kuò)展了以太網(wǎng),并為其添加了一些東西。我們稱之為Spectrum-X,它可以進(jìn)行自適應(yīng)路由,做擁塞控制,做噪音隔離。
當(dāng)你有多個活躍的網(wǎng)絡(luò)用戶時,會占用更多網(wǎng)絡(luò)流量。但是,人工智能與網(wǎng)絡(luò)流量的平均量無關(guān),而是關(guān)心最后一個任務(wù)何時完成。這就像在班級中,我們關(guān)心的是最后一個學(xué)生何時提交作業(yè),而不是平均提交時間。如果把網(wǎng)絡(luò)設(shè)計為優(yōu)化平均流量和最慢的用戶,那么會有不同的架構(gòu)。
就像人工智能把所有任務(wù)簡化為一個總?cè)蝿?wù)一樣,所有的計算單元(如GPU)都需要彼此通信,而最后一個完成任務(wù)的計算單元會阻止其他所有人。這就是網(wǎng)絡(luò)為什么會有影響。
所有設(shè)備都可以接入網(wǎng)絡(luò),但可能會損失10%到20%的使用效率。如果設(shè)備的價格是10000美元,那么10%到20%的效率損失可能不是很大。但如果設(shè)備的價格是20億美元,那么10%到20%的效率損失就非常可觀了。這就是為什么超級計算機(jī)要按照特定的方式構(gòu)建的原因。
我們公司創(chuàng)建了一個平臺和相關(guān)軟件,以及所有必要的硬件設(shè)備,然后與客戶合作,將其集成到他們的數(shù)據(jù)中心。這是因?yàn)槊總€客戶的需求可能不同,比如安全需求、熱量管理、管理界面等。他們可能想要用于特定的人工智能任務(wù),或者出租給其他人進(jìn)行各種人工智能任務(wù)。
我們考慮了所有這些因素,并已經(jīng)找出了如何滿足每個人的需求。所以,我們可以大規(guī)模制造超級計算機(jī)。但實(shí)際上,NVIDIA所做的就是建立數(shù)據(jù)中心。我們把它分解成小部分,然后作為組件出售。所以,人們把我們看作是一家芯片公司。
我們談到了一種叫做NIM的新軟件,這是大型語言模型的一種,例如ChatGPT。這些模型和聊天機(jī)器人非常神奇,而且反應(yīng)速度非常快。這都要?dú)w功于OpenAI團(tuán)隊,他們是世界頂級的計算機(jī)科學(xué)組織。
注: NIM,即Nvidia Inference Microservices,將優(yōu)化的AI推理引擎、標(biāo)準(zhǔn) API 和對AI模型的支持打包到云容器中,加速AI大模型開發(fā)的軟件服務(wù)。
為了讓每家公司都有能力構(gòu)建和運(yùn)行自己的人工智能,我們決定創(chuàng)建一種工具,它可以打包大型語言模型。你可以在我們的網(wǎng)站上購買和下載這個工具。這個工具本身是免費(fèi)的,但是使用這個工具運(yùn)行人工智能的成本是每年每個GPU4500美元。
我們把這個工具稱為NIM,或者NVIDIA推理微服務(wù)。你可以用NIM做很多事情,比如計算機(jī)視覺、語音識別、文本轉(zhuǎn)語音、面部動畫和機(jī)器人關(guān)節(jié)等等。你只需要從我們的網(wǎng)站下載NIM,然后根據(jù)你的需求進(jìn)行微調(diào)就可以了。
我們還有一個系統(tǒng),它可以幫助你把人工智能的使用過程標(biāo)準(zhǔn)化,做到精確而且專業(yè)。這個系統(tǒng)可以讓你的人工智能更高效,而且可以根據(jù)你的需求定制化。
我們還提供了一個叫做Retriever的微服務(wù),它可以幫助你處理數(shù)據(jù)庫,包括結(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)。我們還會幫你從數(shù)據(jù)中提取有用的信息,并把這些信息轉(zhuǎn)化為向量,然后索引到一個新的數(shù)據(jù)庫中,你可以直接和這個數(shù)據(jù)庫交談。
這是你的庫存,你的倉庫里有的。所有這些都被稱為 NeMo,我們有專家來幫助您。我們把我們的NVIDIA基礎(chǔ)設(shè)施,我們稱之為DGX云,放在世界上所有的云中。在 AWS, Azure, GCP 和 OCI 中都有我們的 DGX 云。
我們與世界各地的企業(yè)公司合作,創(chuàng)建人工智能。當(dāng)人工智能完成后,它們可以在DGX云中運(yùn)行。這意味著我們把客戶帶到了世界的云中。我們是一個平臺公司,我們帶來系統(tǒng)廠商客戶,而CSP就是系統(tǒng)廠商。他們租用系統(tǒng)而不是出售系統(tǒng)。
我們把客戶帶到我們的 CSP,這很明智,就像我們把客戶帶到 HP、戴爾、IBM 和聯(lián)想等公司一樣。如果你是一家平臺公司,你就會為生態(tài)系統(tǒng)中的每個人創(chuàng)造機(jī)會。因此,DGX Cloud 使我們能夠把所有這些企業(yè)應(yīng)用程序遷移到全球 CSP 中。
下一波人工智能是關(guān)于工業(yè)人工智能的。大多數(shù)工業(yè),以美元計算最多的工業(yè),都是重工業(yè),他們沒有從IT中受益。他們沒有從數(shù)字化中受益。我們的行業(yè)是完全數(shù)字化的,我們的技術(shù)進(jìn)步非常大。我們稱之為芯片設(shè)計。他們稱之為藥物發(fā)現(xiàn),因?yàn)樗菑?fù)雜的。它是如此的變化,而且影響深遠(yuǎn),因?yàn)樯倪M(jìn)化速度與晶體管不同。這些都是非常復(fù)雜的問題。
好的。工業(yè)物理學(xué)和我們使用的大型語言模型技術(shù)很相似。如果我們能標(biāo)記文字、語音和圖像,我們也能標(biāo)記發(fā)音。
我們可以標(biāo)記移動的蛋白質(zhì),就像標(biāo)記語音一樣。我們可以標(biāo)記所有這些東西,包括物理學(xué)。理解它的含義,就像我們理解單詞的含義一樣。
如果我們能夠理解它的含義并將其與其他模式聯(lián)系起來,我們就可以做出生成式人工智能。12年前我就看到了這個可能性,我們公司在ImageNet上也看到了。
ChatGPT很有趣,但我們在看什么?它是在模仿我們的話語。如果它可以標(biāo)記單詞和發(fā)音,為什么不能模仿我們并以ChatGPT的方式概括它?因此,機(jī)器人技術(shù)的ChatGPT時代即將來臨。
我們希望人們能夠做到這一點(diǎn),所以我們創(chuàng)建了這個操作系統(tǒng),叫做Omniverse。Omniverse不是一個工具,也不是一個引擎,而是一個API,用于增強(qiáng)其他人的工具。
我對達(dá)索公司的宣布感到非常興奮,他們正在使用Omniverse API來增強(qiáng)3DEXCITE。Microsoft和羅克韋爾公司也已將其連接到他們的工具中,西門子也是如此。
這些API旨在增強(qiáng)第三方工具,我很高興看到它們被采用,特別是在工業(yè)自動化方面。這就是我們做的五件事。
我馬上就要結(jié)束了。我花了很多時間,但請讓我快速完成下一個。這張圖表傳達(dá)了幾件事。首先是開發(fā)人員。NVIDIA是市場創(chuàng)造者,而不是股票接受者。因?yàn)槲覀兯龅囊磺性谖覀冮_始的時候都不存在。
我們不得不去創(chuàng)造必要的算法。在我們創(chuàng)建實(shí)時光線追蹤之前,它并不存在。所以,所有這些功能在我們創(chuàng)建它們之前都不存在。一旦我們創(chuàng)建了它,就沒有應(yīng)用程序。所以,我們必須與開發(fā)人員合作,集成我們剛剛創(chuàng)建的技術(shù),讓應(yīng)用程序受益。
我剛剛提到了我們創(chuàng)造的Omniverse。我們沒有從別人那里獲取它,它是我們的創(chuàng)新。為了使其有價值,我們需要開發(fā)者,如Dassault,Ansys,Cadence等。這就像羅克韋爾和西門子一樣。
我們希望開發(fā)者使用我們的API和技術(shù)。這些有時以SDK的形式提供。對于Omniverse,我很高興它有云API,因?yàn)檫@使得更容易使用。我們在Azure云中運(yùn)行Omniverse。每當(dāng)我們連接到客戶,都為Azure創(chuàng)造了機(jī)會。
所以,Azure是其基礎(chǔ),是他們的系統(tǒng)供應(yīng)商。以前,供應(yīng)商通常是原始設(shè)備制造商,現(xiàn)在也是,但是供應(yīng)商在底部,開發(fā)者在上面。我們在中間創(chuàng)新技術(shù)。我們創(chuàng)新的技術(shù)最后就是芯片。
首先是軟件。沒有開發(fā)者,就不會有芯片的需求。因此,NVIDIA首先是一家算法公司,我們創(chuàng)建了這些SDK。這些被稱為DSL,即領(lǐng)域特定的庫。你可能聽說過SQL和Hadoop,這些都是領(lǐng)域特定的庫。
NVIDIA的cuDNN可能是世界上最成功的領(lǐng)域特定庫之一,僅次于SQL。cuDNN是一個專門用于深度神經(jīng)網(wǎng)絡(luò)計算的庫。如果沒有DNN,就無法使用CUDA,所以我們創(chuàng)造了DNN。
實(shí)時光線追蹤引擎導(dǎo)致了RTX的出現(xiàn),這是很自然的。我們有很多領(lǐng)域特定的庫。Omniverse就是其中之一。這些領(lǐng)域特定的庫與軟件開發(fā)者結(jié)合,當(dāng)應(yīng)用程序被創(chuàng)造出來,并有需求時,它就會為下面的基礎(chǔ)創(chuàng)造機(jī)會。我們是市場的創(chuàng)造者,而不是接受者。這個理解了嗎?
所以,結(jié)論是,沒有軟件就無法創(chuàng)造市場。這一直是這樣,沒有改變。你可以制造芯片來改善軟件的運(yùn)行,但如果沒有軟件,就無法創(chuàng)造一個新市場。英偉達(dá)的獨(dú)特之處在于,我們可以創(chuàng)造自己的市場,并了解到我們正在創(chuàng)造的所有市場。
我們總是在談?wù)撐磥砗臀覀冋谂Φ氖虑椤N液芨吲d能與整個行業(yè)合作,創(chuàng)建計算機(jī)輔助藥物設(shè)計行業(yè),而不僅僅是藥物發(fā)現(xiàn)或設(shè)計。
我們應(yīng)該像設(shè)計電腦芯片一樣設(shè)計藥物,而不只是發(fā)現(xiàn)它們。所以,我希望每年的產(chǎn)品都比前一年的更好,而不是像尋找松露那樣不確定。
因此,我們把開發(fā)人員放在首位。他們想要簡單易用的工具。他們需要你的技術(shù)來解決他們無法用其他方式解決的問題。對于他們來說,最重要的是有一個穩(wěn)定的基礎(chǔ)。因?yàn)槿绻麤]有人有硬件來運(yùn)行他們的軟件,他們的軟件就無法使用。
開發(fā)人員需要的是一個從未改變的安裝基礎(chǔ)。如果你在開發(fā)人工智能軟件,你需要一個可靠的基礎(chǔ)才能讓人們使用它。
然后是系統(tǒng)公司,他們需要能運(yùn)行殺手級應(yīng)用的硬件。因?yàn)闅⑹旨墤?yīng)用帶來了客戶需求,而客戶需求則需要硬件。
啟動這個循環(huán)是非常困難的。你能構(gòu)建多少個加速計算平臺?你能為人工智能、工業(yè)機(jī)器人、量子計算、6G和天氣預(yù)報提供加速計算平臺嗎?
你可能有各種不同的版本,每個版本都擅長某一方面,比如流體,粒子,生物學(xué),機(jī)器人技術(shù),人工智能,或者 SQL。但是,你需要一個足夠通用的加速計算平臺,就像上一個計算平臺能運(yùn)行一切一樣。
我們在NVIDIA上運(yùn)行了很多程序。如果你的軟件是加速的,我非常確定,它可以在NVIDIA上運(yùn)行。這就是NVIDIA的架構(gòu)。
我在演講時,我會談到這個架構(gòu)的所有方面,包括一些新的研究,比如Blackwell。這個架構(gòu)有很多好東西,值得你去研究。比如6G研究,人工智能和機(jī)器人MIMO。
為什么MIMO如此重要,為什么算法會在站點(diǎn)之前出現(xiàn)。我們應(yīng)該有像機(jī)器人MIMO那樣的站點(diǎn)特定的MIMO。所以6G肯定會是軟件定義的,肯定會有人工智能。
我們還談到了量子計算,我們期望成為量子計算行業(yè)的良好合作伙伴。你打算如何駕駛量子計算機(jī)?你打算如何模擬量子計算機(jī)?量子計算機(jī)的編程模型是什么?
所以我們已經(jīng)開始做了這個工作,并且我們正在與所有相關(guān)行業(yè)合作。總的來說,有很多令人興奮的事情發(fā)生。我們可以就所有這些事情做一個完整的主題演講。但我們已經(jīng)涵蓋了所有的領(lǐng)域。那就是昨天的事情了。謝謝你們。
問答環(huán)節(jié)
本·雷茨
你如何看待軟件業(yè)務(wù)的發(fā)展?你認(rèn)為它是否與芯片業(yè)務(wù)一樣重要?你是否更看重自己是一家芯片公司,還是更看重軟件的發(fā)展和行業(yè)建設(shè)?
黃仁勛
感謝你的提問,本。首先,謝謝大家的到來。我們在NVIDIA做的主要是兩件事情:一是開發(fā)能優(yōu)化計算機(jī)性能的算法;二是開發(fā)新的軟件。這些軟件能解決一些復(fù)雜的科學(xué)問題,例如Navier-Stokes的算法,這個算法非常復(fù)雜,需要很多的發(fā)明。因此,我們的工作主要集中在這兩個方面。
我們的軟件不僅對娛樂和媒體有用,還對科學(xué)有幫助。現(xiàn)在,我們正在將這些軟件打包成企業(yè)軟件,這將是前所未有的企業(yè)軟件。我們將有許多這樣的軟件包,我們會制造這些東西,支持它們,維護(hù)它們,保持它們的性能等,以支持我們的客戶。我希望這將是一個非常大的業(yè)務(wù),是工業(yè)革命的一部分。
現(xiàn)在的IT行業(yè)有許多偉大的公司,如SAP,ServiceNow,Adobe,Autodesk等,但我們的工作不在這一層。我們的工作在上一層,那里有許多人工智能和算法。我認(rèn)為,我們是構(gòu)建這些算法的正確公司。我們會與這些公司一起構(gòu)建一些算法,我們自己也會構(gòu)建一些,但我們會將它們打包并在企業(yè)規(guī)模上部署。再次感謝你的提問。
薇薇克·艾莉亞
我想了解更多關(guān)于潛在市場規(guī)模的信息。我注意到大客戶中有30%至50%的支出用于購買你們的產(chǎn)品,但生成式AI在銷售額中的占比卻不到10%。這種差距會持續(xù)多久?市場規(guī)模有多大?我們在采用曲線的哪個位置?這基于它能實(shí)現(xiàn)的貨幣化程度。
黃仁勛
好的,我會盡可能簡短地回答你的問題。市場規(guī)模多大?這取決于我們能銷售多少產(chǎn)品。我們主要銷售的是數(shù)據(jù)中心。
我會把這個問題分解來討論。我們賣的是整個數(shù)據(jù)中心。你看到的芯片是我們產(chǎn)品的一部分,但我們并不是只賣芯片。你需要把這些芯片集成到我們的系統(tǒng)中,這是一個復(fù)雜的過程。我們?yōu)锳I構(gòu)建了整個數(shù)據(jù)中心。所以,我們銷售的是什么?機(jī)會在哪里?當(dāng)前的市場規(guī)模是1萬億美元,每年有2500億美元的市場。
我們賣的是整個數(shù)據(jù)中心,所以我們的市場份額可能會比只賣芯片的公司更大。我們的目標(biāo)是加速計算平臺數(shù)據(jù)中心規(guī)模,所以我們的市場份額可能會比過去更大。關(guān)于這個市場的可持續(xù)性,我有兩個觀點(diǎn)。
你購買我們的產(chǎn)品是因?yàn)槲覀兊腁I技術(shù)。如果你只用GPU做一個應(yīng)用程序,那么你的市場份額可能會達(dá)到100%。但是,如果你的價值主張包括AI訓(xùn)練模型,降低計算成本,加速計算,可持續(xù)計算,節(jié)能計算,那么NVIDIA就是你的選擇。
我們做得太好了,以至于人們忘記了我們還有其他的應(yīng)用,比如計算機(jī)圖形學(xué)和游戲。我們是一個加速計算公司,但人們可能會誤認(rèn)為我們只是一家游戲公司。總的來說,市場規(guī)模是1萬億,每年有2500億美元的市場。每年應(yīng)該有2500億美元用于加速計算,不論是否使用AI,都需要進(jìn)行可持續(xù)計算,處理SQL等任務(wù)。再加上生成式AI,市場的可持續(xù)性就更強(qiáng)了。
我認(rèn)為我們將生成文字、圖像、視頻、蛋白質(zhì)、化學(xué)物質(zhì)、動力學(xué)作用、操縱等等。我們將生成預(yù)測、賬單計劃、物料清單等等。
史黛西·拉斯貢
昨天的測試主要是新系統(tǒng)Grace Blackwell,它比Grace Hopper多了一個GPU。你們沒有深入談?wù)摢?dú)立GPU的測試,這是一個轉(zhuǎn)變嗎?你們是否在想要為未來的AI服務(wù)器增加更多CPU?另外,你們對ARM和x86 CPU的看法如何,你們似乎對x86的發(fā)展不太關(guān)注?
黃仁勛
是的,史黛西。我非常欣賞這個問題。其實(shí)我們對x86和ARM都看好,他們都非常適合數(shù)據(jù)中心。
Grace系統(tǒng)的設(shè)計有其原因,它是基于ARM的,這樣我們可以自由地設(shè)計NVIDIA系統(tǒng)架構(gòu)。我們可以創(chuàng)建一個叫做“芯片到芯片”的連接,比如連接GPU和CPU之間的NVLink。我們可以使兩端連貫,這樣當(dāng)CPU接觸一個寄存器時,GPU端的同一個寄存器會失效。這樣,CPU和GPU可以在同一個變量上協(xié)同工作。
目前在x86和外圍設(shè)備之間做不到這一點(diǎn),但我們解決了這個問題。因此,Grace Hopper非常適合多物理場的CAE應(yīng)用。一些運(yùn)行在CPU上,一些運(yùn)行在GPU上。它非常適合不同的CPU和GPU組合。
我們可以將大內(nèi)存和每個GPU或兩個GPU連貫地關(guān)聯(lián)起來。因此,我們可以解決一些問題,比如數(shù)據(jù)處理,在Grace Hopper上非常優(yōu)秀。所以,解決這個問題并不是因?yàn)镃PU本身,而是我們無法采用這個系統(tǒng)。
其次,我想說的是,我展示了一張圖表,比較了Hopper和Blackwell,也就是Grace Blackwell在x86系統(tǒng)B100、B200和GB200上的表現(xiàn)。在這種情況下,Blackwell的優(yōu)點(diǎn)并不是因?yàn)镃PU更好,而是因?yàn)樵贕race Blackwell中,我們能夠創(chuàng)建一個更大的NVLink域。對于下一代AI來說,更大的NVLink域非常重要。
在接下來的三到五年里,如果你想要一個好的推理性能,你將需要NVLink。這就是我想要傳達(dá)的信息。我們將會更深入地討論這個問題。現(xiàn)在已經(jīng)很清楚了,這些大型語言模型,它們永遠(yuǎn)無法適應(yīng)一個GPU。但這并不是重點(diǎn)。為了讓你有足夠的響應(yīng)速度并具有高吞吐量以降低成本,你需要比你能適應(yīng)的GPU更多的GPU。為了讓大量的GPU在沒有開銷的情況下協(xié)同工作,你需要NVLink。
NVLinks的優(yōu)點(diǎn)不僅在訓(xùn)練中,推理中的作用也是非常重要的。這就是5X和30X之間的區(qū)別,另一個是6X,都是NVLink。新Tensor Core中的NVLinks,對不起。是的,沒錯。因此,用Grace我們可以按照需要構(gòu)建系統(tǒng),而使用x86就更難了。但是我們兩者都支持。我們將有兩個版本。在B100的情況下,它只是滑入H100和H200進(jìn)入的地方。因此,從Hopper到Blackwell的過渡是即時的。當(dāng)它可用時,你只需要將其滑入,然后你就可以開始處理下一個數(shù)據(jù)中心。所以,我們在架構(gòu)的極限下獲得了極其出色的性能和易于轉(zhuǎn)換的好處。
馬特·拉姆齊
關(guān)于昨日提到的NIM,您能大概說說公司在企業(yè)和人工智能工具的發(fā)展嗎?另外,關(guān)于如何提供高達(dá)100千瓦的系統(tǒng)電源,我們有疑問,希望您能分享公司的合作方式。謝謝。
黃仁勛
好的,我先回答第二個問題。電力輸出,100千瓦對于計算機(jī)來說是很多的,但對于世界來說,需要的遠(yuǎn)不止120千瓦。所以電力不是問題,電力的傳遞和冷卻也不是問題。這些都不需要發(fā)明,只需要規(guī)劃供應(yīng)鏈。我們非常重視供應(yīng)鏈規(guī)劃,這就是我們與各公司建立良好合作關(guān)系的原因。例如,我們與維諦技術(shù)(Vertiv)研究冷卻系統(tǒng),他們在設(shè)計液冷和其他數(shù)據(jù)中心供應(yīng)鏈中非常重要。我們還與西門子等公司建立了良好的合作伙伴關(guān)系。
關(guān)于NIMs,我們有兩種方式進(jìn)入企業(yè)。一種是通過創(chuàng)建NIM并通過GSI和解決方案提供商幫助公司將NIM轉(zhuǎn)化為應(yīng)用程序。另一種是為NVIDIA Synopsys、Cadence和Ansys等工具配備副駕駛,我們甚至為我們自己的工具構(gòu)建副駕駛,稱之為ChipNeMo。ChipNeMo非常聰明,知道如何對NVIDIA程序進(jìn)行編程。我們告訴新來的工程師使用ChipNeMo,他們可以在吃飯的時候讓ChipNeMo做一些事情。
我認(rèn)為,SAP、ServiceNow等公司會創(chuàng)建他們的副駕駛。他們會像雇用工程師一樣租用他們的副駕駛,這就像一個人工智能勞動力行業(yè)。我對我們與他們所有人的合作伙伴關(guān)系感到非常興奮,我總是告訴他們,他們坐在金礦上。
蒂姆·阿庫里
我有一個問題,現(xiàn)在,H100主要用在新的場所,人們不會用H100替換A100,但B100可能會用來更新舊的設(shè)備,比如拿掉A100,換上B100。這樣的話,我們可以服務(wù)的市場價值可能從1萬億美元變成2萬億美元,如果換新的周期是四年的話。你之前說的5000億美元主要是通過更新現(xiàn)有的設(shè)備。你對這個怎么看?
黃仁勛
這是個好問題。現(xiàn)在,我們主要是在更新數(shù)據(jù)中心里最慢的計算機(jī),也就是CPU。這是我們應(yīng)該做的。然后你會看到新的設(shè)備更新。我相信,在未來五到八年,我們會開始看到我們自己設(shè)施的更新周期。但我不覺得現(xiàn)在就開始更新是最好的。你知道,安培的生產(chǎn)能力非常高。
布雷特·辛普森
在推理端,你怎么看B100的性能和成本,以及和ASIC或其他平臺的比較呢?謝謝。
黃仁勛
我認(rèn)為對于語言模型,新的 transformer 引擎和 NVLink 的大型語言模型 Blackwell 難以超越。因?yàn)閱栴}的規(guī)模很大。TensorRT-LLM 是一個優(yōu)化編譯器,它是我剛提到的。Tensor Core 下面的架構(gòu)是可以編寫程序的。NVLink 可以連接許多 GPU,幾乎沒有開銷。64個 GPU 可以組成一個可編程的 GPU ,這很了不起。
如果沒有 NVLink,通過網(wǎng)絡(luò)一樣聯(lián)接就不能實(shí)現(xiàn)。你就是在浪費(fèi)。因?yàn)樗鼈兌夹枰涣鳎运环Q為all2all。當(dāng)所有人都需要交流時,最慢的鏈接就是瓶頸。這就像兩座城市在河的兩邊,橋就是瓶頸。這就是吞吐量。那座橋就是以太網(wǎng)。一邊是 NVLink,另一邊是 NVLink,以太網(wǎng)在中間沒有意義。所以,我們必須把它變成 NVLink。現(xiàn)在,我們讓所有 GPU 協(xié)同工作。所以這是一個非常復(fù)雜的并行計算問題。所以我認(rèn)為--我認(rèn)為 Blackwell 已經(jīng)設(shè)置了很高的標(biāo)準(zhǔn)。它就像一座山。和 ASIC 或其他的比,無法超越。
CJ繆斯
你們說買的越多優(yōu)惠越多,那么你們在定價時是如何考慮的,這會如何影響你們的定價策略?我們該如何看待標(biāo)準(zhǔn)利潤率?謝謝。
黃仁勛
我們的定價策略始終從總體成本(TCO)出發(fā)。我很贊賞你的問題。
我們始終考慮TCO。然而,我們也希望擁有不同的TCO,而不只是針對特定的客戶群。比如,當(dāng)你的客戶群只有一個特定領(lǐng)域,如分子動力學(xué),如果他們只有一個應(yīng)用程序,那么你就根據(jù)這個應(yīng)用程序來設(shè)定TCO。如果是醫(yī)學(xué)成像系統(tǒng),TCO可能會非常高,但市場規(guī)模很小。我們的市場規(guī)模在每一代都在增長,對嗎?
我們希望所有人都能買得起B(yǎng)lackwell。所以在某種程度上,這是一個需要我們自己解決的問題。當(dāng)我們解決更大的問題,面向更大的市場時,有些客戶可能會覺得物超所值。但這沒關(guān)系。通過簡化業(yè)務(wù),有一個基礎(chǔ)產(chǎn)品,你就能服務(wù)一個非常大的市場。隨著時間的推移,如果市場開始分化,我們可以進(jìn)行細(xì)分,但我們現(xiàn)在還遠(yuǎn)未到那個程度。因此,我認(rèn)為我們有機(jī)會創(chuàng)建一個產(chǎn)品,為許多人提供巨大的價值,為所有人提供良好的價值。這就是我們的目標(biāo)。
約瑟夫·摩爾
你說 GB200 的優(yōu)點(diǎn)很好,我特別喜歡它更大的 NVLink 功能。你能說說 GB200 和 GH200 的工作有什么不同嗎?你為什么覺得 GB200 可能更受歡迎?
黃仁勛
這是個好問題。簡單來說,GH200、100、200,也就是 Grace Hopper,在真正起飛之前,Grace Blackwell 就已經(jīng)存在了。Grace Hopper 承擔(dān)了一些額外的任務(wù),這是 Hopper 沒有的。Ampere 剛好填補(bǔ)了這個空缺。A100 去了 H100,然后他們會去 B100,依此類推。
這些特定的底盤或用例已經(jīng)很成熟,我們會繼續(xù)前進(jìn)。軟件也是專門為此設(shè)計的。人們知道如何操作它等等。Grace Hopper 有些不同,它解決了我們以前沒有很好解決的一些新應(yīng)用。我之前提到過一些,比如需要 CPU 和 GPU 緊密協(xié)作的多物理場問題,或者非常大的數(shù)據(jù)集等等。
Grace Hopper 非常擅長解決這些問題。因此,我們正在為此開發(fā)軟件。現(xiàn)在,我給大部分客戶的建議是,先用 Grace Blackwell,我已經(jīng)給他們這個建議了。因此,他們將來用 Grace Hopper 的所有東西都會和現(xiàn)有的架構(gòu)完全兼容。這是一件非常好的事情。所以,不管他們現(xiàn)在有什么,不管他們以后會買什么,都是好的。但我建議他們把所有的精力都放在 Grace Blackwell 上,因?yàn)樗鼤谩?/p>
身份不明的分析師
我聽說你們的機(jī)器人技術(shù)正在接近ChatGPT式的突破,這意味著什么,以及機(jī)器人有什么新的進(jìn)展嗎?謝謝。
黃仁勛
好的,有幾個重點(diǎn)。首先,我很欣賞這一點(diǎn)。兩年前,我展示了 Earth-2。現(xiàn)在我們有了新的算法,可以預(yù)測3公里范圍內(nèi)的天氣。這需要巨大的計算能力,要比現(xiàn)在的天氣預(yù)測系統(tǒng)強(qiáng)大25000倍。天氣模擬需要大量的數(shù)據(jù),因?yàn)槭澜缈雌饋砗芑靵y,你需要模擬很多分布,對很多不同的參數(shù)進(jìn)行采樣,以理解天氣模式。對于預(yù)測一周后的天氣情況,尤其是極端天氣,這需要大量的數(shù)據(jù)采樣。因此,我們基本上是在做10000次天氣模擬。
兩年前,我展示了我們?nèi)绾斡?xùn)練人工智能來理解物理學(xué),這在物理上是可能的。因此,我們聯(lián)系了世界上最值得信賴的天氣來源,天氣公司,以幫助世界各地的人們進(jìn)行天氣預(yù)測。無論你是航運(yùn)公司還是保險公司,或者你在東南亞地區(qū),你都需要了解天氣狀況。
ChatGPT的工作原理是這樣的:它從我們?nèi)祟惖睦又袑W(xué)習(xí)并推廣。它可以理解上下文,生成區(qū)域形式,適應(yīng)自己的上下文含義,或者適應(yīng)了當(dāng)前環(huán)境,上下文。現(xiàn)在,它可以生成原始代幣,把所有東西都轉(zhuǎn)化為代幣。無論是聲音識別、氨基酸重建,還是運(yùn)動學(xué)習(xí),我們都可以通過代幣化來理解和概括。
現(xiàn)在,我們需要一種被稱為對齊的方法。ChatGPT的偉大發(fā)明是它可以學(xué)習(xí)人類的反饋,通過嘗試和錯誤來自我改進(jìn)。當(dāng)然,現(xiàn)在的問題空間要復(fù)雜得多,因?yàn)樗俏锢淼臇|西。所以,你需要物理反饋。這就是Omniverse的作用,它是物理反饋的強(qiáng)化學(xué)習(xí),把AI和物理世界聯(lián)系在一起。
我只是用同樣的概念描述了兩個完全不同的領(lǐng)域。所以我所做的是,我推廣了通用人工智能。通過概括它,我可以在其他地方重新應(yīng)用它。我們已經(jīng)開始為此做準(zhǔn)備。現(xiàn)在你會發(fā)現(xiàn)Isaac Sim,這是一個基于Omniverse的模擬環(huán)境,對于任何正在做這些機(jī)器人系統(tǒng)的人來說,都會非常有用。我們已經(jīng)為機(jī)器人創(chuàng)建了操作系統(tǒng)。我知道你們有很多問題,但我只能用這種方式回答。
阿蒂夫·馬利克
我有問題要問科萊特(英偉達(dá)CFO)。你提到Blackwell平臺會在今年晚些時候推出。具體是十月還是一月?關(guān)于供應(yīng)鏈,你們怎么準(zhǔn)備新產(chǎn)品,特別是B200 CoWoS-L封裝?你們怎么讓供應(yīng)鏈準(zhǔn)備好新產(chǎn)品?
科萊特·克雷斯
是的,我先回答你第二個問題,關(guān)于供應(yīng)鏈的準(zhǔn)備。我們一直在為新產(chǎn)品的上市做準(zhǔn)備。我們很榮幸有合作伙伴和我們一起發(fā)展供應(yīng)鏈。我們一直在提高彈性和冗余。但是,你說得對,新的領(lǐng)域,CoWoS的新領(lǐng)域,新的內(nèi)存領(lǐng)域,以及我們正在構(gòu)建的大量組件和復(fù)雜性。這正在進(jìn)行中,并將在我們推出產(chǎn)品時出現(xiàn)。所以,我們的供應(yīng)鏈也包括了幫助我們進(jìn)行液體冷卻的合作伙伴,以及準(zhǔn)備好構(gòu)建整個數(shù)據(jù)中心的其他合作伙伴。這項工作是為了簡化規(guī)劃和處理,以放入我們所有的 Blackwell 不同配置。說到你的第一個問題,我們何時會進(jìn)入市場?今年晚些時候,你會開始看到我們的產(chǎn)品進(jìn)入市場。我們已經(jīng)和很多客戶討論過設(shè)計和規(guī)格,他們告訴我們他們的需求。這對我們開始供應(yīng)鏈工作、開始生產(chǎn)和我們將要做的事情非常有幫助。這是真的,盡管在一開始,有一些需求可能會有限制。希望我回答了你的問題。
黃仁勛
要知道,Hopper 和 Blackwell 是為了滿足人們現(xiàn)在的操作需求而生的,而現(xiàn)在人們對 Hoppers 的需求非常大。我們的許多客戶已經(jīng)了解了Blackwel的情況。他們也清楚時間表和功能。我們會盡快讓更多人知道這些信息,以便他們可以規(guī)劃他們的數(shù)據(jù)中心,同時也注意到Hopper的需求沒有變。這是因?yàn)樗麄円獫M足業(yè)務(wù)需求。他們現(xiàn)在就有客戶,他們必須馬上進(jìn)行業(yè)務(wù),而不是等到明年。
皮埃爾·費(fèi)拉古
我們會不會看到更多的芯粒組合?你觀察到哪些模型,它們會如何影響新一代的架構(gòu)?數(shù)據(jù)中心AI的GPU架構(gòu)會如何發(fā)展?
黃仁勛
是的,我將從第二個問題開始回答。我們的平臺優(yōu)勢在于能夠完成各種人工智能研究。因此,我們能夠觀察到各種新技術(shù)的發(fā)展。下一代模型都在努力提升現(xiàn)有系統(tǒng)的性能上限。例如,大的上下文窗口,大規(guī)模的合成數(shù)據(jù)生成,強(qiáng)化學(xué)習(xí)等等。這些模型需要學(xué)習(xí)如何進(jìn)行推理和規(guī)劃。所以,我們需要完成一系列的計劃,包括推理系統(tǒng)和多步推理系統(tǒng)。這個過程可能會很復(fù)雜,就像下圍棋一樣。但是,研究這些問題是非常激動人心的。因?yàn)槲宜枋龅倪@些原因,未來幾年的系統(tǒng)可能會超乎我們的想象。有些人擔(dān)心互聯(lián)網(wǎng)可用于訓(xùn)練這些模型的數(shù)據(jù)量,但其實(shí)不必?fù)?dān)心。模型之間的交互,強(qiáng)化學(xué)習(xí),都會生成大量的數(shù)據(jù)。今天,我們有一個計算機(jī)用于訓(xùn)練數(shù)據(jù)。但是明天,可能需要兩臺計算機(jī)相互訓(xùn)練。就像AlphaGo一樣,通過多個系統(tǒng)的競爭,我們可以更快地完成這些計劃。因此,一些非常令人興奮的創(chuàng)新工作即將到來。
我們可以確定的是,這些GPU的規(guī)模,他們希望能更大。我們公司的SerDes是世界一流的。因?yàn)槲覀兊臄?shù)據(jù)速率和能量消耗都很低,我們能夠制造NVLink。請記住,NVLink是因?yàn)槲覀儫o法制造出足夠大的芯片,所以我們將八個芯片連接在一起。這是在2016年。現(xiàn)在我們使用的是NVLink Gen 5,它允許我們將576個芯片連接在一起。數(shù)據(jù)中心不一定需要靠得那么近,所以將它們分成576種方式是可以的。
現(xiàn)在,我們可以制造出更接近的芯片。軟件應(yīng)該是構(gòu)建出最大的芯片,然后將多個芯片放在一起。但是,你應(yīng)該從制造最大的芯片開始。否則,為什么我們過去不做多芯片呢?我們一直在推動,到極致。這是因?yàn)槠蠑?shù)據(jù)速率和片上能源使得編程模型盡可能均勻。所以,你沒有非均勻內(nèi)存訪問,你沒有奇怪的緩存行為。你沒有內(nèi)存局部性行為,這會導(dǎo)致程序根據(jù)運(yùn)行它們的系統(tǒng)所在的節(jié)點(diǎn)以不同的方式工作。我們希望我們的軟件無論在哪都能運(yùn)行得一樣。所以,你應(yīng)該從制造盡可能大的芯片開始。
這是我們第一種Blackwell架構(gòu)。我們將兩個芯片連接在一起,每秒10TB的技術(shù)是驚人的。以前沒有人見過每秒10TB的鏈接。這顯然消耗的功率非常少,否則它就只能做那個鏈接了。
你必須解決的第一個問題是CoWoS。它是世界上最大的CoWoS,因?yàn)榈谝淮鶦oWoS已經(jīng)是世界上最大的CoWoS。現(xiàn)在第二代更大了。我們的好處是這次我們并不感到驚訝。上一次的銷量增長需求相當(dāng)急劇,但這次我們有足夠的能見度。我們與供應(yīng)鏈合作,與臺積電密切合作。我們已準(zhǔn)備好迎接激動人心的坡道。
亞倫·拉克斯
我想了解NVLink和576個GPU的互連的原理,Spectrum 4產(chǎn)品的影響,以及NVLink與以太網(wǎng)的競爭情況。
黃仁勛
哈哈,首先,我們的算法非常簡單。我們的目標(biāo)是制造最大的芯片,如果再大一些,它就無法支撐自己。這就是我們的第一步。然后,如果可能,我們會將兩個這樣的芯片連在一起。但是,你不能把四個這樣的芯片連在一起,這是不可能的。這就是我們的第二步。
然后,你可能會遇到各種奇怪的效果。為了解決這些問題,我們采用了NVLink。然后,你就會遇到NVLink的問題。如果你沒有NVLink,你可能會遇到困難。但是,如果你有NVLink,你就可以盡可能地擴(kuò)大NVLink的規(guī)模,根據(jù)功耗和成本進(jìn)行調(diào)整。這就是為什么我們選擇直接鏈接NVLink,而不是使用光收發(fā)器。
然后,你有了一個巨大的芯片,有576個GPU。但這還不夠,我們還需要連接更多的芯片。然后,你需要使用InfiniBand或者以太網(wǎng),并且增加一個我們稱之為Spectrum X的計算層,這樣我們就可以更好地控制系統(tǒng)中的流量。
所以,我們的目標(biāo)是讓最后一個完成的部分盡可能快。這就是我們的目標(biāo),我們希望所有的部分都能在正確的時間完成。然后,我們需要盡可能地擴(kuò)大規(guī)模,這可能需要使用光學(xué)設(shè)備。
我希望你不要擔(dān)心我們對光學(xué)設(shè)備的需求,我們非常需要它們。我們對此沒有改變。我們只是讓計算機(jī)和GPU變得更大。這真是太有趣了。
威爾·斯坦
你能解釋一下你在阿拉伯聯(lián)合酋長國談?wù)摰闹鳈?quán)AI是什么嗎?你會如何向我91歲的母親解釋加速計算,我們該怎么理解它?
黃仁勛
好的。對于第二個問題,我會說要用對的工具做對的工作。現(xiàn)在,通用計算就像是用同一把螺絲刀做所有的工作。你每天都在用它,無論是刷牙還是打掃衛(wèi)生。但隨著時間的推移,人們開始制造出更多功能的螺絲刀,使其更適合各種任務(wù)。
我們創(chuàng)建了兩種不同的工具,CPU和GPU。CPU擅長處理順序任務(wù),而GPU擅長處理并行任務(wù)。對于很多應(yīng)用程序,如Excel,它們需要處理的并行任務(wù)并不多,所以CPU是最佳選擇。然而,對于一些新的應(yīng)用程序,如計算機(jī)圖形學(xué)和視頻游戲,它們的運(yùn)行時間的99%都花在了處理1%的代碼上。這就是我們需要GPU的地方。
總的來說,我們選擇或者創(chuàng)建工具,是為了更好地處理那些需要大量運(yùn)行時間的代碼。這就是加速計算的含義。
至于主權(quán) AI。每個國家都有自己的自然資源,比如他們的語言和文化。這些都是他們的寶貴財富,就像印度有自己的語言和方言,有自己的情感,文化和歷史。這些都保存在他們的國家檔案館中,大部分都已經(jīng)數(shù)字化,但并未公開在網(wǎng)上,這都是他們的。
因此,他們應(yīng)該開發(fā)自己的主權(quán)人工智能,就像瑞典和日本正在做的那樣。各國都意識到他們的語言和文化是他們的自然資源,不能讓其他人隨意使用,更不能支付費(fèi)用將自己的資源買回來。他們應(yīng)該保護(hù)自己的數(shù)據(jù),開發(fā)出自己的人工智能。所以,我們的產(chǎn)品可能受到出口管制。但在大多數(shù)地方,我們的產(chǎn)品并未受到出口管制。如果有出口管制,我們可以和美國政府合作確保產(chǎn)品順利出口。我們也確保我們的產(chǎn)品符合出口管制,在必要的時候,我們可能會提供降級版本的產(chǎn)品。但最重要的是,我們首先要遵守出口管制。這是一個很大的市場,因?yàn)閹缀趺總€文化都需要訓(xùn)練和改進(jìn)自己的人工智能。
黃仁勛
謝謝大家,這是一個特殊的時刻。我們很少經(jīng)歷這樣的時期,60年后,我們正在重新發(fā)明最重要的工具,新的軟件方式正在出現(xiàn)。軟件是我們創(chuàng)造的最重要的技術(shù)之一,你正在新的工業(yè)革命的開始。所以,接下來的10年,你絕對不想錯過。再次感謝。
【前哨科技特訓(xùn)營第四季前瞻】
1. 前哨科技特訓(xùn)營直播課程第四季(2023年)共50講+,除此之外還有5節(jié)加餐+公開課。
2. 每講承諾為1小時視頻內(nèi)容,實(shí)際平均時長為2小時。
3. 每周四晚八點(diǎn)準(zhǔn)時直播,會員可無限次觀看回放。
4. 新入會員,可以無限次回看之前所有視頻課程。
5. 成為會員即可使用【AI王煜全】,最新AI大模型開發(fā)的專屬科技分析助手
6. 每周組織【前哨·創(chuàng)新啟發(fā)局】,鏈接科技/產(chǎn)業(yè)一線人士,打開技術(shù)/應(yīng)用前沿視野
7. 優(yōu)先獲取全球科技產(chǎn)業(yè)一線游學(xué)、訪問機(jī)會,接觸科技/產(chǎn)業(yè)專家,獲取最新、最前沿的趨勢洞察,人脈鏈接
8. 本課程為虛擬內(nèi)容服務(wù),年費(fèi)訂閱服務(wù)制。一經(jīng)訂閱概不退款,線下活動需另行支付差旅成本,請您理解。
【課程咨詢】
請加“創(chuàng)新地圖助手”:
微信:innovationmapSM
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.