RTX 4090將機器學習速度提高3倍?黃仁勛:摩爾定律已死

語言: CN / TW / HK

英偉達正式發佈RTX40系列顯卡後,知乎上,「如何評價RTX40系列顯卡」成為熱議話題。從討論內容看,網友對細節的討論,還是很專業的。

老黃終於在今年的GTC(GPU技術大會)2022上,公佈了RTX 40系列GPU的配置。

很快,在知乎上,RTX40系顯卡就成了熱議話題。

性能高了,功耗也大了

從網友的討論方向看,對於RTX40系顯卡,大家關心的主要就兩點: 性能和價格。

對於RTX40系顯卡的性能,大家基本買賬。

下面這張RTX40 系顯卡性能圖,一直為網友津津樂道。

一位網友認為,RTX40 系列顯卡,從架構和工藝上説,這是NVIDIA自Pascal,也就是10代以來各方面都提升最大的一代。

其他網友對RTX40系列性能的看法,也差不多。

比如,知乎上的一個名為「MebiuW」的科技博主認為,英偉達在這一代消費級顯卡Ada Lovelace上用上了台積電的N4工藝,終於不像之前Ampere一樣用着落後當時一代的工藝了。

不過,他覺得Ada Lovelace的首發的卡,雖然在理論性能上都是超過3090。但也就4090的提升比較大一些,4080系列無論對比3080還是對比3080Ti,提升都不足2倍。

從核心規格上,12GB的4080更像是3070的替代版本(3070 20T),16GB版本的4080更像是3070Ti的替代版本(22T)。

還有人乾脆只放一張圖,來表達他對40系顯卡性能的看法:

總而言之,儘管在一些細節上,大家的看法有差別,但在一件事上,大家達成了共識:旗艦RTX 4090性價比最高。

也許是RTX 4090的性能實在讓人印象深刻,外網Reddit甚至有人在討論,RTX 4090的cuda內核增加了50%,時鐘速度提高了50%,如果再考慮到RTX 4090其他方面的優化,有了RTX 4090的加持,能不能將機器學習速度提高2-3倍?

從下面留言看,外國網友顯然沒這麼樂觀。

一位叫「Michael_Aut」的網友評論道:「考慮到Roofline 模型(屋頂線模型),很多事情都受到內存吞吐量的約束,RTX 4090對機器學習沒有那麼大的推動作用。」

他特意用參數來做進一步説明。

最後,這位網友總結道:「是的,我不會期望新芯片能在任務中有更好的表現。實際上,從3080切換到12GB 4080時,性能説不定會出現一些退步。」

另一個取名「pommedeterresautee」的網友説:

「GPU編程中的大多數低效率都與從全局內存(DRAM)訪問數據有關。對於e2e性能而言,速度快2倍的HBM3肯定與更快的計算速度一樣重要。更大的l2緩存也會有所幫助。

只有像matmul和conv這樣的張量收縮運算才能從DL中更快的計算中受益。

此外,如果使用新的fp8格式IRL,它可能會產生差異。Int8 quant很難使用,很少有人能夠在prod等中部署它。」

當然,RTX40系列顯卡的性能雖然總體上差強人意,但並非各方面都讓人滿意。

比如,RTX40系列顯卡的功耗,就遭到了很多人的吐槽。

RTX 4090、RTX 4080(16G)、RTX 4080(12G)這三款顯卡的功耗,分別為450W、320W和285W,系統電源功率要求分別為850W、750W和 700W。

考慮到RTX30系列顯卡的功耗已經不低了,升級後的RTX40系列顯卡功耗還在增加, 難怪一位叫「老馮數碼」的知乎網友戲稱英偉達是「國家電網合作伙伴」。

不過,在另一大槽點面前,功耗什麼的都是浮雲。

在價格面前,一切都顯得不重要

同性能相比,知乎上,大家對顯卡價格的討論要多得多。

啊,不,更準確地説,是吐槽要多得多。

一個網友説,對於英偉達的RTX 40系顯卡,他只想説三點,定價離譜,定價離譜,定價離譜。

而一個叫「星話大白」的知乎網友,則站在遊戲玩家的角度説,黃老闆把原本的4070改成4080,價格提升84%,哪個玩家還買?至於30系新卡,他是不打算幫英偉達清庫存了。

還有人專門做了一張表,讓這次漲價變得更加醒目:

除了吐槽,有人對40系顯卡的價格,還沒有完全悲觀。

一個叫「誓約勝利之劍」的網友説,「30系當初雖然定的低,但是發售後到今年以前,也從沒按照原價賣過,定價只是官方覺得值這個價,具體賣多少取決於用户覺得值多少,至少30系目前礦卡存量如此巨大的情況,40系破發速度應該不會慢」。

看完網友們的吐槽,再看看老黃是怎麼説的。

在公佈RTX 40系列顯卡後,針對顯卡太貴,英偉達CEO黃仁勛迴應道:

「一塊12英寸的(硅)晶圓現在比昨天貴得多,而且不是貴了一點點,而是貴了很多。摩爾定律已死。根據摩爾定律,在相同的成本下,性能翻倍或者在相同的性能下,成本減半,這種能力已經不復存在。它完全結束了,因此芯片的成本會隨着時間的推移而下降的想法,已是過去的事了。」

也許,老黃漲價真是迫不得已吧。

參考資料

https://www.zhihu.com/question/554597854

https://www.reddit.com/r/MachineLearning/comments/xjt129/d_can_we_expect_rtx_4090_to_have_23x_machine/

本文來自微信公眾號 “新智元”(ID:AI_era) ,作者:武穆 ,36氪經授權發佈。