“ChatGPT 們” 所需算力真是“貴滴誇張”!

語言: CN / TW / HK

先拋幾個數據:

當下,每天有超過 2 億的人在瘋狂地拋出各式各樣的問題請求 ChatGPT 回覆

如果要完成這 2 億+ 的諮詢量,初始投入需要 3 萬+ 塊英偉達 A100 GPU 來計算

而 A100 是當下這個星球擁有最強 AI 算力的芯片,買一塊至少要 7W+ RMB💴

image.png

意思就是:光計算這些有意義/無意義的問題,就要花費:21 億+ RMB 💴

這還不算電費/維護費等,眾所周知,這種龐大計算類似礦機,很費電

一塊 A100,功率 400W,30000 塊 A100 ,就是 12_000_000 W,是 12 MW(12 個 100 萬瓦)

image.png

目前,“GPT們”就像是井噴一樣出現了各類產品,先不管算的結果怎麼樣,大家先支稜起來、先算起來

有預測:十年後,“GPT們” 一天所需算力的生產功率相當於半個核電站產生的功率,這是離譜且誇張的!全球算力幾乎快要無法滿足“GPT們”了

image.png

所以,以 ChatGPTPlus(每月20刀) 為代表的 “GPT們” 很貴,因為它本來算力消費就很貴,“用 GPT 編程比招一個普通程序員更貴”的段子並非玩笑。

所以,為什麼算力如此重要?為什麼微軟要和韓國SK集團佈局自建核電站?為什麼咱們要強調西數東算、雲計算等等?從這裏也能窺見一斑。

不誇張的説,在未來,國力強弱一方面將通過算力強弱來體現。

image.png

2016年6月的不同國家之間的超級計算機500強的分佈

image.png

超級計算機模擬風洞實驗

小思考:在未來,算力的瓶頸將如何突破?

—— 目前芯片仍處在傳統馮·諾伊曼架構之下,存儲和計算區域是分離的,搬運數據“從存儲到計算”花費巨大的功耗,如果能實現“存算一體”(就像大腦一樣)將提升算力進入新的量級。

所以“存算一體”可能是個方向~

推薦閲讀:

# 計算型存儲/存算一體如何實現? - bonnie的回答

# 5分鐘新知關注芯片算力|存算一體為什麼是AI時代主流計算架構?



OK,以上便是本次分享,希望各位工友喜歡~ 歡迎點贊、收藏、評論 🤟

我是安東尼 🤠 100 萬人氣前端技術博主 💥 INFP 寫作人格堅持 1000 日更文 ✍ 關注我,安東尼陪你一起度過漫長編程歲月 🌏

😹 加我微信 ATAR53,拉你入羣,定期抽獎、粉絲福利多多。只學習交友、不推文賣課~


本文正在參加「金石計劃」