“ChatGPT 們” 所需算力真是“貴滴誇張”!
先拋幾個資料:
當下,每天有超過 2 億的人在瘋狂地丟擲各式各樣的問題請求 ChatGPT 回覆
如果要完成這 2 億+ 的諮詢量,初始投入需要 3 萬+ 塊英偉達 A100 GPU 來計算
而 A100 是當下這個星球擁有最強 AI 算力的晶片,買一塊至少要 7W+ RMB💴
意思就是:光計算這些有意義/無意義的問題,就要花費:21 億+ RMB 💴
這還不算電費/維護費等,眾所周知,這種龐大計算類似礦機,很費電
一塊 A100,功率 400W,30000 塊 A100 ,就是 12_000_000 W,是 12 MW(12 個 100 萬瓦)
目前,“GPT們”就像是井噴一樣出現了各類產品,先不管算的結果怎麼樣,大家先支稜起來、先算起來
有預測:十年後,“GPT們” 一天所需算力的生產功率相當於半個核電站產生的功率,這是離譜且誇張的!全球算力幾乎快要無法滿足“GPT們”了
所以,以 ChatGPTPlus(每月20刀) 為代表的 “GPT們” 很貴,因為它本來算力消費就很貴,“用 GPT 程式設計比招一個普通程式設計師更貴”的段子並非玩笑。
所以,為什麼算力如此重要?為什麼微軟要和韓國SK集團佈局自建核電站?為什麼咱們要強調西數東算、雲端計算等等?從這裡也能窺見一斑。
不誇張的說,在未來,國力強弱一方面將通過算力強弱來體現。
2016年6月的不同國家之間的超級計算機500強的分佈
超級計算機模擬風洞實驗
小思考:在未來,算力的瓶頸將如何突破?
—— 目前晶片仍處在傳統馮·諾伊曼架構之下,儲存和計算區域是分離的,搬運資料“從儲存到計算”花費巨大的功耗,如果能實現“存算一體”(就像大腦一樣)將提升算力進入新的量級。
所以“存算一體”可能是個方向~
推薦閱讀:
# 5分鐘新知關注晶片算力|存算一體為什麼是AI時代主流計算架構?
OK,以上便是本次分享,希望各位工友喜歡~ 歡迎點贊、收藏、評論 🤟
我是安東尼 🤠 100 萬人氣前端技術博主 💥 INFP 寫作人格堅持 1000 日更文 ✍ 關注我,安東尼陪你一起度過漫長程式設計歲月 🌏
😹 加我微信 ATAR53,拉你入群,定期抽獎、粉絲福利多多。只學習交友、不推文賣課~
本文正在參加「金石計劃」
- ChatGPT 不過如此,Kosmos-1 更勝一籌?微軟這波又贏了
- “ChatGPT 們” 所需算力真是“貴滴誇張”!
- 國內有哪些對標 ChatGPT 的大語言模型? 5 大競品
- 常用!提前 reject promise 的 2 種場景,收藏等於學會
- 程式設計開發新朋友 —— ChatGPT 和 NotionAI 實戰
- 為什麼我更推薦 Notion AI 勝於 ChatGPT ?
- 推薦 5 個你大概率沒見過的免費 API ,一鍵獲取資料!
- ✨從純函式講起,一窺最深刻的函子 Monad
- 神馬?要退役 JavaScript ?!誰人出此狂言?!
- 寫出乾淨的 JavaScript 5 個小技巧
- 想要白嫖正則是吧?這一次給你個夠!
- 淺聊快取函式
- JavaScript 中如何取消請求
- 知其然,而知其所以然,JS 物件建立與繼承【彙總梳理】
- 10 個 Reduce 常用“奇技淫巧”
- 萬字年中總結,共勉
- 4 個 JavaScript 最基礎的問題 —— Eric Elliott
- 日拱演算法:搜尋二維矩陣 II
- 日拱演算法:多數元素
- 日拱演算法:只出現一次的數字