“ChatGPT 们” 所需算力真是“贵滴夸张”!
先抛几个数据:
当下,每天有超过 2 亿的人在疯狂地抛出各式各样的问题请求 ChatGPT 回复
如果要完成这 2 亿+ 的咨询量,初始投入需要 3 万+ 块英伟达 A100 GPU 来计算
而 A100 是当下这个星球拥有最强 AI 算力的芯片,买一块至少要 7W+ RMB💴
意思就是:光计算这些有意义/无意义的问题,就要花费:21 亿+ RMB 💴
这还不算电费/维护费等,众所周知,这种庞大计算类似矿机,很费电
一块 A100,功率 400W,30000 块 A100 ,就是 12_000_000 W,是 12 MW(12 个 100 万瓦)
目前,“GPT们”就像是井喷一样出现了各类产品,先不管算的结果怎么样,大家先支棱起来、先算起来
有预测:十年后,“GPT们” 一天所需算力的生产功率相当于半个核电站产生的功率,这是离谱且夸张的!全球算力几乎快要无法满足“GPT们”了
所以,以 ChatGPTPlus(每月20刀) 为代表的 “GPT们” 很贵,因为它本来算力消费就很贵,“用 GPT 编程比招一个普通程序员更贵”的段子并非玩笑。
所以,为什么算力如此重要?为什么微软要和韩国SK集团布局自建核电站?为什么咱们要强调西数东算、云计算等等?从这里也能窥见一斑。
不夸张的说,在未来,国力强弱一方面将通过算力强弱来体现。
2016年6月的不同国家之间的超级计算机500强的分布
超级计算机模拟风洞实验
小思考:在未来,算力的瓶颈将如何突破?
—— 目前芯片仍处在传统冯·诺伊曼架构之下,存储和计算区域是分离的,搬运数据“从存储到计算”花费巨大的功耗,如果能实现“存算一体”(就像大脑一样)将提升算力进入新的量级。
所以“存算一体”可能是个方向~
推荐阅读:
# 5分钟新知关注芯片算力|存算一体为什么是AI时代主流计算架构?
OK,以上便是本次分享,希望各位工友喜欢~ 欢迎点赞、收藏、评论 🤟
我是安东尼 🤠 100 万人气前端技术博主 💥 INFP 写作人格坚持 1000 日更文 ✍ 关注我,安东尼陪你一起度过漫长编程岁月 🌏
😹 加我微信 ATAR53,拉你入群,定期抽奖、粉丝福利多多。只学习交友、不推文卖课~
本文正在参加「金石计划」
- ChatGPT 不过如此,Kosmos-1 更胜一筹?微软这波又赢了
- “ChatGPT 们” 所需算力真是“贵滴夸张”!
- 国内有哪些对标 ChatGPT 的大语言模型? 5 大竞品
- 常用!提前 reject promise 的 2 种场景,收藏等于学会
- 编程开发新朋友 —— ChatGPT 和 NotionAI 实战
- 为什么我更推荐 Notion AI 胜于 ChatGPT ?
- 推荐 5 个你大概率没见过的免费 API ,一键获取数据!
- ✨从纯函数讲起,一窥最深刻的函子 Monad
- 神马?要退役 JavaScript ?!谁人出此狂言?!
- 写出干净的 JavaScript 5 个小技巧
- 想要白嫖正则是吧?这一次给你个够!
- 浅聊缓存函数
- JavaScript 中如何取消请求
- 知其然,而知其所以然,JS 对象创建与继承【汇总梳理】
- 10 个 Reduce 常用“奇技淫巧”
- 万字年中总结,共勉
- 4 个 JavaScript 最基础的问题 —— Eric Elliott
- 日拱算法:搜索二维矩阵 II
- 日拱算法:多数元素
- 日拱算法:只出现一次的数字