
大模型越来越能打,但也越来越能吃。
训练一次千亿参数模型,电费轻松破千万。推理更吓人,ChatGPT每天光电费就70万美元。有人算过一笔账:到2027年,全球AI数据中心的用电量将超过整个日本。
这不是技术问题,这是经济问题。再这么烧下去,AI先被电费烧死了。
但8月初传出一条被很多人忽略的消息:国内一家芯片公司发布了新一代AI推理芯片,能效比直接翻了3倍。
3倍什么概念?原来跑一个模型要100度电,现在只要33度。原来数据中心一年电费1个亿,现在3000万出头。
原理不复杂。传统芯片跑AI,数据要在存储和计算单元之间来回搬运,路上消耗的能量比正经干活还多。新芯片用了”存算一体”架构,相当于把厨房搬到了菜市场隔壁,省掉了所有跑腿功夫。
这才是真正的”降本增效”。不是裁几个人、砍几个预算能比的。
更重要的是,这意味着大模型部署的门槛断崖式下降。以前只有巨头玩得起的游戏,现在中型公司也能上桌了。AI应用的爆发,可能比所有人预想的都快。
电费清零的那一天,才是AI真正走入千家万户的那一天。
留言 0
还没有留言,快来抢沙发