微软发布博文援引《Joule》研究指出,AI 在大规模部署下的能耗与用水量显著低于外界早前估计。研究认为,关注点应放在用户典型调用下的“每次查询”,而非单个模型的训练或推理规模。
数据显示,一次常规 AI 调用耗电 0.16 至 0.60 瓦时,约等于 40 瓦电脑运行 15 至 60 秒,或 1000 瓦微波炉工作 0.6 至 2 秒,数据低至此前文献报道的 1/4 到 1/20。冷却用水方面,典型查询用水 0.0 至 0.067 毫升,中位数约 1/100 茶匙,少于 1 滴水。
微软强调,规模越大单位查询效率越高,大系统可同时处理更多请求,并在模型、调度、硬件层面叠加优化。在 10 亿次日查询场景下,基础耗电约 0.7 吉瓦时,优化后可降至 0.3 吉瓦时;即使 10%请求为长任务,整体能耗仍可下降一半以上。
文中提及的 AI 工具
评论
正在加载评论…