可曾想过,当你向AI模型提问或致谢时,会消耗多少电力?Hugging Face(拥抱脸)工程师朱利安·德拉凡德(Julien Delavande)对此进行了深入研究,并开发了一款测算工具。

Cover Image

每次运行AI模型都会消耗能源。这些模型依托GPU和专用芯片运行,大规模计算任务需要巨大电力支撑。虽然精确测算模型能耗并非易事,但业界普遍预计未来几年AI技术应用的扩张将推动电力需求达到新高。

为满足AI的能耗需求,部分企业甚至采取了破坏环境的策略。德拉凡德开发这类工具的目的,正是为了唤起公众关注,或许能让部分AI使用者开始反思。“即便是微小的节能措施,经过数百万次查询累积也将产生显著影响——模型选择或输出长度都可能引发重大环境效应,”德拉凡德与工具共创团队在声明中写道。

这款工具专为Chat UI设计,后者是Meta公司Llama 3.3 70B和谷歌Gemma 3等模型的开源前端界面。它能实时测算与模型交互信息的能耗,以瓦时或焦耳为单位呈现数据,并将模型能耗与微波炉、LED灯等家用电器进行对比。

根据测算,让Llama 3.3 70B撰写一封普通邮件的耗电量约为0.1841瓦时——相当于微波炉运行0.12秒或烤面包机工作0.02秒的能耗。

需要说明的是,这些测算结果仅为估算值。德拉凡德并未宣称其具有极高精确度,但这些数据足以提醒人们:包括聊天机器人在内,所有技术应用都有其环境代价。“通过AI能耗评分等项目和更广泛的能源足迹研究,我们正推动开源社区提升透明度。终有一天,AI的能耗数据会像食品营养标签那样清晰可见!”开发团队如是写道。


文章标签: #AI能耗 #电力测算 #环境保护 #开源工具 #技术透明

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。