人工智能为何如此耗电

3.0 闻远设计 2024-11-18 33 4 9.54KB 2 页 2光币

侵权投诉

　　全球 AI 耗电现状　

　　总体来看，伴随着人工智能技术的迅猛发展，以及产业指数级增长，作为重要支撑的数据

中心耗电总量和占比大幅上升。据测算，AI 大语言模型 GPT-3 一次训练的耗电量就达 1287 兆

瓦时，大概相当于 3000 辆特斯拉电动汽车共同开跑、每辆车跑 20 万英里所耗电量的总

和。ChatGPT 按每天响应约 2亿个请求计算，这一过程消耗超过 50 万度电。国际能源署 2024

年1月发布报告称，2022 年全球数据中心的总耗电量约 460 太瓦时（1太瓦时=1x10?千瓦时=10

亿度），约占全球用电量的 2%；到 2026 年，这一数据将超过 1000 太瓦时，大约是整个日本

2022 年全年的用电量。与此同时，大量的碳排放和数百万加仑淡水的消耗也不容小觑。　

　　欧美等国家 AI “ ”耗电形势严峻。以跨国公司数据中心扎堆的爱尔兰为例，数据中心的耗

电量已超过该国所有城市家庭用电量的总和，占比约为 21%。波士顿咨询集团则预计，到 2030

年，美国数据中心的用电量将是 2022 年的三倍，而这一增幅主要来自人工智能。OpenAI 首席

执行官萨姆·奥特曼和特斯拉首席执行官马斯克都曾多次表达了对电力供应的担忧。　

　　从中国来看，AI 耗能问题也是日益严重。2022 年全年，我国数据中心耗电量达到 2700 亿

千瓦时，占全社会用电量约 3%。预计到 2025 年，这一占比将提升至 5%，到 2030 年全国数据

中心耗电量将接近 4000 亿千瓦时，数据中心的节能降耗迫在眉睫。数据中心是数字经济发展

“ ”的基石，从全国一体化大数据中心体系构想到部署东数西算，数字中国战略持续深化落地，

算力不断提高，必然需要更高的能源电力，7x24 小时连续运行，电力成本占运营总成本的 60%

—70%，规模增长迅速。伴随着我国产业转型升级和数据中心规模不断扩大，耗电量会持续攀

升。　

　　总之，人工智能及支撑它的数据中心所带来的耗电问题困扰着全世界，是制约人工智能技

术飞速发展的主要障碍之一。　

　　 AI 为何成为耗电大户　

　　 AI 成为耗电大户的原因比较复杂，涉及数据处理、计算需求、芯片技术、算力中心等多个

方面。　

　　首先，从芯片上分析，大语言模型需要巨大的算力支撑，特别是拥有并行计算能力的

GPU（图形处理器）。在大模型训练过程中，需要多块GPU 接连不断运转，一块GPU 的能耗

比CPU（中央处理器）高出10—15 倍。如一块英伟达A100GPU 功耗为 400 瓦。GPT-3 训练用

到了 1024 块A100 芯片，而 GPT-4 更攀升至 25000 块，后续将更新至H100、B200，型号的提

升和数量的激增导致能耗显著增加。到 2027 年，英伟达将推出 150 万台A100 服务器，其中

95%被应用于 AI 行业。每一台服务器如果内置 8块A100 芯片，以 1240 万块A100 芯片的耗电

量进行估算，耗电量将高达 85—134 太瓦时，这个已接近瑞典或荷兰全年总用电量，相当于当

前全球用电量的 0.5%。　

　　其次，从运行机制上分析。GPU 架构在 AI 计算中虽具备并行处理优势，非常适合 AI 算

法，可以节省计算时间，但其当前利用率较低（32%—36%），且故障率高，导致训练周期

长，如GPT-4 训练耗时长达 90—100 天，进而引发长期的能源消耗。相比之下，CPU 历经近

80 年发展，技术成熟且节能高效；而 GPU 架构出现不到 30 年，尚存利用率低与差错率高的挑

战，这导致了能源消耗的增加。因此，优化GPU 架构以提高其效率和稳定性，对于减少能源

消耗至关重要。　

　　最后，大语言模型遵从规模效应，随着参数和数据规模的提高，大模型的智能表现将出现

跃升。因此，各大公司都在不断地扩大模型规模，这给电能消耗带来了巨大的压力。如果大模

型所用到的算力集中在一个数据中心里，在有限时空范围内进行训练，会给局部电网带来非常

大的用电负荷，甚至导致整个电网的崩溃。　

　　 AI 耗电问题的解决方案　

　　虽然AI 的耗电量在社会总用电量中的占比不大，但与家庭用电量相比，已经非常可观

了，而且增速太快，如果不加以控制，将导致巨大能源压力。因此如何应对人工智能带来的巨

大能耗，是业界一直高度重视的问题。　

　　首先，在技术层面，通过各种方法降低对芯片的功耗需求是业界努力的方向。英伟达、谷

歌公司等做了很多的尝试与努力，通过优化算法模型，如牺牲一点性能以大大减少计算资源和

时间，进而带来能耗效率的大幅提升；用光纤连接芯片，减少原有芯片外部的电力驱动和电

光/光电转换环节，从而减少能耗；研发高效的芯片级散热技术将散热效率提升百倍；积极研

发新型计算和传输架构以提升计算机处理速度并降低能耗；等等。　

　　其次，数据中心的能耗可以通过精心布局加以优化。如针对能耗中的散热问题，从最初的

风冷，到现在的液冷，各家企业都在尝试各种方法为数据中心散热：微软曾尝试部署海下数据

中心，Facebook 数据中心选址在北极圈附近，阿里云千岛湖数据中心使用深层湖水制冷等，我

“ ”国很多企业则把数据中心布局在水电资源丰富的西南地区。东数西算的原则也是对数据与算

力进行合理匹配，将大量的算力资源部署到西部地区，以降低能耗。　

　　再次，在新能源层面，建立多样化的能源利用体系。集中力量开发太阳能、风能等可再生

能源，扩大应用并加强储能技术研发，确保稳定供电。鼓励企业探索建设分布式光伏发电、燃

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

2 光币 4人已下载

立即下载

摘要：

　　全球AI耗电现状　　　总体来看，伴随着人工智能技术的迅猛发展，以及产业指数级增长，作为重要支撑的数据中心耗电总量和占比大幅上升。据测算，AI大语言模型GPT-3一次训练的耗电量就达1287兆瓦时，大概相当于3000辆特斯拉电动汽车共同开跑、每辆车跑20万英里所耗电量的总和。ChatGPT按每天响应约2亿个请求计算，这一过程消耗超过50万度电。国际能源署2024年1月发布报告称，2022年全球数据中心的总耗电量约460太瓦时（1太瓦时=1x10?千瓦时=10亿度），约占全球用电量的2%；到2026年，这一数据将超过1000太瓦时，大约是整个日本2022年全年的用电量。与此同时，大量的碳排放和...

展开>> 收起<<

人工智能为何如此耗电.docx

共2页,预览1页

还剩页未读，继续阅读

人工智能为何如此耗电

相关推荐

开通VIP享超值会员特权

作者详情

相关内容

推荐作者

热门标签

举报选择: