研究揭示:AI“推理环节”电力需求高于预期

2023-10-14 11:58:21鲍辉萍
导读 【网盟资讯】10月14日消息,《Cell》的姐妹期刊《Joule》本周刊登了一项名为《持续成长的人工智慧能源足迹(The growing energy footpri

【网盟资讯】10月14日消息,《Cell》的姐妹期刊《Joule》本周刊登了一项名为《持续成长的人工智慧能源足迹(The growing energy footprint of artificial intelligence)》的研究论文,该论文由科研机构Digiconomist的创始人Alex De Vries发表。这篇论文指出,未来人工智能(AI)的推理性能可能会对电力需求造成巨大压力,到2027年,AI的用电量可能相当于荷兰一整年的电力消耗。

据ITBEAR科技资讯了解,Alex De Vries强调,一直以来,人们普遍认为AI模型的训练过程是电力消耗最大的环节,但根据SemiAnalysis和谷歌的报告,实际上,AI中的“推论环节”消耗的电力更多。从2019年到2021年,与AI相关的能源消耗中,预计有60%来自模型推理。

Alex De Vries还引用了谷歌在2021年公开披露的18.3 TWh电力消耗数据,声称当时AI占了谷歌公司整体用电量的10%到15%。然而,在谷歌全面实施“AI搜索”后,该公司在AI方面的电力消耗最高可能达到27.4 TWh,接近爱尔兰一整年的电力消耗(29.3 TWh)。

从整个市场角度来看,随着英伟达合作伙伴台积电(TSMC)计划于2027年开始量产新的CoWoS工厂,Alex De Vries估计到那时,英伟达交付的所有AI服务器的总用电量将达到85至134 TWh,相当于荷兰一整年的电力消耗。

为减缓AI对电力的不断增长需求,Alex De Vries建议AI产业应提高硬件效率,改善模型演算效率,并要考虑使用AI的必要性,以减少AI行业的能源消耗成本。

免责声明:本文由用户上传,如有侵权请联系删除!