AI计算需求激增,英伟达H100功耗成挑战
作者:时尚 来源:百科 浏览: 【大中小】 发布时间:2025-03-10 06:25:30 评论数:
伴随着人工智能技术飞跃式的计算激增进步,对于计算机运算能力的需求需求同样大幅提升。目前,英伟英伟达公司的功耗H100芯片销售火爆。值得关注的成挑是,单片H100芯片的计算激增峰值功率高达700瓦。随着此类芯片的需求广泛使用,预计到2024年末,英伟其总体功耗将相当于甚至超越某些欧洲小型国家。功耗
根据预测,成挑若H100的计算激增年利用率保持在61%,那么单台设备每年将耗电3740千瓦小时左右。需求如果英伟达在2023年售出150万块H100,英伟2024年再增加至200万块,功耗那么到2024年底,成挑将有350万块H100芯片投入使用,其总年用电量将高达130.91亿千瓦小时(13091.82GWh)。相对而言,一些国家的年平均发电水平,如格鲁吉亚、立陶宛和危地马拉,也是这个数量级。
尽管H100的电力消耗数字让人瞠目结舌,但我们可以看到,AI以及高性能计算GPU的能效正逐步改善。英伟达下一代Blackwell架构的B100芯片不仅可能拥有超过H100的功耗,而且还能实现更高的性能表现,从而在相同能耗下完成更多任务。
很明显,随着AI技术的持续发展,如何妥善处理算力与能耗之间的矛盾,成为了未来亟待解决的重大问题。