11月14日,IT之家报道,Meta的生成式人工智能工程总监谢尔盖埃杜(Sergei lavrov)最近在硅谷数字工人论坛上分享了他对人工智能推理需求的预测。他认为,如果使用合理规模的语言模型,明年全球人工智能应用推理的新需求,仅两个核电站的发电量就能满足。
人工智能推理是指利用训练好的人工智能模型在实际场景中执行各种任务,如生成文本、回答问题、识别图像等。埃杜·诺夫说,他通过简单的数学计算估算了明年全球推理需求的用电量。他假设,明年,全球将有100万到200万个Nvidia H100图形处理器,每个处理器的功率约为1千瓦。如果每个处理器一天24小时运行,每人每天可以产生10万个“代币”。他认为,就人体尺度而言,用电量是合理的。世界上只需要两座新的核电站就能提供足够的电力。
然而,IT之家注意到,埃杜·诺夫也指出,人工智能的发展仍然面临一些挑战和限制,其中之一就是数据量的问题。目前人工智能模型的训练需要大量的数据,开放的互联网数据不足以支撑下一代模型的训练。下一代模型可能需要10倍的数据量,这意味着更多的专业数据或更多的多模态数据,如视频和音频。另一个挑战是供应链。由于全球芯片产能不足,人工智能模型的改进速度也会受到影响。因此,研究人员正在努力提高模型的效率,以减少对数据和硬件的依赖。例如,Salesforce开发了Blib-2,这是一种可以自动调整模型大小的技术,可以根据不同的任务和资源需求动态缩小或扩大模型。
业内专家普遍认为,语言模型将在两年内为企业带来巨大价值。埃杜的预测是,在三四年内,我们将知道目前的技术是否可以实现通用人工智能。
未经允许不得转载:科技让生活更美好 » Meta 工程师:明年全球 AI 推理用电量仅需新增两座核电站即可满足