当前位置:沃卡惠 > 最新资讯 > 行业资讯

研究表明人工智能系统消耗大量能量

调研机构对于人工智能基础设施需求进行了彻底的调查,并在研究报告中指出,在完全部署之前,人工智能系统所需的能量正在不受控制地扩展。这一结论让人感到非常不安。

人工智能技术并不新鲜,其背后的思想可以追溯到50年甚至70年前。人工智能系统能力的前所未有的爆炸式增长,并且获得大量的投资,人工智能如今可以做的事情呈指数级增长,用于开发和运行人工智能系统的资源也在呈指数级性,人们已经感受到人工智能带来的威胁和机会。

然而,人工智能竞赛是在相对保密的情况下进行的。全世界都在采用像ChatGPT和Midjourney这样的人工智能应用程序,并在它们可能做的事情上建立整个商业模型,所有这些都只是对这些系统如何运行,以及它们的财务、社会和环境成本的最模糊的理解。

对于大量能源的需求

调研机构采访了微软、谷歌、英伟达等公司的人工智能架构师。他们总结了人工智能硬件领域的发展历程。坦率地说,人工智能的发展令人难以置信。

人工智能的飞速发展要求在半导体芯片方面进行激进的创新,以及全新的网络架构。它正在耗费原本为天气预报和分子建模等工作而建造的国家超级计算机的容量,而且它正在催生出前所未有的新型专业云系统。

但科技公司并没有谈论人工智能行业将消耗多少地球资源。谷歌公司的Bard是一个内部应用程序。OpenAI公司是微软公司的亲密合作伙伴,它可以优先和私有地访问专门创建的Azure云资源。

早在2018年,OpenAI公司还是一个非营利研究组织,鼓励采用对人类友好的人工智能方法。这听起来像是一个警告:行业领先的人工智能模型的计算需求每3.4个月翻一番。2018年,当人工智能AlphaGo在围棋比赛中击败人类时,它使用的计算能力是2012年人工智能领跑者8层神经网络AlexNet的30万倍。

摩尔定律曾预言,核心处理器的计算能力每两年翻一番。这是令人印象深刻的,但在此期间,它只会产生七倍的增长。无论如何,当达到芯片制造的物理极限时,摩尔定律将会失去发呢动力。正如Sebastian公司所发现的,人工智能领导者改善人工智能训练和性能的唯一方法是在更高能量的专用处理器的更大集合上运行更大的模型。

一些行业数据敲响了警钟,因为人工智能系统的能耗之大开始让人们感到恐慌。据行业媒体报道,在去年的设计自动化大会上,AMD公司首席技术官MarkPapermaster警告称,到2050年,人工智能系统的能源使用增长将消耗全球所有能源。

这听起来像是十多年前对数据中心能源使用预测的重演,事实证明这种预测被夸大了。但人们确实有理由感到担心。

谷歌公司和伯克利大学的研究人员估计,GPT-3的一次训练产生的碳排放量大约是一架客机从旧金山到纽约往返的三倍。

另一方面,人工智能对于能源需求的增长是没有限制的。Arm公司首席技术官IanBratt将神经网络的计算需求描述为“永不满足”,其原因很简单,因为网络越大,其运算结果越好。如果不是因为要不惜一切代价赢得人工智能竞赛的压力,能源和硬件的成本可能是一个限制因素。

人们对人工智能能源使用的迹象实际上是令人担忧的。

由精简指令集(RISC)的发明者DavidPatterson领导的来自谷歌和伯克利的科学家团队发表了一篇论文,注意到一架客机在旧金山和纽约之间往返时产生180吨二氧化碳当量,该小组随后估计,训练GPT-3产生的碳大约是其三倍。从论文中看不清楚这里假设的能源结构是什么。

现在,人们知道人工智能在应用之前往往有有限的训练运行次数,然后在每次使用的基础上,它们在“推理”阶段使用更少的能量(但如果使用得更多,可能会消耗更多的能量)。人工智能模型的研发工作需要的不仅仅是一次训练。如果人工智能模型应用于现实世界,它们将需要更新和重新训练。

如果微软公司在其必应搜索引擎中使用GPT-4,则每次训练运行将摊销到数百万次搜索中,但训练数据必须定期更新,因为它显然不够好,无法拥有一个知识在2021年结束的搜索引擎,就像ChatGPT公开演示的情况一样。

据估计,用人工智能增强像必应这样的搜索引擎,每次搜索的碳足迹将增加大约五倍。

这些担忧已经提出了一段时间。2020年12月,人工智能伦理研究员TimnitGebr因提出质疑而被迫退出谷歌公司。当时,人们的注意力集中在她的发现上,即训练人工智能的过程引入了未知的偏见,使最终的应用程序具有种族主义和性别歧视。但正如行业媒体报道的那样,导致她退出的论文实际上引发了许多其他问题,包括能源使用。

她表示,运行这种高能耗的过程,不仅会给气候带来风险。它将人工智能研究局限于富裕的企业,而贫穷的社区则承受着气候变化的影响。该论文表示,“研究人员优先考虑能源效率和成本,以减少对环境的负面影响和对资源的不公平获取,这是过去的事了。”

需要透明度

当人们担心数据中心的能源使用会失控时,研究人员出的数据表明,摩尔定律和云计算效率的结合意味着数据中心的效率已经提高了几个数量级,使总体能源使用得到了控制。

研究人员警告说,不要从当今人工智能演示和早期推出的热潮中得出结论,他指出,专门的人工智能芯片可以提高效率,人工智能的能源使用可能会减少其他地方的能源使用。他告说:“人们可能会根据孤立的轶事进行推断,得出令人瞠目结舌的数字,而这些数字几乎总是太高了。”

很明显,人工智能具有潜在的价值,但如果没有成本的透明度,人们就无法判断价值是否真的超过了成本。

猜你喜欢

微信公众号

微信公众号