当前位置:沃卡惠 > 最新资讯 > 行业资讯

超级智能到底是什么?

超级智能到底是什么?

超级智能的发展是科学家们争论不休的话题。超级智能是从更传统的通用人工智能(AGI)概念演变而来的。这种功能强大的技术可能在目前的十年内出现,可能解决重大的全球问题,也可能导致人类的权力丧失或灭绝。

OpenAI(美国人工智能研究公司)的战略包括创建一个具有人类水平能力的自动对齐研究人员,并利用大量计算资源迭代地训练和对齐超级智能。这个过程被称为超级智能对齐,需要人工智能对齐技术的创新、广泛的验证和对抗性压力测试。

OpenAI正在投入大量资源和研究来应对这一挑战,并鼓励杰出的研究人员和工程师共同努力。然而,术语从通用人工智能到超级智能的转变,是否会对围绕人工智能风险和收益的持续争论产生深远影响,还有待观察。

OpenAI强调了超级智能的潜力,它可能是有史以来最有影响力的技术,能够解决重大的全球问题。然而,它也承认与超级智能相关的巨大风险,人类被剥夺权力甚至灭绝。

尽管超级智能看似遥远,但OpenAI相信它可能会在这十年内出现。管理这些风险需要新的治理机构,并应对使超级智能与人类意图保持一致的挑战。有趣的是,OpenAI使用的是这个术语,而不是更传统的通用人工智能(AGI)。他们的理由如下:

在这里,我们关注超级智能,而不是通用人工智能,以强调更高的能力水平。在未来几年里,我们对这项技术的发展速度有很多不确定性,所以我们选择瞄准更困难的目标,以校准一个更有能力的系统。

当前的人工智能对齐技术,例如根据人类反馈进行强化学习,不足以控制潜在的超级智能人工智能。人类无法可靠地监督比我们聪明得多的系统,现有技术也无法扩展到超级智能。OpenAI强调需要科学和技术突破来克服这些挑战。

OpenAI的方法涉及构建一个具有大致人类水平能力的自动对齐研究人员。大量的计算资源将被用来扩展他们的努力,并迭代地调整超级智能。关键步骤包括开发可扩展的训练方法、验证生成的模型以及对对齐管道进行压力测试。根据OpenAI公告的标题,这个概念被称为超级智能对齐。

为了解决评估对人类具有挑战性的任务的困难,可以采用人工智能系统进行可扩展的监督。将监督推广到无监督任务,以及检测有问题的行为和内部结构,对于验证一致性至关重要。对抗性测试,包括训练未对齐的模型,将有助于确认对齐技术的有效性。

OpenAI预计,随着对该问题的了解越来越多,其研究重点将会发生变化,并且他们计划在未来分享他们的路线图。他们组建了一支由顶尖机器学习研究人员和工程师组成的团队,致力于解决超级智能对齐问题。OpenAI将在未来四年内将其20%的安全计算投入到这项工作中。

虽然不能保证成功,但OpenAI仍然乐观地认为,集中一致的努力可以解决这个问题。他们的目标是提供证据和论据,让机器学习和安全社区相信问题已经解决,他们正在积极与跨学科专家合作,考虑更广泛的人类和社会问题。

OpenAI鼓励杰出的研究人员和工程师,即使是那些以前没有从事过对齐工作的人,也加入到他们的努力中。他们认为超级智能对齐是最重要的未解决的技术问题之一,并认为这是一个易于处理的机器学习问题,具有重大贡献的潜力。

关于人工智能、通用人工智能以及从实用到人类毁灭等复杂的相互关联问题,激烈争论似乎正在形成新的裂痕。如今,词汇已经发生了一些变化,但尚不清楚这是科学还是语义。

猜你喜欢

微信公众号

微信公众号