当前位置:首页 > 最新资讯 > 行业资讯

认知偏差怎样影响AI?

对人类认知最基本层面的研究,称为基本认知加工,也称为认知科学。心理学、神经学和认知神经科学是认知科学的主要研究领域,其的很多发现对AI有着重要的应用,即机器学习学科。

有趣的是,神经生理学和微观测绘的研究支持这样一个观点:复杂的心理操作可以在系统层面上解释。AI系统以多种方式运作,就像我们大脑的简化版。

AI每天都在变得更加智能。假如AI达到与人类相似的智力水平,其将受到与人类相同的限制。人类对人类层次认知的解释和形成使AI系统在机器学习中的计算复杂化。直觉和大脑研究的原理表明,人们在表达事实之前就有特定的解释偏好。但假如我们过度依赖AI,就有可能会低估人类行为的重要性。另外,即使AI系统在以无数种方式改进,我们仍然不完全了解人类怎样在这些领域完成类似但更困难的任务。即使我们试图定义什么是“人”,区别也变得愈来愈模糊。

可用性启发法断言,人们通常更依赖于确认他们当前想法的数据,当其触及到AI选择时,是一个显著的认知偏差。当面对相互冲突或模棱两可的数据时,我们通常倾向于对给定证据做出最相关或最符合逻辑的解释。这种策略在某些情况下可能有效,但在很多情况下,可能会招致无法打破的失败循环。当算法严重依赖启发式进行决策,并最终依赖于无关或过时的信息时,就会发生内存泄漏。这就是一个典型的例子。

人类在做决定时更喜欢使用启发式方法,这很容易观察,但这些偏见是自动的和无意识的,使之难以识别。我们有充分的理由认为,自狩猎采集文化的时代以来,人类在日常生活中就一直在运用偏见。人类今天拥有的很多技能,譬如语言和数学,都是在各种学习策略的帮助下获得的,譬如镜像。学习信息并不难,我们的大脑可以迅速解码。

断言偏见在人类决策中仍然起着很小的作用是不正确的。尽管不断开发改进的过滤方法,但如今还没有一个解决AI进步的单一方案。我们知道AI和人类的思想都很容易出错。这意味着,任何AI系统都不会在任何计算中完全取代一个人,无论神经网络在预测下一步行动过程中的发展程度怎样。

考虑到认知偏见根植于人类本性,不太可能消失,AI系统将需要考虑它们。完美的AI系统是无法制造出来的。如今正在使用的方法只能加强、优化和改进,同时使系统的其他部分具有类似于人的质量。越是了解认知偏差,就愈能有效地使用机器学习和AI。

猜你喜欢

微信公众号

微信公众号