AI的健康发展,关系到这一国家战略的有效实施。目前,从技术、管理、伦理和法律等角度提出的治理举措,显性地护航了该战略的实施。AI与其他学科的有效融合,将有效推动AI战略的实施。而一些不良影响因素的存在,则会阻碍其相互融合以及战略实施。其中,AI领域的神话现象就是一个重要的不良影响因素。从文化角度看,神话现象的存在会对AI的健康发展造成隐性影响。
神话现象的表现形式
AI领域的神话现象是技术神话的一种表现形式,具体表现为奇点来临、AI成为主体、AI成为偶像、AI话语神话四个方面。
第一种神话形式是奇点神话。“奇点来临”是库茨维尔(Ray Kurzweil)提出的概念。这一概念是对AI与人类关系的特定特征的描述,本意可以看作AI超越人类的特征。今天,这个概念被演绎出一种时代变更的特征,即人类被智能机器超越的特征。然而,悬置这一特征,我们会发现一个被掩盖的事情,即超级AI降临的时刻。“超越”与“降临”是描述AI与人类关系的两个不同的概念。“超越”建立在智能进化的基础上,指经过特定时间与技术发展,AI在与人类智能相对齐后,会胜过人类智能。而“降临”则不是建立在延续性的基础上,对于AI而言,指的是在某个特定时刻“意识觉醒”的发生。所以,从时间观念来看,奇点来临是时刻发生意义上的现象,而并不是延续演化意义上的经验事件。这样的话,AI作为一种神话形象就存在了。所以,接受奇点来临的可能性结果,会导致AI发展中神话现象的产生。
第二种神话形式是主体神话。智能体的出现让我们看到了与人类类似的现象,即从无到有的一个发生过程。智能体可以从一个无的环境中生成。AI类似于人的一点,在于空间记忆细胞的结构。AI领域的相关实验(如智能体的空间学习)表明:智能体的空间记忆细胞的结构,类似于人类、动物的空间记忆细胞的结构。更为有趣的是,深度学习网络中的每层神经元的统计特性,与大脑皮质层层级结构中神经元的统计特性非常接近。这些经验性研究有一个明显的假设:智能体作为一种新的主体形式,与人类主体有着极强的类似性。当然,AI作为新的主体还有更深的含义,即从智能体演化为新的主体。因为内在结构的相似性,目前智能体的认知、决策能力趋近于人,可能只是时间问题。这并不是人类设计的结构,而似乎成为智能体的先天结构。智能体通过认知、情感等能力获得道德能力,将成为其迈向主体过程的必要铺垫。
第三种神话形式是偶像神话。在一些领域,AI能够自主作出决策判断,看出人无法看出的问题,从而获得决策权。人们对于智能体的狂迷、崇拜态度,使新的偶像得以产生。这是在宗教性偶像之外的技术偶像,会对人类自身的自主性产生极大影响。在这种情况下,决策与自主权具有了被让渡出去的可能性。
第四种神话形式是话语神话。有学者指出,AI产生了一套话语体系,在这一意义上成为现代人再造的一个新的神话,表达了人对于技术无限进步的质疑和恐惧,同时又借助于对其批判来捍卫人之为人的固有尊严。AI话语神话的出现,意味着人类对其演化的必然性以及不可干预性的担忧与恐惧,同时也意味着基于人文主义的一种“保卫战”。然而,这一论述的不足之处也非常明显。从历史上看,一些权力(如政治权力)的合法性,有时会来自神话赋权,如君权神授、元代之长生天等讲法,都反映了这一观念。所以,神话不仅是一种话语,更能够赋予权力合法性。AI也是如此,相关神话让某些学术活动、科研活动具有了特定的合法形式。
神话现象的成因
要理解AI领域神话现象的形成,还需要从神话本身入手。对于神话的理解,可以划分为两种,即理性理解与非理性理解。在前者中,神话被看作精神的外化产物、前理性阶段、政权合法性根据。马克思将神话看作人类想象力的外化,是以想象力征服和支配自然的产物。他在《〈政治经济学批判〉导言》中指出:“任何神话都是用想象和借助想象以征服自然力,支配自然力,把自然力加以形象化;因而,随着这些自然力之实际上被支配,神话也就消失了。”将神话看作前理性阶段的观点主要来自卡西尔(Ernst Cassirer),他将神话看作前理性阶段、一个充满了迷魅的时期。布留尔(Lucien Lévy-Bruhl)对原始思维的讨论,可以看作对原始神话思维的讨论。前理性阶段意味着神话作为理性之源的地位确立。沃格林(Eric Voegelin)则将神话看作政治合法性的根据。在非理性视野中,神话与创世、恐惧与狂迷和祈求联系在一起,一种通过非理性方式获得根据的形式确立起来。可以看出,想象力成为神话起源的驱动力,人类对于自然界的无知与恐惧放大了对于自然的想象力,最终导致了神话的产生。
现代神话的发生除了人类想象力之外,还有另外一些因素在起作用。在现代社会中,国家神话、技术神话与资本神话成为主要的表现形式。国家神话曾被卡西尔作为重要现象系统讨论过。当前,资本神话已成为一种普遍现象。资本具有强大的力量,在资本力量的驱动下,一系列神话现象被制造出来,如各类影星、歌星、AI、元宇宙等。技术神话主要是在更为经验化的形式上被加以讨论,一种形式就是信息媒介技术导致的数字神话。莫斯可(Vincent Mosco)讨论了数字技术神话的确立,并指出数字信息技术发展导致了历史、地理与政治的终结。然而,AI领域中的神话现象并没有得到充分关注。
AI神话作为现代神话的一种典型类型,其产生的一个最基础因素是想象。在原始时期,人类对自然界缺乏认知且无力掌控,所以将想象力作为一种支配因素。随着科学技术的发展,想象力逐渐退却,科学成为主要的支配形式。在AI迅猛发展的今天,这一情况变得更为复杂。对自然界的原始恐惧为对机器的现代恐惧所取代,卢德主义依然有其存在的土壤,这种恐惧滋生着AI领域的神话现象。想象依然是影响AI发展中神话形成的主要原因,但是这种想象已表现为对技术的过度想象。然而,容易被忽略的是科学理性因素。在科学领域,AI取得了很多令人惊异的成果,如类似于动物进化的智能体演化方式、能够自我复制的智能体等。这些成果无形之中刺激着敏感者的神经,使其以一种恐惧的心态看待智能体在悄然之中的变化。同时,现实场景以及生活自身的深度智能化,也成为社会实践活动合法性的重要根据。
我们需要防范AI领域神话现象的可能后果。这是一种技术文化现象,其后果往往是隐性的,并不像AI本身及其应用产生的显性风险和社会风险那样引人关注。以AI伦理为例,现在人们的目光多集中在AI产生的安全、隐私、偏见和信任等问题上,大量规范也被陆续制定出来。然而,文化方面的问题因其隐性而容易被忽略。比如,AI话语神话导致的技术傲慢、过度想象化导致的AI领域的神话现象等。所以,我们需要认真对待此类问题。
防范神话现象形成的途径
第一,重建信任以消除对机器的现代恐惧。根据马克思的理论逻辑,AI神话的形成主要是对AI的想象所导致,过度的想象导致了AI神话的形成。过度想象的深处是人类对于机器的不信任。如今,AI深度学习算法层次使得黑箱效应更加严重,甚至有时连技术专家都束手无策。对此,我们需要对AI进行科学普及,让黑箱不再“全黑”,并让有关企业的信息更为透明。此外,还有文化上的因素。目前大众文化中如“敌托邦”的科幻作品就在塑造着对机器人的特定恐惧。德国学者肯内(Christopher Coenen)指出,从历史上看,西方思想文化史中存在着极浓厚的对于机器的不信任观念,这种观念深深地影响了今天人们对于AI的态度及文化。因此,对这些因素也需要加以重视。总体来说,重新构建人类对于机器的信任心理及文化,消除对机器的现代恐惧尤为重要。
第二,充分挖掘AI意识发生的条件。关于主体神话,尽管相比当下专用AI研究的大众性来说,通用AI研究属于小众研究,但这种研究的结果却是革命性的。“智能爆炸”“智能觉醒”等都展示了这一点。牛津大学的弗洛里迪(Luciano Floridi)从中看到了一个超历史的可能性。尽管AI从多个方面具有与人类智能的相似性,但AI的意识绝不是设计生成的,而更多是一种自然发生的结果,如同果熟落地、花开花落一样。当意识发生的条件具备之时,也就是意识的生成之时。对这种发生条件的分析,是AI哲学要承担的任务。
第三,形成增强智能的意识以平衡人类与AI的关系。这是针对偶像神话的一种举措。尽管AI具有超强的感知和信息获取能力,也具有超强的算力,然而在作出决策方面,有限度地交给机器可能是明智之举。这一点就是增强智能观念所着重强调的。增强智能是一种设计模式,用来实现在人与AI的合作中以人为中心的合作模式,可以增强包括学习、决策和新经验在内的认知能力。增强智能不是一种实体性的技术类型,不像AI那样去模拟人类的思维和行动,创造出一个类人的形象,而是更多呈现出一种人与AI体的关系样态。增强智能的目标是让人—机实现合作,产生一种既不是机器也不是人类单独获得的积极后果。
第四,对于奇点临近有一种正确的认识。奇点临近是一种神话重构抑或趋势预测?如果是未来学家的趋势预测,那么应该在这种宏大叙事中找到发生的最初迹象,从微小迹象预判可能发生的事情。能够生成智能体的环境、能够自我复制的智能体等科学成果的提出,或许就是微小迹象。但我们不应该只是从一个证伪/证实的角度去分析所面对的问题。因为微小并不意味着奇点没有到来,而是要作出前瞻式判断。如果是神话重构,那么我们也要看到这种重构话语的合理之处,一种时刻性时间观念隐含在其中。这种时间观念早已在传统的“时机”中有所体现,但现代性的发展使这种观念被持续性的时间观念所遮蔽。
第五,建立一种伦理学的应对方式。AI并不是简单的技术,而是有很多超越技术的地方。比如,超级智能体可能的自觉意识、奇点带来的机器超越和取代人类、成为主体的自主意识等。如果说这种超越可能过于久远,那么我们需要看到,AI展现出了一种汇聚能力。AI将诸多技术汇聚,甚至成为开启未来智慧城市、数字化转型的必要技术基础,这对于未来的影响是深远的。从这个角度看,约纳斯(Hans Jonas)的责任伦理学是必要的,有助于我们建立起技术会影响未来的观念。此外,我们还可以通过美德伦理学的有效复兴,应对AI带给我们的种种问题(如技术性傲慢)。谦逊作为一种美德,能够为克服技术性傲慢提供一剂良药。但这不是深层的,需要找到更为深入的方式。究其根本,技术性傲慢还是理性傲慢的体现。或许,进一步分析记忆及其在智能时代的作用,有助于问题的进一步解决。