AI系统有意识吗？图灵奖得主跨学科最新研究《人工智能中的意识》

人工智能系统是否有意识的问题日益紧迫。随着人工智能以惊人的速度快速发展，顶尖的研究人员正在从人脑中与意识相关的功能中汲取灵感，努力增强人工智能的能力。与此同时，能够令人信服地模仿人类对话的人工智能系统的兴起，可能会让许多人相信，与他们互动的系统是有意识的。在这篇论文中，作者认为，评估人工智能是否存在意识需要借鉴神经科学的意识理论。他们描述了此类著名的理论，并探讨这些理论对人工智能的影响。

这篇论文的主要贡献体现在以下几个方面：

首先，作者采用计算功能主义（computational functionalism）作为工作假设，即执行正确类型的计算是意识的必要且充分条件。该理论是心灵哲学的主流立场，不过仍存在争议。作者出于务实的考虑因而采用这一假设：与其他观点不同，它意味着原则上，意识在人工智能中可能是存在的，并且研究人工智能系统的运作与确定它们是否具有意识相关。这意味着，如果计算功能主义是正确的，那么该理论对人工智能意识的影响将十分有意义。

其次，作者认为神经科学（neuroscience）的意识理论具有重大意义的实证支持，可以帮助评估人工智能中的意识。这些理论旨在确定对人类意识必要且充分的功能，而计算功能主义的理论则意味着类似的功能对人工智能中的意识也是足够的。

最后，作者认为重理论的方法（theory-heavy approach）最适合研究人工智能中的意识。这包括调查人工智能系统是否执行与科学理论中与意识关联的功能，然后根据（a）功能的相似性、（b）相关理论的证据强度、以及（c）个体对计算功能主义的信任来分配可信度。这种方法的主要替代方案是使用行为测试意识，但这种方法并不可靠，因为人工智能系统可以被训练成模仿人类行为，但工作方式却大相径庭。

目前，意识科学中存在多种理论，因此作者在此不支持任何一种理论。相反，作者从对意识理论的研究中得出了一系列指标属性（indicator properties）。这些指标属性中的每一个都被一个或多个理论认为是意识的必要条件，而某些指标属性的子集一同存在时就被认为是充分的。然而，作者认为拥有更多指标属性的人工智能系统更有可能有意识。为了判断一个现有或拟议的人工智能系统是否有意识，应该评估它是否具备或将会具备这些指标属性。

具体地，作者讨论的科学理论包括循环处理理论（Recurrent processing theory，RPT）、全局工作空间理论（Global workspace theory，GWT）、高阶理论（Higher-order theory，HOT）等。作者不考虑综合信息理论，因为它与计算功能主义并不兼容。作者还考虑了能动性与具身化（Agency and embodiment，AE）是指标属性的可能性，不过必须从它们所隐含的计算特征来理解。

由此，作者列出了以下指标属性：

关于人工智能意识的辩论都存在一定的风险，其中包括两类风险：一类是与意识归因不足相关的风险（即无法识别具有意识的人工智能系统），另一类是与意识归因过度相关的风险（即将意识归因于并非真正有意识的系统）。

在大众的想象中，意识与自由意志、智慧和感受人类情感的倾向相关，包括同情、爱、内疚、愤怒和嫉妒。因此，作者提出有意识的人工智能可能在短期内实现，这可能意味着作者很快就会拥有类似科幻小说中描绘的非常像人类的人工智能系统。事实上，这是否会发生取决于意识与其他认知特征和能力之间的关系。此外，如果意识与人工智能的重要能力相关联（或有望相关联），那么有意识的人工智能系统就更有可能被构建出来。

一些有影响力的人工智能研究人员目前正在开展一些项目，旨在通过构建更有可能有意识的系统来提高人工智能的能力。作者已经讨论过本吉奥及其同事正在进行的工作，该工作采用了全局工作空间理论的思想。

Goyal和Bengio（2022年）写道：我们的目标是从有意识处理的认知科学研究中汲取灵感（并进一步发展），以提供大大增强的人工智能，并通过高级推理来实现人类的能力。

同样，LeCun提出的自主智能架构也具有一些特征，如用于规划的世界模型和“配置器”，后者被描述为接受所有其他模块的输入，并为任务配置其他模块。LeCun还认为，人脑中存在这样的元素可能是造成他所说的“意识错觉”的原因。这些都是人工智能领域长期以来广泛借鉴认知科学见解的例子。因此，无论建立与意识相关的特征是否是实现更强能力的唯一途径，这都是我们可能采取的方法。

现在来谈谈有意识的人工智能系统可能会如何做出行动的问题，我们有概念上和经验上的理由怀疑有意识是否意味着具有类似人类的动机或情感。从概念上讲，有意识只是拥有主观经验。原则上，有意识的主体可能拥有与人类截然不同的经历。特别是，缺乏情感或情绪的意识体验在概念上不存在明显的不一致性，即使意识主体确实有情感或情绪状态，这些状态也可能是由不同的环境触发的，与触发情绪的环境不同，并促使他们以不同的方式做出行动。从经验上看，本文讨论过的意识理论都不认为意识意味着类似人类的动机或情感。

目前，人们对人工智能影响的许多担忧并不取决于人工智能系统是否有意识。例如，人们担心根据反映当前社会结构的数据训练出来的人工智能系统可能会延续或加剧不公正现象，但这并不取决于人工智能是否有意识。也许最令人担心的是，人工智能可能对人类的生存构成威胁的论点并不假定人工智能是有意识的。对这一结论的典型论证依赖于以下前提：