各种形式以及不同形态的机器尤其是人工智能以虚体（如算法）或实体（如机器人）的方式不断渗入人类社会生活。人类对它的关心程度远远超过其他技术革新。我们讨论着人工智能会不会有一颗类似人类的“心”，期望着人能把人工智能发展到何种水平、何种模样，但却似乎忽略了一个问题，即人本身才应该是我们最终着眼的地方。
那么，人工智能会改变人吗？如果它会改变人，它一定会改变人类社会。但更深层次的问题是，它会改变人性吗？现阶段肯定不会，但如果如科幻电影所描绘，真的出现了强人工智能，它有自我意识、无所不能，那我们如何看待人性呢？这就很难说了。需要注意的是，我在这里说的人性是描述的而不是规范的，回答的是什么是人的问题，不是人性善恶的问题。如果在未来社会人工智能飞速发展，将可能产生人工智能的异化。也就是说，机器人实际上是人所创造的客体，但在未来社会它可能同人这个本体相脱离，成为主体的存在，甚至反转过来束缚、支配乃至压抑人类。我们这些占据食物链顶端的人类会在不久的将来面对前所未有的危机和挑战，比如算法开始替代人类做出选择，一些原来只有人类能做的工作将会被机器人所取代。那么此时人如何看待自己呢？也就是说，它会改变人如何看待自己作为人的定义性特征吗？
人心是什么？人工智能从业者都知道著名的图灵测试（Turing Test）。图灵测试是一条典型的一元标准，即“通过”便是人，而“不通过”则非人。图灵测试非常完美，它简单地告诉我们，在不知道是人还是机器人的条件下，经过数轮交互，人无法分辨对方是人还是机器人，那么机器人便以假乱真地可以被看作具有人心。心理学有自己的理论。对应道德理论（Dyadic Morality Theory）是代表性的人心二元理论，它认为人性实际上包含两个维度，即能动（agency）和体验（experience）。能动是道德主体（moral agent）的道德地位体现，能动者常常被人知觉为行为的发出者，因此能动高者被认为需负道德责任。体验是道德客体（moral patient）的道德地位体现，体验者常常被人知觉为行为的接受者，因此体验高者被认为具有道德义务。人性不过是能被人知觉为体验或者能动而已。人即能动、体验兼而有之；上帝仅能被知觉为能动，并无体验；机器能动感知不及上帝，也并无体验；婴儿、动物并无能动，但有体验。那么，何为体验？即有饥饿、害怕、愉悦、愤怒、欲求、人格、意识、骄傲、尴尬和喜悦的能力。何为能动？即有自我控制、道德、记忆、情绪再认、计划、交流和思考的能力。
心理生活概念（conceptions of mental life）理论对上述对应道德理论的维度重新进行了划分。它对人性能力进行了重新筛选和大样本调查，发现人类心理生活概念即人心，应分为身体（body）、心智（mind）、情感（heart）三个维度。身体维度包括这样一些能力：感受饥饿、体验疼痛、感受劳累、体验恐惧、体验愉悦、进行计算、有自由意志、有意识、感觉安全、有欲望、感受恶心、感受平静、感到生气、有意图、能知觉到自我。心智维度包括这样一些能力：记住东西、再认他人、感觉温度、与他人交流、看到东西、感知深度、朝向目标努力、听到声音、做出选择、推理、闻到气味。情感维度包括这样一些能力：感受尴尬、体验自豪、感觉爱、体验愧疚、有信念、感觉不受尊重、感到抑郁、理解他人感受、体验快乐、有人格、感受高兴、分辨对错、自我克制、有思维。此理论不再从行为的发出者和接受者角度来考虑，而是脱开人际原因，直接用个体的身体、心智和情感来进行划分，虽然内在逻辑稍有重合之处，但是这三个维度已然可以解释不少人心现象。物体如订书机在三个维度上均无；机器人没有情感和身体，只有心智；甲壳虫有部分的身体和心智，但是没有情感。
我们综合诸理论，通过大样本调查和多个实验去探究在未来社会如果发生人工智能的异化，人类如何判断人心维度的变化问题，也发现了一些初步结论。譬如，我们发现这样一些能力，民众判断其在未来社会会变得更加重要，按照重要性排序为：创造力、思考的能力、自我控制的能力、有思维的能力、有学习的能力、思想有深度、有想象力、进行自我克制的能力、有人格、有自由意志、道德的能力、有自我约束的能力、有灵活思维的能力、有意识、坚持道德价值观的能力、能觉知到自我、有控制情绪的能力、有信念、分辨对错的能力、逻辑思考的能力、有求知欲、有主动行为的能力、体验快乐的能力、感觉爱的能力、有文化、沟通的能力、审美的能力、有自省的能力、朝向目标努力的能力、反对不道德行为的能力、赞扬道德行为的能力等。我们也发现，这样一些能力在未来被民众判断为并不重要，按照重要性排序为：感受饥饿的能力、进行计算的能力、有尊卑观念、体验疼痛的能力、感受劳累的能力、感受恶心的能力、体验恐惧的能力、感受尴尬的能力、闻到气味的能力、体验恐惧的能力、感到生气的能力、遵从指导学习的能力、感觉温度的能力、感到抑郁的能力、感受愤怒的能力、听到声音的能力、感受到不尊重的能力、记住东西的能力、记忆的能力、看到东西的能力、再认他人的能力、感受压力的能力、体验愧疚的能力等。稍加归纳便可以发现，人们认为，在未来更加重要的能力是道德、理性、审美、自我意识、自我控制等；在未来变得更加不重要的能力是一般认知能力、身体能力、消极情感等。对于道德、理性、审美、自控等高级加工能力在日后会变得重要，一般认知能力因人工智能本身强于人类而变得并不重要，人们比较好理解。但是，人类情感将变得并不重要，这个较为反直觉。但要注意，这里的情绪均为消极情绪，消极情绪在进化上更多是让人活下来的情绪，而积极情绪才是让人活得更好的情绪。
如果从维度观来看，我们则发现，当面临人工智能威胁时，人类会觉得体验稍稍变得重要了一些，能动变得不那么重要。身体、情感维度都没有太大变化，但是心智维度的重要性大幅度降低。这是一个非常有意思的现象。人类面对未来的人工智能如何看待自己的人心维度，从普遍意义上来说，将某些维度看得重要是较为合理的，但结果却是，比起什么维度重要，我们更加关心自己人性的哪些方面不重要，而不重要的那些维度就是人工智能本身就强于我们的那些维度，比如心智维度、能动维度。这有些类似阿Q，我们以把别人比我们强的部分看得不重要来抵御内心受到的威胁，而很少去知觉要提升我们比别人强的部分。当然，如果不只看粗略的维度，而看细致的特征，我们就会发现，那些让人活着（survive）的能力变得并不重要了，如一般认知能力、身体能力、消极情绪等；而那些让人活得更好的能力则变得更加重要了，如道德、理性、审美等。
面对人工智能的威胁，我们干脆放弃自己不如它的能力而强调它还没有的能力，这种失调本身也是人性的一部分。
（本文获国家社科基金青年项目“拟人化人工智能的道德责任归因研究”（20CZX059）资助）
（作者单位：武汉大学哲学学院心理学系；清华大学社会科学学院心理学系）
来源：中国社会科学网-中国社会科学报 作者：喻丰 许丽颖
欢迎关注中国社会科学网微信公众号 cssn_cn，获取更多学术资讯。
,
