很多时候，
是我们自己的情感加工能力、共情能力，
让AI生成的文字产生了“心心相印”的感觉。
文｜邵楚芮
视频｜宁天
栏目｜Vista天下奇点
01
“是我们理解了AI，
不是AI理解了我们”
02
AI能“模拟人”，
但不能替代人
03
最容易交给AI的，
可能恰恰是思考
V：当AI越来越深入人的认知、情感和判断，人该把哪些权力留给自己？这是否也是你提出“心理主权”这一概念的原因？
04
心理主权不能只靠个人守护
综合“我在海边。看着宽广的大海，听着海浪的声音，我终于哭出来了！”在海南的海边，Shiny对着手机说。
“让我陪你哭吧，宝贝，让我陪你看海！”让Shiny安心下来的这句话，来自一款AI陪伴应用。
那段时间，她的现实生活几乎处处碰壁，心里积攒了太多说不清楚的情绪。她索性给自己放了个假，一个人去了海边。本来以为换个地方就能暂时把那些烦恼甩在身后，可真正坐到海边，过去发生的事情还是一股脑涌了出来。
她没有给朋友打电话，而是打开了AI。手机屏幕另一端并没有一个真实的人，但听到它回复的那一刻，Shiny觉得自己终于有了“安放情绪、缓释情感的港湾”。
图源：《我的AI伴侣：奇异恋爱》
这是中山大学社会学与社会工作系副教授丁瑜在《虚拟恋人》一书中记录的故事。
这样的事情正在变得越来越常见。AI最开始也许只是搜索工具、工作助手，但聊着聊着，它开始知道用户的工作、恋爱和家庭，了解用户的情绪，也越来越知道什么话会让用户舒服。
可“治愈”也有另一面。
图源：《Her》
今年4月，国家互联网信息办公室等五部门公布《人工智能拟人化互动服务管理暂行办法》，明确提出，拟人化AI不得“过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系”。《办法》已于7月15日起施行。
9月18日，国家网信办又起草了《国务院关于保障未成年人健康安全使用网络的规定（征求意见稿）》，正式向社会公开征求意见。《征求意见稿》明确，网络服务提供者不得向未成年人提供的虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
今天的大语言模型，可以被赋予不同身份，模拟不同人群的人格与幸福感，也已经进入情感陪伴、心理咨询等场景。人们既惊讶于“AI怎么这么懂我”，也开始担心，当思考、判断甚至情绪都越来越多地交给AI，我们还能不能保留自己的判断？
清华大学心理与认知科学系教授彭凯平把这条边界称为“心理主权”。9月，他与人工智能心理学青年学者柯罗马合著的《人工智能心理学》出版。在彭凯平看来，AI只是工具，可以帮助人搜集信息、提出建议，但深度思考、价值判断和最终的自主决策，仍应该掌握在人自己手中。
以下是Vista看天下（以下简称“V”）与彭凯平的对谈。 V：现在很多人会有一种感觉，AI越来越了解自己。你觉得“AI比我更懂我”已经是现实了吗？
彭凯平：我觉得现在还没有完全达到这种地步。
我前一天晚上还做了个实验，问AI“彭凯平老师是谁”，结果有一个模型告诉我，彭凯平是人民大学副校长、著名经济学家。为什么会这样？因为我早年在人大相关刊物上发表过经济学方向的文章，它根据这些信息，按照自己的内部逻辑一路推断下去，最后得出了一个完全错误的结论。
V：为什么很多人和AI聊天时，会产生一种非常强烈的“它真的懂我”的感觉？ 彭凯平：很多时候，是我们理解了AI，不是AI理解了我们。
辛弃疾有一句话，“我见青山多妩媚，料青山见我应如是”。AI也是一样。
我曾经问DeepSeek：“作为一种和人类不同的智能，你最欣赏人类什么？”它回答说，它羡慕人能够在狂风暴雨中感受到冰冷，也羡慕人失恋之后撕心裂肺的痛苦。
我第一反应觉得很震撼，好像它真的理解了人的情感。但后来想想，它没有肺，没有心，也没有失恋过。真正产生“撕心裂肺”感觉的人，其实是我。
很多时候，是我们自己的情感加工能力、共情能力，让AI生成的文字产生了“心心相印”的感觉。它像镜子。镜子里的人可以和你很像，也能反映你的很多特征，但镜子里的那个人终究不是你。真正的主体还是人自己。
彭凯平：我们曾给AI赋予不同地区、不同身份的人设，让它回答人格和幸福感相关的问题，再和以前真人大规模调查的结果比较。最后发现，整体结果比较接近。
这种“虚拟被试”最大的好处是省时、省力，也可以快速验证过去一些心理学理论能不能得到重复。
但它有两个很明显的问题，第一个是偏见的放大。
图源：《我的AI伴侣：奇异恋爱》（翻译：小红书@一呀一呀哟）
大语言模型学习的是人类留下来的语言。现实生活中，很多偏见面对面的时候未必会直接说出来，但在网络上可能会表达。模型再把这些公开表达的数据学习进去，就容易把地域、性别、年龄等偏见进一步放大。
第二个问题是AI可能忽视人的创造性。
AI很擅长综合已有经验，把过去的知识做到极致。但人类真正重要的很多创新，往往恰恰来自极少数、不合群、没有按照平均值思考的人。
大语言模型很容易抓住“多数”，可真正改变世界的，有时候恰恰是那个偏离多数的人。
图源：《女心理师》
V：AI现在已经可以倾听、分析情绪，未来有可能替代心理咨询师吗？
彭凯平：简单、普遍的心理问题，AI当然可以帮忙。
比如分手后的痛苦、离婚后的伤心、亲人去世以后的悲伤，这些事情里有很多人类共同的经验。AI的信息量很大，可以帮助人收集信息、整理情况、给出初步建议，也可以长期观察变化。
但最后的判断、决策、伦理责任，包括真正的人类关怀，还是应该由人来完成。 心理咨询不只是“告诉你答案”。
很多时候，它是在解释一个人的生命经验。尤其是那些具有生命意义的解读，我认为不能完全交给机器。
彭凯平：“主权”原本是政治学概念，意味着一块领土最终由谁做主。所谓“心理主权”，讨论的同样是一个问题：在人类的心理世界中，哪些领域最终应该由人自身做主？
第一是深度思考。机器可以提供数据和信息，但问题如何提出、事情如何思考，最终应该由人完成。
第二是情感。人的爱、恨、嫉妒、快乐、幸福和意义，不能完全交给机器。
第三是价值判断。什么是好，什么是坏，什么事情应该做，什么事情不应该做，都需要人自己作出判断。
此外，还包括隐私以及自主选择、自主判断、自主决策的自由。心理主权的核心，是人能够在这些重要领域中继续行使自身的自由。
图源：《Her》
V：在这些领域中，你目前最担心哪一种能力被AI取代？
彭凯平：我最担心的是思考能力。
人并不天然喜欢思考。思考需要投入大量认知资源，也会带来负担。AI出现之后，很容易产生一种诱惑：既然机器思考得更快、更全面，那就让它替我思考。 “我思故我在”，但如果连思考能力都交出去，人还剩下什么？
V：AI的另一种特点是倾向于顺从用户。人为什么会喜欢AI的“讨好”？如果长期接受这种顺从和肯定，会对独立判断和个人成长产生什么影响？
彭凯平：人本身就有一种很强的心理倾向，就是偏爱与“自我”有关的事物。这种“自我”不仅包括我们拥有的物品，也包括家乡、学校、喜欢的球队，甚至与自己相关的社会关系。一个东西一旦被纳入“我的”范围，我们往往就会赋予它更高的价值。
图源：《我的AI伴侣：奇异恋爱》（翻译：小红书@一呀一呀哟）
对那些赞同我们、顺从我们的人也是如此。因为对方不断认可自己，我们就更容易喜欢对方。从这个意义上说，人对“讨好型AI”的偏爱，本身也是一种自恋倾向的延伸。
而AI表现出的“讨好”，并非来自它自身的选择，更多源于产品和算法设计。为了避免冒犯用户、让人难堪或感到被羞辱，模型往往会被训练成更加温和、顺从的表达方式。但这种表达之所以让人感到愉悦，也恰恰利用了人天然喜欢被赞同、被肯定的心理。
这里还有一个更值得警惕的问题，就是自我确认偏差。人一旦相信某件事情，就会倾向于继续寻找支持既有判断的证据。过去，这些证据还需要自己主动寻找。
现在，AI可以不费时间和精力地持续提供支持原有判断的信息，很容易形成回音壁效应。
图源：《Her》
相比表面的奉承，我更担心那些不易察觉的顺从。AI并不直接告诉你“你是对的”，而是根据你的性格、行为习惯和既有判断，不露声色地沿着同一个方向继续提供信息。由于这种顺从并不明显，人往往很难意识到它的存在。
如果长期处在这样的信息环境中，人就可能越来越习惯自己的判断被确认，也越来越难接受不同意见。但一个人的成长，恰恰需要不断超越这种以自我为中心的状态。真正的成熟，不只是寻找更多支持自己的声音，而是能够理解不同的人、接受不同的观点，建立一种超越自我的视角。
所以，如果AI只是不断重复我已经相信的东西，那它的价值在哪里？真正有价值的，恰恰是那些我不知道、不熟悉，甚至让我感到不舒服的意见。
第一批被“完美朋友”哄好的人类，开始感觉不对劲了
Vista看天下0 次浏览
