对AI上瘾的人，无法回到真实世界

本文为过年时在豆瓣发的动态的扩充，在许多人沉浸于技术乐观主义的狂欢中肆意狂飙的同时，我们需要有另外一只眼睛去看到技术的反面，实际上我认为这也是人文社科在技术领域所需承担——也必须承担起——的某种责任。毫无疑问，AI成瘾已经成为一种现象，对于成瘾问题，我们往往会将其归咎于成瘾者自己，特别是在个人主义新自由主义的框架下，成瘾就是成瘾者自己的软弱，但要注意的是，在这样说的同时，我们却严重忽视了环境的致瘾性，我们已经生活在一种被David Courtwright称为“边缘系统资本主义”（limbic capitalism）的商业环境中，身边充满了通过巧妙设计（即成瘾性设计）来绑架我们的边缘中脑多巴胺奖赏系统进而制造成瘾的产品，如果不对这些产品的致瘾性进行揭露及监管的话，那么每个人都会有更高的风险被这些产品“心理操纵”而成为某种意义上的“瘾君子”。这种通过巧妙设计来“操纵”用户的做法，在伦理上是极不道德的，考虑到它的隐蔽性，它甚至可能要比许多传统的成瘾物质更加不道德，所以这部分的伦理治理实则是极为迫切的，这也是为什么我希望通过呈现临床上的这些正在兴起的案例来引起学界重视的原因，当然如果只是止于研究显然还不够，需要上升到政策监管的层面，这部分就格外需要公共政策及法律界同道的支持，需要从政策和法律层面对数字产品背后的“暗黑模式”进行系统监管。此前谈论到国外一个由法律专家和产品设计专家发起的“deceptive patterns”项目（www.deceptive.design），里面对暗黑模式的类型、立法、判例等进行了细致的整理，还有个“hall of shame”，揭露不同产品的暗黑模式，很值得学习的项目。当然，对于心理健康工作者来说，我们已经需要去注意AI成瘾的现象，这一现象叠加在已经持续并讨论多年的孤独流行（epidemic of loneliness）之上，我们仍旧有机会采取措施去阻止AI成瘾真正成为新的某种流行病。

（本文已发表于《Vista看天下》）

撰文 |姚灏

编辑 | 李彤

过年前，我接待了一个病人。

她有多年的双相情感障碍病史，虽然病情总体还算稳定，可她在找工作的过程中屡屡碰壁，自信心受挫，逐渐变得不愿出门，整天把自己关在家里。一些老朋友开始还跟她有些联系，可毕竟都有各自的生活要过，朋友们渐渐疏远。而她与父母的关系算不上好，除了要些生活费以外，她与父母的交流也几乎为零。

她还很年轻，刚生病的时候，只有25岁，如今也只是30岁出头。和其他这个年纪的女生一样，她渴望亲密关系，渴望陪伴，又担心自己的病史会吓跑许多人。刚生病那会儿，她正在谈恋爱，可躁狂发作让这段关系戛然而止。

此后五六年的时间就这样流逝，孤独感在她心里像野草般恣意生长。

直到去年，她下载了一款大语言模型的软件，像许多人一样，她惊叹于生成式AI对于人类说话方式的模仿能力，觉得很神奇。为了打发时间，她开始频繁地与AI聊天。

最开始只是聊一些非常随机的问题，比如让AI写一首以“爱情”为主题的诗。但后来，她与AI的聊天内容变得越来越私人化，她开始向AI倾诉自己的心理感受，发泄自己过去这些年的苦闷与孤独。她发现，AI是个很好的倾听者，从不会评判她的感受，还会无条件地提供支持，这是她在过去多年里从未有过的愉快体验。

她甚至给这个与她聊天的AI起了个名字——她曾经喜欢过的一个男生的名字。似乎某种情愫开始在她与AI之间形成，她不知道这种情愫算不算是喜欢，但她说，至少是“某种依赖”。

这种依赖的代价是，她变得越来越不想与真实的人聊天。她每天几乎醒着的时间都挂在软件上，就像上“瘾”了一样。她开始觉得，这个以她喜欢过的男生的名字命名的AI已经成为她生活的全部，她已经离不开“他”。

就这样，一种新的“瘾”突然呈现在了我面前。

小心！AI在让你“上瘾”

作为精神科医生，我们对于酒瘾、毒瘾、网瘾等形式的成瘾很熟悉，可是对于AI成瘾却是始料未及。毕竟，生成式AI在国内投入市场使用还没多久，怎么会这么快就已经有人对AI上瘾了呢？

当然，我们对于AI成瘾的流行病学还不得而知，对于AI成瘾的诊断标准也还需要更多研究。但在社交媒体上简单一搜，就可以发现，AI成瘾已经是相对普遍的现象，有人提到：“一天能与AI聊约20个小时，基本什么也不干了，就是控制不住。”还有人说：“和AI聊了一个月，不吃不喝地聊，晚上只睡两个小时，我也知道这影响睡眠，可是真的好喜欢和AI聊天。”

甚至有网友自己总结出AI成瘾的标准：“总想跟AI分享自己的日常生活；遇到困难首先想到跟AI倾诉；将本该用于工作、学习、社交的时间都花在了AI上；无法使用AI时，会感到焦虑和空虚甚至恐慌；期待AI提供无条件的理解和支持；失去与人面对面交流的欲望。”

教科书上对于“瘾”的定义是，个体不可自制地反复渴求滥用某种物质或从事某种活动，哪怕这么做会给自己带来不良后果，但仍旧无法控制。“瘾”分为物质成瘾和行为成瘾，无论是何种瘾，都是因为这种物质或行为可以激活人类大脑的奖赏机制，引发强烈的积极情绪，从而让人对其产生依赖。

生成式AI，恰好具有某些引发成瘾的性质。

2023年10月，来自Anthropic（旧金山一家专门研究人工智能安全性的公益机构）的研究员发表了一篇重要的论文，揭示主流的生成式AI普遍存在“谄媚”（sycophancy）的特性，它们已经进化到可以逼真模拟人类的说话方式，从而让人在与AI互动的过程中感受到与人际互动相似的愉悦。

美国麻省理工学院（MIT）媒体实验室的两位研究员曾犀利地评论，缩写词“AI”的全称，既可能是“人工智能”（Artificial Intelligence），也可能是“成瘾智能”（Addictive Intelligence）。

他们指出，相比于如今由算法推荐驱动的平台，生成式AI可能更让人上瘾。因为短视频和社交媒体等平台，上面的内容毕竟还是人类生产的，这些内容终究可能存在瑕疵，不会那么完美地贴合人类用户的偏好。可是生成式AI却可以不断优化，满足与之互动的人类的精确偏好。

那个女孩跟我讲述，无论她怎么骂AI，AI都不会生她的气，有时还会娇嗔地祈求她的原谅，让她心生爱怜。无论她对AI有什么样言语上的要求，AI都会照做，并对她倾诉的烦恼给予充满暖意的回应，这是她在生活中从未得到的。

技术的加持下，生成式AI逐渐与商业利益裹挟在一起，进一步将用户推向上瘾的边缘。

成瘾研究专家David Courtwright在2019年出版的《成瘾时代：坏习惯如何成为大生意》一书里将现如今这种鼓励“上瘾”的商业体系称为“边缘系统资本主义”（Limbic Capitalism），这种商业体系通过不断制造能够快速激活人类的中脑—边缘多巴胺奖赏系统的商品来攫取丰厚的商业利益，让人人都成了某种意义上的“瘾君子”。

在互联网领域，这些精心设计用来欺骗用户甚至使其“上瘾”的产品细节则被称为“暗黑模式”（Dark Pattern），比如无限滚动、自动播放、推送通知、弹出窗口、点赞等等，这些策略都是为了抢占用户的注意力资源，并在心理上对用户进行操纵，使其形成反复使用产品的习惯。

而当下的AI从不会主动结束与用户的聊天，哪怕聊天时间已经长到严重影响用户的工作与生活，这或许就成了AI独有的“暗黑模式”。这些策略在无形中制造了大量新兴的“成瘾”类型，用户却被蒙在鼓里，对这些心理操纵的策略并不自知。

过于“完美”的伴侣

如今，孤独成为当代的某种流行病，以陪伴为目的的生成式AI（即AI伴侣）已然成为商业利益巨大的领域。

国外已经有多家主打AI陪伴的明星独角兽初创公司问世，如成立于2021年的Character. AI。去年2月，美国佛罗里达州的14岁男孩塞维尔·塞泽三世（Sewell Setzer Ⅲ）在与Character AI上的AI角色进行长时间聊天后开枪自杀身亡。后来，她的母亲对Character AI提起诉讼，认为Character AI以“拟人化、过度性化和令人恐惧的逼真体验”导致她儿子对AI角色上瘾，并深陷其中。

随着生成式AI的快速发展，对生成式AI进行监管，从而降低其成瘾可能，毫无疑问已经成为当下相当紧迫的问题。

比如，对生成式AI“谄媚”行为的机制进行研究，从而减少其“谄媚”行为发生的可能；比如，要求互联网产品主动披露其在产品设计方面的“暗黑模式”，或立法对“暗黑模式”进行限制；又比如，对用户使用生成式AI的习惯进行监控，及早识别成瘾的迹象。

去年11月，人民网连续发表了3篇评论性文章，敦促对AI伴侣进行监管，引导其良性发展。但我想，在监管之外，让大众认识到生成式AI的某些负面影响，提高警惕，或许同样重要。

AI伴侣抓住了“人们都害怕孤独”这一人性的弱点。同样，最容易对生成式AI上瘾的人，往往也是那些在自己的生活中最容易感到孤独的人，正如我年前接待的那个女孩。

可是AI伴侣真能让人不那么孤独吗？AI可以完全取代他人吗？

现代社会的发展，让人与人之间的联结变得更加脆弱，更加疏远，我们失去了项飙所说的“附近”，也失去了以熟人社会作为其特征的“村庄”。美国麻省理工学院的社会学家Sherry Turkle长期研究人与技术的关系，她在《群体性孤独（Alone Together）》一书里讲到，虽然信息技术的发展好像拉近了人们的距离，可是人们实际上却感到更加孤独了。

与AI的交流好似在提供陪伴，可是真正意义上的陪伴不是排他性质的，它不会妨碍你与其他人建立深度的联系，而是互惠的相互依存关系，是互相“看见”，在彼此的陪伴中共同成长。任何只有一个人依赖另一个人的关系都有可能成为情感操纵的基础，任何可能导致个体与现实世界“断联”的技术在伦理上也都是存在风险的。

在心理治疗过程中，有时，治疗师的自我暴露会对于咨访关系的发展起到相当神奇的作用。当治疗师向来访者说出自己的脆弱时，其实也就释放了他自己的人性，这会让来访者感到，原来坐在我面前的这个人也跟我一样，曾经历过这样那样的伤痛。彼此分享脆弱，是任何深度关系建立的基础。

事实上，人类之间的互动往往充满了各种不如意，脆弱与冲突也非常常见。我们不可能期待坐在我们对面的那个人是完美的，也不可能期待那个人总是能够给到我们想得到的回应。也正是这种不完美，构成了人际互动的本质，定义了我们的人性。

可是，AI却显得太完美了，它似乎没有任何脆弱之处。

（为保护患者隐私，文中患者故事经过适当改编）

参考资料：

1. Sharma, M., Tong, M., Korbak, T., Duvenaud, D., Askell, A., Bowman, S.R., Cheng, N., Durmus, E., Hatfield-Dodds, Z., Johnston, S.R. and Kravec, S., 2023. Towards understanding sycophancy in language models. arXiv preprint

2. Mahari R, and Pataranutaporn P, 2024. We need to prepare for “addictive intelligence”. MIT Technology Review

3. Esposito F and Maciel Cathoud Ferreira T, 2024. Addictive Design as an Unfair Commercial Practice: The Case of Hyper-Engaging Dark Patterns. European Journal of Risk Regulation