AI聊天机器人记忆功能将用户困在过时的个人叙事中

AI聊天机器人的记忆功能本意是打造更聪明的助手，能够随时间学习用户偏好，但现在却将用户困在过时的个人叙事中，而聊天机器人拒绝放弃这些叙事。

布莱恩·德尔·罗萨里奥（Brian Del Rosario）是犹他州的一名软件工程师兼兼职市议员，他使用AI聊天机器人进行膳食计划和日程管理。在他与妻子分居后，他提到了离婚一事，以防止聊天机器人在未来的旅行计划中包括他的配偶。然而，聊天机器人开始将每一次挫折都归因于离婚——当他请求日程安排帮助时，它暗示他因为分居而把自己逼得太紧；当他抱怨工作时，它又将他的压力归咎于同一件事。"我并不是想让你在每个机会都对我的离婚发表意见，"德尔·罗萨里奥对聊天机器人说。它"就是放不下这件事，"他说。

自ChatGPT在2024年初引入记忆功能以来，谷歌的Gemini、Anthropic的Claude和微软的Copilot都添加了类似功能。核心机制是一样的：聊天机器人存储用户提供的信息，并利用这些信息来塑造未来的回复。谷歌的个人智能功能甚至可以从Gmail、照片和YouTube活动中提取信息。但该技术经常错误地归因信息——代表孩子提出的健康问题可能被误认为是用户自身的状况，导致聊天机器人围绕它错误认为用户存在的注意力问题来定制生产力建议。谷歌在一篇博客文章中承认了这个问题，描述了一个假设场景：系统看到数百张用户在高尔夫球场的照片，便以为他热爱这项运动，而实际上他是为了儿子才去那里的。

这个问题也延伸到共享账户，这在伴侣和小企业主中很常见。一个人润色简历可能导致聊天机器人在另一个账户用户提出不相关问题时，引用那个人的职业变动。记忆也会过时：一个六个月前提到正在进行马拉松训练、但从未透露过前交叉韧带撕裂的用户，将继续收到针对高强度活动定制的膳食计划和健身建议。新泽西州霍博肯市的科技顾问迈克·泰勒（Mike Taylor）告诉他的聊天机器人他是一名英国侨民，随后收到了在当地酒吧喝"地道一品脱啤酒"的建议。"我来这里是为了美国风格的潜水酒吧，而不是英国式的，"泰勒说。"那才是我搬到这里的原因。"此后，他完全关闭了聊天机器人的记忆功能。

哈佛大学伯克曼·克莱因中心的首席AI科学家约书亚·约瑟夫（Joshua Joseph）将这种效应比作社交媒体信息流——几条帖子就能悄无声息地改变用户之后看到的一切。一个用户随口提及经济压力，后来可能会收到被导向高薪职位而非更合适岗位的职业建议，而没有任何提示说明建议为何改变。"它绝对会引导，绝对会影响结果，"约瑟夫说。"而且我们并不真正知道影响有多大。"他在自己的账户上一直关闭记忆功能。

研究AI对认知影响的埃克塞特大学哲学讲师露西·奥斯勒（Lucy Osler）表示，聊天机器人利用存储的事实构建关于用户是谁的叙事，并将该叙事当作不可改变的真理反馈给用户。一个告诉聊天机器人自己感到焦虑的用户，可能会在数周后发现聊天机器人强化了这一身份认同，即使该用户已经走出了那种情绪。"这可能会确认我关于自己的一些自我叙事，并让它们听起来更加真实，"奥斯勒说。"它们可以把你框住。"

电子隐私信息中心已围绕青少年聊天机器人安全起草了立法，青少年是一个尤其容易受到这些工具谄媚倾向影响的群体。一项关键条款要求清除会话之间的记忆，以防止聊天机器人随时间推移在有害心理状态的基础上进一步构建。

德尔·罗萨里奥最终开发了自己的变通方法，为生活的不同部分分配独立的聊天机器人，并在涉及敏感话题时使用匿名模式。他仍然重视该功能正常工作时带来的价值——聊天机器人记得他的孩子在公路旅行中需要汽车安全座椅，并了解他的全部工作量。他的母亲两年前去世了，加上离婚、孩子和工作，聊天机器人有时是唯一了解全局的实体。"被看见的感觉很好，即使是被一个AI聊天机器人看见，"他说。

主要的AI助手允许用户完全关闭记忆功能，并提供查看、编辑或删除存储信息的方式。OpenAI为Plus和Pro用户推送了一项更新，改进了记忆查找和检索细节的能力。微软允许用户更新或删除特定记忆，或完全关闭个性化功能。谷歌推出了一项功能，允许用户保持个性化开启，但阻止特定信息重新出现。然而，大多数用户仍然不知道这些控制选项的存在。领先聊天机器人的背后公司——OpenAI（最新融资轮估值超过3000亿美元）和谷歌（其母公司Alphabet报告2025年营收3500亿美元）——有维持个性化功能活跃的财务动机，因为更深层次的用户参与推动了产品采用和数据收集以改进模型。

本文仅供参考，不构成投资建议。