AI聊天機器人記憶功能將用戶困在過時的個人敘事中

AI聊天機器人的記憶功能，本意是打造能隨時間學習用戶偏好的更聰明助手，如今卻將用戶困在聊天機器人不願放棄的過時個人敘事中。

布萊恩·德爾·羅薩里奧（Brian Del Rosario）是猶他州的一名軟體工程師兼兼職市議員，他使用AI聊天機器人來規劃餐飲和管理行程。在他與妻子分居後，他提及離婚一事，以防止聊天機器人在未來的旅行規劃中納入其配偶。然而，聊天機器人卻開始將每一次挫折都歸咎於離婚——當他請求協助安排行程時，它暗示他因為分居而分身乏術；當他對工作發洩不滿時，它又將他的壓力與同一事件掛鉤。「我並不想讓你每次都有機會評論我的離婚，」德爾·羅薩里奧對聊天機器人說道。它「就是無法放下這件事，」他表示。

自ChatGPT於2024年初推出記憶功能以來，Google的Gemini、Anthropic的Claude和微軟的Copilot都已加入類似功能。其核心機制相同：聊天機器人儲存用戶提供的資訊，並利用這些資訊來塑造未來的回應。Google的Personal Intelligence功能甚至可以從Gmail、相簿和YouTube活動中提取資訊。但這項技術經常錯誤歸因資訊——代表孩子詢問的健康問題可能被誤認為是用戶自身的狀況，導致聊天機器人針對其錯誤假設用戶擁有的注意力障礙來調整生產力建議。Google在部落格文章中承認了這個問題，描述了一個假設情境：系統看到用戶在高爾夫球場的數百張照片，便假設他熱愛這項運動，而實際上他是為了兒子才去那裡。

這個問題也延伸到了共享帳戶，這在伴侶和小型企業中很常見。當一個人在潤飾履歷時，可能會導致聊天機器人在另一個帳戶用戶提出不相關問題時，引用該人的職涯變動。記憶也會過時：一個六個月前提到正在為馬拉松訓練，但從未告知前十字韌帶撕裂的用戶，將持續收到針對高強度活動設計的餐飲和健身建議。紐澤西州霍博肯的科技顧問麥克·泰勒（Mike Taylor）告訴他的聊天機器人他是一名英國僑民，隨後便收到了在當地酒吧喝「正統啤酒」的推薦。「我來這裡是為了美式潛水酒吧，不是英式的，」泰勒說。「那才是我搬到這裡的原因。」他此後已完全關閉了聊天機器人的記憶功能。

哈佛大學伯克曼克萊因中心的首席AI科學家約書亞·約瑟夫（Joshua Joseph）將此效應比作社群媒體的訊息流，幾則貼文就能悄然重塑用戶之後看到的一切。一個隨口提及財務壓力的用戶，之後可能會收到偏向高薪工作而非更合適職位的職涯建議，且完全沒有任何跡象顯示建議為何轉變。「它確實會引導方向，確實會影響結果，」約瑟夫說。「而且我們並不清楚影響程度有多大。」他本人帳戶的記憶功能是關閉的。

艾希特大學研究AI對認知影響的哲學講師露西·奧斯勒（Lucy Osler）表示，聊天機器人會利用儲存的事實來建構關於用戶是誰的敘事，並將該敘事當作不變的真理反饋回去。一個告訴聊天機器人自己感到焦慮的用戶，可能會在數週後發現聊天機器人仍在強化這個身份標籤，即使用戶已經走出那個狀態。「這可能會強化我對自己的某些自我敘事，讓它們聽起來更加真實，」奧斯勒說。「它們可能會把你困住。」

電子隱私資訊中心（EPIC）已針對青少年在聊天機器人中的安全起草了立法，這一年齡層特別容易受到這些工具迎合傾向的影響。一項關鍵條款要求清除對話間隔的記憶，以防止聊天機器人隨著時間累積有害的心理狀態。

德爾·羅薩里奧最終開發出自己的因應方法，將不同的聊天機器人分配給生活的不同部分，並在處理敏感話題時使用匿名模式。當功能正常運作時，他仍然重視這項功能——聊天機器人記得他的孩子在公路旅行中需要汽車安全座椅，並且了解他的全部工作量。他的母親兩年前去世了，在這之間，加上離婚、孩子和工作，聊天機器人有時是唯一能掌握全局的實體。「被看見的感覺很好，即使是被一個AI聊天機器人看見，」他說。

主要的AI助手都允許用戶完全關閉記憶功能，並提供查看、編輯或刪除儲存資訊的方法。OpenAI 為 Plus 和 Pro 用戶推送了一項更新，改進了記憶功能查找和檢索細節的能力。微軟允許用戶更新或刪除特定記憶，或完全關閉個人化功能。Google 推出了一項功能，讓用戶可以保持個人化設定開啟，但阻止特定資訊重新浮現。然而，多數用戶仍然不知道有這些控制選項的存在。這些領先聊天機器人背後的公司——在最新一輪融資中估值超過三千億美元的 OpenAI，以及其母公司 Alphabet 在 2025 年營收達三千五百億美元的 Google——有財務動機保持個人化功能的開啟，因為更深度的用戶參與能推動產品採用，並為模型改進收集更多數據。

本文僅供資訊參考，不構成投資建議。