大模型的记忆

我刚刚清除了 ChatGPT 账户中的"记忆"功能数据。如果你不清楚的话，这个功能会记录你在对话中透露的个人信息。

在删除前，我仔细查看了这些记忆数据，结果让我大吃一惊。从 8 月至今，它竟然记录了我告诉它的各种事情，有些连我自己都忘记了。比如：申请"开源之夏"被拒时的焦虑、开发环境信息仪表盘前端页面时的细节，还有研究嵌入式设备 uboot 启动流程的经历…

这还仅仅是在专业场景下的使用记录。如果未来它能理解并回应人类情感，我又会向它倾诉什么？它又会记住多少？

我不确定这个程序是否真的比我自己更了解我。人类是如此复杂，而这些程序本质上只是基于机器学习算法的文本生成工具。也许我们内心都清楚自己真实的样子，只是进化赋予了我们自我保护的本能——选择性地遗忘某些事情。这种机制对心理健康至关重要，但也常常导致"好了伤疤忘了疼"。

硬盘永远不会遗忘，而人工智能最可怕的威胁或许不在于它会产生毁灭人类的恶意。光是它如实呈现人类社会那些暗流涌动的潜规则，就足以引发难以预料的后果。

（原文发布于 2024 年 9 月 24 日，本文在原文的基础上使用了 DeepSeek 调整语句和用词）