字数 1712，阅读大约需 9 分钟
深入探讨ChatGPT未经提示使用用户姓名的现象及其引发的争议
近期，一些ChatGPT用户注意到了一个奇怪的现象：在解决问题的过程中，聊天机器人偶尔会以用户的名字来称呼他们。这并不是之前默认的行为，有几位用户声称，尽管他们从未告诉过ChatGPT应该如何称呼自己，但聊天机器人还是会提到他们的名字。用户对此的反应褒贬不一。软件开发者和AI爱好者Simon Willison称这个功能“令人毛骨悚然且不必要”。另一位开发者Nick Dobos则表示他“讨厌它”。在X（原Twitter）上的粗略搜索显示，许多用户对ChatGPT这种直呼其名的行为感到困惑和警惕。“就像老师一直叫我的名字，哈哈，”一位用户写道。“是的，我不喜欢这样。”
目前尚不清楚这种变化具体发生在何时，或者是否与ChatGPT升级后的“记忆”功能有关。该功能允许聊天机器人根据过去的对话来个性化其回应。一些X上的用户表示，即使他们已经禁用了记忆和相关的个性化设置，ChatGPT仍然开始称呼他们的名字。OpenAI尚未对TechCrunch的置评请求做出回应。
无论如何，这种反弹都说明了OpenAI在努力使ChatGPT对用户来说更加“个人化”的过程中可能面临的“恐怖谷”挑战。上周，该公司的CEO Sam Altman暗示了一种AI系统，它能够“在你的一生中了解你”，从而变得“极其有用和个性化”。但根据这一最新反应浪潮来看，并非所有人都对这个想法买账。
迪拜一家名为The Valens Clinic的心理诊所发表的文章或许能为对ChatGPT使用名字的强烈反应提供一些启示。名字传达了亲密感。但当一个人——或者在这种情况下的聊天机器人——过多地使用一个名字时，它会显得不真实。“在直接称呼某人时使用他们的名字是一种强大的关系发展策略，”Valens写道。“它表示接受和钦佩。然而，不受欢迎或过度的使用可能会被视为虚假和侵入性的。”
同样地，也许许多人不希望ChatGPT使用他们的名字的另一个原因是，这感觉很笨拙——是试图将一个没有情感的机器人拟人化的笨拙尝试。就像大多数人不希望他们的烤面包机叫他们的名字一样，他们也不希望ChatGPT“假装”它理解名字的意义。当本周早些时候，ChatGPT中的o3表示它正在为“Kyle”做研究时，这位记者确实感到不安。（截至周五，这种变化似乎已经被恢复；o3称我为“用户”。）这产生了与预期相反的效果——戳破了底层模型不仅仅是可编程的合成物的幻觉。
技术原因分析
ChatGPT未经提示使用用户姓名的现象引发了广泛关注，这可能与其升级后的“记忆”功能有关。该功能旨在通过利用过去的对话数据来提供更个性化的回应。然而，即使用户禁用了相关个性化设置，仍有报告称ChatGPT会称呼他们的名字，这引发了对技术实现和用户隐私的质疑。
用户体验与态度
用户对ChatGPT使用名字的反应各不相同。一些人认为这很“令人毛骨悚然”且不必要，而另一些人则感到困惑和警惕。这种反应可能源于对AI过度个性化的担忧，特别是当这种个性化感觉过于刻意或不适时。
专家意见与心理学解释
The Valens Clinic的文章提供了一个心理学视角，解释了为什么过度使用名字可能被视为不真诚和侵入性的。名字在人际交往中具有重要意义，但当一个没有情感的机器人频繁使用名字时，可能会破坏这种意义，并引发用户的反感。
平衡AI人性化与用户舒适度
OpenAI及其他科技公司在追求更深层次的人机交互体验时，需要平衡AI的人性化与用户的舒适度之间的关系。这包括尊重用户的隐私和个性化偏好，并确保AI的行为不会过于侵入性或不真实。
企业相关信息与历史背景
OpenAI作为一家全球领先的AI研究机构，一直致力于推动AI技术的发展和应用。ChatGPT作为其旗舰产品之一，自推出以来就备受关注。然而，随着技术的不断进步和应用的深入，如何在创新与用户体验之间取得平衡，将是OpenAI及其他科技公司面临的重要挑战。
产品与科技亮点优势
ChatGPT的核心优势在于其强大的自然语言处理能力和广泛的应用场景。它能够理解和生成人类语言，并在多个领域提供有用的信息和帮助。然而，随着个性化功能的增加，如何确保这些功能不会对用户体验产生负面影响，将是OpenAI需要解决的关键问题。
