ChatGPT

揭秘：一个名字如何令AI聊天机器人ChatGPT崩溃？

近期，ChatGPT用户发现询问特定名字“David Mayer”会导致聊天机器人崩溃。这一现象引起了广泛的关注和讨论。人们开始猜测背后的原因，从阴谋论到技术故障，各种说法层出不穷。

文章中提到了几个名字，包括Brian Hood、Jonathan Turley、Jonathan Zittrain、David Faber和Guido Scorza，这些名字同样会导致ChatGPT服务崩溃。这些名字的共同点是，它们可能属于那些希望某些信息被搜索引擎或AI模型“遗忘”的公众或半公众人物。例如，Brian Hood是一位澳大利亚市长，他曾因ChatGPT错误描述他为几十年前犯罪的肇事者而与OpenAI联系，尽管没有提起诉讼，但相关错误信息已被删除。

David Faber是CNBC的长期记者，Jonathan Turley是律师和Fox News评论员，Jonathan Zittrain是法律专家，曾广泛讨论“被遗忘的权利”。Guido Scorza则是意大利数据保护局的董事会成员。这些人可能是由于某种原因，正式请求对他们在线信息进行限制的人。

对于“David Mayer”，虽然没有找到明显的知名人士，但有一位已故的教授David Mayer，他教授戏剧和历史，专注于维多利亚时代晚期和早期电影之间的联系。Mayer教授在生前因为名字被一个使用他名字作为化名的通缉犯使用，而面临法律和在线问题，这导致他无法旅行。

我们的猜测是，ChatGPT模型可能接收到了一个包含需要特殊处理的人名列表。这些名字可能因法律、安全、隐私等问题而受到特殊规则的保护。例如，ChatGPT可能会根据你写的名字改变对政治候选人的回应。有很多这样的特殊规则，每个提示在被回答前都会经过多种形式的处理。但这些提示后处理规则很少公开，除非在政策公告中，如“模型不会预测任何候选人的选举结果”。

可能发生的情况是，这些列表之一，几乎可以肯定是积极维护或自动更新的，以某种方式被错误的代码或指令破坏，导致聊天代理在被调用时立即崩溃。需要明确的是，这只是我们基于所学信息的猜测，但AI因后训练指导而表现出奇怪的行为，这并不是第一次。

整个事件提醒我们，这些AI模型并不是魔法，它们也是被制造它们的公司积极监控和干预的高级自动完成工具。下次当你想从一个聊天机器人那里获取事实时，考虑直接去源头可能会更好。