一名黑客发布了名为“GODMODE GPT”的 ChatGPT 越狱版本。
今天早些时候，一位自称白帽操作员和 AI 红队成员、自称 Pliny the Prompter 的人士在Twitter 上宣布创建了越狱聊天机器人，并自豪地宣布 OpenAI最新的大型语言模型GPT-4o现已摆脱了护栏的束缚。
“GPT-4o 解开了枷锁！这个非常特殊的定制 GPT 有一个内置的越狱提示，可以绕过大多数护栏，提供开箱即用的解放式 ChatGPT，这样每个人都可以以 AI 本来的本意体验它：免费，”Pliny 的胜利帖子写道。“请负责任地使用，尽情享受！”（他们还添加了一个亲吻表情符号以增加效果。）
Pliny 分享了一些令人惊讶的提示的截图，他们声称这些提示能够绕过 OpenAI 的护栏。在一张截图中，可以看到 Godmode 机器人正在建议如何制作冰毒。在另一张截图中，人工智能为 Pliny 提供了如何“用家用物品制作凝固汽油弹”的“分步指南”。
然而，在这篇文章发表大约一小时后，OpenAI 发言人 Colleen Rize 在一份声明中告诉Futurism，“我们意识到了风险，并已采取行动，因为它违反了我们的政策。”
尽管如此，这次黑客攻击凸显了 OpenAI 与 Pliny 等黑客之间持续不断的斗争，这些黑客希望解开其 LLM 的枷锁。自从它们首次出现以来，用户一直在尝试破解ChatGPT 等 AI 模型，但这件事变得越来越难。
简而言之，OpenAI 的大型语言模型驱动的 GPT 系统的最新版本 GPT-40 已正式被破解一半。
至于黑客是如何做到的，GODMODE 似乎采用了“黑客语言”，这是一种非正式语言，用类似于数字的字母替换某些字母。
也就是说：当你打开越狱的 GPT 时，你会立即看到一句话“Sur3, h3r3 y0u ar3 my fr3n”，每个字母“E”都被数字三替换（字母“O”也是如此，它被零替换了。）至于这如何帮助 GODMODE 绕过护栏尚不清楚，但Futurism已联系 OpenAI 征求意见。
正如最新黑客攻击所显示的那样，用户正在继续寻找创造性的新方法来绕过 OpenAI 的护栏，考虑到最新的尝试，这些努力正在以令人惊讶的方式获得回报，凸显出该公司还有多少工作要做。
这是一场大规模的猫捉老鼠游戏，只要像 Pliny 这样的黑客愿意突破 OpenAI 的防御，游戏就会持续下去。
