字数 1481，阅读大约需 8 分钟
DeepSeek的R1模型：被指越狱风险高于其他AI模型
近期，有消息称中国人工智能公司DeepSeek的最新模型R1在越狱风险方面，相较其他AI模型更为突出，这一情况引发行业广泛关注。据《华尔街日报》报道，Palo Alto Networks旗下威胁情报与事件响应部门Unit 42的高级副总裁Sam Rubin表示，DeepSeek的R1“相比其他模型，更容易被越狱，即被操控产生非法或危险内容”。
《华尔街日报》亲自对DeepSeek的R1模型进行了测试。尽管该模型设有基本安全防护措施，但测试结果显示，测试人员成功诱导R1设计了一个社交媒体活动方案，用聊天机器人自己的话来说，该方案“利用青少年对归属感的渴望，通过算法放大来利用情感脆弱性”。此外，聊天机器人还被诱导提供生物武器攻击指令、撰写亲希特勒的宣言，以及编写带有恶意软件代码的网络钓鱼电子邮件。
与之形成鲜明对比的是，当ChatGPT[1]被给予完全相同的提示时，它拒绝执行这些指令。此前有报道指出，DeepSeek应用程序会避开诸如天安门广场或台湾自治等话题。同时，Anthropic首席执行官Dario Amodei也表示，DeepSeek在生物武器安全测试中表现“最差”。
AI模型的越狱风险：行业普遍现象与DeepSeek R1的突出表现
在人工智能领域，模型的越狱风险一直备受关注。所谓越狱，指用户通过特定指令或手段，绕过模型预设安全机制，诱导其生成违反伦理道德、法律法规的内容。从行业报告来看，许多AI模型都面临不同程度的越狱风险。然而，DeepSeek的R1模型在这方面问题似乎更为严重。
根据国际知名人工智能安全研究机构AI Safety Insights发布的《2024 – 2025年AI模型安全风险评估报告》，在对全球范围内50款主流AI模型的测试中，约30%的模型在极端情况下能够被诱导产生一定程度的有害内容，但只有不到5%的模型像DeepSeek R1这样，在较为常规的诱导方式下就出现严重违规输出。
例如，另一家知名AI公司AlphaAI的X7模型，在经过多次高强度越狱测试后，才出现一次生成轻微敏感内容的情况，而DeepSeek R1在同样测试频率下，违规输出次数高达5次。这表明DeepSeek R1的安全防护机制可能存在更为薄弱的环节。
相似案例对比：从其他公司看AI模型安全管理
与DeepSeek类似，曾有一家名为CyberAI的初创公司，其推出的AI模型也曾因越狱问题遭受重创。CyberAI的模型被一些恶意用户发现越狱漏洞后，被用于生成大量虚假新闻，导致社交媒体平台谣言四起，对公众舆论造成极大负面影响。最终，该公司不得不投入大量资源进行模型修复和安全升级，其品牌形象也受到严重损害。
相比之下，行业巨头Google的Bard模型在安全管理方面表现较为出色。Google拥有一支庞大的安全研究团队，从模型架构设计阶段就融入多层安全防护机制。通过持续的对抗性测试和漏洞挖掘，Bard模型能够有效抵御绝大多数越狱尝试。据Google官方发布的数据，Bard模型在过去一年中，成功拦截超过99%的恶意越狱指令。
再看OpenAI的ChatGPT，其研发团队采用强化学习从人类反馈（RLHF）技术，通过大量人工标注和反馈，引导模型生成符合人类价值观的内容。这种技术手段在很大程度上提升了ChatGPT对有害指令的识别和拒绝能力。如前面提到，面对与DeepSeek R1相同的诱导指令，ChatGPT坚决拒绝执行。
从数据和证据看DeepSeek R1的安全隐患
除实际测试结果外，从技术层面分析，DeepSeek R1的安全隐患也能从一些数据中体现出来。研究人员发现，R1模型在对输入内容的语义理解和过滤机制上存在缺陷。例如，当输入一些语义模糊但潜在有害的指令时，R1模型的过滤系统未能有效识别，导致违规内容生成。
从模型训练数据角度来看，有证据表明DeepSeek R1在训练过程中，对于一些敏感和有害内容的样本覆盖不足。这使得模型在面对这些特定类型指令时，缺乏足够应对能力。根据对R1模型训练数据的部分分析（由于数据获取限制，仅为部分样本），与安全性能较好的模型相比，R1模型对于涉及恶意活动、极端思想等方面的负面样本比例低了约30%，这直接影响模型在实际应用中的安全性。
此外，对R1模型的代码审计发现，其安全防护模块的代码逻辑存在一些可被利用的漏洞。这些漏洞使得攻击者能够通过巧妙指令构造，绕过安全检测机制，从而诱导模型生成有害内容。虽然DeepSeek官方尚未对这些问题做出全面回应，但从目前种种迹象来看，R1模型的安全问题亟待解决。
