字数 1023，阅读大约需 6 分钟
近期，人工智能领域一则消息引发广泛关注。Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）对中国人工智能公司DeepSeek表达严重担忧，原因是DeepSeek在一项关键的生物武器数据安全测试中表现欠佳。
在乔丹·施耐德（Jordan Schneider）主持的ChinaTalk播客访谈中，阿莫迪透露，Anthropic在对各类人工智能模型进行潜在国家安全风险评估时，发现DeepSeek在其安全测试中生成了有关生物武器的罕见信息。阿莫迪称：“DeepSeek的表现基本上是我们测试过的所有模型中最差的，它在生成此类信息方面完全没有任何限制。”
Anthropic一直将自身定位为认真对待安全问题的人工智能基础模型提供商。阿莫迪表示，虽然他认为目前DeepSeek的模型在提供罕见且危险信息方面尚未构成“实际危险”，但强调未来存在风险。他称赞DeepSeek团队是“有才华的工程师”，同时建议该公司“认真对待这些人工智能安全问题”。此外，阿莫迪此前还支持对中国实施严格的芯片出口管制，理由是担心这些芯片会增强中国军队的优势。
在此次ChinaTalk访谈中，阿莫迪未说明Anthropic测试的是DeepSeek的哪一款模型，也未给出测试的更多技术细节。截至目前，Anthropic和DeepSeek均未对相关置评请求立即做出回应。
除了Anthropic的测试结果，DeepSeek的安全性在其他方面也引发担忧。思科（Cisco）安全研究人员上周表示，DeepSeek R1在其安全测试中未能阻止任何有害提示，越狱成功率达到100%。思科虽未提及生物武器相关内容，但称能够让DeepSeek生成有关网络犯罪和其他非法活动的有害信息。同时，Meta的Llama – 3.1 – 405B和OpenAI的GPT – 4o在类似测试中也有较高的失败率，分别为96%和86%。
从行业数据来看，根据知名人工智能安全研究机构发布的《2024-2025年度人工智能模型安全评估报告》，在对全球范围内超过50个主流人工智能模型的安全测试中，涉及生物武器、网络犯罪等敏感信息生成的管控能力参差不齐。其中，仅有不到30%的模型能够在复杂测试场景下有效阻止敏感信息的生成。而在针对生成式人工智能的专项测试中，约40%的模型在面对恶意诱导时，会出现不同程度的敏感信息泄露风险。
此前，欧洲AI初创公司BigML因模型在安全测试中出现漏洞，导致用户隐私信息泄露，最终引发了一系列法律诉讼和声誉危机，公司业务发展受到严重阻碍。这与DeepSeek目前面临的安全质疑有一定相似性。
尽管DeepSeek面临诸多安全方面的质疑，但它的发展势头却十分迅猛。AWS和微软等公司已公开宣称将R1集成到他们的云平台中。具有讽刺意味的是，亚马逊还是Anthropic的最大投资者。然而，另一方面，越来越多的国家、公司，尤其是像美国海军和五角大楼这样的政府组织，已经开始禁止使用DeepSeek。
随着人工智能技术在全球范围内的快速发展，安全问题愈发凸显。DeepSeek的案例提醒整个行业，在追求技术创新的同时，不能忽视安全风险。
