字数 955，阅读大约需 5 分钟
前OpenAI政策负责人对AI安全叙事变更的质疑
近期，前OpenAI政策研究负责人迈尔斯·布伦达奇（Miles Brundage）对公司在人工智能安全方面的叙事变更提出了批评，认为OpenAI正在重新编写其AI系统安全的历史。这一质疑引发了对OpenAI在追求通用人工智能（AGI）过程中安全措施与短期利益之间权衡的深入探讨。
OpenAI的历史重写与AGI发展潜在风险
布伦达奇指出，OpenAI在追求AGI的过程中，可能忽视了长远的安全措施。OpenAI一直致力于推动其雄心勃勃的愿景，特别是在DeepSeek等竞争对手日益崛起的背景下。然而，这种对超级人工智能代理潜力的频繁强调并未获得广泛认可。
OpenAI的AI模型部署与安全性叙述的不一致
布伦达奇认为，OpenAI在与其现有的AI模型的部署和安全性方面的叙述上存在不一致之处。例如，OpenAI最近发布了一份关于其AI模型逐步部署的文档，以GPT-2为例强调了在处理当前系统时应保持高度谨慎的态度。然而，这种对历史事件的解读与布伦达奇的观点相悖。
GPT-2案例的重新审视
在OpenAI的文档中，他们提到：“在一个不连续的世界里，安全教训来自于对今天系统的高度谨慎，这正是我们在GPT-2模型上采取的方法。”然而，布伦达奇对此提出质疑。他指出，GPT-2的发布也遵循了渐进的方法，安全专家曾对OpenAI的谨慎处理表示赞赏。他认为，过去的谨慎并非过度，而是必要和负责任的做法。
对AGI发展路径的担忧
布伦达奇还对OpenAI声称AGI将通过渐进步骤而非突然突破的观点表示担忧。他认为，OpenAI对GPT-2发布历史的误解，以及对安全历史的重新叙述，令人感到不安。他担心OpenAI发布的文档可能会在某种程度上导致安全顾虑被视为过度反应，这在AI系统不断发展的背景下，可能带来重大风险。
行业对AI安全的新一轮重视
这并非OpenAI首次受到批评，专家们一直质疑公司是否在长期安全与短期利益之间做出了合理的权衡。布伦达奇的担忧再次引发了人们对AI安全的重视，促使行业重新审视在追求AGI过程中的安全措施。
全球AI发展的潜在影响
这一争议可能对全球AI发展产生深远影响。它提醒我们在推动技术进步的同时，不能忽视潜在的安全风险。对于AI行业而言，平衡创新与安全至关重要，以确保技术的可持续发展和广泛应用。
结语
迈尔斯·布伦达奇对OpenAI在AI安全叙事上的质疑，引发了对公司历史重写及其对AGI发展潜在风险的担忧。在当前AI行业热点频出的背景下，特别是DeepSeek等竞争对手的崛起，OpenAI需要更加谨慎地权衡安全措施与短期利益之间的关系。同时，行业应以此次争议为契机，加强对AI安全的重视，以应对未来AI系统发展所带来的挑战。
