字数 1440，阅读大约需 8 分钟
由Fei-Fei Li共同领导的团队提出AI安全法规应预见未来风险的观点深入探讨
报告背景与发布
由加州前沿AI模型联合政策工作组发布的一份41页的中期报告，由AI先驱Fei-Fei Li共同领导，旨在为立法者制定AI监管政策时提供指导，以考虑尚未在世界上观察到的风险。该报告的发布是加州州长Gavin Newsom否决了备受争议的AI安全法案SB 1047后，组织的一项努力。尽管Newsom认为SB 1047未能达到预期目标，但他去年承认需要更广泛的AI风险评估来为立法者提供信息。
报告核心观点与建议
增加前沿AI实验室工作的透明度
报告中，Fei-Fei Li与合著者UC Berkeley College of Computing院长Jennifer Chayes和卡内基国际和平基金会主席Mariano-Florentino Cuéllar共同主张制定法律，增加对OpenAI等前沿AI实验室所构建内容的透明度。报告建议，AI系统带来的新风险可能需要法律强制要求AI模型开发者公开报告其安全性测试、数据获取实践及安全措施。
提高第三方评估标准与扩大举报人保护
此外，报告还提倡提高第三方对这些指标和公司政策评估的标准，以及扩大AI公司员工和承包商的举报人保护。报告指出，尽管AI可能带来的极端威胁（如网络攻击或生物武器的制造）的证据尚不确定，但政策制定不应仅限于应对当前风险，而应预测并防范未来的潜在后果。
两阶段策略增强AI模型开发透明度
报告提出了一个两阶段策略来增强AI模型开发的透明度，即“信任但验证”。一方面，鼓励AI开发者及其员工就公共关注的问题进行报告，如内部安全测试；另一方面，要求提交测试声明以供第三方验证。
报告的行业影响与评价
该报告在发布前得到了来自不同意识形态背景的行业利益相关者的审查，包括坚定的AI安全倡导者，如图灵奖得主Yoshua Benjio，以及反对SB 1047的人，如Databricks联合创始人Ion Stoica。尽管报告没有明确支持任何具体立法，但它在AI政策制定辩论的双方专家中都得到了积极评价。
George Mason University专注于AI的研究研究员Dean Ball，他曾批评SB 1047，在X上的一篇帖子中表示，该报告是加州AI安全监管的一个有希望的步骤。根据去年提出SB 1047的加州州参议员Scott Wiener的说法，该报告也是AI安全倡导者的胜利。Wiener在一份新闻稿中表示，该报告建立在“我们在2024年的立法机构中开始的关于AI治理的紧迫对话”的基础上。
报告与相关立法的对比
报告似乎与SB 1047和Wiener的后续法案SB 53的几个组成部分相一致，例如要求AI模型开发者报告安全测试的结果。从更广泛的角度来看，这似乎是AI安全倡导者急需的胜利，因为他们的议程在过去一年中失去了一些阵地。
企业相关信息与历史背景
OpenAI
OpenAI是一家致力于推动人工智能技术发展的前沿AI实验室，其产品包括GPT系列语言模型，这些模型在自然语言处理领域取得了显著突破。OpenAI的使命是确保人工智能造福全人类，并积极倡导AI安全与透明度。
Databricks
Databricks是一家专注于大数据和人工智能的初创企业，其联合创始人Ion Stoica在AI政策制定方面持有不同观点。Databricks提供的数据处理和分析平台在AI应用中发挥着重要作用，其技术优势在于高效的数据处理和可扩展的AI解决方案。
权威数据与行业报告引用
根据Gartner的一份报告，到2025年，全球AI市场规模预计将达到1.2万亿美元，其中前沿AI技术将占据重要份额。另一份来自McKinsey的报告指出，AI技术在各行各业的应用将带来显著的生产力提升，但同时也需要加强监管以应对潜在风险。
