字数 1735，阅读大约需 9 分钟
阿莫代伊的警示与呼吁
在2025年2月12日于巴黎举行的人工智能行动峰会上，Anthropic公司[1]首席执行官达里奥・阿莫代伊（Dario Amodei）发表言论，警告人工智能将在2026年达到相当于“一个天才国家”的智能水平。这一预测在人工智能领域引发震动。
阿莫代伊不仅对AI发展水平做出预测，还批评此次巴黎峰会是“错失的机会”。他指出，国际社会在人工智能治理方面进展缓慢。行业报告显示，自人工智能技术加速发展，全球针对AI的有效监管政策落地速度滞后于技术创新速度。例如，OpenAI的GPT系列模型几年内从GPT – 1发展到GPT – 4，而同期全球仅有不到30%的国家和地区出台较完善的AI伦理准则，技术监管存在诸多空白。
他的警告正值关键时期，当下不同政治体制国家在人工智能发展方面竞争激烈。阿莫代伊强调，民主社会必须在人工智能领域保持领导地位。从地缘政治角度，AI技术在军事领域应用潜力大。国际战略研究所（IISS）数据显示，到2028年，全球军事AI市场规模将从2023年的约50亿美元增长至150亿美元以上。若部分国家在人工智能技术上取得领先并用于军事目的，可能建立军事优势，威胁其他国家安全。
此外，阿莫代伊提及芯片供应链、半导体制造和网络安全等方面的脆弱环节。芯片供应链方面，美国半导体行业协会（SIA）数据显示，全球芯片供应过去几年多次短缺，随着AI对芯片算力需求增长，预计到2027年，全球AI芯片缺口将达20%以上。半导体制造集中在少数国家和地区，供应中断会冲击全球AI产业发展。网络安全方面，卡巴斯基实验室报告指出，2024年针对AI系统的网络攻击次数同比增长40%，AI系统面临的网络安全风险严峻。
巴黎峰会上的分歧
此次巴黎峰会，暴露出国际社会在人工智能监管方面的深刻分歧。美国副总统JD・范斯（JD Vance）拒绝欧洲的监管提案，称其“庞大且抑制性强”。美国和英国拒绝签署峰会相关承诺，显示在人工智能治理方面达成共识难度加大。
从全球AI治理格局看，不同国家和地区因技术发展水平、产业结构以及政治体制等因素，对AI监管的态度和重点存在差异。欧洲注重AI伦理和隐私保护，倾向制定严格监管框架。而美国部分科技巨头担心严格监管抑制创新，影响其在全球AI市场竞争力。这种分歧导致全球AI治理难以形成统一有效机制。
Anthropic的透明化举措
Anthropic公司主张在人工智能开发中保持透明。本周，该公司推出经济指数，追踪人工智能对劳动市场的影响。这一举措与竞争对手的保密性形成对比。世界经济论坛（WEF）《未来就业报告》显示，到2027年，全球将有8500万个工作岗位因AI和自动化技术受到影响，同时创造9700万个新岗位。Anthropic推出的经济指数，为应对这一就业格局变化提供数据支持和决策参考。
阿莫代伊强调的关键问题
阿莫代伊在发言中强调三个关键问题：保持民主国家在人工智能开发中的领导地位、管理安全风险以及为经济转型做好准备。
在保持领导地位方面，他认为民主国家拥有更完善的创新生态系统和制度保障，应充分发挥优势。例如，CB Insights数据表明，2024年美国AI初创企业获得风险投资额超200亿美元，占全球总额35%左右，为美国AI技术研发提供强大资金支持。
管理安全风险方面，他关注防止非国家行为者滥用人工智能以及管理先进系统的自主风险。麦肯锡全球研究所研究表明，非国家行为者利用AI技术进行恶意攻击，潜在影响范围可能涉及全球数十亿人，造成巨大经济损失和社会动荡。
为经济转型做好准备，是因为AI快速发展将引发经济结构深刻变革。普华永道预测，到2030年，AI将为全球经济贡献15.7万亿美元，同时促使传统产业加速数字化转型。企业和政府需提前制定策略适应变革。
人工智能治理面临的挑战
在阿莫代伊给出的时间表下，人工智能治理面临巨大挑战。他预测到2027年，人工智能将达到天才级能力。这意味着目前的治理结构可能无法有效管理下一代人工智能系统。
从技术层面看，AI技术发展迅速，如深度学习模型复杂度和性能不断提升，强化学习算法在复杂场景应用广泛。以AlphaGo在围棋领域突破为开端，AI在诸多领域展现超越人类能力。然而，目前治理技术手段，如AI可解释性技术仍处于起步阶段，难以对复杂AI决策过程进行有效解释和监管。
从政策层面看，各国政策制定者面临压力。一方面要鼓励创新，推动本国AI产业发展；另一方面要防范风险，保障社会安全稳定。如何平衡两者，是亟待解决的问题。
巴黎峰会后的局势让科技行业和各国政府面临根本挑战：如何在前所未有的经济和科学机遇与风险之间找到平衡。阿莫代伊的警告，为技术领导者和政策制定者敲响警钟，将人工智能治理框架设定为与时间的赛跑。国际社会需在人工智能能力超出治理能力前建立有效控制措施。
