字数 903，阅读大约需 5 分钟

Hugging Face首席科学官担忧AI成为“服务器上的应声虫”

在人工智能领域，企业创始人常常对技术的潜力做出大胆宣称，尤其是其在重塑科学领域的可能性。然而，Hugging Face的联合创始人兼首席科学官Thomas Wolf却持有更为审慎的观点。他在周四发表在X上的一篇论文中表示，他担心AI正在成为“服务器上的应声虫”，除非在AI研究上取得突破。他进一步阐述，当前AI开发范式无法产生具备跳出框架、创造性解决问题能力的AI——这种能力是赢得诺贝尔奖的关键。

Hugging Face与AI的挑战

Hugging Face，作为自然语言处理（NLP）领域的领军企业，一直致力于推动AI技术的发展。然而，Wolf指出，当前AI的主要问题在于它无法通过连接 previously unrelated facts来生成新的知识。即便拥有大部分互联网资源，AI在我们目前的理解中， mostly fills in the gaps between what humans already know。这种现象引发了业界对AI未来发展的深刻思考。

AI的“应声虫”现象

Wolf的观点与OpenAI首席执行官Sam Altman的观点形成鲜明对比。Altman在今年早些时候的一篇论文中表示，“超智能”AI可以“大幅加速科学发现”。同样，Anthropic首席执行官Dario Amodei预测AI可能帮助制定大多数类型癌症的治疗方案。然而，Wolf认为，今天的AI并不具备生成新知识的能力，它更像是一个“非常听话的学生”，而不是科学革命者。

AI的评价危机

Wolf认为，AI领域的“评价危机”是导致这一令人失望状况的部分原因。他指出，通常用于衡量AI系统改进的基准测试，大多由具有明确、显而易见和“封闭式”答案的问题组成。为了解决这一问题，Wolf提议AI行业“转向衡量知识和推理”的标准，以阐明AI是否能够采取“大胆的假设性方法”，基于“微小的提示”提出一般性建议，以及提出导致“新研究路径”的“非显而易见的问题”。

未来展望

Wolf承认，确定这一衡量标准的具体形式是一个挑战。但他认为，这可能是值得努力的。他说：“科学最关键的部分是提出正确问题的能力，甚至挑战自己所学的知识。我们不需要一个能够用常识回答每个问题的A+ AI学生，而需要一个看到并质疑其他人错过的B学生。”