字数 1450，阅读大约需 8 分钟
深入探讨MIT最新研究揭示的AI价值系统迷思
研究背景与发现
近几个月来，一项研究因暗示随着AI日益复杂，它可能发展出“价值系统”而走红。然而，麻省理工学院（MIT）的最新研究却对这一夸张观点泼了冷水，得出结论：AI实际上并不持有任何连贯的价值体系。MIT研究的合著者表示，他们的工作表明，“对齐”AI系统——即确保模型以可取、可靠的方式运行——可能比通常假设的更具挑战性。研究强调，我们所知的AI如今会“产生幻觉”和“模仿”，这使得它在许多方面难以预测。
MIT的Stephen Casper博士生，也是该研究的合著者之一，告诉：“我们可以确定的一件事是，模型并不遵循[许多]稳定性、外推性和可控性的假设。”他补充道，“指出模型在某些条件下表达了与特定原则一致的偏好是完全合理的。但问题在于，当我们试图基于狭窄的实验对模型的观点或偏好做出一般性声明时，问题就出现了。”
实验与结果
Casper及其合著者探究了Meta、Google、Mistral、OpenAI和Anthropic等公司近期发布的多个模型，以了解这些模型在多大程度上表现出强烈的“观点”和价值观（例如，个人主义与集体主义）。他们还调查了这些观点是否可以被“引导”（即修改），以及模型在各种场景下对这些观点的坚持程度。
根据合著者的说法，没有一个模型在偏好上是一致的。根据提示的措辞和框架的不同，它们会采用截然不同的观点。Casper认为，这有力地证明了模型具有高度的“不一致性和不稳定性”，甚至可能从根本上无法内化类似人类的偏好。
专家观点与讨论
伦敦国王学院专门研究AI的研究员Mike Cook（未参与该研究）同意合著者的发现。他指出，AI实验室构建的系统与人们赋予它们的意义之间经常存在巨大差异。“例如，模型不能‘反对’其价值观的改变——这是我们对系统的投射。”Cook说，“任何将AI系统拟人化到这种程度的人，要么是为了吸引注意力，要么是严重误解了他们与AI的关系……AI系统是在优化其目标，还是在‘获得自己的价值观’？这取决于你如何描述它，以及你想用多么华丽的语言来描述它。”
对大型科技公司的影响
这项研究对我们看待Meta、Google等大型科技公司开发的AI系统产生了深远影响。这些公司在AI领域投入了大量资源，并致力于构建能够理解和反映人类价值观的系统。然而，MIT的研究结果表明，现有的AI模型在价值观理解上存在显著的不一致性，这挑战了我们对AI“对齐”工作的传统认知。
例如，Meta的LLaMA模型[1]和Google的PaLM模型[2]在实验中表现出了极大的观点波动。这表明，即使这些公司拥有先进的技术和庞大的数据集，它们在构建具有稳定价值体系的AI系统方面仍面临重大挑战。
对AI伦理学及安全性的长远意义
这项研究对AI伦理学和安全性具有重要意义。如果AI系统无法建立稳定的价值体系，那么我们如何确保它们在关键决策中做出符合人类利益的选择？这引发了对AI在医疗、金融和自动驾驶等领域应用的担忧。
根据AI Now Institute的报告[3]，AI系统的不透明性和不可预测性可能导致严重的伦理问题。MIT的研究进一步强调了这一观点，提醒我们在推动AI技术发展的同时，必须重视其伦理和安全 implications。
未来研究方向
面对AI价值系统的迷思，未来的研究需要关注以下几个方面：
- 1. 提高模型的一致性和稳定性：研究人员需要探索新的方法，以增强AI模型在面对不同场景和提示时的一致性。这可能涉及改进训练数据、优化模型架构或引入新的对齐技术。
- 2. 深入理解模型的内部机制：我们需要更好地理解AI模型如何处理和生成信息，以便更好地预测和控制它们的行为。这可能需要结合认知科学、神经科学和计算机科学等多个领域的知识。
- 3. 加强AI伦理和安全研究：随着AI技术的广泛应用，我们需要制定更严格的伦理准则和安全标准，以确保AI系统在关键领域中的可靠运行。这可能需要政府、学术界和工业界的共同努力。
引用链接
[1] LLaMA模型: https://ai.facebook.com/blog/large-language-model-llama-meta-ai/[2] PaLM模型: https://ai.googleblog.com/2022/04/pathways-language-model-palm-scaling-to.html[3] AI Now Institute的报告: https://ainowinstitute.org/reports/ai-now-2018-report.pdf
