字数 2103，阅读大约需 11 分钟

Mercury：首个商用级别的Diffusion LLM，速度快、手机也能部署

技术革新与性能突破

颠覆性技术：扩散大型语言模型（dLLMs）

在人工智能领域，一项具有划时代意义的技术正崭露头角。近日，Inception Labs 宣布推出 Mercury系列扩散大型语言模型（dLLMs），这标志着语言模型技术迈入了全新的世代。Mercury旨在以前所未有的速度和效率生成高质量文本，为行业树立了新的标杆。

与传统的自回归大型语言模型（如GPT系列）不同，Mercury采用了一种革命性的“粗到细”生成方式。这种方式从纯噪声开始，经过几次“去噪”步骤，逐步精细化输出。这一创新使得Mercury在生成速度上实现了质的飞跃，相比于当前前沿的速度优化LLMs，其速度提升了10倍之多。更令人惊叹的是，Mercury能够在NVIDIA H100显卡上实现超过每秒1000个标记的生成速度，这一壮举在以往仅依靠定制芯片才能实现。

Mercury Coder：代码生成领域的新标杆

作为Mercury系列的首款产品，Mercury Coder 已经在公共测试中惊艳亮相。该模型专注于代码生成，并在多个编程基准测试中展现出了卓越的性能。根据权威测试结果，Mercury Coder在多个编程基准测试中超越了众多现有的速度优化模型，如GPT-4o Mini和Claude 3.5 Haiku，同时在生成速度上也快了近10倍。

开发者对Mercury的代码完成效果给予了高度评价。在Copilot Arena的测试中，Mercury Coder Mini不仅在性能上名列前茅，而且是所有参与测试的模型中速度最快的，大约是GPT-4o Mini的4倍。这一结果充分证明了Mercury在代码生成领域的领先地位。

生成方式的革新：从“粗到细”的去噪过程

当前主流的语言模型大多采用自回归方式，即从左到右逐个生成标记。这种方式导致生成过程不可避免地是顺序的，从而带来了较高的延迟和计算成本。而Mercury则彻底打破了这一限制，采用了“粗到细”的生成方式。

具体来说，Mercury从一个包含纯噪声的初始状态开始，然后通过几次“去噪”步骤，逐步将输出精细化。这一过程中，Mercury能够进行多标记的并行处理，从而大大提高了生成效率。此外，由于Mercury在生成时能够全局地考虑输出的质量，而不是仅仅依赖于之前的输出，因此它能够产生更加准确、结构化的响应。

智能代理与边缘计算的新时代

随着Mercury系列的推出，Inception Labs向世界展示了扩散模型在文本和代码生成领域的巨大潜力。未来，公司还计划推出适用于聊天应用的语言模型，进一步拓展扩散语言模型的应用场景。

这些新型模型将具备更强的智能代理能力，能够进行复杂的规划和长时间的生成。同时，它们的高效性使得在资源受限的设备上也能运行良好，例如智能手机和笔记本电脑。这将为边缘计算领域带来革命性的变化，使得强大的AI能力能够真正触手可及。

智能代理与复杂规划

Inception Labs近期推出的Mercury系列dLLMs在文本和代码生成领域展现了令人瞩目的潜力。与传统自回归大型语言模型（LLMs）相比，Mercury采用了创新的扩散模型技术，实现了从粗到细的生成过程。这种技术突破不仅显著提升了生成速度，更赋予了模型更强的智能代理能力。

具体而言，Mercury模型能够进行复杂的规划和长时间的生成，这对于需要进行多步推理和决策的智能代理应用至关重要。例如，在自动化任务执行、智能客服或虚拟助手等场景中，Mercury能够更高效地处理用户请求，提供更准确、自然的响应。

资源受限环境下的高效运行

Mercury模型的另一个显著优势在于其高效性，这使得它能够在资源受限的设备上良好运行，如智能手机和笔记本电脑。这一特性为边缘计算和移动端应用带来了新的可能性，使得高质量的AI解决方案能够更加普及和便捷。

在传统LLMs中，由于生成过程的顺序性和高计算成本，在资源受限的设备上运行往往面临巨大挑战。而Mercury通过并行处理和优化的算法，显著降低了计算需求，使得在边缘设备上部署高质量的AI应用成为可能。这对于推动AI技术在更广泛领域的应用具有重要意义。

行业影响与未来展望

Mercury的推出标志着人工智能技术的一次重要进步。它不仅在速度和效率上大幅提升，更为行业提供了更高质量的解决方案。可以预见，随着扩散语言模型的不断发展和完善，它们将在自然语言处理、代码生成、智能客服、虚拟助手等多个领域发挥重要作用。

根据Gartner的研究报告，到2025年，自然语言处理技术将被广泛应用于企业级应用中，推动业务流程自动化和智能化。而Mercury系列模型的出现，无疑将加速这一趋势的到来。通过提供更高效、精准的文本生成能力，Mercury将帮助企业提升运营效率、改善用户体验，并推动AI技术向更高水平迈进。

官方介绍: https://www.inceptionlabs.ai/news

在线体验: https://chat.inceptionlabs.ai/