字数 1063，阅读大约需 6 分钟

Reka AI 推出开源模型 Reka Flash 3：高效能与低延迟的完美结合

在人工智能领域迅猛发展的今天，开发者和组织面临着诸多挑战，如高计算需求、延迟问题以及缺乏真正灵活的开源模型等。这些问题往往制约了技术的进步，许多现有的解决方案要么需要昂贵的云基础设施，要么体积庞大，难以在设备上部署。为了填补这一空白，Reka AI 推出了全新的开源模型 Reka Flash 3，这是一款拥有21亿参数的通用推理模型，旨在为开发者提供高效且灵活的解决方案。

从零开始构建的强大模型

Reka Flash 3 是一款从零开始构建的模型，其训练过程结合了公开获取的数据集和合成数据集，并通过精心的指令调优及 REINFORCE Leave One-Out（RLOO）方法进行强化学习[1]。这种全面的训练方法旨在在能力与效率之间取得平衡，使 Reka Flash 3 在众多同类模型中脱颖而出。

支持多种应用场景

该模型旨在支持一般对话、编码辅助、指令跟随，甚至函数调用，成为各种应用的实用基础。其能够处理最多32k个令牌的上下文长度，使得处理较长的文档和复杂任务变得更加轻松，而不会对系统造成过大压力。这一特性在处理长文档、复杂任务或需要广泛上下文理解的场景中尤为重要。

创新的预算强制机制

Reka Flash 3 引入了“预算强制”机制，通过特定的 <reasoning> 标签，使用户能够限制模型的思维过程步骤。这一机制确保了在不增加计算开销的情况下，模型仍能保持一致的性能表现。对于需要在有限计算资源下运行的应用来说，这一特性无疑是一个巨大的优势。

高效的设备部署能力

Reka Flash 3 非常适合在设备上部署，其完全精度大小为39GB（fp16），通过4位量化可以进一步压缩至11GB。这种灵活性使得在本地部署时更为流畅，相比更大且资源密集的模型更具优势。对于需要低延迟或本地部署的应用来说，Reka Flash 3 是一个理想的选择。

性能评估与多语言支持

评估指标和性能数据进一步证明了 Reka Flash 3 的实用性。虽然在 MMLU-Pro 的得分为65.0，表现中等，但结合网络搜索等额外知识源后，其竞争力依然不容小觑。此外，Reka Flash 3 的多语言能力在 WMT’23 的 COMET 得分达到83.2，显示出其对非英语输入的良好支持，尽管其主要集中于英语[2]。这些结果，加上其相对于 QwQ-32B 等同行的高效参数数量，突显了其在实际应用中的潜力。

企业应用与未来展望

对于企业而言，Reka Flash 3 提供了一个强大的基础，可以用于构建领域特定的模型或自己的推理引擎。其紧凑的设计、增强的上下文窗口和创新的预算强制机制，使其成为适合设备部署和低延迟应用的实用选项。对于寻求既有能力又可管理模型的研究人员和开发者来说，Reka Flash 3 无疑提供了一个令人期待的基础。

Reka Flash 3 的推出标志着人工智能领域向更高效、更灵活解决方案迈进了一步。随着技术的不断进步和应用场景的不断拓展，我们有理由相信，Reka Flash 3 将在未来的人工智能发展中扮演重要角色。

[1] Reka Flash 3 介绍^[1]
[2] Reka Flash 3 模型^[2]

引用链接

[1] Reka Flash 3 介绍: https://www.reka.ai/news/introducing-reka-flash
[2] Reka Flash 3 模型: https://huggingface.co/RekaAI/reka-flash-3