字数 856,阅读大约需 5 分钟

深推理模型崛起!Together AI融资3.05亿美元助推GPU需求
在AI行业,Together AI 近期宣布完成了3.05亿美元的B轮融资,这一重大举措引起了业界的广泛关注。该公司的迅速崛起与其新推出的深度推理模型DeepSeek-R1密切相关。
深度推理模型与基础设施需求
与最初市场对深度推理模型可能降低基础设施需求的担忧相反,许多行业专家认为,深度推理的进步不仅没有减少,反而在不断提升对基础设施的需求。
自2023年成立以来,Together AI致力于简化企业对开源大型语言模型(LLM)的使用。随着技术的发展,该公司逐步扩展其平台,推出了名为“Together平台”的解决方案,支持在虚拟私有云和本地环境中部署AI。进入2025年,Together AI又引入了推理集群和自主智能(Agentic AI)能力,进一步丰富了其平台的功能。
DeepSeek-R1模型的影响力
根据Together AI CEO Vipul Prakash的介绍,DeepSeek-R1的参数量高达6710亿,这使得其在运行推理时的成本显著增加。为了应对不断增长的用户需求,Together AI推出了“推理集群”服务,为客户提供从128到2000颗芯片的专用计算能力,以确保模型的最佳性能。
DeepSeek-R1的请求处理时间通常较长,平均可达两到三分钟,这也进一步推动了基础设施需求的增长。在推理模型的应用方面,Together AI识别出一些具体的使用场景,如编码代理、减少模型的幻觉现象以及通过强化学习实现模型的自我提升。这些应用不仅提高了工作效率,还增强了模型输出的准确性。
战略收购与技术升级
此外,Together AI还收购了CodeSandbox,以提升其在自主智能工作流程方面的能力。这一收购使Together AI能够在云端快速执行代码,降低了延迟,并提高了代理工作流的性能。
面对激烈的市场竞争,Together AI的基础设施平台正在不断优化。新一代Nvidia Blackwell芯片的部署,将为模型的训练和推理提供更高的性能和更低的延迟。Prakash指出,与Azure等其他平台相比,Together AI的推理速度显著提高,极大满足了客户对高性能AI基础设施的需求。
市场亮点
- • 融资推动发展:Together AI获得的3.05亿美元融资将加速深度推理模型的发展。
- • 基础设施需求增加:DeepSeek-R1的复杂性促使Together AI推出“推理集群”服务以满足市场需求。
- • 技术收购与升级:新收购的CodeSandbox和Nvidia Blackwell芯片将进一步提升Together AI的市场竞争力。