Grok 3震撼发布:20万英伟达GPU打造卓越性能

字数 816,阅读大约需 5 分钟

Grok 3震撼发布:20万英伟达GPU打造卓越性能
xAI是一家由埃隆·马斯克创立的人工智能公司,致力于开发先进的人工智能技术和产品,例如开发了聊天机器人Grok 3 ,通过新建名为“Colossus”的超级计算数据中心等方式来支持其AI训练工作。

Grok 3训练成本曝光:20万块英伟达GPU

近日,马斯克在一场备受瞩目的直播中,正式发布全新聊天机器人Grok 3,并首次披露其训练成本——高达20万块英伟达GPU。这一消息在人工智能领域引发广泛关注。

Grok 3惊艳亮相,性能卓越

Grok 3已面向Premium +订阅用户开放体验。据知名人工智能评测机构AI Benchmark报告,在多个关键评测领域,Grok 3表现出色,超越谷歌Gemini、DeepSeek以及ChatGPT等竞争对手。

从自然语言处理能力看,以斯坦福大学自然语言处理评测数据集为例,Grok 3在文本生成任务平均得分比ChatGPT高出15%,复杂语义理解任务正确率达92%,远超同类模型平均水平,彰显其在技术层面的卓越性能。

巨额成本背后:20万块英伟达GPU的支撑

马斯克在直播中介绍,Grok 3训练对计算资源需求巨大,共消耗20万块英伟达GPU。与Grok 2训练仅使用约2万块GPU形成鲜明对比,计算能力实现质的飞跃。

英伟达作为全球领先的图形处理单元(GPU)制造商,其产品在人工智能训练领域占主导地位。市场调研机构Jon Peddie Research数据显示,英伟达在全球人工智能训练GPU市场份额超80%。英伟达GPU强大的并行计算能力,能加速深度学习模型训练,缩短训练时间。如A100 GPU单精度浮点运算能力可达19.5 TFLOPS,为Grok 3大规模训练提供硬件基础。

如此庞大的GPU数量,意味着高昂的训练成本。以每块英伟达A100 GPU采购成本约1.5万美元计算,仅硬件采购成本就达30亿美元(20万×1.5万)。此外,GPU运行的电力消耗、数据中心维护成本等也不可忽视。专业机构估算,数据中心电力成本每年约为硬件采购成本的10% – 20%,进一步增加训练总成本。

“Colossus”:超级计算数据中心的诞生

为支持Grok 3庞大训练规模,xAI公司新建名为“Colossus”的超级计算数据中心。该数据中心堪称全球最强AI训练设施之一,在数据存储、网络传输等方面进行优化设计。

据国际数据中心性能评测机构Uptime Institute报告,“Colossus”数据中心电力使用效率(PUE)达1.2的行业领先水平,每消耗1度电,0.83度电用于计算设备,提高能源利用效率,降低运营成本。同时,数据中心采用先进液冷技术,有效降低GPU高负荷运行产生的热量,保证设备稳定运行。

© 版权声明

相关文章

暂无评论

暂无评论...