Groq挑战英伟达：AI推理芯片新星的崛起

当英伟达宣布与OpenAI达成高达1000亿美元的合同之际，AI芯片初创公司Groq也宣布完成了7.5亿美元（约合人民币50亿元）的最新融资，其估值达到了69亿美元（约合人民币490亿）。这一数字超出了之前7月间的传闻，当时有报道称Groq的融资额将达到约6亿美元，估值接近60亿美元。

资本正高度关注AI推理芯片领域——Groq在2024年8月以28亿美元的估值融资了6.4亿美元，这意味着在短短一年多时间里，其估值翻了一倍多。本轮融资由Disruptive领投，还吸引了贝莱德、Neuberger Berman集团有限责任公司和德国电信资本的“重大投资”，以及包括三星电子、思科、D1 Capital和Altimeter在内的现有投资者的出资。

根据半导体产业研究，全球AI芯片市场正处于高速增长期，2023年的市场规模为231.9亿美元，预计至2029年将以31.05%的复合年增长率攀升至1175亿美元。随着大语言模型从研发走向应用，AI产业重心正从训练阶段转向推理环节。英伟达的财报也显示，2024财年第四季度数据中心GPU收入的40%来自推理处理。

在旧有领域的竞争环境中，新玩家往往难以崭露头角。然而，行业的结构性调整正为专注于推理优化的芯片厂商如Groq提供了战略机遇。“推理正在定义人工智能时代，我们正在构建能够高速、低成本地提供推理的美国基础设施。”Groq创始人兼首席执行官乔纳森·罗斯(Jonathan Ross)表示。

前谷歌工程师创业，挑战英伟达

Groq由一群前谷歌工程师于2016年创立，由AI加速器ASIC张量处理单元(TPU)的设计者之一乔纳森·罗斯和前Google X工程师道格拉斯·怀特曼(Douglas Wightman)领导。在谷歌工作期间，乔纳森·罗斯负责开发TPU芯片，这是一种专为机器学习任务设计的处理器，至今仍在为谷歌云的AI服务提供支持。

TPU于2016年发布，同年Groq正式亮相。Groq以生产优化预训练模型的AI推理芯片而闻名。其开发的芯片被称为语言处理单元(LPU)，与通常用于AI系统的图形处理单元GPU有显著区别。

在人工智能发展的早期阶段，芯片以训练为中心。如今，业界正逐渐将重点转向为推理而设计的硬件。不论是英伟达还是规模较小的竞争对手AMD，都准备提供更多专注于推理的芯片。例如，在GTC2025上，英伟达推出了分布式推理服务库Dynamo，基于这个服务库，新一代Blackwell GPU相比Hopper GPU可以实现40倍的性能提升。

Groq致力于打破英伟达的垄断，其产品面向开发者和企业，提供云服务或本地硬件集群两种形式。云和本地硬件都可以运行热门模型的开放版本，如Meta、DeepSeek、Qwen、Mistral、Google和OpenAI的模型。Groq表示其产品能够以比其他同类产品低得多的成本维持AI性能。

除了云服务外，Groq还销售数据中心计算能力。2024年2月，Groq推出了开发者平台GroqCloud，吸引开发者使用Groq API并租用其芯片的访问权限。此外，Groq还在一个月内收购了Definitive Intelligence，这是一家以提供一系列面向企业的AI解决方案而闻名的初创公司，有助于完善其云平台。9月，Groq又宣布与中东石油巨头阿美公司的数字和技术子公司签署了一份谅解备忘录，计划在沙特阿拉伯王国建立世界上最大的推理数据中心。

融了超过30亿美元，Groq会是新时代的英伟达吗？

曾有自称为Groq员工的网友在Reddit上称，公司的目标是三年内超越英伟达。尽管挑战巨大，但这一雄心自然能吸引不少愿意为之买单的投资人。据PitchBook估计，Groq迄今已融资超过30亿美元。

2017年，Groq从Social Capital的Chamath Palihapitiya获得了1000万美元的种子资金。此后几年，虽然Groq还未成为投资圈的宠儿，但进行了三轮小规模融资，累计约6000万美元。

2021年4月，Groq在由Tiger Global Management和D1 Capital Partners领投的C轮融资中筹集了3亿美元。其他投资者包括The Spruce House Partnership、Addition、GCM Grosvenor、Xⁿ、Firebolt Ventures、General Global Capital和Tru Arrow Partners等。在C轮融资之后，其估值超过10亿美元，正式跻身独角兽行列。

2024年8月，在由贝莱德私募股权合伙人领投的D轮融资中，Groq又筹集了6.4亿美元，公司估值达到28亿美元。

除了挑战英伟达的故事外，此次融资披露的数据显示，Groq为超过200万名开发人员的AI应用程序提供支持。而一年前在接受TechCrunch采访时这一数字仅为35万如此迅猛的用户增长速度令人惊讶。

那么Groq超越英伟达的可能性有多大呢？首先必须明确一点：Groq并非通用GPU而是专门为transformer类推理计算设计的芯片。其优势在于极高的吞吐量和极快的推理速度。但与此同时也要看到英伟达的优势在于其生态而非局部。CUDA生态是英伟达的巨大护城河而Groq则需要从零开始建立工具链和开发者社区。

尽管Groq有自己的优势但短期内仍难以威胁到英伟达的主导地位。类似这样的竞争者共同构成了对英伟达的差异化包围但尚未形成系统性威胁——英伟达仍占据全球AI云端训练市场80%的市场份额。