01
AI 工厂的台积电，
F.F Research · AI · 2026年11月5日
AI 工厂的台积电，
Fireworks
Fireworks 日处理超过 40 万亿 tokens，并称其中超过 95% 是定制加工。这是制程节点，不是 GPU 集市。
02
40T+日处理
>$1BARR
>95%专有占比
$17.5BSeries D
论点 · 公司披露，2026 年 7 月
95% 专有流量才是代工厂检验
Specialized>95%
Public weights<5%
Lambert 在 Forge 后的读法：specialized 指任何客户后训练模型。商业结论仍成立。
03
文章结构
团队 → 栈 → 壁垒 → 代工厂
- 01
Team and capital
四轮定价融资，再加一轮要约。七位联创，六人 Meta，一人 Google。
- 02
Six modules
从 Infra 到 Nexus。训练、Lab、模型、推理。
- 03
Moat and why
漂移、异步 RL、长上下文。台积电与 vLLM。
04
Chapter 01
谁建了这条产线
一支 PyTorch 出身、估值 $17.5B、拒绝做封闭实验室的班子。
- 1.1 融资历史
- 1.2 创始团队
05
Chapter 1 · 1.1 Funding
四轮定价。一轮要约不进账面。
A $25M
Benchmark。估值未披露。
B $52M
$552M。Sequoia。NVIDIA、AMD。
C $250M
$4.0B。1 万家公司，ARR >$280M。
D $1.505B
$17.5B。ARR >$1B。日 40T tokens。
2026-09：$132M Atreides 员工要约，资金不进公司。2026-10 $30–40B 洽谈：未证实。
06
六人 Meta，一人 Google。
Chapter 1 · 1.2 Founders
六人 Meta，一人 Google。
近半数来自原来的 PyTorch 团队。
Lin Qiao
PyTorch 负责人。CEO。复旦、UCSB、IBM、LinkedIn、Meta 300 人组织。
Dzhulgakov
PyTorch core maintainer。CTO。Caffe2、ONNX、DLRM。
Benny Chen
广告基础设施。GPU 再到 ASIC 推理、容量、TCO。
Chenyu Zhao
Google 出身。Vertex AI、多云、异构 GPU。
Ivchenko
PyTorch for ranking。TorchRec、大规模推荐。
James Reed
编译器。torch.fx、PiPPy、TorchScript、ONNX。
Garbacki
News Feed 核心 ML。后训练 / RL、Nexus、Ember-1。
07
Chapter 2 · Six modules
编排是屋顶。基建是地板。
06 Ensembling
人用 Nexus。系统用 API。难轮次闭源，日常开源。
05 Inference
流量增大：Serverless → Reserved → Dedicated。
04 Models
自研、开源库、客户权重。同栈上线。
03 Lab
驻场研究员。SKU 是时间，不是 GPU。
02 Training
Managed、Serverless API、Dedicated API、仅 RL rollout。
01 Infra
租赁全球池，或同一引擎跑在客户机器上。
08
Chapter 3 · Infrastructure
同一引擎。两种落地。
Cloud
跨 20+ 供应商的虚拟池。营销写 30+ 区域。训练 Available 仅五区。NVIDIA + AMD。经 Microsoft Foundry 抵 Azure MACC。
vs
Sovereign / Airgap
客户 GPU 上的托管 BYOC。元数据仍可回控制面。Airgapped EKS：无控制台、无溢流、无元数据回传。
09
Chapter 4 · Training
谁写 Loop，谁决定 SKU
Managed
平台写 SFT / DPO / ORPO。FAQ：仅 LoRA。定价页仍列 Full SFT。
Serverless API
客户写 Loop。仅 LoRA。Prefill / Sample / Train token。
Dedicated API
全参、超大 MoE。Trainer + Sampler 按 GPU-小时。
Rollouts only
客户自有 trainer。推理端热加载 checkpoint。
10
Chapter 4 · 公开结果 · 营销数字
点名涨幅，不是审计
| Customer | Method | Published cut |
|---|---|---|
| Harvey Tenet | Kimi K3 + async RL | LAB all-pass 19.7% vs 10.8% |
| Vercel v0 | RFT + spec decode | 93% error-free; ~40× latency vs replaced closed model |
| Heidi Evidence | Nemotron 3 Ultra + RL | ~54% live A/B vs ~42% base |
| Factory | Two Qwen LoRAs | ~70% true leaks at 5% FP vs GPT-5.5 ~59% |
| Kalshi | Glimmer 30B SFT | 58.3% unseen vs base 53.2% |
11
Chapter 5 · Fireworks Lab
High ARPU. The SKU is researcher time.
Diagnosis
Capability, baseline, success criteria, scope. Can we win before more money.
Eval + recipe
Customer experts write the ruler. Base, method, serving economics.
6–10 weeks
Customer keeps model, harness, loop, recipes. GPUs still bill on public SKUs.
12
Chapter 6 · Ember-1 · company self-test
约少 40% tokens，质量接近 K3
Terminal 2.182.0 vs 80.9
SWE-bench92.2 vs 93.2
DeepSWE 1.175.2 vs 66.4
τ-2 Airline66 vs 64
两家生产 coding A/B：约 −35% tokens / 任务。闭源对照是内部评测。
13
Chapter 6 · Supply lanes
三条供应线。权重归客户。
Fireworks models
Ember-1 与自研专用模型。Research Preview，再按社区需求转正。
Model library
Day-0 开源基座。DeepSeek、Kimi、GLM、MiniMax、Qwen、Step。
Your models
100% 客户所有，受基座许可。Live-merge LoRA。一次 Dedicated 约 100 个 Multi-LoRA。
14
Chapter 7 · Inference
先拼车，再买一分钟 SLA，再包整卡
Serverless
Token 拼车。无冷启动。OpenAI / Anthropic 形态。Spot 与 Batch 也在这里。
Reserved Throughput
按分钟买额度，过期作废。定价页：throughput SLA + 99.9% uptime。文档只写 throughput。
Dedicated / Reserve
按秒或按年租整卡。自有权重、Multi-LoRA、新硅。
15
Chapter 8 · Nexus
集市找模型。漏斗填引擎。
OpenRouter
横向 B2D 集市。找模型、比价、故障转移。不养机队。Fireworks 是上游供应商。
vs
Nexus
保留 Claude Code / Cursor。密钥留本地。约 70% 常规轮次进 Fireworks。$8 / $10 是楔子。
16
Chapter 9 · Three industrial gaps · company claims
漂移、空转、上下文成本
Train–serve skew
FP8/FP4 后 MoE 专家分叉。Router Replay。口径 KLD < 0.007，拒绝 < 3%。
Async RL idle
70%–85% GPU 时间在 rollout。约 2% 增量权重，亚分钟热切换，万卡规模。
Long-context cost
Session Affinity，口径 99.6% KV 命中。Nexus 卸载常规编码轮次。账单 −50–72%。
17
Chapter 9 · Monetization
先填谷，再卖价差，再锁权重
04 Software
Lab + Sovereign + Nexus Enterprise。近零 GPU COGS。
03 Stickiness
评测器、RFT 管线、NVFP4 权重。比换公版 API 更难切走。
02 PaaS spread
H100 批发约 $2–$3/h。叠引擎后卖 $8/h。稿件口径，不是财报。
01 Fill the trough
Serverless + Nexus 开源轮次。10,000+ 客户填进 GPU 波谷。
18
Chapter 10 · Versus TSMC
IDM 卖品牌。代工厂卖工艺。
| Semiconductor | Fireworks analog |
|---|---|
| Intel IDM | 封闭 Frontier Lab，黑盒 API |
| Fabless (Apple, NVIDIA) | Cursor、Harvey、Notion、Uber、Vercel |
| EUV tools | H200 / B200 / B300 + MI325X，卖良率不是出租 |
| PDK + standard IP | 开源基座 + FireOptimizer，Day-0 |
| Never compete with customers | 不做封闭实验室。权重 100% 归客户 |
19
Chapter 10 · Versus vLLM / SGLang
同一类单机问题。然后工厂才开始。
| vLLM | SGLang | Fireworks | |
|---|---|---|---|
| Job | 通用高吞吐推理 | Agent、前缀、JSON | 训推工厂 + 在线 RL |
| Quant | 用户自调 | 用户自验 | 门控 KLD < 0.007 |
| Cache | 节点前缀 | 节点基数树 | 跨集群 Session Affinity |
| MoE + RL | 纯推理 | veRL 背后的采样器 | Router Replay + 2% 增量热加载 |