F.F Research · AI · 5 de noviembre de 2026
El TSMC de las fábricas de IA,
Fireworks
Fireworks procesa más de 40 billones de tokens al día. Dice que más del 95% es trabajo a medida. Eso es un nodo de proceso, no un marketplace de GPU.
Tesis · Divulgación de la compañía, julio 2026
El 95% especializado es la prueba de foundry
Lectura de Lambert tras Forge: “specialized” es cualquier modelo post-entrenado del cliente. La tesis comercial se sostiene.
Arquitectura del artículo
Equipo → stack → foso → foundry
- 01
Team and capital
Cuatro rondas con precio, luego un tender. Siete fundadores, seis Meta, uno Google.
- 02
Six modules
De Infra a Nexus. Training, Lab, modelos, inferencia.
- 03
Moat and why
Sesgo, RL asíncrono, contexto largo. TSMC y vLLM.
Chapter 01
Quién construyó la línea de proceso
Un banco nativo de PyTorch, a 17.500 M$, que se niega a ser un lab cerrado.
- 1.1 Historia de financiación
- 1.2 Equipo fundador
Chapter 1 · 1.1 Funding
Cuatro rondas con precio. Un tender fuera de libros.
A $25M
Benchmark. Valoración no divulgada.
B $52M
552 M$. Sequoia. NVIDIA, AMD.
C $250M
4.000 M$. 10k compañías, ARR >280 M$.
D $1.505B
17.500 M$. ARR >1.000 M$. 40T tokens/día.
Sep 2026: tender de empleados Atreides de 132 M$, el efectivo no entra. Conversaciones oct 2026 de 30–40 mil M$: no verificadas.
Chapter 1 · 1.2 Founders
Seis Meta, uno Google.
Cerca de la mitad del equipo original de PyTorch.
Lin Qiao
Head of PyTorch. CEO. Fudan, UCSB, IBM, LinkedIn, org Meta de 300.
Dzhulgakov
Maintainer core de PyTorch. CTO. Caffe2, ONNX, DLRM.
Benny Chen
Ads infra. Inferencia GPU luego ASIC, capacidad, TCO.
Chenyu Zhao
La contratación de Google. Vertex AI, multi-cloud, GPU heterogéneas.
Ivchenko
PyTorch for ranking. TorchRec, recomendadores a escala.
James Reed
Compilador. torch.fx, PiPPy, TorchScript, ONNX.
Garbacki
ML core del News Feed. Post-train / RL, Nexus, Ember-1.
Chapter 2 · Six modules
El ensembling es el techo. Infra es el suelo.
06 Ensembling
Nexus para personas. API para sistemas. Turnos duros cerrados, rutinarios abiertos.
05 Inference
Serverless → Reserved → Dedicated según crece el tráfico.
04 Models
Propios, biblioteca abierta, pesos del cliente. El mismo stack a producción.
03 Lab
Investigadores embebidos. El SKU es tiempo, no GPU.
02 Training
Managed, Serverless API, Dedicated API, solo RL rollouts.
01 Infra
Pool global alquilado, o el mismo motor en metal del cliente.
Chapter 3 · Infrastructure
El mismo motor. Dos aterrizajes.
Cloud
Pool virtual entre 20+ proveedores. El marketing dice 30+ regiones. Training Available en cinco. NVIDIA + AMD. Azure MACC vía Microsoft Foundry.
Sovereign / Airgap
BYOC gestionado en GPU del cliente. Los metadatos aún pueden llegar al plano. Airgapped EKS: sin consola, sin desborde, sin metadatos de vuelta.
Chapter 4 · Training
Quién escribe el loop decide el SKU
Managed
La plataforma escribe SFT / DPO / ORPO. FAQ: solo LoRA. Precios aún listan full SFT.
Serverless API
El cliente escribe el loop. Solo LoRA. Tokens Prefill / Sample / Train.
Dedicated API
Pesos completos, MoE gigante. GPU-horas de Trainer + Sampler.
Rollouts only
Trainer del cliente. Hot-load de checkpoints en inferencia.
Chapter 4 · Resultados públicos · cifras de marketing
Alzas con nombre, no una auditoría
| Customer | Method | Published cut |
|---|---|---|
| Harvey Tenet | Kimi K3 + async RL | LAB all-pass 19.7% vs 10.8% |
| Vercel v0 | RFT + spec decode | 93% error-free; ~40× latency vs replaced closed model |
| Heidi Evidence | Nemotron 3 Ultra + RL | ~54% live A/B vs ~42% base |
| Factory | Two Qwen LoRAs | ~70% true leaks at 5% FP vs GPT-5.5 ~59% |
| Kalshi | Glimmer 30B SFT | 58.3% unseen vs base 53.2% |
Chapter 5 · Fireworks Lab
High ARPU. The SKU is researcher time.
Diagnosis
Capability, baseline, success criteria, scope. Can we win before more money.
Eval + recipe
Customer experts write the ruler. Base, method, serving economics.
6–10 weeks
Customer keeps model, harness, loop, recipes. GPUs still bill on public SKUs.
Chapter 6 · Ember-1 · company self-test
Unos 40% menos tokens, calidad cercana a K3
Dos A/B de coding en producción: unos −35% tokens por tarea. Los comps cerrados son internos.
Chapter 6 · Supply lanes
Tres carriles. Los pesos se quedan con el cliente.
Fireworks models
Ember-1 y especialistas propios. Research Preview, luego demanda de la comunidad.
Model library
Bases abiertas Day-0. DeepSeek, Kimi, GLM, MiniMax, Qwen, Step.
Your models
100% del cliente, licencia de la base. Live-merge LoRA. Multi-LoRA ~100 en un Dedicated.
Chapter 7 · Inference
Coche compartido, luego un minuto de SLA, luego la tarjeta entera
Serverless
Coche compartido de tokens. Sin cold start. Formas OpenAI / Anthropic. Spot y Batch viven aquí.
Reserved Throughput
Dólares por minuto, use-it-or-lose-it. Precios: throughput SLA + 99.9% uptime. Docs: solo throughput.
Dedicated / Reserve
Tarjetas enteras por segundo o por año. Pesos privados, Multi-LoRA, silicio nuevo.
Chapter 8 · Nexus
Un marketplace encuentra modelos. Un embudo llena motores.
OpenRouter
Marketplace B2D horizontal. Encontrar, comparar, failover. Sin flota. Fireworks es proveedor upstream.
Nexus
Conservar Claude Code / Cursor. Keys locales. Turnos rutinarios (~70%) a Fireworks. 8 / 10 $ es la cuña.
Chapter 9 · Three industrial gaps · company claims
Sesgo, idle y coste de contexto
Train–serve skew
Los expertos MoE divergen tras FP8/FP4. Router Replay. KLD declarado < 0.007, rechazo < 3%.
Async RL idle
70–85% del tiempo GPU es rollout. ~2% de pesos delta, hot-swap sub-minuto, escala 10k+ GPU.
Long-context cost
Session Affinity, hit KV declarado 99.6%. Nexus descarga turnos rutinarios de código. Factura −50–72%.
Chapter 9 · Monetization
Bin-pack, luego vender el spread, luego trabar los pesos
04 Software
Lab + Sovereign + Nexus Enterprise. COGS de GPU casi cero.
03 Stickiness
Evals, tuberías RFT, pesos NVFP4. Más difícil de cambiar que una API pública.
02 PaaS spread
H100 mayorista ~2–3 $/h. Vendido a 8 $/h tras el motor. Notas de origen, no un filing.
01 Fill the trough
Serverless + turnos abiertos de Nexus. 10.000+ clientes empaquetados en valles GPU.
Chapter 10 · Versus TSMC
IDM vendía la marca. La foundry vende el proceso.
| Semiconductor | Fireworks analog |
|---|---|
| Intel IDM | Lab frontier cerrado, API opaca |
| Fabless (Apple, NVIDIA) | Cursor, Harvey, Notion, Uber, Vercel |
| EUV tools | H200 / B200 / B300 + MI325X, como yield no alquiler |
| PDK + standard IP | Bases abiertas + FireOptimizer, Day-0 |
| Never compete with customers | Sin lab cerrado. Pesos 100% del cliente |
Chapter 10 · Versus vLLM / SGLang
El mismo problema de una caja. Luego empieza la fábrica.
| vLLM | SGLang | Fireworks | |
|---|---|---|---|
| Job | Serving abierto de alto throughput | Agentes, prefijo, JSON | Fábrica train-serve + RL online |
| Quant | Afinado por el usuario | Comprobado por el usuario | KLD gated < 0.007 |
| Cache | Prefijo de nodo | Árbol radix de nodo | Session Affinity de clúster |
| MoE + RL | Solo inferencia | Sampler detrás de veRL | Router Replay + hot-load delta 2% |