Calculateur
Hy3 : auto-hébergement ou API ?
Auto-hébergement
Dérivé (une estimation)Estimation. L'API est moins chère sous 4 678 millions de tokens par jour. Au-dessus, l'auto-hébergement ne gagne que si la configuration est occupée au moins 90 % du temps, et seulement avec nos estimations hautes du débit ; avec notre estimation la plus basse, même une occupation permanente ne suffirait pas.
À 50 % d'utilisation · Offre d'API la moins chère : 0,115 $ / M tokens chez NanoGPT (mélange input:output de 3:1)
Location du matériel seulement : le prix horaire que le loueur publie pour la machine. Ne sont pas comptés l'ingénierie pour déployer et faire tourner le modèle, la supervision, la redondance, le temps de mise en route, ni le stockage et le réseau facturés à part.
- Seuil de rentabilité
- 4 678,43 M tokens / jour
- Débit nécessaire à l'auto-hébergement
- 108 297 tokens par seconde
- À 50 % d'utilisation
- Débit nécessaire à l'auto-hébergement
- 54 149 tokens par seconde
- Si occupée en permanence
Au moins ce nombre de tokens input et output par seconde, tous GPU confondus, pendant qu'ils servent.
Ce que montrent les chiffres publiés
- Utilisation d'équilibre : Prudent Jamais (au-dessus de 100 %) · Médian Jamais (au-dessus de 100 %) · Optimiste 89,5 %
- Chiffre publié utilisé (s'ouvre dans un nouvel onglet)
Configuration louée
8 × A100 SXM 80GB chez Lambda
535,68 $ par jour · 22,32 $ l'heure · Garantie · 640 Go de mémoire GPU · fp8
La configuration la moins chère dont les poids tiennent : 8 × RTX PRO 6000 96GB chez CoreWeave, 480,00 $ par jour
Vérifié le 31 oct. 2026 Page de prix du loueur (s'ouvre dans un nouvel onglet)
Détail du calcul, en anglais
Scénarios de débit
| Scénario | Tokens par seconde | Capacité utile (M tokens / jour) | Utilisation d'équilibre | Coût en auto-hébergement / M tokens | Face à l'offre d'API la moins chère |
|---|---|---|---|---|---|
| Prudent | 10 395,6 | 449,09 | Jamais (au-dessus de 100 %) | 1,19 $ | Plus cher |
| Médian | 25 989 | 1 122,73 | Jamais (au-dessus de 100 %) | 0,477 $ | Plus cher |
| Optimiste | 60 483,6 | 2 612,89 | 89,5 % | 0,205 $ | Plus cher |
La moins chère de 10 offres standard actuelles, hors promotions, prix instables, prix en heures creuses sans créneaux publiés et prix non vérifiés très inférieurs à ceux des autres fournisseurs Vérifié le 31 oct. 2026
Hypothèses
- same architecture type, scaled by memory bandwidth and active weights (x1.1)
- Selected over the cheapest configuration (RTX PRO 6000 96GB) because its throughput is derived (an estimate); it costs 11.6% more per hour, within our 25% price tolerance.
- Hardware rental only: the hourly price the provider publishes for the machine. It does not count the engineering to deploy and run the model, monitoring, redundancy, start-up time, or storage and network costs billed separately.
- Configuration: we pick the cheapest one whose weights fit. If a configuration costing up to 25% more has a measured throughput, we pick it instead; failing that, one with a derived throughput; failing that, one with a published lower bound that settles the verdict; among equals, the cheaper. A configuration whose throughput is only a wide estimate is never preferred over the cheapest. This is our rule, not a technical requirement.
- Quantization fp8; guaranteed tier prices as published by the provider; utilization 50%.
- Published figures are generally peak throughput measured at high concurrency; an interactive service with latency targets sustains less.
- Throughput is aggregate (input and output tokens, 3:1). Published figures in generated tokens are converted with a prefill/generation speed ratio of 3 (prudent), 5 (median) and 8 (optimistic). We treat a published output figure as if the GPUs only generated tokens, ignoring that the benchmark also read prompts: this understates the throughput of the whole configuration, which is the cautious side for self-hosting.
- Break-even = daily GPU cost / API price per million tokens (4,678 million tokens a day). Self-hosting is cheaper only if the average utilization you can sustain exceeds break-even / raw capacity (the break-even utilization of each scenario), whatever the number of GPUs.