InferIndex
Langue, Français, FR
Compte

Calculateur

Qwen3 235B A22B Instruct 2507 : auto-hébergement ou API ?

Auto-hébergement

Dérivé (une estimation)

Estimation. L'API est moins chère quel que soit le volume (0,078 $ le million de tokens pour un mélange input:output de 3:1, contre 0,227 $ à 1,32 $ le million de tokens en auto-hébergement à 50 % d'utilisation).

À 50 % d'utilisation · Offre d'API la moins chère : 0,078 $ / M tokens chez DeepInfra (mélange input:output de 3:1)

Location du matériel seulement : le prix horaire que le loueur publie pour la machine. Ne sont pas comptés l'ingénierie pour déployer et faire tourner le modèle, la supervision, la redondance, le temps de mise en route, ni le stockage et le réseau facturés à part.

Mode de calcul

Seuil de rentabilité
3 069,05 M tokens / jour

Ce que montrent les chiffres publiés

Réglages

Plus de réglages
Ou décrivez vos requêtes

À la place des tokens par jour : les trois champs vont ensemble, et votre propre mélange input:output est utilisé.

Configuration louée

8 × L40 48GB chez CoreWeave

240,00 $ par jour · 10,00 $ l'heure · Garantie · 384 Go de mémoire GPU · fp8

Vérifié le 31 oct. 2026 Page de prix du loueur (s'ouvre dans un nouvel onglet)

Détail du calcul, en anglais

Scénarios de débit

ScénarioTokens par secondeCapacité utile (M tokens / jour)Utilisation d'équilibreCoût en auto-hébergement / M tokensFace à l'offre d'API la moins chère
Prudent 4 204,8 181,65 Jamais (au-dessus de 100 %) 1,32 $ Plus cher
Médian 10 511,9 454,12 Jamais (au-dessus de 100 %) 0,529 $ Plus cher
Optimiste 24 464,2 1 056,85 Jamais (au-dessus de 100 %) 0,227 $ Plus cher

La moins chère de 9 offres standard actuelles, hors promotions, prix instables, prix en heures creuses sans créneaux publiés et prix non vérifiés très inférieurs à ceux des autres fournisseurs Vérifié le 31 oct. 2026

Hypothèses

  • same architecture type, scaled by memory bandwidth and active weights (x1.05)
  • Hardware rental only: the hourly price the provider publishes for the machine. It does not count the engineering to deploy and run the model, monitoring, redundancy, start-up time, or storage and network costs billed separately.
  • Configuration: we pick the cheapest one whose weights fit. If a configuration costing up to 25% more has a measured throughput, we pick it instead; failing that, one with a derived throughput; failing that, one with a published lower bound that settles the verdict; among equals, the cheaper. A configuration whose throughput is only a wide estimate is never preferred over the cheapest. This is our rule, not a technical requirement.
  • Quantization fp8; guaranteed tier prices as published by the provider; utilization 50%.
  • Published figures are generally peak throughput measured at high concurrency; an interactive service with latency targets sustains less.
  • Throughput is aggregate (input and output tokens, 3:1). Published figures in generated tokens are converted with a prefill/generation speed ratio of 3 (prudent), 5 (median) and 8 (optimistic). We treat a published output figure as if the GPUs only generated tokens, ignoring that the benchmark also read prompts: this understates the throughput of the whole configuration, which is the cautious side for self-hosting.
  • Break-even = daily GPU cost / API price per million tokens (3,069 million tokens a day). Self-hosting is cheaper only if the average utilization you can sustain exceeds break-even / raw capacity (the break-even utilization of each scenario), whatever the number of GPUs.

La même réponse en JSON