Calculateur

GLM 4.7 : auto-hébergement ou API ?

Auto-hébergement

Aucun chiffre de débit

L'API est moins chère sous 912 millions de tokens par jour. Au-dessus, l'auto-hébergement ne gagne que si toute la configuration (tous GPU confondus) délivre au moins 21 120 tokens par seconde, input et output confondus, en servant à 50 % d'utilisation (10 560 si elle était occupée en permanence).

À 50 % d'utilisation · Offre d'API la moins chère : 0,526 $ / M tokens chez Zhipu AI (mélange input:output de 3:1)

Location du matériel seulement : le prix horaire que le loueur publie pour la machine. Ne sont pas comptés l'ingénierie pour déployer et faire tourner le modèle, la supervision, la redondance, le temps de mise en route, ni le stockage et le réseau facturés à part.

Mode de calcul

Seuil de rentabilité: 912,37 M tokens / jour
Débit nécessaire à l'auto-hébergement: 21 120 tokens par seconde; À 50 % d'utilisation
Débit nécessaire à l'auto-hébergement: 10 560 tokens par seconde; Si occupée en permanence

Au moins ce nombre de tokens input et output par seconde, tous GPU confondus, pendant qu'ils servent.

Ce que montrent les chiffres publiés

Aucun chiffre de débit pour ce modèle sur cette configuration.

Réglages

ModèleUn ID de la liste des modèles, par exemple celui d'une page modèle. Tokens par jourInput et output confondus. Facultatif : sans volume, vous obtenez quand même le seuil de rentabilité. Utilisation (%)Part du temps où les GPU servent des requêtes, de 1 à 100 ; 50 par défaut.

Plus de réglages

Part de la mémoire pour les poids (%)De 50 à 95 ; 70 par défaut : le reste est la réserve du moteur et le cache de contexte. Précision Formule de location Carte (ID)Laissez vide : nous choisissons la configuration. Nombre de GPU Votre débit mesuré (tokens par seconde)Input et output confondus, pour toute la configuration. Il remplace notre estimation.

Ou décrivez vos requêtes Requêtes par jour Tokens de prompt par requête Tokens output par requête

À la place des tokens par jour : les trois champs vont ensemble, et votre propre mélange input:output est utilisé.

Configuration louée

8 × RTX PRO 6000 96GB chez CoreWeave

480,00 $ par jour · 20,00 $ l'heure · Garantie · 768 Go de mémoire GPU · fp8

Vérifié le 31 oct. 2026 Page de prix du loueur (s'ouvre dans un nouvel onglet)

Détail du calcul, en anglais

La moins chère de 11 offres standard actuelles, hors promotions, prix instables, prix en heures creuses sans créneaux publiés et prix non vérifiés très inférieurs à ceux des autres fournisseurs Vérifié le 31 oct. 2026

Hypothèses

We have no measured, derived or estimated throughput for this model on this card, and we have not assessed inference-engine support for it.
Hardware rental only: the hourly price the provider publishes for the machine. It does not count the engineering to deploy and run the model, monitoring, redundancy, start-up time, or storage and network costs billed separately.
Configuration: we pick the cheapest one whose weights fit. If a configuration costing up to 25% more has a measured throughput, we pick it instead; failing that, one with a derived throughput; failing that, one with a published lower bound that settles the verdict; among equals, the cheaper. A configuration whose throughput is only a wide estimate is never preferred over the cheapest. This is our rule, not a technical requirement.
Quantization fp8; guaranteed tier prices as published by the provider; utilization 50%.
Throughput is aggregate (input and output tokens, 3:1). Published figures in generated tokens are converted with a prefill/generation speed ratio of 3 (prudent), 5 (median) and 8 (optimistic).
Break-even = daily GPU cost / API price per million tokens (912 million tokens a day). Self-hosting is cheaper only if the average utilization you can sustain exceeds break-even / raw capacity (the break-even utilization of each scenario), whatever the number of GPUs.

La même réponse en JSON