ERNIE-Light-DT-1.0 : prix par vendeur, Baidu le moins cher (1,8325 $)

Ce que Baidu lance

ERNIE-Light-DT-1.0 est un modèle de Baidu, proposé pour l'instant par deux vendeurs : Baidu lui-même et NanoGPT. Sa date de sortie provient d'une fiche tierce et non de Baidu, elle est donc à prendre avec prudence.

L'usage visé par le modèle est surtout connu par ce qu'en dit le labo. Dans la description citée par le blog d'OrcaRouter, Baidu insiste sur la façon dont le modèle garde la trace de ce qui précède dans une session. Aucun test indépendant de nos sources n'a vérifié cette affirmation.

Ces promesses semblent viser les agents qui transportent un long historique d'une étape à l'autre. Pour ce type de charge, une grille tarifaire mérite une lecture ligne par ligne.

Où l'acheter moins cher ?

Deux vendeurs, un modèle, et un écart mesuré. Baidu est le vendeur désigné comme le moins cher, c'est-à-dire celui que notre site retient comme l'offre au plus bas prix pour ce modèle, à 1,8325 $ en prix mixte.

Baidu affiche 1,13 $ en Input et 3,94 $ en Output, tandis que NanoGPT demande 1,30 $ en Input et 4,50 $ en Output. En prix mixte, l'offre de NanoGPT ressort à 1,1 fois celle de Baidu, et les sources n'expliquent pas cet écart.

Pour un agent, la ligne la plus sollicitée est souvent la lecture de cache : de l'Input que le vendeur a déjà vu, facturé moins cher. Baidu la facture 0,113 $, et ce tarif façonne le coût de toute charge qui renvoie un long contexte.

Combien coûte une tâche d'agent ?

Un prix au token ne dit rien de la quantité de texte que le modèle écrit, et c'est d'elle que dépend la facture d'un agent. Prenons une étape type : 120 000 tokens de contexte relus depuis le cache, 30 000 tokens de demande nouvelle et une réponse de 15 000 tokens.

Chez Baidu, cette étape coûte 0,107 $, et une série de 1 000 étapes revient à 106,56 $. Chez NanoGPT, les mêmes 1 000 étapes coûtent 122,10 $.

La surprise tient à la répartition. La réponse est le plus petit des trois volumes de tokens, et pourtant l'Output pèse 55 % du coût chez les deux vendeurs. Le cache fait son office sur le long contexte : chez Baidu, ces 120 000 tokens sont facturés 0,113 $ par million au lieu de 1,13 $.

Deux leviers agissent donc sur la facture. Le premier est la longueur des réponses, qui en porte 55 % : plafonner les tokens d'Output dans le prompt ou la requête compte. Le second est le vendeur, qui fait passer 1 000 tâches de NanoGPT à 122,10 $ à Baidu à 106,56 $.

Quel contexte accepte ERNIE-Light-DT-1.0 ?

Jusqu'à 1 024 000 tokens, chez Baidu comme chez NanoGPT. Les deux vendeurs ouvrent la fenêtre complète : choisir l'un ou l'autre ne revient pas à sacrifier de la longueur de contexte, et un agent qui en a besoin l'obtient aux tarifs de chacun.

Combien coûte une lecture de cache sur ERNIE-Light-DT-1.0 ?

Baidu facture la lecture de cache 0,113 $, NanoGPT 0,13 $. Les deux tarifs restent sous le prix d'Input de chaque vendeur, mais seul l'Input déjà vu par le vendeur y a droit : gardez la partie longue du contexte identique d'une étape à l'autre et placez les éléments nouveaux après elle.

Sur InferIndex : Page du modèle ERNIE-Light-DT-1.0