Puissance de calcul
La bonne taille
Pourquoi, pour la plupart des tâches, nous prenons le plus petit modèle qui les résout de façon fiable. Et comment nous le mesurons au lieu de le supposer.
La tâche a-t-elle besoin d’un modèle de langage ?
Classer des textes, par exemple. Une méthode de calcul classique, qui existe depuis des décennies, en est tout aussi capable.
0,8 secondecontre3 heures 48 minutesC’est le temps qu’une lampe LED de 9 watts devrait rester allumée pour consommer autant. Pour le même travail, le même lot de textes.
À cette échelle, cela fait deux pixels, et ils sont encore trop larges.
16 000fois plus d’électricité pour 0,05 point de précision en plus.
Mesuré sur un passage du même jeu de test. Source : Comparing energy consumption and accuracy in text classification inference, Scientific Reports, 2026. Le temps de lampe en est déduit, à 9 watts.
Si oui, quelle taille faut-il ?
Le même modèle, en petit et en grand, la même tâche.
7fois plus d’électricité pour 0,07 point de précision en plus.
Nous prenons le plus petit modèle qui résout la tâche de façon fiable.
De façon fiable veut dire : il ne commet pas d’erreurs qui passent inaperçues. Nous le vérifions sur vos propres documents avant toute mise en service.
Quand nous prenons quand même un grand
Pour que cela ne passe pas pour une économie de bouts de chandelle : il y a des tâches où un petit modèle est le mauvais choix.
- Du texte libre, différent à chaque fois.
- Des images, des plans et des photos, surtout lorsqu’ils portent des cotes.
- Plusieurs langues dans un même document.
- Partout où un petit modèle ferait des erreurs que personne ne remarque.
Nous travaillons alors avec les grands fournisseurs, et nous vous disons lequel.
Ce que cela signifie pour vous
Vos données
Dans vos systèmes
L’assistant travaille dans les fichiers et les programmes que vous utilisez aujourd’hui. Tout le reste s’exécute dans une instance séparée, qui lui est propre, sur des serveurs situés dans l’UE, ou sur une machine installée dans vos locaux si vous le souhaitez. Aucun entraînement avec vos données.
Le prix
Moins de fonctionnement, moins de coûts
Un petit modèle coûte une fraction à faire tourner. Cela ne va pas dans notre marge, mais dans votre offre.
La consommation
Sobre dès le départ
Moins de puissance de calcul, c’est moins d’électricité, chaque jour et à chaque requête. Cela se décide à la construction, et non par compensation après coup.
Notre contribution
L’électricité la plus sobre est celle qu’on ne consomme pas.
Chaque assistant que nous construisons tourne sur le plus petit modèle qui résout sa tâche de façon fiable. Cela réduit la consommation là où elle naît : dans le fonctionnement de votre assistant, chaque jour, à chaque requête. Pas après coup, pas ailleurs.
- Dans l’offre
- Quel modèle nous utilisons et pourquoi il suffit
- En fonctionnement
- Une instance séparée, sur des serveurs situés dans l’UE
- Sur demande
- Consommation estimée par projet, à transmettre
Quand votre donneur d’ordre pose la question
En tant qu’entreprise de taille moyenne, vous n’êtes pas soumis à cette obligation de rapport : le seuil est de mille salariés. Vos grands donneurs d’ordre posent quand même la question.
Pour chaque projet, nous fournissons sur demande une page indiquant la taille du modèle, l’emplacement du centre de données et la consommation estimée.
Pas d’expertise, pas de conseil sur les obligations de rapport. Seulement les chiffres pour la partie que nous exploitons pour vous, afin que vous puissiez les transmettre.