Rechenleistung
Die richtige Größe
Warum wir für die meisten Aufgaben das kleinste Modell nehmen, das sie sicher löst. Und woran wir das messen, statt es zu vermuten.
Braucht die Aufgabe überhaupt ein Sprachmodell?
Texte einsortieren zum Beispiel. Das kann auch ein klassisches Rechenverfahren, das es seit Jahrzehnten gibt.
0,8 Sekundengegen3 Stunden 48 MinutenSo lange müsste eine 9-Watt-LED-Lampe brennen, um denselben Strom zu verbrauchen. Für dieselbe Arbeit, denselben Stapel Texte.
Auf dieser Skala sind das zwei Pixel, und selbst die sind noch zu groß gezeichnet.
16.000mal mehr Strom für 0,05 Punkte mehr Treffergenauigkeit.
Gemessen für einen Durchlauf über denselben Testdatensatz. Quelle: Comparing energy consumption and accuracy in text classification inference, Scientific Reports, 2026. Die Lampenzeit ist daraus umgerechnet, bei 9 Watt.
Wenn ja, wie groß muss es sein?
Dasselbe Modell in klein und in groß, dieselbe Aufgabe.
7mal mehr Strom für 0,07 Punkte mehr Treffergenauigkeit.
Wir nehmen das kleinste Modell, das die Aufgabe sicher löst.
Sicher heißt: es macht keine Fehler, die niemandem auffallen. Das prüfen wir an Ihren eigenen Unterlagen, bevor etwas in Betrieb geht.
Wann wir doch ein großes nehmen
Damit das hier nicht nach Sparen klingt: es gibt Aufgaben, bei denen ein kleines Modell die falsche Wahl ist.
- Freier Text, der jedes Mal anders aussieht.
- Bilder, Zeichnungen und Fotos, besonders wenn Maße darauf stehen.
- Mehrere Sprachen in einem Dokument.
- Überall dort, wo ein kleines Modell Fehler machen würde, die niemand bemerkt.
Dann arbeiten wir mit den großen Anbietern, und wir sagen Ihnen, mit welchem.
Was das für Sie heißt
Ihre Daten
In Ihren Systemen
Der Assistent arbeitet in den Dateien und Programmen, die Sie heute nutzen. Alles Weitere läuft in einer eigenen, getrennten Instanz auf Servern in der EU, auf Wunsch auf einem Rechner in Ihrem Haus. Kein Training mit Ihren Daten.
Der Preis
Weniger Betrieb, weniger Kosten
Ein kleines Modell kostet im Betrieb einen Bruchteil. Das steht nicht in unserer Marge, sondern in Ihrem Angebot.
Der Verbrauch
Sparsam von Anfang an
Weniger Rechenleistung heißt weniger Strom, jeden Tag und bei jeder Anfrage. Das ist im Bau entschieden und nicht nachträglich ausgeglichen.
Unser Beitrag
Der sparsamste Strom ist der, der nicht gebraucht wird.
Jeder Assistent, den wir bauen, läuft auf dem kleinsten Modell, das seine Aufgabe sicher löst. Das senkt den Verbrauch dort, wo er entsteht: im Betrieb Ihres Assistenten, jeden Tag, bei jeder Anfrage. Nicht nachträglich, nicht anderswo.
- Im Angebot
- Welches Modell wir einsetzen und warum es reicht
- Im Betrieb
- Eigene, getrennte Instanz auf Servern in der EU
- Auf Wunsch
- Geschätzter Verbrauch je Projekt, zum Weitergeben
Wenn Ihr Auftraggeber fragt
Berichtspflichtig sind Sie als Mittelständler nicht, die Schwelle liegt bei tausend Mitarbeitern. Ihre großen Auftraggeber fragen trotzdem.
Für jedes Projekt liefern wir auf Wunsch eine Seite mit Modellgröße, Standort des Rechenzentrums und geschätztem Verbrauch.
Kein Gutachten, keine Beratung zur Berichtspflicht. Nur die Zahlen zu dem Teil, den wir für Sie betreiben, damit Sie sie weitergeben können.