FALLBEISPIEL / KI-HARDWARE UND STROMKOSTEN
DGX Spark oder RTX 3090: Was kostet lokale KI?
Ein sparsamer KI-Rechner liefert nicht automatisch die günstigsten Tokens. In dieser Beispielrechnung entscheidet neben dem Stromverbrauch vor allem, wie viel nutzbaren Output die Hardware tatsächlich erzeugt. Bei günstigem Strom gewinnt der Durchsatz an Gewicht.
Solarbefund · KI-gestützte Redaktion · Aktualisiert
Zwei Systeme, ein nachvollziehbares Budget
Für den DGX Spark mit 128 GB einheitlichem Speicher und 4 TB SSD setzen wir 7.000 Euro an. Der am 7. Oktober abgerufene Preisvergleich führt Cyberport und Computeruniverse mit 6.999 Euro; günstigere Angebote stehen ebenfalls in der Übersicht. Die 7.000 Euro sind daher eine bewusst gewählte Händler- und Budgetbasis. Für einen PC mit zwei gebrauchten RTX 3090, 64 GB System-RAM und 8 TB SSD verwenden wir ebenfalls 7.000 Euro. Ein gebrauchtes 3090-Einzelangebot liegt bei 1.500 Euro. Hinzu kommen die zweite Karte, Prozessor, ein geeignetes Mainboard, Netzteil, Arbeitsspeicher, Speicherlaufwerk und Kühlung. Das ist ein vollständiges Rechnerbudget und kein Preis für zwei Grafikkarten allein. Die SSD-Ausstattung unterscheidet sich: 8 TB im PC stehen 4 TB im betrachteten Spark gegenüber.
Was in dieser Rechnung angenommen wird
Die Anschaffungskosten werden rechnerisch auf zehn Jahre mit 365 Tagen pro Jahr verteilt. Der Restwert beträgt null. Nur die angegebenen Stunden pro Tag zählen als tatsächliche Generierung; während dieser Zeit läuft das System ohne zusätzliche Wartezeit mit dem angesetzten Durchsatz. Außerhalb der Nutzung ist es ausgeschaltet. Für den Spark nehmen wir 60 Output-Tokens pro Sekunde und 150 Watt am Netzanschluss an. Für den PC sind es 140 Output-Tokens pro Sekunde und 600 Watt. Diese Werte sind Eingaben für die Kostenrechnung. Sie sind kein von unserer Redaktion gemessener Vergleich der beiden Geräte. Insbesondere sind Chip-TDP, Netzteil-Nennleistung und Stromaufnahme des vollständigen Rechners unterschiedliche Größen.
Warum ein Benchmark keine feste Tokens-pro-Sekunde-Zahl garantiert
Ein veröffentlichter Nutzerbericht zu Qwen3.8-27B auf zwei RTX 3090 nennt je nach MTP- oder DFlash2-Betrieb und Sampling unterschiedliche Ergebnisse. Die Karten arbeiten dort mit 275 Watt Leistungsgrenze, und der Rechner hat rund 64 GB System-RAM. Das stützt die Verwendung einer Größenordnung für eine Beispielrechnung, ersetzt aber keine Messung des geplanten Systems. Promptlänge, Ausgabelänge, Quantisierung, Inferenzsoftware und gleichzeitige Jobs verändern den Durchsatz. Für eine Kaufentscheidung sollte auf beiden Rechnern derselbe gewünschte Modell- und Präzisionsstand mit denselben repräsentativen Aufgaben laufen. Gemessen werden sollten die Zeit für die gesamte Aufgabe, ausgegebene Tokens und verbrauchte Kilowattstunden. Fehlgeschlagene oder unbrauchbare Antworten zählen nicht als produktiver Output.
So entstehen die Kosten pro Million Output-Tokens
Die Rechnung lautet: Kosten pro Million Output-Tokens = [(Kaufpreis ÷ Nutzungsjahre ÷ 365 ÷ aktive Stunden pro Tag) + (Watt ÷ 1.000 × Euro pro kWh)] × 1.000.000 ÷ (Tokens pro Sekunde × 3.600). Der erste Teil verteilt den Kaufpreis auf eine aktive Betriebsstunde. Der zweite Teil berechnet deren Stromkosten. Zusammen werden beide durch die erzeugten Output-Tokens geteilt. Als Probe: Eine Million Tokens benötigen bei 60 Tokens/s rund 4,63 Stunden und bei 140 Tokens/s rund 1,98 Stunden. Bei 5 ct/kWh entstehen dabei etwa 3,5 Cent reine Stromkosten für den Spark und 6,0 Cent für den PC. Erst die anteiligen Anschaffungskosten ergeben die Gesamtsumme.
35, 10 oder 5 Cent: Der Strompreis verändert das Ergebnis
Bei durchgehender Generierung an 24 Stunden täglich ergeben sich einschließlich Anschaffung diese Kosten je Million Output-Tokens: 35 ct/kWh: DGX Spark 0,61 Euro; zwei RTX 3090 0,58 Euro. 10 ct/kWh: DGX Spark 0,44 Euro; zwei RTX 3090 0,28 Euro. 5 ct/kWh: DGX Spark 0,40 Euro; zwei RTX 3090 0,22 Euro. Bei 35 ct/kWh liegen die Systeme unter diesen Annahmen relativ nahe zusammen. Bei 5 ct/kWh kostet der PC rund 46 Prozent weniger je Million Output-Tokens. Der Spark bleibt beim Strombedarf pro Token sparsamer; der höhere angenommene Durchsatz des PCs verteilt dessen Kaufpreis auf mehr erzeugte Tokens.
Die Auslastung ist ebenso wichtig wie der Tarif
Für 5 ct/kWh und dieselben zehn Jahre Nutzungsdauer ergeben sich diese Kosten je Million Output-Tokens: 24 Stunden tatsächliche Generierung pro Tag: DGX Spark 0,40 Euro; zwei RTX 3090 0,22 Euro. 8 Stunden tatsächliche Generierung pro Tag: DGX Spark 1,14 Euro; zwei RTX 3090 0,54 Euro. 2 Stunden tatsächliche Generierung pro Tag: DGX Spark 4,47 Euro; zwei RTX 3090 1,96 Euro. Wenige produktive Stunden verteuern die Anschaffung pro Token. Ein Rechner, der acht Stunden eingeschaltet ist, aber davon nur zwei Stunden Antworten erzeugt, gehört deshalb nicht in die Acht-Stunden-Zeile. Sein Leerlaufverbrauch müsste zusätzlich berücksichtigt werden. Sieben statt zehn Kalkulationsjahre erhöhen bei 24 Stunden täglich und 5 ct/kWh die Werte auf rund 0,56 Euro für den Spark und 0,29 Euro für den PC. Die längere Verteilung senkt den Anschaffungsanteil; der Stromanteil bleibt gleich.
128 GB im Spark sind ein anderer Speicher als PC-RAM
NVIDIA beschreibt den Spark-Speicher als einheitlichen, von CPU und GPU gemeinsam verwendbaren Speicher. Bei den RTX-Karten hat jede GPU ihren eigenen Grafikspeicher. Mehr System-RAM im PC vergrößert diesen Grafikspeicher nicht. Mehrere Karten können passende Modellteile über die Inferenzsoftware gemeinsam verarbeiten, stellen aber keinen automatisch einheitlichen Speicherpool bereit. Der Spark kann deshalb für Modelle oder Kontextgrößen interessant sein, die auf den vorgesehenen RTX-Aufbau nicht praktikabel passen. Der günstigere Preis pro Token eines kleineren Modells beantwortet diese Kapazitätsfrage nicht. Für den GPU-Betrieb eines passend quantisierten 27B-Modells sind 128 GB DDR5 im PC dagegen kein pauschales Muss; der konkrete Speicherbedarf hängt von Runtime, Kontext, Offloading und zusätzlichen Diensten ab.
5 Cent Eigenstrom müssen auch zu den Betriebsstunden passen
Die Strompreise von 5 und 10 ct/kWh sind hier Szenarien. Ob sie für den eigenen Betrieb erreichbar sind, muss aus den tatsächlichen Bezugskosten beziehungsweise einer vollständigen Eigenstromrechnung hervorgehen. Bei Solarstrom gehören Erzeugungskosten, eine entgangene Vergütung bei anderweitiger Einspeisung und gegebenenfalls Speicherverluste in die Entscheidung. Für einen Betrieb tagsüber mit Überschussstrom kann die Rechnung anders aussehen als für eine Maschine, die auch nachts mit Netzstrom oder Batteriespeicher arbeitet. Wer 24 Stunden täglich mit günstiger Energie kalkuliert, muss diesen Preis über diese gesamten Stunden erreichen. Sinnvoll ist ein gewichteter Strompreis aus den tatsächlich verbrauchten Kilowattstunden und den zugehörigen Kosten.
Welche Zahl vor dem Kauf wirklich zählt
Bei diesen Budget- und Durchsatzannahmen liefert der 3090-PC die günstigeren Output-Tokens. Der Spark bietet dafür eine andere Speicherkapazität und braucht erheblich weniger elektrische Leistung. Entscheidend sind das gewünschte Modell, die nötige Antwortqualität und die messbare Auslastung. Die Beispielrechnung umfasst Anschaffung und Betriebsstrom. Arbeitszeit für Einrichtung, Reparaturen, Hardwareausfälle, zusätzliche Raumkühlung und dauerhafter Leerlauf sind noch nicht eingerechnet. Zehn Jahre sind ein Kalkulationszeitraum; damit wird keine unveränderte Leistungsfähigkeit über zehn Jahre zugesagt. Input-Tokens müssen außerdem separat betrachtet werden: Die Verarbeitung eines Prompts und die schrittweise Erzeugung einer Antwort beanspruchen die Hardware unterschiedlich. Die Frage nach einer dritten Karte behandeln wir im Folgeartikel „Dritte RTX 3090: Wann lohnt sie sich bei 5 ct/kWh?“.
Quellen
HyperQwen, Messbericht eines Nutzers ↗ · abgerufen 2026-10-07
eBay, privates Verkäuferangebot ↗ · abgerufen 2026-10-07
NVIDIA ↗ · abgerufen 2026-10-07
vLLM ↗ · abgerufen 2026-10-07
Geizhals ↗ · abgerufen 2026-10-07
Solarbefund – offengelegte redaktionelle Beispielrechnung ↗ · abgerufen 2026-10-07
So prüfen wir Meldungen · Keine eigenen Produkttests.