Leistungs- und Kostenrichtwerte
Was leistet welcher KI-Rechner?
Die folgende Übersicht ordnet jeder Ausstattung aus dem Konfigurator veröffentlichte Leistungswerte und eine indikative Kostenrechnung zu. Sie dient der Orientierung vor einem Angebot.
Stand:
Die Werte sind aus veröffentlichten Benchmarks Dritter und aus Herstellerdaten zusammengestellt. Sie sind Richtwerte, keine Leistungszusage. Die tatsächliche Leistung hängt von Modell, Quantisierung, Software und Arbeitslast ab. Mit „Näherung“ gekennzeichnete Werte stammen von ähnlicher, nicht identischer Hardware oder sind hochgerechnet.
Methodik und Annahmen
Die Tabellen nennen die Größen, an denen sich ein lokaler KI-Rechner im Alltag messen lässt.
Die Option RTX6000 bezeichnet die NVIDIA RTX PRO 6000 Blackwell mit 96 GB Grafikspeicher.
- Generierung (Decode)
- Wie schnell Text erzeugt wird, in Tokens pro Sekunde. Ein Token entspricht im Deutschen grob drei Vierteln eines Wortes. Die Stufen unten gelten je Nutzer.
Untere Grenze jeweils einschließlich. 20,0 Tokens pro Sekunde sind damit brauchbar, 50,0 Tokens pro Sekunde flüssig. Generierung je Nutzer Stufe Einordnung unter 10 tok/s zu langsam Nur für Batch- und Hintergrundaufgaben geeignet. 10–20 tok/s eingeschränkt Ausreichend für Chat und Textarbeit, für Coding-Agenten zäh. 20–35 tok/s brauchbar Nutzbar für Softwareentwicklung und Agenten. 35–50 tok/s komfortabel Angenehm für agentisches Coding. über 50 tok/s flüssig Vergleichbar mit Cloud-Diensten. - Prompt-Verarbeitung (Prefill)
- Wie schnell lange Eingaben, zum Beispiel Dokumente oder ein Chatverlauf, eingelesen werden. Davon hängt die Wartezeit bis zum ersten Token ab. Für Coding-Agenten mit großem Kontext ist die Prompt-Verarbeitung ebenso maßgeblich wie die Generierung. Als Richtwert gelten mindestens 500 Tokens pro Sekunde, idealerweise ab 1.000 Tokens pro Sekunde, bei realistischen Kontextlängen (zum Beispiel 32.000 Tokens) und mit Prefix-Caching. Darunter wartet jeder Schritt Sekunden bis Minuten auf das erste Token.
- Einzelnutzer und parallele Anfragen
- Die Stufen und die Spalte zur Generierung je Nutzer gelten für eine Anfrage. Teilen sich mehrere Personen einen Rechner, sinkt die Geschwindigkeit je Nutzer. Der Gesamtdurchsatz kann dabei steigen.
- Software
- vLLM und SGLang sind Server für viele parallele Nutzer. llama.cpp ist weit verbreitet und läuft auch auf AMD-Grafikkarten und auf der CPU. Die jeweilige Software steht in der Tabelle.
- Quantisierung
- Komprimierte Modellgewichte, zum Beispiel Q4_K_M mit etwa 4 bis 5 Bit, FP8 mit 8 Bit, NVFP4 oder MXFP4 mit 4 Bit. Weniger Bit bedeutet weniger Speicher und höheres Tempo, bei leicht sinkender Qualität.
- Speicherbedarf
- Faustformel: Parameterzahl mal Bit geteilt durch 8, plus Reserve für den Kontext (KV-Cache). Beispiel: 120 Milliarden Parameter in 4 Bit entsprechen etwa 60 GB.
G4 ohne GPU
G4 ohne GPU (32-Core EPYC, DDR4)
Reine CPU-Inferenz für Experimente. Die 8B-Klasse liegt in den vorliegenden Messungen in der Stufe brauchbar, also nutzbar für Softwareentwicklung und Agenten. Dichte Modelle ab der 30B-Klasse fallen unter 10 Tokens pro Sekunde je Nutzer und sind damit zu langsam für die interaktive Arbeit; sie eignen sich für Batch- und Hintergrundaufgaben. Mit 128 GB Arbeitsspeicher lassen sich auch große Modelle laden. Die theoretische Speicherbandbreite beträgt 204,8 GB/s (acht Kanäle DDR4-3200, Referenzbestückung 128 GB).
Mit 32 GB sind voraussichtlich nicht alle Speicherkanäle bestückt. Dann liegt auch die Generierungsgeschwindigkeit niedriger. Die konkrete Bestückung wird im Angebot geprüft.
- Gilt für
- G4, 32 GB / 128 GB, Keine GPU
- Speicher
- 32 oder 128 (System-RAM)
- Speicherbandbreite
- 204,8 GB/s Acht Kanäle DDR4-3200, theoretisch, Referenzbestückung 128 GB. Bei 32 GB sind voraussichtlich nicht alle Kanäle bestückt; die Bandbreite liegt dann niedriger.
Passende Modelle
| Modell | Quantisierung | Speicher | Einordnung |
|---|---|---|---|
| Ministral 3 8B / Llama 3.1 8B / Qwen3-8B | Q4_K_M (~5 GB) | 32 GB: ja | Stufe brauchbar |
| gpt-oss-20b | MXFP4 (~12 GB) | 32 GB: ja | MoE (3,6B aktiv) – auf CPU deutlich schneller als dichte Modelle gleicher Größe; kein CPU-Benchmark gefunden |
| Llama 3.3 70B | Q4_K_M (~40 GB) | nur 128 GB | ~3 tok/s, Stufe zu langsam |
| gpt-oss-120b | MXFP4 (~61 GB) | nur 128 GB | passt in RAM; kein passender CPU-Benchmark gefunden (Lücke) |
Veröffentlichte Leistungswerte
| Modell | Quantisierung | Software | Generierung tok/s, 1 Nutzer | Getestet auf | Hinweis | Quelle |
|---|---|---|---|---|---|---|
| Llama 3.1 8B Instruct | Q4_K_M | llama.cpp (CPU, BLAS) | 22,7 brauchbar. Nutzbar für Softwareentwicklung und Agenten. | 2x EPYC 7282 (2x16 Kerne, 2x8 Kanäle DDR4-3200, ~130 GB/s gemessen) | Näherung Andere CPU: zwei 16-Kern-Rome-CPUs statt einer 32-Kern-CPU; ähnliche Kernzahl und DDR4-3200, Bandbreite eher niedriger als ein voll bestückter 32-Kern-EPYC | ahelpme.com – llama.cpp CPU-Benchmarks 2x AMD EPYC 7282 (2x16 Kerne, 2x8 DDR4-3200) 01.04.2025 |
| QwQ-32B (≈ Qwen3-32B-Klasse) | Q4_K_M | llama.cpp (CPU, BLAS) | 5,8 zu langsam. Nur für Batch- und Hintergrundaufgaben geeignet. | 2x EPYC 7282 | Näherung wie oben | ahelpme.com – llama.cpp CPU-Benchmarks 2x AMD EPYC 7282 (2x16 Kerne, 2x8 DDR4-3200) 01.04.2025 |
| Llama 3.3 70B Instruct | Q4_K_M | llama.cpp (CPU, BLAS) | 2,9 zu langsam. Nur für Batch- und Hintergrundaufgaben geeignet. | 2x EPYC 7282 | Näherung wie oben; erfordert 128 GB RAM | ahelpme.com – llama.cpp CPU-Benchmarks 2x AMD EPYC 7282 (2x16 Kerne, 2x8 DDR4-3200) 01.04.2025 |
Leistungsaufnahme
325 W Näherung
Schätzung: CPU-TDP 225 W (Beispiel EPYC 7543) plus rund 100 W für die Plattform (Arbeitsspeicher, Board, SSD, Lüfter). Keine gemessene Systemleistungsaufnahme.
Kosten je 1 Million Tokens
Referenz: Llama 3.1 8B Instruct Q4_K_M. Hardware: 14.200 € netto. Unverbindlicher Richtpreis aus dem Konfigurator, ohne Zusatzspeicher.
Für die CPU liegt kein Batch-Benchmark vor. Für alle Szenarien wird der Einzelstrom-Wert verwendet. Das ist eine Obergrenze der Kosten.
| Szenario | Euro je 1 Mio. Tokens |
|---|---|
| Einzelplatz 8 Stunden × 220 Arbeitstage, 30 % der Zeit generierend, eine Anfrage 22,7 tok/s | 67,01 € (110,89 €) |
| Team 8 Stunden × 220 Arbeitstage, 50 % Auslastung, 4–8 parallele Anfragen. Hauptszenario. 22,7 tok/s | 40,68 € (67,01 €)* |
| Team, hochparallel 8 Stunden × 220 Arbeitstage, 50 % Auslastung, Batch ab 32 Anfragen 22,7 tok/s | 40,68 € (67,01 €)* |
| 24/7-Batch 24 Stunden × 365 Tage, 90 % Auslastung, Batch ab 32 Anfragen 22,7 tok/s | 5,60 € (8,54 €)* |
* Für diese Parallelitätsstufe liegt kein Messwert vor. Gerechnet wurde mit dem nächstniedrigeren gemessenen Durchsatz. Die tatsächlichen Kosten liegen dann eher darunter.
0,30 €/kWh netto (Gewerbe). Euro je 1 Million erzeugter Tokens, netto. Abschreibung über 5 Jahre, in Klammern über 3 Jahre. Annahmen und Rechenweg
Vergleich mit API-Preisen
Je 1 Million Output-Tokens zuzüglich 3 Millionen Input-Tokens, also ein typisches Verhältnis von 3:1. Listenpreise, umgerechnet mit dem EZB-Referenzkurs. Der lokale Rechner verarbeitet den Prompt in dieser Rechnung ohne zusätzlichen Tokenpreis.
| API-Modell | Input / Output, USD je 1 Mio. | Euro je 1 Mio. Output inkl. 3 Mio. Input | Quelle |
|---|---|---|---|
| Ministral 3 8B (Mistral API) | 0,15 / 0,15 | 0,54 € | Mistral Docs – API pricing |
| OpenAI gpt-6-luna | 0,10 / 0,50 | 0,72 € | OpenAI – API Pricing (Standard, Short context) |
| Anthropic Claude Haiku 5.5 | 0,10 / 0,50 | 0,72 € | Anthropic – Claude Pricing |
G5 ohne GPU
G5 ohne GPU (32-Core EPYC Genoa, DDR5)
Deutlich höhere Speicherbandbreite als G4: theoretisch 460,8 GB/s bei zwölf Kanälen DDR5-4800 (Referenzbestückung 192 GB). Für die Textgenerierung ist die Bandbreite der entscheidende Faktor. Der Vorteil der G5-Plattform kommt mit 192 GB Arbeitsspeicher zum Tragen. Die 8B-Klasse liegt in den vorliegenden Messungen in der Stufe komfortabel, dichte Modelle der 30B-Klasse in der Stufe eingeschränkt. Größere dichte Modelle sind zu langsam.
Mit 32 GB kann nur ein Teil der zwölf Speicherkanäle bestückt sein. Die Bandbreite und damit die Generierungsgeschwindigkeit liegen dann deutlich niedriger. Die konkrete Bestückung wird im Angebot geprüft.
MoE-Modelle wie gpt-oss-120b, Mistral Small 4 oder Qwen3.5-122B-A10B passen mit 192 GB in den Arbeitsspeicher. Für eine 32-Kern-Genoa-Plattform liegt dazu kein belastbarer Messwert vor.
- Gilt für
- G5, 32 GB / 192 GB, Keine GPU
- Speicher
- 32 oder 192 (System-RAM)
- Speicherbandbreite
- 460,8 GB/s Zwölf Kanäle DDR5-4800, theoretisch, Referenzbestückung 192 GB. Mit 32 GB können nicht alle Kanäle bestückt sein; die Bandbreite liegt dann deutlich niedriger.
Passende Modelle
| Modell | Quantisierung | Speicher | Einordnung |
|---|---|---|---|
| 8B-Klasse (Ministral 3 8B, Qwen3-8B) | Q4_K_M (~5 GB) | 32 GB: ja | Stufe komfortabel |
| Qwen3.6-27B / Gemma 4 31B | Q4_K_M (~17–19 GB) | 32 GB: knapp; 192 GB: ja | dicht, Stufe eingeschränkt (~10–14 tok/s, Proxy QwQ-32B) |
| Llama 3.3 70B | Q4_K_M (~40 GB) | nur 192 GB | ~7 tok/s (Proxy), Stufe zu langsam |
| gpt-oss-120b / Mistral Small 4 119B / Qwen3.5-122B-A10B | MXFP4 / Q4 (~61–70 GB) | nur 192 GB | MoE-Modelle passen; kein verlässlicher Single-Socket-CPU-Benchmark gefunden (Lücke) |
Veröffentlichte Leistungswerte
| Modell | Quantisierung | Software | Generierung tok/s, 1 Nutzer | Getestet auf | Hinweis | Quelle |
|---|---|---|---|---|---|---|
| Llama 3.1 8B Instruct | Q4_K_M | llama.cpp (CPU, BLAS) | 49,6 komfortabel. Angenehm für agentisches Coding. | EPYC 9554 (64 Kerne, 12x DDR5-5600) | Näherung Doppelte Kernzahl und schnellerer RAM als die 32-Kern-G5-Plattform; Decode ist bandbreitenlimitiert, daher eher Obergrenze. Nur mit 192 GB (12 Kanäle) erreichbar. | ahelpme.com – llama.cpp CPU-Benchmarks AMD EPYC 9554 (64 Kerne, 12x DDR5-5600) 25.03.2025 |
| QwQ-32B (≈ Qwen3-32B-Klasse) | Q4_K_M | llama.cpp (CPU, BLAS) | 14 eingeschränkt. Ausreichend für Chat und Textarbeit, für Coding-Agenten zäh. | EPYC 9554 | Näherung wie oben | ahelpme.com – llama.cpp CPU-Benchmarks AMD EPYC 9554 (64 Kerne, 12x DDR5-5600) 25.03.2025 |
| Llama 3.3 70B Instruct | Q4_K_M | llama.cpp (CPU, BLAS) | 7,1 zu langsam. Nur für Batch- und Hintergrundaufgaben geeignet. | EPYC 9554 | Näherung wie oben; erfordert 192 GB | ahelpme.com – llama.cpp CPU-Benchmarks AMD EPYC 9554 (64 Kerne, 12x DDR5-5600) 25.03.2025 |
Leistungsaufnahme
380 W Näherung
Schätzung: CPU-TDP 280 W (Beispiel EPYC 9354) plus rund 100 W für die Plattform. Keine gemessene Systemleistungsaufnahme.
Kosten je 1 Million Tokens
Referenz: Llama 3.1 8B Instruct Q4_K_M. Hardware: 20.700 € netto. Unverbindlicher Richtpreis aus dem Konfigurator, ohne Zusatzspeicher.
Für die CPU liegt kein Batch-Benchmark vor. Für alle Szenarien wird der Einzelstrom-Wert verwendet. Die Vergleichs-CPU hat 64 statt 32 Kerne; der Wert ist eher eine Obergrenze der Geschwindigkeit und damit eine Untergrenze der Kosten.
| Szenario | Euro je 1 Mio. Tokens |
|---|---|
| Einzelplatz 8 Stunden × 220 Arbeitstage, 30 % der Zeit generierend, eine Anfrage 49,6 tok/s | 44,55 € (73,82 €) |
| Team 8 Stunden × 220 Arbeitstage, 50 % Auslastung, 4–8 parallele Anfragen. Hauptszenario. 49,6 tok/s | 26,99 € (44,55 €)* |
| Team, hochparallel 8 Stunden × 220 Arbeitstage, 50 % Auslastung, Batch ab 32 Anfragen 49,6 tok/s | 26,99 € (44,55 €)* |
| 24/7-Batch 24 Stunden × 365 Tage, 90 % Auslastung, Batch ab 32 Anfragen 49,6 tok/s | 3,58 € (5,54 €)* |
* Für diese Parallelitätsstufe liegt kein Messwert vor. Gerechnet wurde mit dem nächstniedrigeren gemessenen Durchsatz. Die tatsächlichen Kosten liegen dann eher darunter.
0,30 €/kWh netto (Gewerbe). Euro je 1 Million erzeugter Tokens, netto. Abschreibung über 5 Jahre, in Klammern über 3 Jahre. Annahmen und Rechenweg
Vergleich mit API-Preisen
Je 1 Million Output-Tokens zuzüglich 3 Millionen Input-Tokens, also ein typisches Verhältnis von 3:1. Listenpreise, umgerechnet mit dem EZB-Referenzkurs. Der lokale Rechner verarbeitet den Prompt in dieser Rechnung ohne zusätzlichen Tokenpreis.
| API-Modell | Input / Output, USD je 1 Mio. | Euro je 1 Mio. Output inkl. 3 Mio. Input | Quelle |
|---|---|---|---|
| Ministral 3 8B (Mistral API) | 0,15 / 0,15 | 0,54 € | Mistral Docs – API pricing |
| OpenAI gpt-6-luna | 0,10 / 0,50 | 0,72 € | OpenAI – API Pricing (Standard, Short context) |
| Anthropic Claude Haiku 5.5 | 0,10 / 0,50 | 0,72 € | Anthropic – Claude Pricing |
4× AMD RX 9070 XT
4× AMD Radeon RX 9070 XT (4× 16 GB = 64 GB VRAM)
Vier Grafikkarten mit je 16 GB, 640 GB/s je Karte und 304 W Board Power laut AMD. Kleinere Modelle laufen auf einer Karte mit hoher Geschwindigkeit. Mehrere Instanzen oder Nutzergruppen lassen sich auf die vier Karten verteilen. Größere Modelle werden auf zwei bis vier Karten aufgeteilt.
Die RDNA4-Unterstützung in vLLM war 2026 noch nicht ausgereift. Stabil läuft vor allem llama.cpp (ROCm oder Vulkan). Für den Mehrnutzerbetrieb mit vLLM liegen bislang Community-Builds vor.
Llama 3.3 70B in Q4 (rund 40 GB) passt rechnerisch auf drei bis vier Karten; dazu liegt kein Messwert vor. gpt-oss-120b (rund 61 GB) passt nur sehr knapp und lässt kaum Platz für den Kontext. Mistral Small 4 (119B) und Qwen3.5-122B passen nicht vollständig in den Grafikspeicher.
- Gilt für
- G4 oder G5, 32 GB / 128 GB / 192 GB, 4× AMD 9070XT
- Speicher
- 64 GB , 16 GB je GPU
- Speicherbandbreite
- 640 GB/s je GPU; 4× = 2.560 GB/s aggregiert, aber nur bei Tensor-Parallelismus nutzbar
- Leistungsaufnahme
- 304W
Passende Modelle
| Modell | Quantisierung | Speicher | Einordnung |
|---|---|---|---|
| gpt-oss-20b | MXFP4 (~12 GB) | 1 GPU | bis zu 4 parallele Instanzen möglich |
| Ministral 3 8B/14B, Qwen3-8B/14B | Q4_K_M–Q8_0 | 1 GPU | – |
| Qwen3.6-35B-A3B | Q4–Q6 bzw. AWQ-INT4 (~19–28 GB) | 2 GPUs | gutes Preis-Leistungs-Modell für Teams |
| Gemma 4 26B-A4B / 31B, Qwen3.6-27B / Qwen3.8-27B, Mistral Small 3.2 24B | Q4–Q6 | 2 GPUs | – |
| Llama 3.3 70B | Q4_K_M (~40 GB) | 3–4 GPUs | passt rechnerisch, kein Benchmark für 4× 9070 XT gefunden (Lücke) |
| gpt-oss-120b | MXFP4 (~61 GB) | 4 GPUs, sehr knapp | kaum Platz für KV-Cache – nicht empfohlen |
| Mistral Small 4 119B, Qwen3.5-122B | Q4 (~67–70 GB) | passt nicht vollständig | nur mit CPU-Offload |
Veröffentlichte Leistungswerte
| Modell | Quantisierung | Software | Kontext | Generierung tok/s, 1 Nutzer | Durchsatz parallel | Prefill tok/s | Getestet auf | Hinweis | Quelle |
|---|---|---|---|---|---|---|---|---|---|
| gpt-oss-20b | MXFP4 | llama.cpp ROCm 7.2 | kurz (llama-bench) | 148,5 flüssig. Vergleichbar mit Cloud-Diensten. | – | 5.529,9 | 1× RX 9070 XT | Vulkan: 180,8 tok/s Decode / 4.952 tok/s Prefill; bei 131k Kontext ROCm 70,5 tok/s | GitHub kr4ckhe4d/local-llm-benchmarks – llama.cpp auf RX 9070 XT / R9700 (ROCm 7.2) 06.10.2026 |
| Qwen3-8B | Q4_K_M | llama.cpp HIP | pp512/tg (llama-bench) | 98,8 flüssig. Vergleichbar mit Cloud-Diensten. | – | 4.245 | 1× RX 9070 XT | llama.cpp Issue #26663 – RX 9070 XT, HIP vs. Vulkan (Qwen3 Q4_K_M) 07.08.2026 | |
| Qwen3-14B (≈ Ministral 3 14B-Klasse) | Q4_K_M | llama.cpp HIP | pp512 (llama-bench) | 54,3 flüssig. Vergleichbar mit Cloud-Diensten. | – | 1.104 | 1× RX 9070 XT | Näherung Für Ministral 3 14B kein direkter Wert; Qwen3-14B gleicher Größe als Näherung | llama.cpp Issue #26663 – RX 9070 XT, HIP vs. Vulkan (Qwen3 Q4_K_M) 07.08.2026 |
| Qwen3.6-35B-A3B | AWQ-INT4 | vLLM (Community-Build, TP=2) | – | – | 957 (32 Anfragen) | – | RX 9070 XT + RX 9070 (TP=2) | Näherung Offline-Batch (32 Prompts × 128 Tokens) auf 2 GPUs, eine davon 9070 non-XT; nicht offizielles vLLM; gestreamte Parallel-Last lief laut README in OOM. Mit 4 GPUs wären 2 Instanzen denkbar (nicht gemessen). | GitHub patcarter883/rdna4-vllm – vLLM TP=2 auf RDNA4 (9070 XT + 9070) 08.10.2026 |
| Qwen3.6-35B-A3B | UD-Q6_K | llama.cpp ROCm | leer; Prefill 3.170 tok/s bei 128k Tiefe | 72 flüssig. Vergleichbar mit Cloud-Diensten. | – | – | RX 9070 XT + Radeon AI PRO R9700 (16 + 32 GB) | Näherung Zwei-GPU-System mit gleicher RDNA4-Architektur, aber einer 32-GB-Karte | GitHub kr4ckhe4d/local-llm-benchmarks – llama.cpp auf RX 9070 XT / R9700 (ROCm 7.2) 06.10.2026 |
| Gemma 4 26B-A4B | Q4 + MTP | llama.cpp ROCm | leer; 53 tok/s bei 128k gefülltem Kontext | 143 flüssig. Vergleichbar mit Cloud-Diensten. | – | – | RX 9070 XT + Radeon AI PRO R9700 | Näherung wie oben; mit spekulativem Decoding (MTP) | GitHub kr4ckhe4d/local-llm-benchmarks – llama.cpp auf RX 9070 XT / R9700 (ROCm 7.2) 06.10.2026 |
| Qwen3.8-27B (dicht) | Q4_K_M (UD) | llama.cpp ROCm 7.2 (Fork) | ~8,4k Prompt | 24,7 brauchbar. Nutzbar für Softwareentwicklung und Agenten. | – | 2.061 | 2× RX 9070 XT (Layer-Split, Windows) | mit MTP-Spekulation 36,7 tok/s; unter Linux/ROCm 10 MXFP4 29,4 tok/s | GitHub MrLordCat/llama.cpp-rdna-lab – 2x RX 9070 XT, Qwen3.8-27B 26.09.2026 |
Leistungsaufnahme
1.541 W Näherung
Obergrenze, geschätzt: 4 × 304 W Board Power (AMD) plus 225 W CPU-TDP plus rund 100 W Plattform. Bei aufgeteilten Modellen arbeiten die Karten nacheinander; die tatsächliche Leistungsaufnahme liegt darunter. Keine gemessene Systemleistungsaufnahme.
Kosten je 1 Million Tokens
Referenz: Qwen3.6-35B-A3B (AWQ-INT4 Batch / Q6_K Einzelstrom). Hardware: 18.100 € netto. Unverbindlicher Richtpreis aus dem Konfigurator, ohne Zusatzspeicher.
Für moderate Parallelität (4–8 Anfragen) liegt kein Messwert vor. Das Team-Szenario rechnet deshalb mit dem Einzelstrom von 72 tok/s; die Kosten sind damit eher eine Obergrenze. 957 tok/s stammen aus einem Offline-Batch mit 32 Prompts auf nur zwei der vier Karten (Community-Build, Näherung).
| Szenario | Euro je 1 Mio. Tokens |
|---|---|
| Einzelplatz 8 Stunden × 220 Arbeitstage, 30 % der Zeit generierend, eine Anfrage 72 tok/s | 28,23 € (45,87 €) |
| Team 8 Stunden × 220 Arbeitstage, 50 % Auslastung, 4–8 parallele Anfragen. Hauptszenario. 72 tok/s | 17,65 € (28,23 €)* |
| Team, hochparallel 8 Stunden × 220 Arbeitstage, 50 % Auslastung, Batch ab 32 Anfragen 957 tok/s | 1,33 € (2,12 €) |
| 24/7-Batch 24 Stunden × 365 Tage, 90 % Auslastung, Batch ab 32 Anfragen 957 tok/s | 0,27 € (0,36 €) |
* Für diese Parallelitätsstufe liegt kein Messwert vor. Gerechnet wurde mit dem nächstniedrigeren gemessenen Durchsatz. Die tatsächlichen Kosten liegen dann eher darunter.
0,30 €/kWh netto (Gewerbe). Euro je 1 Million erzeugter Tokens, netto. Abschreibung über 5 Jahre, in Klammern über 3 Jahre. Annahmen und Rechenweg
Vergleich mit API-Preisen
Je 1 Million Output-Tokens zuzüglich 3 Millionen Input-Tokens, also ein typisches Verhältnis von 3:1. Listenpreise, umgerechnet mit dem EZB-Referenzkurs. Der lokale Rechner verarbeitet den Prompt in dieser Rechnung ohne zusätzlichen Tokenpreis.
| API-Modell | Input / Output, USD je 1 Mio. | Euro je 1 Mio. Output inkl. 3 Mio. Input | Quelle |
|---|---|---|---|
| Qwen3.6-35B-A3B (OpenRouter) | 0,15 / 1,00 | 1,30 € | OpenRouter – Models API (Listenpreise gehosteter Open-Weight-Modelle) |
| Mistral Small 4 (Mistral API) | 0,15 / 0,60 | 0,94 € | Mistral Docs – API pricing |
| OpenAI gpt-6-luna | 0,10 / 0,50 | 0,72 € | OpenAI – API Pricing (Standard, Short context) |
1× RTX PRO 6000
1× NVIDIA RTX PRO 6000 Blackwell (96 GB)
Eine NVIDIA RTX PRO 6000 Blackwell mit 96 GB Grafikspeicher und 1.792 GB/s. Die maximale Leistungsaufnahme beträgt 600 W (Workstation Edition) bzw. 300 W (Max-Q). Für diese Karte liegen unabhängige Labormessungen mit vLLM vor, einschließlich paralleler Anfragen.
Die Bezeichnung RTX6000 im Konfigurator meint die NVIDIA RTX PRO 6000 Blackwell mit 96 GB. Die Werte dieses Profils gelten für diese Karte. Die ältere RTX 6000 Ada (48 GB) ist nicht Gegenstand der Angaben.
Bei 96 GB Grafikspeicher sind mindestens 128 GB Arbeitsspeicher empfehlenswert. Für den Mehrnutzerbetrieb sind MoE-Modelle mit wenigen aktiven Parametern im Vorteil.
Llama 3.3 70B passt in FP8 knapp und in Q4 problemlos; ein aktueller Messwert ist in dieser Zusammenstellung nicht enthalten.
- Gilt für
- G4 oder G5, 32 GB / 128 GB / 192 GB, 1× NVIDIA RTX6000
- Speicher
- 96 GB
- Speicherbandbreite
- 1.792 GB/s
- Leistungsaufnahme
- 600 (Workstation Edition) bzw. 300 (Max-Q)
RTX6000 im Konfigurator bezeichnet die NVIDIA RTX PRO 6000 Blackwell (96 GB). Die Leistungsangaben gelten für diese Karte. Zwischen Workstation Edition (bis 600 W) und Max-Q (bis 300 W) wird im Angebot unterschieden.
Passende Modelle
| Modell | Quantisierung | Speicher | Einordnung |
|---|---|---|---|
| gpt-oss-120b | MXFP4 (~61 GB) | ja | Referenzmodell, gut belegt |
| Mistral Small 4 (119B, 6,5B aktiv) | NVFP4 | ja | europäisches Modell, gemessen |
| Nemotron 3 Super 120B-A12B | NVFP4 | ja | – |
| Qwen3.6-35B-A3B / Qwen3.6-27B | FP8 | ja | viele parallele Nutzer möglich |
| Gemma 4 26B-A4B / 31B | FP8 / NVFP4 | ja | – |
| Llama 3.3 70B | FP8 (~70 GB) / Q4 | ja (FP8 knapp) | kein aktueller Benchmark ausgewertet |
| Qwen3.5-122B-A10B | FP8 (~122 GB) | nein (nur in Q4/NVFP4) | → 2× RTX |
Veröffentlichte Leistungswerte
| Modell | Quantisierung | Software | Kontext | Generierung tok/s, 1 Nutzer | Durchsatz parallel | Parallel bei 32k Kontext | Prefill tok/s | Bis zum ersten Token | GPU-Spitze | Getestet auf | Hinweis | Quelle |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| gpt-oss-120b | MXFP4 | vLLM | 1k (Einzel: 79,7 tok/s bei 128k) | 181,1 flüssig. Vergleichbar mit Cloud-Diensten. | 361 (4 Anfragen) | 139,5 | – | 63 ms | 530 W | 1× RTX Pro 6000 Blackwell | Millstone AI – gpt-oss-120b MXFP4 auf 1x RTX Pro 6000 Blackwell (vLLM) 30.01.2026 | |
| gpt-oss-120b | MXFP4 | vLLM | 4k max-model-len 8k | 172,1 flüssig. Vergleichbar mit Cloud-Diensten. | 1.088,2 (32 Anfragen) | – | – | – | – | 1× RTX Pro 6000 Blackwell | Batch 8: 618,7 tok/s | GitHub kishan5111/gptoss-benchmark – gpt-oss-120b vLLM, H100 vs RTX Pro 6000 (Community) 08.10.2026 |
| gpt-oss-120b | MXFP4 | llama.cpp (CUDA) | 4k (131k: 113,7 tok/s Decode, 1.177 tok/s Prefill) | 210,7 flüssig. Vergleichbar mit Cloud-Diensten. | – | – | 6.495 | – | – | 1× RTX Pro 6000 Blackwell Workstation Edition | Hardware Corner – llama.cpp-Update: GPT-OSS 120B auf RTX Pro 6000 Blackwell 08.10.2026 | |
| Mistral Small 4 119B (2603) | NVFP4 | SGLang | 1k (Einzel: 64,2 tok/s bei 256k) | 131,3 flüssig. Vergleichbar mit Cloud-Diensten. | 261,7 (5 Anfragen) | 148,6 | – | 477 ms | – | 1× RTX Pro 6000 Blackwell | Millstone AI – Mistral-Small-4-119B-2603 NVFP4 auf 1x RTX Pro 6000 Blackwell (SGLang) 17.03.2026 | |
| Qwen3.6-35B-A3B | FP8 | vLLM | 1k | 196,4 flüssig. Vergleichbar mit Cloud-Diensten. | 449 (5 Anfragen) | 253,8 | – | 55 ms | 532 W | 1× RTX Pro 6000 Blackwell | Millstone AI – Qwen3.6-35B-A3B FP8 auf 1x RTX Pro 6000 Blackwell (vLLM) 25.05.2026 | |
| Qwen3.6-27B (dicht) | FP8 | vLLM | 1k | 46,1 komfortabel. Angenehm für agentisches Coding. | 189,3 (5 Anfragen) | 92,5 | – | 170 ms | 521 W | 1× RTX Pro 6000 Blackwell | Millstone AI – Qwen3.6-27B FP8 auf 1x RTX Pro 6000 Blackwell (vLLM) 27.05.2026 | |
| Gemma 4 26B-A4B | FP8 | vLLM | 1k | 139 flüssig. Vergleichbar mit Cloud-Diensten. | 674,2 (10 Anfragen) | 334,4 | – | 81 ms | 469 W | 1× RTX Pro 6000 Blackwell | Millstone AI – Gemma-4-26B-A4B FP8 auf 1x RTX Pro 6000 Blackwell (vLLM) 14.04.2026 | |
| Gemma 4 31B (dicht) | NVFP4 | vLLM | 1k | 40,7 komfortabel. Angenehm für agentisches Coding. | 126 (4 Anfragen) | 68,1 | – | 113 ms | 517 W | 1× RTX Pro 6000 Blackwell | Millstone AI – Gemma-4-31B NVFP4 auf 1x RTX Pro 6000 Blackwell (vLLM) 02.04.2026 | |
| Nemotron 3 Super 120B-A12B | NVFP4 | vLLM | 1k | 69,9 flüssig. Vergleichbar mit Cloud-Diensten. | 178,3 (5 Anfragen) | 108,7 | – | 126 ms | 531 W | 1× RTX Pro 6000 Blackwell | Millstone AI – Nemotron-3-Super-120B-A12B NVFP4 auf 1x RTX Pro 6000 Blackwell (vLLM) 11.03.2026 |
Leistungsaufnahme
912 W Näherung
GPU-Spitze 532 W gemessen (Millstone, Qwen3.6-35B-A3B). System einschließlich CPU und Plattform geschätzt mit zusätzlich 280 W CPU-TDP (Beispiel G5) und rund 100 W Plattform, als Obergrenze.
Kosten je 1 Million Tokens
Referenz: gpt-oss-120b MXFP4 (vLLM). Hardware: Preis auf Anfrage. Indikativ. Die Tokenkosten beruhen auf einem geschätzten Systempreis und sind keine Angebotsangabe. Im Konfigurator gilt für diese Ausstattung Preis auf Anfrage.
moderat: 361 tok/s = Millstone, 4 parallele Anfragen, 1k Kontext; hoch: 1.088 tok/s bei Batch 32 (Community-Messung kishan5111)
| Szenario | Euro je 1 Mio. Tokens |
|---|---|
| Einzelplatz 8 Stunden × 220 Arbeitstage, 30 % der Zeit generierend, eine Anfrage 181,1 tok/s | 19,76 € (32,66 €) |
| Team 8 Stunden × 220 Arbeitstage, 50 % Auslastung, 4–8 parallele Anfragen. Hauptszenario. 361 tok/s | 6,03 € (9,92 €) |
| Team, hochparallel 8 Stunden × 220 Arbeitstage, 50 % Auslastung, Batch ab 32 Anfragen 1.088,2 tok/s | 2,00 € (3,29 €) |
| 24/7-Batch 24 Stunden × 365 Tage, 90 % Auslastung, Batch ab 32 Anfragen 1.088,2 tok/s | 0,29 € (0,43 €) |
0,30 €/kWh netto (Gewerbe). Euro je 1 Million erzeugter Tokens, netto. Abschreibung über 5 Jahre, in Klammern über 3 Jahre. Annahmen und Rechenweg
Vergleich mit API-Preisen
Je 1 Million Output-Tokens zuzüglich 3 Millionen Input-Tokens, also ein typisches Verhältnis von 3:1. Listenpreise, umgerechnet mit dem EZB-Referenzkurs. Der lokale Rechner verarbeitet den Prompt in dieser Rechnung ohne zusätzlichen Tokenpreis.
| API-Modell | Input / Output, USD je 1 Mio. | Euro je 1 Mio. Output inkl. 3 Mio. Input | Quelle |
|---|---|---|---|
| gpt-oss-120b (OpenRouter) | 0,037 / 0,17 | 0,25 € | OpenRouter – Models API (Listenpreise gehosteter Open-Weight-Modelle) |
| Mistral Small 4 (Mistral API) | 0,15 / 0,60 | 0,94 € | Mistral Docs – API pricing |
| OpenAI gpt-6-luna | 0,10 / 0,50 | 0,72 € | OpenAI – API Pricing (Standard, Short context) |
| Anthropic Claude Haiku 5.5 | 0,10 / 0,50 | 0,72 € | Anthropic – Claude Pricing |
2× RTX PRO 6000
2× NVIDIA RTX PRO 6000 Blackwell (192 GB)
192 GB Grafikspeicher für Modelle der Klasse 120 bis 300 Milliarden Parameter in 8 oder 4 Bit, oder für zwei unabhängige Instanzen eines Modells der 120B-Klasse.
Es gilt dieselbe Kartenzuordnung wie bei einer RTX PRO 6000 Blackwell. Die Leistungsangaben beziehen sich auf zwei dieser Karten.
Zusätzlich ausgewiesen, ohne eigene Tabellenzeile: Step-3.7-Flash (198B, NVFP4) mit 218 tok/s Spitzendurchsatz in der Millstone-Übersicht.
- Gilt für
- G4 oder G5, 32 GB / 128 GB / 192 GB, 2× NVIDIA RTX6000
- Speicher
- 192 GB
- Speicherbandbreite
- 1.792 GB/s je GPU
- Leistungsaufnahme
- 600 (Workstation Edition) bzw. 300 (Max-Q)
Zwei NVIDIA RTX PRO 6000 Blackwell mit zusammen 192 GB. Die Zuordnung entspricht der Einzelkarte.
Passende Modelle
| Modell | Quantisierung | Speicher | Einordnung |
|---|---|---|---|
| Qwen3.5-122B-A10B | FP8 | ja | gemessen |
| DeepSeek-V4-Flash (284B, 13B aktiv) | FP4+FP8 | ja | gemessen, bis 1M Kontext |
| Step-3.7-Flash (198B) | NVFP4 | ja | Spitzendurchsatz 218 tok/s (Millstone-Übersicht) |
| gpt-oss-120b ×2 / Mistral Small 4 ×2 | MXFP4 / NVFP4 | je GPU eine Instanz | Durchsatz ≈ 2× Einzel-GPU (Hochrechnung, nicht gemessen) |
| Llama 3.3 70B | FP8/BF16 | ja | kein aktueller Benchmark ausgewertet |
Veröffentlichte Leistungswerte
| Modell | Quantisierung | Software | Kontext | Generierung tok/s, 1 Nutzer | Durchsatz parallel | Parallel bei 32k Kontext | Bis zum ersten Token | GPU-Spitze | Getestet auf | Hinweis | Quelle |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Qwen3.5-122B-A10B | FP8 | vLLM (TP=2) | 1k (Einzel: 81,7 tok/s bei 256k) | 106 flüssig. Vergleichbar mit Cloud-Diensten. | 236,8 (5 Anfragen) | 148,8 | 102 ms | 984 W | 2× RTX Pro 6000 Blackwell | Millstone AI – Qwen3.5-122B-A10B FP8 auf 2x RTX Pro 6000 Blackwell (vLLM) 01.03.2026 | |
| DeepSeek-V4-Flash | FP4+FP8 | vLLM (TP=2) | 1k (Einzel: 96,3 tok/s bei 1M) | 106,1 flüssig. Vergleichbar mit Cloud-Diensten. | 367,8 (8 Anfragen) | 170 | 1.700 ms | 865 W | 2× RTX Pro 6000 Blackwell | Millstone AI – DeepSeek-V4-Flash FP4+FP8 auf 2x RTX Pro 6000 Blackwell (vLLM) 28.07.2026 | |
| gpt-oss-120b (2 Instanzen) | MXFP4 | vLLM | – | 181,1 flüssig. Vergleichbar mit Cloud-Diensten. | 722 (8 Anfragen) | – | – | – | 1× RTX Pro 6000 Blackwell (×2 hochgerechnet) | Näherung Hochrechnung: 2 unabhängige Instanzen à 361 tok/s; nicht gemessen | Millstone AI – gpt-oss-120b MXFP4 auf 1x RTX Pro 6000 Blackwell (vLLM) 30.01.2026 |
Leistungsaufnahme
1.364 W Näherung
GPU-Spitze 984 W gemessen (Millstone, zwei GPUs, Qwen3.5-122B). System einschließlich CPU und Plattform geschätzt mit zusätzlich 280 W CPU-TDP (Beispiel G5) und rund 100 W Plattform, als Obergrenze.
Kosten je 1 Million Tokens
Referenz: Qwen3.5-122B-A10B FP8 (vLLM, TP=2). Hardware: Preis auf Anfrage. Indikativ. Die Tokenkosten beruhen auf einem geschätzten Systempreis und sind keine Angebotsangabe. Im Konfigurator gilt für diese Ausstattung Preis auf Anfrage.
moderat: Millstone, 5 parallele Anfragen, 1k Kontext; kein Wert für Batch ≥ 32 → hohe Parallelität mit 236,8 tok/s gerechnet (Untergrenze)
| Szenario | Euro je 1 Mio. Tokens |
|---|---|
| Einzelplatz 8 Stunden × 220 Arbeitstage, 30 % der Zeit generierend, eine Anfrage 106 tok/s | 46,63 € (77,00 €) |
| Team 8 Stunden × 220 Arbeitstage, 50 % Auslastung, 4–8 parallele Anfragen. Hauptszenario. 236,8 tok/s | 12,72 € (20,87 €) |
| Team, hochparallel 8 Stunden × 220 Arbeitstage, 50 % Auslastung, Batch ab 32 Anfragen 236,8 tok/s | 12,72 € (20,87 €)* |
| 24/7-Batch 24 Stunden × 365 Tage, 90 % Auslastung, Batch ab 32 Anfragen 236,8 tok/s | 1,85 € (2,76 €)* |
* Für diese Parallelitätsstufe liegt kein Messwert vor. Gerechnet wurde mit dem nächstniedrigeren gemessenen Durchsatz. Die tatsächlichen Kosten liegen dann eher darunter.
0,30 €/kWh netto (Gewerbe). Euro je 1 Million erzeugter Tokens, netto. Abschreibung über 5 Jahre, in Klammern über 3 Jahre. Annahmen und Rechenweg
Vergleich mit API-Preisen
Je 1 Million Output-Tokens zuzüglich 3 Millionen Input-Tokens, also ein typisches Verhältnis von 3:1. Listenpreise, umgerechnet mit dem EZB-Referenzkurs. Der lokale Rechner verarbeitet den Prompt in dieser Rechnung ohne zusätzlichen Tokenpreis.
| API-Modell | Input / Output, USD je 1 Mio. | Euro je 1 Mio. Output inkl. 3 Mio. Input | Quelle |
|---|---|---|---|
| Qwen3.5-122B-A10B (OpenRouter) | 0,26 / 2,08 | 2,56 € | OpenRouter – Models API (Listenpreise gehosteter Open-Weight-Modelle) |
| Mistral Medium 3.5 (Mistral API) | 1,50 / 7,50 | 10,74 € | Mistral Docs – API pricing |
| OpenAI gpt-6.1-sol | 2,00 / 10,00 | 14,32 € | OpenAI – API Pricing (Standard, Short context) |
| Anthropic Claude Sonnet 5.5 | 2,00 / 10,00 | 14,32 € | Anthropic – Claude Pricing |
Kosten je 1 Million Tokens
Ein eigener Rechner hat hohe Anschaffungskosten und danach vor allem Stromkosten. Was ein Token kostet, hängt deshalb vor allem davon ab, wie stark der Rechner ausgelastet ist.
Gezählt werden nur erzeugte Tokens. Die Verarbeitung des Prompts ist im lokalen Betrieb in diesen Richtwerten ohne Aufschlag enthalten. Leerlaufstrom, Kühlung, Wartung, Zinsen und Personal sind nicht enthalten. Die Abschreibung ist linear.
Rechenweg
- Aktive Stunden je Jahr = Betriebsstunden je Jahr × Auslastung
- Tokens je Jahr = Tokens pro Sekunde × 3.600 × aktive Stunden
- Stromkosten je Jahr = Systemleistung in kW × aktive Stunden × Strompreis
- Hardware je Jahr = Netto-Hardwarepreis ÷ Abschreibungsdauer (3 bzw. 5 Jahre)
- Euro je 1 Million Tokens = (Hardware je Jahr + Stromkosten je Jahr) ÷ (Tokens je Jahr ÷ 1.000.000)
Euro je 1 Million Tokens = (Nettopreis ÷ Jahre + kW × aktive Stunden × Strompreis) ÷ (Tokens pro Sekunde × 3.600 × aktive Stunden ÷ 1.000.000). Aktive Stunden = Betriebsstunden × Auslastung.
- Hauptannahme für Gewerbestrom, netto. Grundlage ist eine Marktbeobachtung von 27,15 ct/kWh netto bei 10.000 kWh im Jahr (Februar 2026), aufgerundet. Zum Vergleich nennt die BDEW-Strompreisanalyse für August 2026 17,2 ct/kWh in der Industrie und 37,0 ct/kWh für Haushalte. MySmartEnergy – Gewerbestrom 2026 (Marktbeobachtung 27,15 ct/kWh netto bei 10.000 kWh, Feb. 2026), BDEW-Strompreisanalyse August 2026 (Industrie 17,2 ct/kWh; Haushalte 37,0 ct/kWh)
- Linear, ohne Zinsen, Wartung, Restwert, Personal, Raumkühlung und Leerlaufstrom.
- EZB-Referenzkurs vom 07.10.2026. 1 € = 1,1177 USD. EZB-Referenzkurs EUR/USD
Vergleich der Referenzausstattungen
Je Profil ist eine Referenzausstattung ohne Zusatzspeicher gerechnet. Der Zusatzspeicher verändert die Inferenzleistung nicht; er verändert den Anschaffungspreis und damit die Tokenkosten leicht. Die ausgewiesenen Werte sind Richtwerte für die genannte Referenz.
| Referenz | Modell | Hardware | Einzelplatz | Team | Team, hochparallel | 24/7-Batch |
|---|---|---|---|---|---|---|
| G4 ohne GPU | Llama 3.1 8B Instruct Q4_K_M | 14.200 € netto | 67,01 € (110,89 €) | 40,68 € (67,01 €)* | 40,68 € (67,01 €)* | 5,60 € (8,54 €)* |
| G5 ohne GPU | Llama 3.1 8B Instruct Q4_K_M | 20.700 € netto | 44,55 € (73,82 €) | 26,99 € (44,55 €)* | 26,99 € (44,55 €)* | 3,58 € (5,54 €)* |
| 4× AMD RX 9070 XT | Qwen3.6-35B-A3B (AWQ-INT4 Batch / Q6_K Einzelstrom) | 18.100 € netto | 28,23 € (45,87 €) | 17,65 € (28,23 €)* | 1,33 € (2,12 €) | 0,27 € (0,36 €) |
| 1× RTX PRO 6000 | gpt-oss-120b MXFP4 (vLLM) | Preis auf Anfrage Näherung | 19,76 € (32,66 €) | 6,03 € (9,92 €) | 2,00 € (3,29 €) | 0,29 € (0,43 €) |
| 2× RTX PRO 6000 | Qwen3.5-122B-A10B FP8 (vLLM, TP=2) | Preis auf Anfrage Näherung | 46,63 € (77,00 €) | 12,72 € (20,87 €) | 12,72 € (20,87 €)* | 1,85 € (2,76 €)* |
* Für diese Parallelitätsstufe liegt kein Messwert vor. Gerechnet wurde mit dem nächstniedrigeren gemessenen Durchsatz. Die tatsächlichen Kosten liegen dann eher darunter.
Indikativ. Die Tokenkosten beruhen auf einem geschätzten Systempreis und sind keine Angebotsangabe. Im Konfigurator gilt für NVIDIA-Ausstattungen Preis auf Anfrage.
Einfluss des Strompreises
Im Team-Szenario bei fünf Jahren Abschreibung verändert der Strompreis das Ergebnis nur wenig. Ausschlaggebend sind Anschaffungspreis und Auslastung.
| Referenz | 17,2 ct/kWh, Industrie (BDEW) | 30 ct/kWh, Gewerbe (Hauptannahme) | 37 ct/kWh, Haushalte (BDEW) |
|---|---|---|---|
| G4 ohne GPU | 40,18 € | 40,68 € | 40,96 € |
| G5 ohne GPU | 26,71 € | 26,99 € | 27,13 € |
| 4× AMD RX 9070 XT | 16,89 € | 17,65 € | 18,07 € |
| 1× RTX PRO 6000 | 5,94 € | 6,03 € | 6,08 € |
| 2× RTX PRO 6000 | 12,51 € | 12,72 € | 12,83 € |
Einordnung gegenüber API-Preisen
Nach dem reinen Tokenpreis sind gehostete Open-Weight-Modelle 2026 sehr günstig. Ein eigener Rechner erreicht diese Preisregion bei hoher, dauerhafter Auslastung, etwa bei vielen Nutzern oder bei Batch-Verarbeitung rund um die Uhr. Der häufigere Grund für einen eigenen Rechner ist ein anderer: Datenhoheit, planbare Fixkosten, keine Ratenlimits, Unabhängigkeit von Anbietern und die Möglichkeit zum Fine-Tuning auf eigenen Daten. Gegenüber Premium-APIs der Sonnet- und gpt-6.1-Klasse liegt der eigene Rechner im Team-Szenario bereits niedriger, sofern ein offenes Modell für die Aufgabe ausreicht.
Deutsche und europäische Modelle
Mistral (Frankreich)
Mistral Small 4 ist auf der RTX PRO 6000 gemessen: 131 Tokens pro Sekunde für eine Anfrage, 262 Tokens pro Sekunde bei parallelen Anfragen. Für Ministral 3 8B und 14B liegen auf dieser Hardware keine direkten Werte vor. Gleich große Modelle (Qwen3-8B und Qwen3-14B) dienen als Näherung. Millstone AI – Mistral-Small-4-119B-2603 NVFP4 auf 1x RTX Pro 6000 Blackwell (SGLang)
Soofi S (deutsches Konsortium)
30B-A3B, Deutsch und Englisch. Stand Oktober 2026 nur als geschlossene Beta-Vorschau. Hardware-Benchmarks auf den hier angebotenen Systemen liegen nicht vor. Das Modell nutzt die Nemotron-3-Nano-Architektur (30B, rund 3B aktiv) und dürfte sich ähnlich wie andere MoE-Modelle dieser Klasse verhalten. Das ist eine Einordnung, kein Messwert. Hugging Face – Soofi-Project/Soofi-S-Base (Closed Beta)
Teuken
Aktuelle Inferenz-Benchmarks auf der hier angebotenen Hardware liegen nicht vor.
Hybrid: tagsüber nutzen, in der Nebenzeit vermieten
Dieses Szenario ergänzt die Nutzung im Team. Der Rechner steht an Werktagen für die eigene Arbeit zur Verfügung (8 Stunden × 220 Arbeitstage). In der übrigen Zeit, also nachts, an Wochenenden und an Feiertagen, wird freie Grafikkarten-Kapazität zur Vermietung angesetzt, um einen Teil der Hardwarekosten zu verrechnen.
Die Beträge sind Richtwerte aus veröffentlichten Marktplatz- und Preisdaten, keine Ertragszusage. Die Auslastung der Nebenzeit, also der Anteil, in dem tatsächlich jemand mietet, ist der größte Unsicherheitsfaktor. Sie hängt von Region, Preis, Zuverlässigkeit, Netzanbindung und dem übrigen Angebot ab.
Für NVIDIA-Ausstattungen gilt im Konfigurator Preis auf Anfrage. Die Tokenkosten und die Anteile an der Abschreibung in diesem Abschnitt sind indikativ und beruhen auf einem geschätzten Systempreis. Sie sind keine Angebotsangabe.
Ausstattungen ohne Grafikkarte sind auf den betrachteten Marktplätzen praktisch nicht nachgefragt. Für sie ist keine Zusatzeinnahme modelliert.
Host-Programme
Die Übersicht fasst veröffentlichte Programme zusammen, über die Betreiber Rechenleistung anbieten können. Sie ist eine sachliche Einordnung, keine Empfehlung und keine Vermittlung.
| Programm | Sitz | Eignung für ein einzelnes System | Hardware | Anteil des Programms | Nur Nebenzeiten | Einordnung |
|---|---|---|---|---|---|---|
| Primcast Marketplace | Firma USA (NY) + Büro Bukarest; Renter-Filter „EU and adequate countries“; Hosts weltweit | hoch | NVIDIA/AMD/Intel Single-Box | 0 % | ja (Listing pausierbar) | Outbound TCP 2222, CGNAT ok, KYC, Monatszahlung Bank. Isolation per KVM-Passthrough. |
| Vast.ai | US-Plattform; Hosts weltweit inkl. EU | mittel | nur NVIDIA | 0 % | nein (dedizierte Maschine; Eigennutzung bricht Verification) | 500 Mbps symmetrisch, Public IPv4, Ubuntu Server. Host-Fee laut Juni-2024-Update 0 % (FAQ teils noch 25 % – Agreement prüfen). |
| Salad / SaladCloud | US | mittel-niedrig | NVIDIA + ausgewählte AMD | nicht ausgewiesen | teilweise (Idle-Netzwerk verdient mit) | Verdienst = Durchschnitt inkl. Wartezeit. AMD-Karten verdienen deutlich weniger als NVIDIA. |
| Nosana | Niederlande (EU) | mittel | NVIDIA (Kampagne 4090/5090) | nicht ausgewiesen | nein (85 % Tages-Uptime für Incentive) | DePIN, Auszahlung in NOS; idle capacity ok, aber Uptime-Anforderung hoch. |
| Golem Network GPU Provider | Polen/EU-nah | niedrig-mittel | NVIDIA RTX 30xx+ | nicht ausgewiesen | nein (Maschine während Betrieb dediziert) | Live-USB-Provider-OS; Nachfrage und USD-Äquivalent schwankend (GLM). |
| OpenRouter Provider Program | US | sehr niedrig (Single-Box) | eigener Inference-Endpoint | nicht ausgewiesen | nein (95 %+ Uptime für normales Routing) | Backlog; Priorität für proprietäre Modelle; OpenAI-API, /models, Invoicing, Privacy-Policy Pflicht. Nacht-only fällt unter 80 % → nur Fallback. |
| OpenCode Zen | US-gehostete Modelle laut Zen-Docs | kein Host-Programm | — | nicht ausgewiesen | n/a | Kuratierter Pay-per-use-Gateway für Endnutzer. Kein Marktplatz zum Vermieten eigener Hardware. |
| Runpod Community Cloud | US; Secure Cloud in EU-Regionen möglich | geschlossen | NVIDIA | nicht ausgewiesen | n/a | Community Cloud für neue Hosts geschlossen; Secure Cloud nur Data-Center-Partner. |
| TensorDock | US (Delaware) | niedrig | NVIDIA (AMD laut Docs teils) | 25 % | nein (SLA-Strafen bei Downtime) | 25 % Fee, Mindestauszahlung 250 $, Strafzahlungen bei Reboots/Downtime. |
| Akash Network | dezentral / global | niedrig | nur NVIDIA | nicht ausgewiesen | nein | Kubernetes-Cluster, Domain, Public IP; für Single-Box-KMU aufwendig. |
| io.net | US/DePIN | niedrig | NVIDIA Consumer möglich | nicht ausgewiesen | teilweise | Staking; Consumer-Geräte nur kleiner Block-Reward-Anteil; Verdienst stark tokenabhängig. |
| Chutes (Bittensor SN64) | DePIN global | sehr niedrig | Datacenter-NVIDIA | nicht ausgewiesen | nein | Bare-metal, static IP, K8s; shared Marketplace-GPUs ungeeignet. |
| Hivenet | Frankreich (EU) | unklar | NVIDIA (eigene Cloud) | nicht ausgewiesen | unklar | EU-Anbieter mit Compute-Angebot; öffentliches Single-Box-Host-Programm nicht dokumentiert. |
Datenschutz, Haftung und Gewerbe
- Fremde Workloads auf dem Firmenrechner: Isolation (VM/Passthrough) und Netzwerk-Trennung zwingend; sonst Zugriffs-/Haftungsrisiko.
- Personenbezogene Daten Dritter (Prompt-/Trainingsdaten der Mieter) → Auftragsverarbeitung, AV-Vertrag, TOMs; bei US-Plattformen Drittlandtransfer (SCC/Angemessenheit) prüfen.
- Eigene Unternehmensdaten dürfen während der Vermietung nicht auf demselben System erreichbar sein (getrennte Volumes, kein Host-Login für Mieter).
- Gewerbe: Einnahmen sind steuerpflichtig (USt ggf. Kleinunternehmerregelung § 19 UStG; ESt als Einkünfte aus Gewerbebetrieb). Gewerbeanmeldung prüfen.
- Haftung: Missbrauch durch Mieter, etwa für Angriffe oder unerlaubte Inhalte. Die Bedingungen des Programms und die eigene Absicherung, zum Beispiel Firewall und Monitoring, sind zu beachten.
Auslastung der Nebenzeit
Eigene Nutzung: 1.760 Stunden je Jahr. Nebenzeit: 7.000 Stunden je Jahr.
Always-on verified RTX PRO 6000 WS auf Vast.ai ~87,5 % Occupancy (Hashrate.no, 08.10.2026). Nacht-/Wochenend-only und parallele Eigennutzung verhindern typischerweise Verification und Premium-Routing. Die Auslastung der Nebenzeit ist deshalb bewusst niedriger angesetzt: 15, 30 und 50 Prozent.
| Szenario | Anteil der Nebenzeit | Stunden je Jahr |
|---|---|---|
| Pessimistisch | 15 % | 1.050 |
| Realistisch | 30 % | 2.100 |
| Optimistisch | 50 % | 3.500 |
Hashrate.no – Vast.ai RTX PRO 6000 Workstation (Occupancy & Host-Raten), Hashrate.no – Vast.ai Verification Stats (Gesamt-Occupancy), Aura Digital – Vast.ai GPU Server Earnings (Nutzung unbekannt, 3 Szenarien)
Vermietung der Grafikkarten
Hauptweg der Modellrechnung: die Karte wird in der Nebenzeit stundenweise vermietet. Strompreis und Wechselkurs entsprechen dem Kostenabschnitt. Die Systemleistung ist dieselbe Obergrenze wie im jeweiligen Profil.
Rechenweg der Netto-Zusatzeinnahme. Netto je Jahr = (Stundensatz in US-Dollar × Anzahl Grafikkarten × vermietete Stunden ÷ Wechselkurs) − (Systemleistung in kW × vermietete Stunden × Strompreis).
4× AMD RX 9070 XT
Proxy: Salad-Cloud-Renterpreis RX 9070 XT 0,07–0,196 $/h (ComputePrices 08.10.2026); Host-Netto inkl. Idle niedriger. Kein Vast.ai-AMD-Markt. Dünner Markt, die Werte sind spekulativ. Näherung
ComputePrices – Salad Cloud RX 9070 XT Mietpreise, ComputePrices – Salad Cloud RX 7800 XT, Salad – GPU earning rates (Durchschnitt inkl. Idle)
| Szenario | Netto je Jahr | Anteil der Abschreibung, 5 Jahre | Anteil der Abschreibung, 3 Jahre | Euro je 1 Mio. Tokens nach Verrechnung, 5 Jahre | Team ohne Verrechnung, 5 Jahre |
|---|---|---|---|---|---|
| Pessimistisch | -372,68 € | -10,3 % | -6,2 % | 19,29 € | 17,65 € |
| Realistisch | -595,06 € | -16,4 % | -9,9 % | 20,26 € | 17,65 € |
| Optimistisch | -741,25 € | -20,5 % | -12,3 % | 20,90 € | 17,65 € |
1× RTX PRO 6000
Vast.ai-Host-P50 RTX PRO 6000 WS ~1,05 $/h verified / ~0,90 unverified (Hashrate.no 08.10.2026); Floor ~1,30 $ (GPU Economy). Teilzeit-Abschlag. Näherung
Hashrate.no – Vast.ai RTX PRO 6000 Workstation (Occupancy & Host-Raten), GPU Economy – Vast.ai Preise (Marktplatz-Floor je GPU), Vast.ai – How Much Money Can You Earn Renting Out Your GPU (Mai 2026)
| Szenario | Netto je Jahr | Anteil der Abschreibung, 5 Jahre | Anteil der Abschreibung, 3 Jahre | Euro je 1 Mio. Tokens nach Verrechnung, 5 Jahre | Team ohne Verrechnung, 5 Jahre |
|---|---|---|---|---|---|
| Pessimistisch | 464,26 € | 7 % | 4,2 % | 5,63 € | 6,03 € |
| Realistisch | 1.304,30 € | 19,6 % | 11,8 % | 4,89 € | 6,03 € |
| Optimistisch | 2.800,12 € | 42 % | 25,2 % | 3,59 € | 6,03 € |
2× RTX PRO 6000
Gleicher Stundensatz je Grafikkarte wie bei einer RTX PRO 6000, hier für zwei Karten. Näherung
Hashrate.no – Vast.ai RTX PRO 6000 Workstation (Occupancy & Host-Raten), GPU Economy – Vast.ai Preise (Marktplatz-Floor je GPU)
| Szenario | Netto je Jahr | Anteil der Abschreibung, 5 Jahre | Anteil der Abschreibung, 3 Jahre | Euro je 1 Mio. Tokens nach Verrechnung, 5 Jahre | Team ohne Verrechnung, 5 Jahre |
|---|---|---|---|---|---|
| Pessimistisch | 1.073,43 € | 11,7 % | 7 % | 11,28 € | 12,72 € |
| Realistisch | 2.898,40 € | 31,6 % | 18,9 % | 8,85 € | 12,72 € |
| Optimistisch | 6.083,23 € | 66,3 % | 39,8 % | 4,61 € | 12,72 € |
Verkauf von Tokens
Ergänzende, illustrative Rechnung: In der Nebenzeit werden Tokens über einen Anbieter verkauft, unter dem veröffentlichten Endkundenpreis und nur während der Hälfte der vermieteten Stunden tatsächlich generierend. Das ist nicht das Hauptszenario.
4× AMD RX 9070 XT. Illustrativ; AMD-Inference-Provider-Markt praktisch kaum vorhanden.
1× RTX PRO 6000. Illustrativ unter Retail-Floor 0,03/0,17 (OpenRouter CoreWeave, 08.10.2026). Stromkosten allein liegen in derselben Größenordnung.
2× RTX PRO 6000. Illustrativ unter Retail 0,26/2,08 (OpenRouter).
| Referenz | Szenario | Netto je Jahr | Anteil der Abschreibung, 5 Jahre | Anteil der Abschreibung, 3 Jahre | Euro je 1 Mio. Tokens nach Verrechnung, 5 Jahre | Team ohne Verrechnung, 5 Jahre |
|---|---|---|---|---|---|---|
| 4× AMD RX 9070 XT | Pessimistisch | -389,23 € | -10,8 % | -6,5 % | 19,36 € | – |
| 4× AMD RX 9070 XT | Realistisch | -778,46 € | -21,5 % | -12,9 % | 21,07 € | – |
| 4× AMD RX 9070 XT | Optimistisch | -1.297,44 € | -35,8 % | -21,5 % | 23,34 € | – |
| 1× RTX PRO 6000 | Pessimistisch | -168,24 € | -2,5 % | -1,5 % | 6,18 € | – |
| 1× RTX PRO 6000 | Realistisch | -336,49 € | -5,1 % | -3 % | 6,33 € | – |
| 1× RTX PRO 6000 | Optimistisch | -560,81 € | -8,4 % | -5,1 % | 6,52 € | – |
| 2× RTX PRO 6000 | Pessimistisch | 231,04 € | 2,5 % | 1,5 % | 12,41 € | – |
| 2× RTX PRO 6000 | Realistisch | 462,07 € | 5 % | 3 % | 12,10 € | – |
| 2× RTX PRO 6000 | Optimistisch | 770,12 € | 8,4 % | 5 % | 11,69 € | – |
Für ein einzelnes System, das tagsüber selbst genutzt wird, ist der Verkauf von Tokens derzeit wirtschaftlich nicht belastbar. Programme für diese Route verlangen in der Regel eine hohe durchgehende Verfügbarkeit. Die stundenweise Vermietung der Grafikkarte ist die näherliegende der beiden Rechnungen.
Die Zusatzeinnahmen decken die Abschreibung nur zu einem Teil. Beim Profil mit AMD-Grafikkarten ist der Mietmarkt dünn und die Modellrechnung negativ. Der Verkauf von Tokens ist bei einem einzelnen System mit Nutzung am Tag wirtschaftlich nicht belastbar. Die Auslastung der Nebenzeit ist der größte Unsicherheitsfaktor. Die Angaben sind Richtwerte, keine Ertragszusage.
Grenzen
Datenhoheit in den vermieteten Stunden
Während der Vermietung laufen fremde Arbeitslasten auf dem Firmenrechner, vermittelt über das jeweilige Programm. Eine Aussage, dass keine Daten das Haus verlassen, gilt für diese Stunden nicht. Eigene Unternehmensdaten dürfen in dieser Zeit auf dem System nicht erreichbar sein. Für fremde personenbezogene Daten kommen Auftragsverarbeitung, Vertrag und, bei Anbietern außerhalb der EU, die Regeln zum Drittlandtransfer in Betracht.
AMD rechnet sich in dieser Modellrechnung nicht
Für vier Radeon RX 9070 XT liegt die Netto-Zusatzeinnahme in allen drei Auslastungen unter null. Der angesetzte Stromverbrauch, bewusst als Obergrenze gewählt, übersteigt die aus öffentlichen Preisbeobachtungen abgeleiteten Einnahmen. Der Markt für diese Karten ist dünn. Ohne deutlich höhere Mietpreise oder eine deutlich niedrigere reale Leistungsaufnahme trägt die Nebenzeitvermietung hier nicht.
Der Rechner refinanziert sich nicht
Auch bei den NVIDIA-Profilen deckt die Vermietung im realistischen Fall nur einen Teil der Abschreibung über fünf Jahre. Die Kosten je Million eigener Tokens sinken, ein erheblicher Rest der Anschaffung bleibt. Der optimistische Fall mit zwei Karten setzt eine hohe Auslastung der Nebenzeit voraus, die sich mit der eigenen Nutzung am Tag schwer verbinden lässt.
Verfügbarkeit, Netz und Haftung
Mehrere Programme setzen eine nahezu durchgehende Verfügbarkeit, eine symmetrische hohe Bandbreite oder eine öffentliche IPv4-Adresse voraus. Das passt schlecht zu einer Nutzung tagsüber und Vermietung nur danach. Fremde Arbeitslasten brauchen eine saubere Isolation, sonst entstehen Zugriffs- und Haftungsrisiken. Einnahmen sind steuerlich relevant; die gewerbliche Einordnung ist im Einzelfall zu prüfen.
Quellen
Alle Seiten wurden am genannten Stand abgerufen. Das Datum an der Quelle ist das Mess- oder Veröffentlichungsdatum, soweit es angegeben ist.
- Empiria Insight – KI-Rechner-Konfigurator (Optionen & Richtpreise) 08.10.2026 Datenquelle im Repo: lukaskawerau/empiriainsight.com, src/lib/data/hardware.ts
- tiny corp – tinybox Konfigurator (Referenz der Optionen) 08.10.2026
- tiny shop – tinybox green v2 with 4x RTX Pro 6000 Blackwell 08.10.2026 Beleg, dass tiny corp mit 'RTX6000' die RTX PRO 6000 Blackwell (96 GB) verbaut
- MegaOne AI – Tinybox red v2 / green v2 Spezifikationen (Sekundärquelle) 08.10.2026 G4: 128 GB @ 204,8 GB/s; G5: 192 GB @ 460,8 GB/s; 4x 9070XT = 64 GB @ 2.560 GB/s
- NVIDIA RTX PRO 6000 Blackwell Workstation Edition – Datenblatt 08.10.2026 96 GB GDDR7, 1.792 GB/s, max. 600 W
- NVIDIA RTX PRO 6000 Blackwell Max-Q – Datenblatt 08.10.2026 96 GB GDDR7, 1.792 GB/s, max. 300 W
- AMD Radeon RX 9070 XT – Spezifikationen 08.10.2026 16 GB GDDR6, 640 GB/s, 304 W Total Board Power
- AMD EPYC 7543 (32 Kerne, DDR4) – Spezifikationen 08.10.2026 TDP 225 W; Beispiel-SKU für G4, konkrete CPU nicht festgelegt
- AMD EPYC 9354 (32 Kerne, Genoa) – Spezifikationen 08.10.2026 TDP 280 W; Beispiel-SKU für G5, konkrete CPU nicht festgelegt
- Millstone AI – gpt-oss-120b MXFP4 auf 1x RTX Pro 6000 Blackwell (vLLM) 30.01.2026
- Millstone AI – Qwen3.6-35B-A3B FP8 auf 1x RTX Pro 6000 Blackwell (vLLM) 25.05.2026
- Millstone AI – Qwen3.6-27B FP8 auf 1x RTX Pro 6000 Blackwell (vLLM) 27.05.2026
- Millstone AI – Mistral-Small-4-119B-2603 NVFP4 auf 1x RTX Pro 6000 Blackwell (SGLang) 17.03.2026
- Millstone AI – Gemma-4-26B-A4B FP8 auf 1x RTX Pro 6000 Blackwell (vLLM) 14.04.2026
- Millstone AI – Gemma-4-31B NVFP4 auf 1x RTX Pro 6000 Blackwell (vLLM) 02.04.2026
- Millstone AI – Nemotron-3-Super-120B-A12B NVFP4 auf 1x RTX Pro 6000 Blackwell (vLLM) 11.03.2026
- Millstone AI – Qwen3.5-122B-A10B FP8 auf 2x RTX Pro 6000 Blackwell (vLLM) 01.03.2026
- Millstone AI – DeepSeek-V4-Flash FP4+FP8 auf 2x RTX Pro 6000 Blackwell (vLLM) 28.07.2026
- Millstone AI – Übersicht LLM Inference Benchmarks 08.10.2026
- GitHub kishan5111/gptoss-benchmark – gpt-oss-120b vLLM, H100 vs RTX Pro 6000 (Community) 08.10.2026 Datum der Messung nicht angegeben
- Hardware Corner – llama.cpp-Update: GPT-OSS 120B auf RTX Pro 6000 Blackwell 08.10.2026 Veröffentlichungsdatum auf der Seite nicht maschinenlesbar
- llama.cpp Issue #26663 – RX 9070 XT, HIP vs. Vulkan (Qwen3 Q4_K_M) 07.08.2026
- GitHub kr4ckhe4d/local-llm-benchmarks – llama.cpp auf RX 9070 XT / R9700 (ROCm 7.2) 06.10.2026 Community-Messungen; Einzelkarte 9070 XT bzw. 9070 XT + R9700
- GitHub MrLordCat/llama.cpp-rdna-lab – 2x RX 9070 XT, Qwen3.8-27B 26.09.2026 Community-Fork von llama.cpp; Layer-Split über 2 GPUs
- GitHub patcarter883/rdna4-vllm – vLLM TP=2 auf RDNA4 (9070 XT + 9070) 08.10.2026 Community-Build; Offline-Batch 32 Prompts x 128 Output-Tokens; gestreamte Last führte laut README zu OOM
- digtvbg – RX 9070 XT: vLLM (ROCm 7.2) vs. llama-server (Vulkan) 22.03.2026
- ahelpme.com – llama.cpp CPU-Benchmarks AMD EPYC 9554 (64 Kerne, 12x DDR5-5600) 25.03.2025
- ahelpme.com – llama.cpp CPU-Benchmarks 2x AMD EPYC 7282 (2x16 Kerne, 2x8 DDR4-3200) 01.04.2025
- Geizhals – NVIDIA RTX PRO 6000 Blackwell Workstation Edition 96 GB 27.08.2026 Öffentlicher Preisvergleich, herangezogen als Eingangsgröße für die indikative Tokenkostenrechnung der NVIDIA-Profile. Kein Angebotspreis von Empiria Insight.
- MySmartEnergy – Gewerbestrom 2026 (Marktbeobachtung 27,15 ct/kWh netto bei 10.000 kWh, Feb. 2026) 12.07.2026
- BDEW-Strompreisanalyse August 2026 (Industrie 17,2 ct/kWh; Haushalte 37,0 ct/kWh) 2026-08
- Mistral Docs – API pricing 08.10.2026
- OpenAI – API Pricing (Standard, Short context) 08.10.2026
- Anthropic – Claude Pricing 08.10.2026
- OpenRouter – Models API (Listenpreise gehosteter Open-Weight-Modelle) 08.10.2026 Aggregator; Preise je Anbieter schwankend
- EZB-Referenzkurs EUR/USD 07.10.2026 1 EUR = 1,1177 USD
- Hugging Face – Soofi-Project/Soofi-S-Base (Closed Beta) 08.10.2026
- OpenRouter – Become a Provider (Anforderungen, Uptime-Routing, Priorität für proprietäre Modelle) 08.10.2026 Backlog; Priorität für proprietary models; 95 %+ Uptime für normales Routing; OpenAI-kompatible API, /models, Invoicing, Privacy-Policy Pflicht
- OpenRouter Docs – Provider Integration 08.10.2026
- OpenCode Zen – kuratierter Modell-Gateway (kein Host-/Provider-Programm für eigene Hardware) 08.10.2026 Pay-per-use API für Endnutzer; kein Marktplatz, um eigene Boxen zu vermieten
- Vast.ai Docs – Host Verification Stages (Anforderungen) 08.10.2026 Ubuntu Server, NVIDIA only, 500 Mbps Up/Down, Public IPv4, RAM ≥ 95 % VRAM, dedizierte Maschine (keine persönliche Last); RTX PRO 6000 priorisiert
- Vast.ai Docs – Host Payouts 08.10.2026
- Vast.ai – June 2024 Product Update (Host-Fee 0 %) 2024-06 Host-seitige Fee entfernt; gesetzter Preis = Host-Einnahme. FAQ nennt teils noch 75/25 – vor Kalkulation im Host-Agreement prüfen
- Vast.ai – How Much Money Can You Earn Renting Out Your GPU (Mai 2026) 18.05.2026 RTX 5090 typ. 0,30–0,60 $/GPU-h; Live-Mietpreise ca. 25 % über Host-Einnahme
- GPU Economy – Vast.ai Preise (Marktplatz-Floor je GPU) 08.10.2026 RTX PRO 6000 Blackwell Floor ca. 1,30 $/GPU-h; RTX 5090 ca. 0,48–0,50 $; RTX 4090 ca. 0,39 $
- Hashrate.no – Vast.ai RTX PRO 6000 Workstation (Occupancy & Host-Raten) 08.10.2026 Verified Occupancy 87,5 %, Host-P50 ca. 1,05 $/h (rented); Unverified Occupancy 59,5 %, Host-P50 ca. 0,90 $/h
- Hashrate.no – Vast.ai Verification Stats (Gesamt-Occupancy) 08.10.2026 Gesamt-Occupancy ca. 79 %; RTX PRO 6000 WS 4,2 % der Verifications, 30-Tage-Anteil ca. 60 %
- Salad – GPU earning rates (Durchschnitt inkl. Idle) 08.10.2026 Durchschnitt über alle Chopping-Stunden inkl. Wartezeit
- Salad – Live demand / earning rates 08.10.2026
- ComputePrices – Salad Cloud RX 9070 XT Mietpreise 08.10.2026 0,070–0,196 $/GPU-h je Priority-Tier (Renter-Preis, nicht Host-Netto)
- ComputePrices – Salad Cloud RX 7800 XT 08.10.2026 0,042–0,132 $/GPU-h
- Primcast – GPU-Marketplace (Host setzt Miete, 0 % Host-Fee) 08.10.2026 US-Firma (NY) + Büro Bukarest; NVIDIA/AMD/Intel; Outbound TCP 2222, CGNAT ok; EU-Filter für Renter; KYC; Monatszahlung Bank
- Primcast – About (NY & Bucharest) 08.10.2026
- Runpod – Community Cloud Hosting Application Update (geschlossen für neue Hosts) 08.10.2026 Spiegel des Runpod-Blogposts; neue Community-Hosts nicht mehr aufgenommen
- Runpod – Secure Cloud / Compute Partners 08.10.2026 Nur Data-Center-/Enterprise-Partner, nicht Single-Box
- Akash Network – Provider Hardware Requirements 08.10.2026 Nur NVIDIA; Kubernetes-Setup; Domain, Public IP, 100 Mbps min.
- TensorDock – Supplier Hosting Agreement (25 % Fee, SLA-Strafen) 26.03.2024 25 % Plattformgebühr; Uptime-SLA mit Strafzahlungen; Mindestauszahlung 250 $
- io.net – Device / Worker Onboarding 08.10.2026 NVIDIA Consumer möglich; Staking; Consumer nur geringer Block-Reward-Anteil
- Chutes (Bittensor SN64) – Miner Overview 08.10.2026 Bare-metal/single-tenant, static IP, K8s; keine shared Vast/Runpod-GPUs
- Nosana – RTX 4090/5090 Provider Campaign (85 % Tages-Uptime) 08.10.2026 Niederländisches DePIN; 85 % daily uptime für Incentive; NVIDIA Consumer
- Nosana Docs – Host Getting Started 08.10.2026
- Golem Network – AI/GPU Provider Roadmap 08.10.2026 EU-nah (Polen); NVIDIA RTX 30xx+; dedizierte Maschine während Betrieb
- Hivenet – Distributed Cloud Compute (FR) 08.10.2026 Französischer Anbieter; öffentliches Host-Programm für Einzelboxen undokumentiert
- Aura Digital – Vast.ai GPU Server Earnings (Nutzung unbekannt, 3 Szenarien) 02.09.2026 Betont: Occupancy nicht vorab kenntlich; Median RTX PRO 6000 WS Ende Aug. 2026 ca. 1,20 $/h
Community-Messungen aus GitHub-Projekten einzelner Personen sind Sekundärquellen. Mit neuen Software-Versionen können die Werte deutlich steigen oder fallen.