Zum Inhalt springen

6 Kartentypen in 10 Konfigurationen: von der Inferenzkarte, die ein fertig trainiertes Modell antworten lässt, bis zum 8-GPU-Knoten mit 1.128 GB Grafikspeicher. Sagen Sie unten, was Sie rechnen wollen und wie groß Ihr Modell ist: Die Seite nennt die kleinste Karte, in die es passt, und rechnet Stunde, Lauf und Monatsdeckel mit — mit demselben Code wie der Konfigurator.

Treiber, CUDA-Werkzeugkette (NVIDIAs Programmierplattform für die GPU) und Container-Laufzeit sind vorinstalliert. Die lokale NVMe, der schnelle Flash-Speicher der Instanz, steckt im selben Gehäuse wie die Karte — Datensätze werden nicht über das Netz gelesen.

Einstieg
214,00 €248,24 $
NG-RTX4000, im Monat netto · 0,2932 €0,3401 $ je Stunde
Konfigurationen
10
6 Kartentypen, RTX PRO 4000 bis H200
VRAM im Knoten
1.128 GB
8 × H200 über NVLink
Standorte
4
mit GPU-Kapazität

Welche Karte passt zu Ihrem Modell?

Vorhaben, Modellgröße und Zahlengenauigkeit — daraus rechnet die Seite den Grafikspeicher, den Ihr Modell braucht, und zeigt die kleinste Konfiguration, in die es passt. Standort und Laufzeit dazu, und rechts steht, was der Lauf kostet: gerechnet mit demselben Code wie im Konfigurator. In den Warenkorb geht genau dieser Knoten; Abbild und Datensatz-Speicher wählen Sie dort oder im Konfigurator.

Rechengrundlage

Antworten (Inferenz)
Parameter × Byte je Parameter, plus 20 % für Zwischenspeicher der Antwort (KV-Cache)
Anpassen (Fine-Tuning mit LoRA)
Parameter × Byte, plus 40 % für Adapter, Optimizer und Aktivierungen
Trainieren (volles Training, Mixed Precision)
16 Byte je Parameter, plus 25 % für Aktivierungen
Byte je Parameter
FP16/BF16 2 · INT8 1 · INT4 0,5

LoRA lässt die Gewichte des Modells unverändert und lernt nur kleine Zusatzgewichte, die Adapter. Mixed Precision rechnet in halber Genauigkeit und führt Gewichte und Optimizer-Zustand zusätzlich in voller — daher die 16 Byte je Parameter.

Was wollen Sie rechnen?

Ein Modell mit 8 Milliarden Parametern antwortet in FP16 auf einer 24-GB-Karte; ab 13 Milliarden braucht es 48 GB oder eine kleinere Zahlengenauigkeit.

Modellgröße

8 Mrd. Parameter

1 Mrd.670 Mrd.

Die Größe steht meist im Modellnamen — „B“ steht dort für Milliarden Parameter.

Zahlengenauigkeit

So viele Byte belegt jeder Parameter. INT8 und INT4 sind quantisiert, also auf weniger Bit gerundet: Sie brauchen weniger Speicher und rechnen etwas ungenauer.

Konfiguration

214,00 €248,24 $netto / Monat

Ihr Modell braucht rund 19,2 GB Grafikspeicher

8 Mrd. Parameter × 2 Byte + 20 % = 19,2 GB

Speicherleiter: alle 10 Konfigurationen, aufsteigend nach Grafikspeicher je Knoten
  1. Ihr Bedarf: 19,2 GB

Standort

Referenzstandort — der Katalogpreis gilt ohne Faktor. Die Millisekunden sind die Latenz ab Frankfurt im Median.

Laufzeit

1 h730 h

72 Stunden · 3 Tage

Knoten

1 Karte · 24 GB GrafikspeicherNeben Ihrem Modell bleiben rund 4,8 GB frei.

Alle Konfigurationen im Datenblatt

Die GPU steht nie allein. Jede Zeile bringt dedizierte Prozessorkerne, Hauptspeicher und lokale NVMe mit — sonst wird der Datenpfad zum Engpass, bevor die Karte ausgelastet ist. 6 Kartentypen ergeben so 10 Konfigurationen.

GPU-Konfigurationen mit Grafikkarte, Rechenleistung, Prozessor, Arbeitsspeicher, lokaler NVMe, Traffic, Stundensatz und Monatsdeckel

  • NG-RTX4000Einstieg1 × RTX PRO 4000 · 24 GB GDDR7

    0,2932 €0,3401 $je Stunde

    Intel Core i5-13500 (14 Kerne, 20 Threads)

    TFLOPS
    24
    vCPU
    20
    Arbeitsspeicher
    64 GB DDR4
    NVMe lokal
    2 × 512 GB NVMe
    Traffic
    unlimitiert
    Deckel je Monat
    214,00 €248,24 $
  • NG-L4Inferenz1 × L4 · 24 GB GDDR6

    0,7397 €0,8581 $je Stunde

    AMD EPYC (dediziert)

    TFLOPS
    121
    vCPU
    8
    Arbeitsspeicher
    48 GB
    NVMe lokal
    400 GB
    Traffic
    40 TB
    Deckel je Monat
    540,00 €626,40 $
  • NG-L40S1 × L40S · 48 GB GDDR6

    1,3808 €1,6017 $je Stunde

    AMD EPYC (dediziert)

    TFLOPS
    362
    vCPU
    16
    Arbeitsspeicher
    96 GB
    NVMe lokal
    800 GB
    Traffic
    50 TB
    Deckel je Monat
    1.008,00 €1.169,28 $
  • NG-RTX60001 × RTX PRO 6000 · 96 GB GDDR7

    1,6425 €1,9053 $je Stunde

    Intel Xeon Gold 5412U (24 Kerne, 48 Threads)

    TFLOPS
    110
    vCPU
    48
    Arbeitsspeicher
    256 GB DDR5 ECC
    NVMe lokal
    2 × 960 GB NVMe
    Traffic
    unlimitiert
    Deckel je Monat
    1.199,00 €1.390,84 $
  • NG-RTX6000-5121 × RTX PRO 6000 · 96 GB GDDR7

    2,4644 €2,8587 $je Stunde

    Intel Xeon Gold 5412U (24 Kerne, 48 Threads)

    TFLOPS
    110
    vCPU
    48
    Arbeitsspeicher
    512 GB DDR5 ECC
    NVMe lokal
    2 × 1,92 TB NVMe
    Traffic
    unlimitiert
    Deckel je Monat
    1.799,00 €2.086,84 $
  • NG-RTX6000-7681 × RTX PRO 6000 · 96 GB GDDR7

    3,1493 €3,6532 $je Stunde

    Intel Xeon Gold 5412U (24 Kerne, 48 Threads)

    TFLOPS
    110
    vCPU
    48
    Arbeitsspeicher
    768 GB DDR5 ECC
    NVMe lokal
    4 × 3,84 TB NVMe
    Traffic
    unlimitiert
    Deckel je Monat
    2.299,00 €2.666,84 $
  • NG-H100Training1 × H100 · 80 GB HBM

    2,6575 €3,0827 $je Stunde

    AMD EPYC (dediziert)

    TFLOPS
    989
    vCPU
    32
    Arbeitsspeicher
    256 GB
    NVMe lokal
    3,2 TB
    Traffic
    80 TB
    Deckel je Monat
    1.940,00 €2.250,40 $
  • NG-H100×22 × H100 · 160 GB HBM

    5,3151 €6,1655 $je Stunde

    2× AMD EPYC (dediziert)

    TFLOPS
    1.978
    vCPU
    64
    Arbeitsspeicher
    512 GB
    NVMe lokal
    6,4 TB
    Traffic
    100 TB
    Deckel je Monat
    3.880,00 €4.500,80 $
  • NG-H100×44 × H100 · 320 GB HBM

    10,6438 €12,3468 $je Stunde

    2× AMD EPYC (dediziert)

    TFLOPS
    3.956
    vCPU
    128
    Arbeitsspeicher
    1 TB
    NVMe lokal
    12,8 TB
    Traffic
    140 TB
    Deckel je Monat
    7.770,00 €9.013,20 $
  • NG-H200×8Cluster8 × H200 · 1.128 GB HBM

    42,0000 €48,7200 $je Stunde

    2× AMD EPYC (dediziert)

    TFLOPS
    7.912
    vCPU
    128
    Arbeitsspeicher
    2 TB
    NVMe lokal
    30,72 TB
    Traffic
    200 TB
    Deckel je Monat
    30.660,00 €35.565,60 $

TFLOPS sind Herstellerangaben mit unterschiedlicher Messbasis und deshalb zwischen den Karten nicht direkt vergleichbar. Für die Auswahl zählt zuerst der Grafikspeicher.

Beträge netto, Standort Frankfurt am Main. Der Stundensatz ist der Monatspreis geteilt durch 730 Stunden. Abgerechnet wird sekundengenau zum Stundensatz, gedeckelt auf den Monatspreis — mehr als 730 Stunden im Monat werden nie berechnet.

Eine liegende, passiv gekühlte Rechenzentrumskarte mit schwarzem Lamellenkühlkörper über die ganze Länge, vergoldeter Kontaktleiste und einem Halteblech aus Metall ohne Schrift.
Eine Karte belegt einen eigenen Steckplatz mit voller Bahnbreite und gehört ganz Ihrem Knoten — kein vGPU-Sharing. Je Karte 24 bis 141 GB Grafikspeicher; was nicht hineinpasst, läuft nicht.
Baugleiche GPU-Knoten übereinander in einem offenen Rack, vorn ihre Lüfterfronten; rechts läuft ein mit Klettbändern gebündelter Strang oranger Glasfaserkabel.

Innerhalb eines Knotens verbindet NVLink die 8 Karten mit 900 GB/s je GPU. Zwischen zwei Knoten trägt nur das Netz. ENTRONYX CLOUD legt dafür eine eigene RDMA-Fabric im vRack — ein privates Netz, in dem eine Karte direkt in den Speicher der Gegenseite schreibt. Gradienten laufen so nicht über gewöhnliches TCP.

NG-H200×8 · NVLink im Gehäuse, RDMA dazwischen

Welche Karte für welche Aufgabe

Die teuerste Karte ist selten die richtige. Entscheidend ist, ob Ihr Modell in den Speicher passt, ob Sie trainieren oder antworten, und ob mehrere GPUs miteinander reden müssen.

NG-L4

Inferenz und Transcoding

Die L4 ist eine Single-Slot-Karte mit 72 Watt und einem Encoder der siebten Generation. Ihr Zuhause sind ständig laufende Dienste: Antworten aus quantisierten Sprachmodellen bis etwa 13 Milliarden Parameter, Bildgenerierung, Embedding-Berechnung und Video-Transcodierung inklusive AV1.

VRAM
24 GB
TFLOPS (Herstellerangabe)
121
Preis / Stunde
0,7397 €0,8581 $

Nicht für Training. Wer hier fine-tunt, wartet an der Speicherbandbreite.

NG-L40S

Fine-Tuning und Rendering

48 GB Grafikspeicher reichen für LoRA- und QLoRA-Anpassungen an Modellen bis rund 30 Milliarden Parameter, ohne den Umweg über Auslagerung in den Hauptspeicher. Die RT-Kerne machen dieselbe Karte zur besten Wahl für Rendering-Farmen und Simulationsvorschauen.

VRAM
48 GB
TFLOPS (Herstellerangabe)
362
Preis je 100 TFLOPS/h
0,38 €0,44 $

Keine NVLink-Brücke: Mehrere L40S kommunizieren über PCIe. Für kommunikationslastiges Multi-GPU-Training ist das der Flaschenhals.

NG-RTX6000

Inferenz und Fine-Tuning mittlerer Modelle

96 GB GDDR7 mit ECC — der größte Grafikspeicher unter den Einzelkarten im Katalog. Die RTX PRO 6000 Blackwell hält 8-Bit-quantisierte Modelle bis in den mittleren zweistelligen Milliardenbereich samt KV-Cache auf einer Karte und nimmt LoRA- wie QLoRA-Anpassungen ohne Auslagerung. Für bandbreitengebundenes Training bleibt die H100-Klasse mit HBM zuständig.

VRAM
96 GB
Lokale NVMe
1,92 TB
72-Stunden-Lauf
118,26 €137,18 $
NG-H100

Großes Training

Hopper mit 80 GB HBM3, 3,35 TB/s Bandbreite und Transformer Engine. Der FP8-Pfad verdoppelt den Durchsatz gegenüber BF16, sofern das Trainingsskript ihn nutzt. Für Modelle, die in eine GPU passen, aber Wochen statt Tage bräuchten, ist das die wirtschaftlichste Einzelkarte im Katalog.

VRAM
80 GB
TFLOPS (Herstellerangabe)
989
72-Stunden-Lauf
191,34 €221,95 $
NG-H200×8

Verteiltes Cluster-Training

Acht H200 in einem Knoten, verbunden über NVLink mit 900 GB/s je GPU — nicht über Ethernet. Zusammen 1.128 GB Grafikspeicher, genug für Modelle, die auf einer einzelnen Karte nicht einmal geladen werden könnten. Tensor- und Pipeline-Parallelismus laufen innerhalb des Chassis, ohne Netzwerk-Sprung.

VRAM gesamt
1.128 GB
Hauptspeicher
2 TB
Lokale NVMe
30,72 TB

Nur nach Kapazitätsprüfung buchbar. Mehrere Knoten koppeln wir über eine dedizierte RDMA-Fabric im vRack.

Was ein Trainingslauf kostet

Ein Lauf über 72 Stunden je Konfiguration, durchgerechnet — netto, in Frankfurt am Main, mit Instanz, lokaler NVMe und Traffic. Ihren eigenen Lauf mit Standort, Stunden und Knoten rechnet der Finder oben mit denselben Sätzen; hier steht der Beleg.

Drei Tage sind ein realistisches Fenster für ein Fine-Tuning mit anschließender Auswertung. Eigenen Lauf im Finder rechnen

Kosten eines 72-Stunden-Laufs je Konfiguration, dazu der Preis je einzelner GPU-Stunde und je 100 TFLOPS
KonfigurationGPUsVRAM gesamtPreis / Stundeje GPU-Stundeje 100 TFLOPS/h (Herstellerangabe, siehe Hinweis unter der Tabelle)72 Stunden
NG-RTX4000NVIDIA RTX PRO 4000 Blackwell SFF124 GB0,2932 €0,3401 $0,2932 €0,3401 $1,22 €1,42 $21,11 €24,49 $
NG-L4NVIDIA L4124 GB0,7397 €0,8581 $0,7397 €0,8581 $0,61 €0,71 $53,26 €61,78 $
NG-L40SNVIDIA L40S148 GB1,3808 €1,6017 $1,3808 €1,6017 $0,38 €0,44 $99,42 €115,33 $
NG-RTX6000NVIDIA RTX PRO 6000 Blackwell Max-Q196 GB1,6425 €1,9053 $1,6425 €1,9053 $1,49 €1,73 $118,26 €137,18 $
NG-RTX6000-512NVIDIA RTX PRO 6000 Blackwell Max-Q196 GB2,4644 €2,8587 $2,4644 €2,8587 $2,24 €2,60 $177,44 €205,83 $
NG-RTX6000-768NVIDIA RTX PRO 6000 Blackwell Max-Q196 GB3,1493 €3,6532 $3,1493 €3,6532 $2,86 €3,32 $226,75 €263,03 $
NG-H100NVIDIA H100 SXM180 GB2,6575 €3,0827 $2,6575 €3,0827 $0,27 €0,31 $191,34 €221,95 $
NG-H100×2NVIDIA H100 SXM2160 GB5,3151 €6,1655 $2,6576 €3,0828 $0,27 €0,31 $382,69 €443,92 $
NG-H100×4NVIDIA H100 SXM4320 GB10,6438 €12,3468 $2,6610 €3,0868 $0,27 €0,31 $766,35 €888,97 $
NG-H200×8NVIDIA H200 SXM81.128 GB42,0000 €48,7200 $5,2500 €6,0900 $0,53 €0,61 $3.024,00 €3.507,84 $
TFLOPS sind Herstellerangaben mit unterschiedlicher Messbasis und deshalb zwischen den Karten nicht direkt vergleichbar — die Spalte je 100 TFLOPS ordnet ein, sie entscheidet nicht.

Zwei Spalten verdienen einen zweiten Blick. Die erste ist je GPU-Stunde. Der Acht-GPU-Knoten kostet dort 5,2500 €6,0900 $ je Karte und liegt damit nur wenig über einer einzelnen H100 mit 2,6575 €3,0827 $. Er bringt dabei 76 % mehr Grafikspeicher je Karte und NVLink zwischen allen acht.

Die zweite ist je 100 TFLOPS. Gemessen an der Herstellerangabe zur Rechenleistung ist die H100 mit 0,27 €0,31 $ die günstigste Zeile der Tabelle. Die L40S ist mit 0,38 €0,44 $ der beste Kompromiss ohne HBM — den gestapelten Hochleistungsspeicher, den nur die H100-Klasse trägt. Die RTX PRO 6000 kauft mit 1,49 €1,73 $ dagegen Grafikspeicher, nicht Durchsatz: 96 GB für Modelle, die sonst auf zwei Karten müssten. Wer Rechenleistung statt Speicher braucht, sollte diese Reihenfolge kennen, bevor er nach der größten Zahl greift.

Der Weg bleibt in beiden Fällen derselbe. Erst prüfen, ob das Modell in den Speicher passt. Dann den Preis je Rechenleistung vergleichen. Und erst danach die Karte nach Namen auswählen.

Rechengrundlage

Laufzeit im Beispiel
72 h
Abrechnungstakt
sekundengenau
Standort
Frankfurt am Main (fra1)
Preisfaktor
1,00
Deckel je Monat
730 h
Enthalten
Instanz, lokale NVMe, Traffic

Abgerechnet wird sekundengenau zum Stundensatz, gedeckelt auf den Monatspreis — mehr als 730 Stunden im Monat werden nie berechnet. Der Stundensatz wird auf 730 Stunden gerechnet, den Durchschnittsmonat. Ein Monat mit 31 Tagen hat 744 — die zusätzlichen Stunden berechnen wir nicht.

Preiseinheit wählen

Monatspreis ist zugleich die Obergrenze der stundenweisen Abrechnung

GPU-Konfigurationen mit Grafikspeicher, Rechenleistung und Preis wahlweise je Stunde oder je Monat
KonfigurationGPUsVRAM gesamtTFLOPS gesamt72 hPreis / Monat
NG-RTX4000NVIDIA RTX PRO 4000 Blackwell SFF124 GB2421,11 €24,49 $214,00 €248,24 $
NG-L4NVIDIA L4124 GB12153,26 €61,78 $540,00 €626,40 $
NG-L40SNVIDIA L40S148 GB36299,42 €115,33 $1.008,00 €1.169,28 $
NG-RTX6000NVIDIA RTX PRO 6000 Blackwell Max-Q196 GB110118,26 €137,18 $1.199,00 €1.390,84 $
NG-RTX6000-512NVIDIA RTX PRO 6000 Blackwell Max-Q196 GB110177,44 €205,83 $1.799,00 €2.086,84 $
NG-RTX6000-768NVIDIA RTX PRO 6000 Blackwell Max-Q196 GB110226,75 €263,03 $2.299,00 €2.666,84 $
NG-H100NVIDIA H100 SXM180 GB989191,34 €221,95 $1.940,00 €2.250,40 $
NG-H100×2NVIDIA H100 SXM2160 GB1.978382,69 €443,92 $3.880,00 €4.500,80 $
NG-H100×4NVIDIA H100 SXM4320 GB3.956766,35 €888,97 $7.770,00 €9.013,20 $
NG-H200×8NVIDIA H200 SXM81.128 GB7.9123.024,00 €3.507,84 $30.660,00 €35.565,60 $

Die Spalte für 72 Stunden bleibt unverändert — sie zeigt immer den Betrag, der bei einem dreitägigen Lauf tatsächlich anfällt.

Stundenweise, monatlich oder mit fester Laufzeit

Drei Wege zur selben Karte. Welcher der günstigste ist, hängt allein an der Auslastung — nicht am Modell und nicht am Standort.

Monatspreis je Konfiguration nach Laufzeit, dazu die Ersparnis eines Jahres bei 24 Monaten Bindung
Konfigurationmonatlich12 Mon. −5 %24 Mon. −8 %Ersparnis / Jahr
NG-RTX4000214,00 €248,24 $203,30 €235,83 $196,88 €228,38 $205,44 €238,32 $
NG-L4540,00 €626,40 $513,00 €595,08 $496,80 €576,29 $518,40 €601,32 $
NG-L40S1.008,00 €1.169,28 $957,60 €1.110,82 $927,36 €1.075,74 $967,68 €1.122,48 $
NG-RTX60001.199,00 €1.390,84 $1.139,05 €1.321,30 $1.103,08 €1.279,57 $1.151,04 €1.335,24 $
NG-RTX6000-5121.799,00 €2.086,84 $1.709,05 €1.982,50 $1.655,08 €1.919,89 $1.727,04 €2.003,40 $
NG-RTX6000-7682.299,00 €2.666,84 $2.184,05 €2.533,50 $2.115,08 €2.453,49 $2.207,04 €2.560,20 $
NG-H1001.940,00 €2.250,40 $1.843,00 €2.137,88 $1.784,80 €2.070,37 $1.862,40 €2.160,36 $
NG-H100×23.880,00 €4.500,80 $3.686,00 €4.275,76 $3.569,60 €4.140,74 $3.724,80 €4.320,72 $
NG-H100×47.770,00 €9.013,20 $7.381,50 €8.562,54 $7.148,40 €8.292,14 $7.459,20 €8.652,72 $
NG-H200×830.660,00 €35.565,60 $29.127,00 €33.787,32 $28.207,20 €32.720,35 $29.433,60 €34.143,00 $

Was wo sofort startet — und was wir vorher prüfen

GPUs sind das einzige Produkt in diesem Katalog, für das wir keine sofortige Verfügbarkeit zusagen. Wir nennen die Lage je Konfiguration und Standort deshalb vorher. Wo sie „auf Anfrage“ lautet, führt der Verweis direkt in die Anfrage — Konfiguration und Standort sind dort schon eingetragen.

sofort
durchgehend verfügbar, Start ohne Prüfung
auf Anfrage
Bezug nach Kapazität, die Lage je Karte steht darunter
nicht angeboten
an diesem Standort nicht im Programm

Verfügbarkeit jeder GPU-Konfiguration je Standort, Stand 17.09.2026

Lage je Kartentyp, Stand 17.09.2026 — eine Zeile je Karte, gültig für alle Ausbaustufen dieser Karte: sofortiger Bezug, Reservierungsvorlauf und Kontingent je Projekt
KarteOn-DemandReservierungKontingent
NVIDIA RTX PRO 4000 Blackwell SFFBasiszeile NG-RTX4000durchgehend verfügbarnicht nötig8 GPUs
NVIDIA L4Basiszeile NG-L4durchgehend verfügbarnicht nötig8 GPUs
NVIDIA L40SBasiszeile NG-L40Sdurchgehend verfügbarab 30 Tagen möglich4 GPUs
NVIDIA RTX PRO 6000 Blackwell Max-QBasiszeile NG-RTX6000meist verfügbarab 30 Tagen, 2 Werktage Vorlauf2 GPUs
NVIDIA H100 SXMBasiszeile NG-H100nach Kapazitätab 30 Tagen, 5 Werktage Vorlauf2 GPUs
NVIDIA H200 SXMBasiszeile NG-H200×8nur nach Prüfungab 30 Tagen, 10 Werktage Vorlaufauf Anfrage
Kapazität abfragen und reservieren
# Freie Kapazität je Modell und Standort abfragen
entronyx gpu availability --model h100 --region fra1
# MODELL   STANDORT  FREI  RESERVIERBAR  NÄCHSTER SLOT
# h100     fra1         3            12  sofort
# h200x8   fra1         0             2  auf Anfrage
 
# Kapazität für 30 Tage verbindlich reservieren
entronyx gpu reservation create \
  --flavor ng-h100 --region fra1 --count 4 --term 30d
 
# Benachrichtigung, sobald ein H200-Knoten frei wird
entronyx gpu watch --flavor ng-h200x8 --region fra2 --notify webhook
Die Verfügbarkeitsabfrage ist nicht ratenbegrenzt und darf in Bereitstellungsskripten laufen. Reservierungen erscheinen als eigene Position auf der Rechnung.
Eine dunkle Trägerplatine von oben: acht quadratische Kühlkörper in zwei Reihen, dazwischen vier kleinere.
Acht Karten auf einer Trägerplatine, über NVLink mit 900 GB/s je Karte verbunden — der Knoten, den ENTRONYX CLOUD nur nach Kapazitätsprüfung vergibt. Auf jede Karte kommen 8 bis 48 dedizierte EPYC-Kerne, damit die Vorverarbeitung die GPU nicht ausbremst.

Wo welche Karte steht

GPU-Knoten brauchen mehr Strom je Höheneinheit und eine andere Kühlung als ein Standard-Gehäuse. Deshalb steht nicht jede Konfiguration an jedem Standort — und die größte nur dort, wo Flüssigkühlung eingebaut ist.

  • Frankfurt am Mainfra1

    Standort Rhein-Main I

    RTX PRO 4000 Blackwell SFF · L4 · L40S · RTX PRO 6000 Blackwell Max-Q · H100 SXM · H200 SXM

    10 von 10 Konfigurationen · PUE 1,14 · 3 ms

    Vollständiges Programm

  • Frankfurt am Mainfra2

    Standort Rhein-Main II

    RTX PRO 4000 Blackwell SFF · L4 · L40S · RTX PRO 6000 Blackwell Max-Q · H100 SXM · H200 SXM

    10 von 10 Konfigurationen · PUE 1,09 · 3 ms

    Vollständiges Programm

  • Münchenmuc1

    Standort Isar

    RTX PRO 4000 Blackwell SFF · L4 · L40S

    3 von 10 Konfigurationen · PUE 1,11 · 5 ms

  • Helsinkihel1

    Standort Uusimaa

    RTX PRO 4000 Blackwell SFF · L4 · L40S · RTX PRO 6000 Blackwell Max-Q · H100 SXM · H200 SXM

    10 von 10 Konfigurationen · PUE 1,08 · 21 ms

    Vollständiges Programm

3 der 4 Standorte führen alle 10 Konfigurationen: Standort Rhein-Main I, Standort Rhein-Main II, Standort Uusimaa. Die übrigen tragen die Karten, die ihre Stromdichte hergibt. PUE ist das Verhältnis von Gesamtstrom zu Rechenstrom — je näher an 1,0, desto weniger geht in Kühlung und Verluste. Welche Konfiguration an welchem Standort sofort startet, steht in der Verfügbarkeitsmatrix.

Rückseite eines Rechenknotens im Rack: Zwei schwarze, geflochtene Kühlmittelschläuche führen von Schnellkupplungen am Gehäuse zu einem senkrechten Verteilerrohr aus Edelstahl mit Absperrventilen.
Flüssigkühlung je Knoten: Der größte Knoten steht nur dort, wo der Kühlkreis bis ans Rack reicht — 3 von 4 Standorten. Die Wärme geht in den Kreislauf statt in die Hallenluft; das hält den PUE auf höchstens 1,14.

Trainingsdaten ohne Drittlandtransfer

Alle 4 GPU-Standorte liegen im Geltungsbereich der DSGVO, verteilt auf Deutschland und Finnland. Wer hier rechnet, lässt seine Trainingsdaten ohne Drittlandtransfer verarbeiten. Die Auftragsverarbeitung nach Art. 28 DSGVO ist Bestandteil des Hauptvertrags und kein Zusatzformular.

Auftragsverarbeitung Vertragstext und Unterauftragsverarbeiter

4Standorte, alle ohne Drittlandtransfer

Vorbereitet, aber nicht bevormundend

Das Standardabbild bringt Treiber, CUDA-Werkzeugkette und Container-Laufzeit mit. Alles darüber gehört Ihnen — wir schreiben Ihnen kein Framework und keine Version vor.

Treiber
NVIDIA 570 LTS
Data-Center-Zweig, monatlich gepflegt
CUDA
12.8 und 12.4
über Module umschaltbar
Container
NVIDIA Container Toolkit
Docker und Podman, --gpus all
Betriebssystem
Ubuntu 24.04 LTS
auch Debian 13 und Rocky 10
Erste Schritte auf einer GPU-Instanz
# Treiber, CUDA und Container-Laufzeit sind im Abbild vorinstalliert
nvidia-smi --query-gpu=name,memory.total,driver_version --format=csv
 
# Einzelne GPU: Container mit Zugriff auf die lokale NVMe
docker run --rm --gpus all \
  -v /mnt/nvme/datasets:/data \
  -v /mnt/nvme/checkpoints:/ckpt \
  nvcr.io/nvidia/pytorch:25.06-py3 \
  python train.py --data /data --out /ckpt --precision bf16
 
# Acht GPUs in einem Knoten: NCCL läuft über NVLink, nicht über das Netz
torchrun --standalone --nproc_per_node=8 train.py \
  --precision fp8 --grad-accum 4 --checkpoint-every 500
 
# Belegung während des Laufs beobachten
nvidia-smi dmon -s pucm -d 5
Die lokale NVMe ist unter /mnt/nvme eingehängt. Sie überlebt Neustarts, aber nicht das Löschen der Instanz — Prüfpunkte gehören zusätzlich in den Object Storage.

Nicht nur Sprachmodelle

Die L4 dekodiert und kodiert bis zu acht 4K-Ströme gleichzeitig in AV1, dem lizenzkostenfreien Videoformat. Für Mediatheken und Live-Transkodierung ist sie damit die günstigste Zeile im Katalog. Die L40S bringt zusätzlich RT-Kerne — Recheneinheiten für Raytracing — für Blender, Omniverse und Unreal-Renderfarmen. Beide Fälle rechnen sich je Stunde ganz anders als Training.

Was vor der ersten GPU-Instanz meistens gefragt wird

Sieben Fragen, die vor einer Bestellung regelmäßig kommen. Die Antworten rechnen mit denselben Katalogwerten wie die Abschnitte darüber.

Ihre Frage ist nicht dabei? Der Finder rechnet für Ihr Modell Karte, Stunde und Lauf durch.

Welche Karte brauche ich für mein Modell?

Die kleinste Konfiguration, in deren Grafikspeicher Ihr Modell passt: In FP16 belegen die Gewichte rund 2 GB je Milliarde Parameter, volles Training braucht rund 16 Byte je Parameter. Je Karte stehen 24 bis 141 GB bereit; was nicht hineinpasst, läuft nicht.

Kleinste passende Karte im Finder rechnen

Wie wird eine GPU-Instanz abgerechnet?

Sekundengenau zum Stundensatz der Konfiguration, gedeckelt auf den Monatspreis: Mehr als 730 Stunden im Monat werden nie berechnet. Instanz, lokale NVMe und das Traffic-Kontingent der Konfiguration sind im Stundensatz enthalten.

NG-RTX4000, Einstieg je Stunde, netto0,2932 €0,3401 $

Was ein Trainingslauf kostet

Muss ich mich für eine Laufzeit binden?

Nein, ohne Laufzeit zahlen Sie die genutzte Zeit, höchstens den Monatspreis. Mit 12 oder 24 Monaten sinkt der Monatspreis um 5 % beziehungsweise 8 %; die Laufzeit gilt je Instanz und wird im Voraus bezahlt. Auf eine größere Konfiguration wechseln Sie auch innerhalb der Bindung, auf eine kleinere erst zum Ende der Laufzeit.

Monatspreis je Laufzeit

Welche Karten starten sofort?

RTX PRO 4000, L4 und L40S sind durchgehend verfügbar und starten ohne Prüfung. RTX PRO 6000, H100 und H200 beziehen Sie nach Kapazität am gewählten Standort, über eine Anfrage mit vorbelegter Konfiguration.

Lage je Konfiguration und Standort

Kann mir eine laufende Karte entzogen werden?

Nein, es gibt keine unterbrechbaren Instanzen zum Spotpreis: Eine laufende Karte läuft, bis Sie sie beenden. Wer nach einem Neustart sicher eine Karte zurückbekommen will, reserviert die Kapazität; sie ist dann für den gebuchten Zeitraum fest zugeordnet und wird für den ganzen Zeitraum bezahlt.

Teile ich die Grafikkarte mit anderen Kunden?

Nein, eine Karte belegt einen eigenen Steckplatz mit voller Bahnbreite und gehört ganz Ihrem Knoten, ohne vGPU-Sharing. Jede Konfiguration bringt dazu dedizierte Prozessorkerne, Hauptspeicher und lokale NVMe mit, damit der Datenpfad die Karte nicht ausbremst.

Alle Konfigurationen im Datenblatt

Wo stehen die GPU-Server?

In Deutschland und Finnland, an vier Standorten: Frankfurt am Main (fra1, fra2), München (muc1) und Helsinki (hel1). Alle liegen im Geltungsbereich der DSGVO, die Daten werden ohne Drittlandtransfer verarbeitet. Die Auftragsverarbeitung nach Art. 28 DSGVO ist Bestandteil des Hauptvertrags.

Welche Karte an welchem Standort steht

ab · im Monat, netto214,00 €248,24 $

Karte finden

GPU-Instanz konfigurieren oder Kapazität reservieren

RTX PRO 4000, L4 und L40S sind durchgehend verfügbar und starten ohne Prüfung. RTX PRO 6000, H100 und H200 beziehen Sie nach Kapazität am gewählten Standort; eine Reservierung ab 30 Tagen sichert die Karte.

ab
214,00 €248,24 $
VRAM im Knoten
1.128 GB
72-Stunden-Lauf ab
21,11 €24,49 $
Standorte
4