Die beste Grafikkarte für KI – 5 GPUs für jedes Budget

Bei einer Grafikkarte für KI zählt zuerst der Videospeicher (VRAM), dann die Speicherbandbreite und die Software-Unterstützung. Für Stable Diffusion und lokale Sprachmodelle bis etwa 14 Milliarden Parameter reichen 16 GB, unser Einstiegstipp ist die RTX 5060 Ti 16 GB. Wer Modelle mit 30 Milliarden Parametern und mehr lokal betreiben will, braucht 32 GB oder mehrere Karten. NVIDIA-Karten sind dank CUDA am einfachsten einzurichten, AMD bietet mehr Speicher fürs Geld.

Stand: 23.10.2026. Die Preise ruft die Seite automatisch bei Amazon ab.

Als Videoproducer, Content Creator oder Grafikdesigner brauchst du eine leistungsfähige GPU, wenn du KI-Software wie Stable Diffusion nutzt oder Sprachmodelle auf dem eigenen Rechner betreiben willst. In diesem Artikel stelle ich dir fünf Grafikkarten für die KI-gestützte Erstellung von Bildern, Videos und Texten vor, vom günstigen Einstieg bis zur Karte mit 32 GB. Vorher erkläre ich, worauf es bei KI ankommt und wie viel Videospeicher du für welches Modell brauchst.

Wie funktioniert eine Grafikkarte? Einfach erklärt

Eine Grafikkarte ist auf Parallelarbeit gebaut. Desktop-Prozessoren (CPUs) haben heute meist 6 bis 24 Kerne. Eine Oberklasse-Grafikkarte wie die RTX 3090 hat dagegen über 10.000 Rechenkerne und schafft rund 36 Billionen Rechenoperationen pro Sekunde.

Der zentrale Baustein einer Grafikkarte ist die GPU (Graphics Processing Unit). Sie ist wie ein großes Frachtschiff konzipiert: Sie transportiert enorme Datenmengen, ist aber weniger flexibel als eine CPU, die eher einem wendigen Flugzeug gleicht. Die GPU ist auf einfache, sich wiederholende Rechenoperationen spezialisiert, die massenhaft parallel laufen. Genau solche Operationen, vor allem Matrix-Multiplikationen, machen den Großteil der Arbeit eines KI-Modells aus.

Wie viel in einem Grafikchip steckt, zeigt die Zahl der Transistoren: Der GB202-Chip der RTX 5090 besteht aus 92,2 Milliarden Transistoren, der Navi-48-Chip der Radeon RX 9070 XT aus 53,9 Milliarden.

Unterstützt wird die GPU vom Grafikspeicher (VRAM). Bei KI liegen dort die Gewichte des Modells. Wie schnell die GPU auf diesen Speicher zugreifen kann, gibt die Speicherbandbreite in Gigabyte pro Sekunde an. Aktuelle Karten ab der Mittelklasse übertragen zwischen rund 450 und 1.800 GB pro Sekunde.

Training oder Inferenz: Was macht die Grafikkarte bei KI?

Inferenz heißt: Ein fertig trainiertes KI-Modell beantwortet eine Anfrage, erzeugt ein Bild oder schreibt einen Text. Training heißt: Das Modell lernt aus Daten und passt dabei seine Gewichte an. Wer Stable Diffusion, FLUX oder ein Sprachmodell über Ollama oder LM Studio auf dem eigenen Rechner nutzt, rechnet Inferenz. Das ist für die meisten Nutzer der Normalfall.

Bei der Inferenz muss das Modell vollständig in den Videospeicher passen. Die Geschwindigkeit hängt dann vor allem von der Speicherbandbreite ab, denn für jedes erzeugte Token liest die Grafikkarte die Modellgewichte einmal aus dem Speicher. Als grobe Faustregel gilt: Bandbreite geteilt durch Modellgröße ergibt die höchstmögliche Zahl an Tokens pro Sekunde, in der Praxis liegt der Wert darunter. Bei einem 9 GB großen Modell kommt eine RTX 5070 Ti (896 GB/s) so rechnerisch auf höchstens rund 100 Tokens pro Sekunde, eine RTX 5060 Ti (448 GB/s) auf etwa die Hälfte.

Training braucht deutlich mehr Speicher als Inferenz, weil neben den Gewichten auch Gradienten und Optimierer-Zustände im VRAM liegen. Große Sprachmodelle von Grund auf zu trainieren, ist auf einer einzelnen Consumer-Grafikkarte nicht realistisch. Machbar ist das Feintuning mit LoRA: Dabei werden nur kleine Zusatzgewichte trainiert. Dafür reicht eine Karte mit 16 GB für Bildmodelle wie SDXL oder kleinere Sprachmodelle.

Wie viel VRAM brauchst du für KI?

8 GB sind die Untergrenze für Stable Diffusion. 16 GB sind eine gute Größe für Bildgenerierung und Sprachmodelle bis etwa 14 Milliarden Parameter. Ab 32 GB laufen auch Sprachmodelle mit rund 30 Milliarden Parametern.

Den Bedarf eines Sprachmodells kannst du selbst abschätzen: Anzahl der Parameter mal Bytes pro Parameter. In voller Genauigkeit (FP16) belegt jeder Parameter 2 Byte. In der verbreiteten 4-Bit-Quantisierung sind es etwa 0,6 Byte, weil zu den 4 Bit noch Zusatzdaten kommen. Dazu kommt je nach Länge des Kontexts ein Puffer von einem bis mehreren Gigabyte. Passt ein Modell nicht hinein, lagert die Software Teile in den Arbeitsspeicher aus, und die Geschwindigkeit sinkt stark. Für lokale Sprachmodelle ist eine Karte mit mehr VRAM deshalb oft sinnvoller als eine mit mehr Rechenleistung.

Eigene Näherung nach der Formel oben, ohne Kontext-Puffer. Die Dateigrößen bei Ollama weichen je nach Modell leicht ab; Llama 3.3 70B ist dort 43 GB groß.

Bei Bildmodellen ist der Bedarf ähnlich gestaffelt: Stable Diffusion 1.5 läuft schon mit 4 bis 6 GB, SDXL braucht mindestens 8 GB, besser 12 GB. FLUX.1 [dev] mit 12 Milliarden Parametern belegt in voller Genauigkeit rund 24 GB, in der komprimierten FP8-Fassung etwa die Hälfte.