Hinweis: Wir erhalten Provisionen ueber Partnerlinks. Dies beeinflusst nicht unsere Bewertungen. Mehr erfahren

VPSchart Redaktion

Veröffentlicht am 15. Januar 2026, geprüft am 2. November 2026

Ollama

Ollama Hosting 2026: CPU-VPS oder GPU-Instanz?

Der passende Server ergibt sich nicht aus dem Namen des Anbieters. Entscheidend sind das konkrete Modell, seine Quantisierung, die Kontextlänge, gleichzeitige Anfragen und die Frage, ob das Modell vollständig in RAM oder VRAM liegt.

Offizielle Dokumentation geprüft am 2. November 2026. Produktlinien, Regionen und Kapazität können sich ändern. Prüfe die finale Konfiguration vor der Bestellung.

Kurzantwort

Starte mit dem kleinsten reproduzierbaren Test, nicht mit einer Rangliste

Für eine private Auswertung mit wenigen Anfragen kann eine CPU-Instanz genügen. Für interaktive Antworten, lange Kontexte oder mehrere Nutzer ist eine kompatible GPU meist die relevante Grenze. Nutze denselben Modell-Tag, dieselbe Kontextlänge und denselben Prompt für einen kurzen Lasttest. Erst danach vergleichst du den dauerhaft benötigten Compute-Typ.

CPU-Konfiguration bei Hetzner prüfen

Vier Werte bestimmen die Instanz

1. Modell und Quantisierung

Der Modell-Tag bestimmt den Grundbedarf. Ein kleiner quantisierter Build kann in Arbeitsspeicher passen, während eine größere oder weniger stark quantisierte Variante deutlich mehr Kapazität benötigt. Dokumentiere den exakten Tag statt nur die Modellfamilie.

2. Kontextlänge

Mehr Kontext erhöht den Speicherbedarf. Ollama setzt den Standard anhand des verfügbaren VRAM und empfiehlt für Aufgaben wie Agenten, Websuche und Coding mindestens 64.000 Tokens. Diese Einstellung kann eine zuvor passende GPU unpassend machen.

3. Parallelität

Ein Einzelprompt ist kein Mehrnutzer-Test. Lege fest, wie viele Modelle gleichzeitig geladen bleiben und wie viele Anfragen parallel laufen. Wiederhole dann einen festen Prompt und beobachte Speicher, Auslagerung und Antwortzeit.

4. Persistenter Bestand

Modelle, Konfiguration, Modelfiles und gegebenenfalls eine Weboberfläche brauchen dauerhaften Speicher. Eine Scratch-Disk ist für temporäre Daten gedacht. Sie ersetzt weder ein persistentes Volume noch eine unabhängige Sicherung.

CPU, GPU oder geteilte Architektur

Variante	Passt eher zu	Vor Bestellung prüfen	Hauptrisiko
CPU-VPS	Kleine Modelle, Tests, Batch-Aufgaben und wenige Anfragen	RAM, dedizierte oder geteilte CPU, Architektur und eigener Prompt-Test	Antwortzeit und schwankende CPU-Leistung
GPU-Instanz	Interaktive Nutzung, längere Kontexte, größere Modelle und Parallelität	GPU-Modell, VRAM, Treiber, Region, Kapazität und persistenter Speicher	Falsche GPU, zu wenig VRAM oder weiterlaufende Kosten
Geteilt	Weboberfläche und Steuerlogik auf CPU, Inferenz auf separatem GPU-Worker	Private Verbindung, Authentifizierung, Zeitlimits und Fehlerpfad	Mehr Betriebsaufwand und zusätzliche Netzabhängigkeit

Anbieter nach Produktgrenze vergleichen

Die folgenden Einträge sind keine gemessene Rangliste. Sie zeigen, welche Produktgrenze du im jeweiligen Checkout prüfen musst. Preise und verfügbare Hardware werden bewusst nicht festgeschrieben.

Hetzner

Grenze: Cloud-Server bieten geteilte oder dedizierte CPU-Ressourcen. GPU-Server gehören zu einer separaten Dedicated-Server-Linie. Entscheide zuerst, ob dein Test CPU-only ist oder eine konkrete GPU benötigt.

Hetzner Compute prüfen

Hostinger

Grenze: Die dokumentierten VPS-Pläne bündeln feste vCPU-, RAM-, Speicher- und Transferwerte. Prüfe das konkrete Paket im hPanel und validiere CPU-Inferenz mit deinem Modell und Prompt.

Hostinger VPS prüfen

DigitalOcean

Grenze: GPU Droplets gibt es mit AMD- oder Nvidia-Hardware. Sie kombinieren eine persistente Boot-Disk mit je nach Plan möglichem nicht persistentem Scratch-Speicher. Region und Teamlimit können die Bestellung begrenzen.

DigitalOcean GPU Droplets prüfen

Vultr

Grenze: Cloud GPU Instanzen sind virtuelle Maschinen mit Nvidia-GPUs. Prüfe die genaue Variante, VRAM, Bereitstellungsregion, Image und Treiber statt nur den Produktnamen Cloud GPU.

Vultr Cloud GPU prüfen

Railway

Grenze: Railway ist eine Plattform für Services mit optionalen persistenten Volumes. Das kann für Oberfläche oder Steuerlogik passen. Prüfe Compute, Speicherlimit, Mount-Pfad und Laufzeit getrennt von einer VPS- oder GPU-Entscheidung.

Railway Service prüfen

Ein belastbarer Test in sechs Schritten

Modell festschreiben: Notiere den exakten Ollama-Tag und die Quantisierung.
Kontext festlegen: Nutze die Länge, die deine reale Aufgabe benötigt. Ein Agenten- oder Coding-Workflow braucht oft mehr als ein kurzer Chat.
Persistenz einrichten: Lege /root/.ollama oder den konfigurierten Modellpfad auf dauerhaften Speicher.
Festen Prompt messen: Miss Startzeit, Zeit bis zum ersten Token, Gesamtdauer und Auslastung. Wiederhole den Lauf nach einem Neustart.
Parallelität simulieren: Sende die erwartete Zahl gleichzeitiger Anfragen und beobachte RAM, VRAM, CPU-Offload und Fehler.
Kostenzeitraum definieren: Trenne ständigen Betrieb, zeitweise GPU-Nutzung, Speicher, Netzwerk und Backups. Powered off bedeutet nicht automatisch kostenfrei.

GPU-Kompatibilität ist konkreter als das Wort GPU

Ollama unterstützt Nvidia-GPUs ab Compute Capability 5.0. Die aktuelle Dokumentation verlangt für viele Karten Treiber 550 oder neuer, bei Compute Capability 5.0 bis 6.2 Treiber 570 oder neuer. Für AMD nennt Ollama die unterstützten ROCm- und Vulkan-Pfade. Ein Anbieter kann also GPU-Compute anbieten, ohne dass jede Variante für deine Ollama-Version und dein Image gleich geeignet ist.

Prüfe nach der Installation mit ollama ps, ob das Modell vollständig auf der GPU, vollständig auf der CPU oder auf beide verteilt geladen wurde. CPU-Offload ist ein wichtiges Diagnosesignal, aber keine pauschale Fehlerursache. Die richtige Entscheidung hängt weiterhin von deiner akzeptierten Antwortzeit ab.

Speicher, Backup und Wiederherstellung

Modelldateien lassen sich häufig erneut laden, können aber groß sein und einen Restore verlangsamen. Sichere zusätzlich die Konfiguration, eigene Modelfiles, Proxy-Regeln, Zertifikate und den Zustand der angebundenen Weboberfläche. Dokumentiere, welche Daten auf Boot-Disk, Volume und Scratch-Speicher liegen.

Wiederbeschaffbar: öffentliche Modellblobs, Installationspakete und Container-Images

Eigener Bestand: Konfiguration, Modelfiles, Zertifikate, Zugriffsregeln und Anwendungsdaten

Restore-Test: neue Instanz starten, Volume oder Backup einhängen, Modell laden und denselben Testprompt ausführen

Port 11434 nicht ungeschützt veröffentlichen

Ollama bindet standardmäßig an 127.0.0.1:11434. Für einen Netzwerkzugang kann die Bind-Adresse geändert oder ein Reverse Proxy eingesetzt werden. Behandle diese technische Möglichkeit nicht als Freigabe für einen offenen Internetzugang. Setze Authentifizierung, TLS, Firewall-Regeln, Zugriffslimits und Protokollierung vor die API.

Pragmatischer Startpunkt

Wenn ein CPU-Test dein Ziel erfüllt, beginne mit ausreichendem RAM und vorhersehbarer CPU-Leistung. Wenn er zu langsam ist oder dein Kontext und deine Parallelität den Speicher sprengen, wechsle gezielt zu einer kompatiblen GPU. So bezahlst du für einen gemessenen Engpass statt für eine pauschale Empfehlung.

Hetzner CPU-Optionen ansehen

Frequently Asked Questions

Wie viel RAM braucht Ollama auf einem VPS?

Es gibt keinen sinnvollen Pauschalwert für alle Modelle. Modellgröße und Quantisierung bestimmen den Grundbedarf. Kontextlänge, parallele Anfragen und gleichzeitig geladene Modelle erhöhen ihn. Prüfe mit ollama ps, ob das Modell vollständig in RAM oder VRAM liegt, und messe den eigenen Prompt unter Last.

Kann Ollama ohne GPU laufen?

Ja. Die offizielle Docker-Anleitung enthält ausdrücklich einen CPU-only Start. Ob das für dich reicht, hängt von Modell, Kontext, Antwortlänge und gewünschter Wartezeit ab. Eine kleine Testinstanz mit einem festen Prompt ist belastbarer als eine allgemeine Anbieterwertung.

Wann ist eine GPU-Instanz sinnvoll?

Wenn interaktive Antwortzeiten, längere Kontexte, mehrere gleichzeitige Nutzer oder größere Modelle wichtig sind. Prüfe vor der Bestellung die genaue GPU, ihren VRAM, die Ollama-Kompatibilität, den Treiber, die regionale Verfügbarkeit und ob Speicher als persistent oder nur als Scratch-Disk bereitgestellt wird.

Soll Port 11434 öffentlich erreichbar sein?

Ollama bindet standardmäßig an 127.0.0.1 auf Port 11434. Wenn du die API über das Netz bereitstellst, setze einen vorgeschalteten Zugriffsschutz, TLS, eine Firewall und klare Ursprungsregeln ein. Eine öffentliche IP allein ist kein Sicherheitskonzept.

Ist Railway dasselbe wie ein VPS für Ollama?

Nein. Railway ist ein Plattformdienst mit Services und persistenten Volumes, kein allgemeiner VPS. Das kann für eine Weboberfläche oder Steuerlogik passen. Für lokale Inferenz musst du zusätzlich prüfen, ob der gebuchte Compute-Typ, Speicher und die Laufzeitgrenzen zu deinem Modell passen.

Offizielle Quellen

Alle materiellen technischen Aussagen wurden am 2. November 2026 gegen die folgenden Originalquellen geprüft: