Ollama API vs. OpenRouter: Welches passt zu dir?

Kurze Antwort

Der Vergleich Ollama API vs. OpenRouter ist eigentlich ein Vergleich zweier unterschiedlicher Dinge. Ollama ist ein Programm, das Open-Weight-Modelle auf einer von dir kontrollierten Maschine ausführt und sie über eine lokale HTTP-API verfügbar macht. OpenRouter ist ein gehosteter Dienst, der vor vielen Modellen von vielen Anbietern sitzt und dir erlaubt, eines per Name über eine einzelne OpenAI-kompatible API auszuwählen.

Die Wahl hängt also davon ab, wo die Rechenleistung stattfinden soll und wie viele Modelle du ansprechen möchtest. Für Offline-Inferenz oder vollständig private Inferenz nutze Ollama. Wenn du viele verschiedene Modelle ausprobieren möchtest, ohne sie selbst zu hosten, ist ein Router sinnvoll. Wenn du ein Modell suchst, das ohne Inhaltsablehnungen für die legale Nutzung durch Erwachsene antwortet, hinter einer simplen Pay-per-Token-API, ist ein dedizierter Dienst eine dritte Option — und diese Seite ist einer.

Nebeneinander

Diese Tabelle beschränkt sich auf öffentlich bekannte Fakten zu jeder Option und die Fakten zu diesem Dienst. Für die Preise eines anderen Dienstes prüfe die aktuelle Preisliste dieses Anbieters.

	Ollama	OpenRouter	Diese API
Wo es ausgeführt wird	Deine eigene Maschine oder Server	Gehostet, leitet zu Anbietern weiter	Gehostet, ein unabhängiger Anbieter
Modelle	Jedes Modell, das du lädst und das in den Arbeitsspeicher passt	Viele Modelle von vielen Anbietern	Ein Open-Weight-Modell, ID uncensored
API-Stil	Native API plus OpenAI-kompatibles /v1	OpenAI-kompatibel	OpenAI-kompatibel
Von dir benötigte Hardware	Ja, modellabhängig	Nein	Nein
Funktioniert offline	Ja	Nein	Nein
Abrechnung	Deine Hardware und Strom	Pro Token, modellabhängig	$0,15 pro 1M Input, $0,50 pro 1M Output
Ablehnungsverhalten	Hängt vom gewählten Modell ab	Hängt vom gewählten Modell und Anbieter ab	Abgestimmt auf Antworten ohne Ablehnungen für die rechtmäßige Nutzung durch Erwachsene

Wo Ollama die bessere Wahl ist

Ollama gewinnt immer, wenn Daten auf deinem Rechner bleiben müssen. Nichts verlässt den Computer, es gibt kein Konto, und es funktioniert im Flugzeug. Es ist auch der beste Ort zum Experimentieren: Du kannst in Minuten ein neues Open-Modell ziehen, mehrere auf deinen eigenen Prompts vergleichen und quantisierte Versionen testen, die auf kleinen GPUs passen.

Es passt schlechter, wenn du keine Hardware bereitstellen kannst. Größere Modelle benötigen echten GPU-Speicher, und der Durchsatz auf einem Laptop ist begrenzt. Ein Team von einer Box aus zu bedienen bedeutet, dass du jetzt Infrastruktur betreibst: Updates, Speicherdruck, Neustarts. Die native API hat zudem keine integrierte Authentifizierung, daher erfordert die Freigabe über Localhost hinaus einen Proxy davor. Einige Funktionen, die du vielleicht brauchst, wie lange Kontexte oder mehrere Nutzer gleichzeitig, sind eigentlich Fragen zum Speicher und zur Warteschlangenbildung auf deiner eigenen Box, also teste mit der Last, die du erwartest, bevor du dich darauf verlässt.

Wenn du lokal bleibst, ist die Python-Seite einfach; das OpenAI SDK funktioniert gegen http://localhost:11434/v1 mit einem beliebigen String als Schlüssel.

Wo OpenRouter die bessere Wahl ist

Ein Router ist gut für Breite. Ein Konto und eine API geben dir Zugriff auf viele Modelle, sodass du für jede Aufgabe ein anderes Modell ausprobieren, Antworten vergleichen oder auf ein anderes Modell zurückgreifen kannst, wenn eines nicht verfügbar ist. Wenn dein Produkt ein bestimmtes geschlossenes Modell eines bestimmten Anbieters benötigt, spart dir ein Router, der es anbietet, dich bei jedem Anbieter separat anzumelden.

Die Kompromisse ergeben sich aus demselben Design. Das Verhalten hängt vom gewählten Modell ab, und die Inhaltsrichtlinien unterscheiden sich zwischen Modellen und Anbietern, sodass derselbe Prompt auf der einen Seite abgelehnt und auf der anderen beantwortet werden kann. Die Preise unterscheiden sich pro Modell, daher bedeutet die Kostenplanung, das genutzte Modell nachzuschlagen. Prüfe die aktuellen Preise und die Modellliste, bevor du dich entscheidest, da sich diese ändern.

Wenn du nur immer ein Modell brauchst, bleibt ein Großteil dieser Breite ungenutzt.

Wo eine dedizierte unzensierte API die bessere Wahl ist

Dieser Dienst macht eines. Er bietet ein einzelnes Open-Weight-Modell, uncensored, an, betrieben von einem unabhängigen Anbieter und optimiert, um ohne Inhaltsablehnungen für die legale Nutzung durch Erwachsene zu antworten. Es ist nicht die offizielle API eines Modell-Anbieters und kein Router. Die harte Grenze ist, dass sexuelle Inhalte, die Minderjährige betreffen, niemals erlaubt sind.

Es eignet sich für fiktionale, Roleplay- und Companion-Apps für Erwachsene, Schreibwerkzeuge sowie für Forschungs- oder Red-Team-Arbeiten, bei denen Ablehnungen den Fluss unterbrechen. Da sich das Modell nicht ändert, ist das Verhalten vorhersehbar: Du passt den Prompt einmal an, statt ihn pro Modell zu optimieren. Der Preis beträgt pauschal $0,15 pro 1 Mio. Input-Token und $0,50 pro 1 Mio. Output-Token aus dem Prepaid-Guthaben, ohne Abonnement und ohne Gebühren für fehlgeschlagene oder abgelehnte Anfragen.

Es ist die falsche Wahl, wenn du Bild-, Audio- oder Video-Generierung, Embeddings oder Fine-Tuning benötigst, da es nur Text unterstützt. Es ist auch die falsche Wahl, wenn du die Wahl zwischen Modellen verschiedener Anbieter benötigst oder wenn deine Daten nicht von deinem Rechner verlassen dürfen. In diesen Fällen nutze einen Router oder führe Ollama aus.

Der Wechsel ist meist eine Base-URL-Änderung

Alle drei sprechen ein OpenAI-kompatibles Chat-Completion-Format, sodass eine kleine Konfigurationsschicht den Wechsel zwischen ihnen ermöglicht. Hier ist ein Python-Client, der sein Ziel aus der Umgebung liest und standardmäßig diese API verwendet.

Copyimport os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.ollamaapi.cc/v1"),
    api_key=os.getenv("LLM_API_KEY", "YOUR_API_KEY"),
)

resp = client.chat.completions.create(
    model=os.getenv("LLM_MODEL", "uncensored"),
    messages=[{"role": "user", "content": "Draft a short scene set in a night market."}],
    stream=False,
)
print(resp.choices[0].message.content)

Um dasselbe Skript gegen Ollama auszuführen, setze die Base URL auf http://localhost:11434/v1 und das Modell auf eines, das du gezogen hast. Für einen Router verwende die Base URL und Modellnamen aus deren Dokumentation. Dieselbe Form in curl:

Copycurl https://api.ollamaapi.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

Die gehostete API unterstützt Streaming, Function Calling, JSON-Modus und ein 100.000-Token-Kontextfenster. Der Schnellstart geht jeden Punkt durch.

Grenzen und operative Unterschiede

Sobald du über den ersten Prototyp hinausgehst, sind die praktischen Unterschiede Grenzen und Zuverlässigkeit, nicht Funktionen.

Bei Ollama sind die Grenzen deine. Die Parallelität hängt davon ab, wie viele Anfragen deine Hardware gleichzeitig bedienen kann, und die Kontextlänge ist eine Einstellung, die du gegen verfügbaren Speicher wählst. Wenn die Box beschäftigt ist, warten Anfragen. Wenn sie ausfällt, fällt auch deine App aus, und die Reparatur ist deine Aufgabe.

Bei einem Router hängen Grenzen und Verfügbarkeit vom Modell und Anbieter ab, zu dem du weiterleitest, und sie können von einem Modell zum nächsten variieren. Lies die Dokumentation des spezifischen Modells, auf das du dich verlassen möchtest.

Bei dieser API sind die Grenzen fest und kurz genug, um sie sich zu merken. Ein voller Schlüssel erlaubt 8 parallele Anfragen und 300 Anfragen pro Minute, ein Trial-Schlüssel erlaubt 2 parallele und 60 pro Minute. Der maximale Body ist 8 MB. Das Überschreiten ergibt HTTP 429, mit Fehlercode rate_limited für Anfragen pro Minute oder concurrency für zu viele gleichzeitig; eine temporäre Überlastung gibt ebenfalls 429 mit einem Retry-After: 5-Header zurück. Eine gestreamte Anfrage belegt ihren Parallelitäts-Slot, bis der Stream endet, daher zählen lange Streams gegen die 8. Antwort-Header enthalten X-Balance-USD und die Grenzwerte, was die Überwachung einfach macht.

Ein praktischer Weg zur Entscheidung

1. Müssen Daten auf deinem Rechner bleiben? Ja bedeutet Ollama.
2. Brauchst du Modelle von mehreren Anbietern? Ja bedeutet einen Router.
3. Willst du ein einziges, stabiles Modell ohne Ablehnungen für die legale Nutzung durch Erwachsene, ohne eigene Hardware? Ja bedeutet eine dedizierte API.
4. Verfügst du über ungenutzte GPU-Kapazität? Falls ja, kann die lokale Nutzung günstiger sein als jede gehostete Option.

Du musst dich nicht festlegen. Starte mit dem 0,50-$-Testguthaben, das neue Nutzer nach der Anmeldung mit einem Klick auf der API-Schlüssel-Seite beanspruchen können. Es ist 7 Tage gültig, keine Karte erforderlich. Führe deine echten Prompts aus, prüfe die Ausgabe und sieh dir die Pay-per-Token-Preise an, bevor du Guthaben auflädst. Aufladungen liegen zwischen 20 und 500 $, per Karte oder Krypto, und das Guthaben verfällt nie. Wenn deine Prompts streng privat sind, bedenke, dass Prompts hier nicht zum Training verwendet werden, aber lokale Inferenz sie vollständig vom Netzwerk fernhält.

Weitere Anleitungen

• Ollama-API in Python und eine gehostete Alternative
• Ollama API-Preise: Lokale Kosten vs. Pay per Token
• Mistral-API-Schlüssel-Anleitung