Ollama API vs OpenRouter: welke past bij jou

Kort antwoord

De vergelijking ollama api vs openrouter is eigenlijk een vergelijking van twee verschillende soorten dingen. Ollama is een programma dat open-weight modellen op een machine draait die je beheert en ze blootstelt via een lokale HTTP API. OpenRouter is een gehoste service die voor veel modellen van veel providers staat en je in staat stelt er één te kiezen op naam via een enkele OpenAI-stijl API.

Dus de keuze hangt af van waar de compute moet draaien en hoeveel modellen je wilt bereiken. Als je offline of volledig privé inferentie nodig hebt, draai dan Ollama. Als je veel verschillende modellen wilt uitproberen zonder ze te hosten, dan is een router zinvol. Als je één model wilt dat antwoordt zonder inhoudelijke afwijzingen voor legaal gebruik door volwassenen, achter een simpele pay-per-token API, dan is een speciale service een derde optie, en deze site is er een.

Naast elkaar

Deze tabel houdt zich aan wat publiek bekend is over elke optie en de feiten van deze service. Voor prijzen van andere diensten, bekijk hun huidige prijzenpagina.

	Ollama	OpenRouter	Deze API
Waar het draait	Je eigen machine of server	Gehost, routeert naar providers	Gehost, één onafhankelijke provider
Modellen	Elk model dat je kunt ophalen en in geheugen past	Veel modellen van verschillende leveranciers	Eén open-weight model, ID uncensored
API-stijl	Native API plus OpenAI-stijl /v1	OpenAI-style	OpenAI-compatibel
Hardware die jij nodig hebt	Ja, geschaald naar het model	Nee	Nee
Werkt offline	Ja	Nee	Nee
Facturatie	Jouw hardware en stroom	Per token, varieert per model	$0,15 per 1M input, $0,50 per 1M output
Weigeringsgedrag	Hangt af van het gekozen model	Hangt af van het model en de provider die je kiest	Afgestemd om te antwoorden zonder afwijzingen voor legaal gebruik door volwassenen

Waar Ollama de betere keuze is

Ollama wint wanneer data op je machine moet blijven. Niets verlaat de computer, er is geen account, en het werkt op een vliegtuig. Het is ook de beste plek om te experimenteren: je kunt in minuten een nieuw open model pullen, verschillende ervan vergelijken op je eigen prompts, en gekwantiseerde versies testen die op kleine GPU's passen.

Het is een mindere match wanneer je geen hardware kunt leveren. Grotere modellen hebben echt GPU-geheugen nodig, en de throughput op een laptop is beperkt. Een team bedienen vanaf één box betekent dat je nu infrastructuur draait: updates, geheugendruk, herstarten. De native API heeft ook geen ingebouwde authenticatie, dus het blootstellen ervan buiten localhost vereist een proxy ervoor. Sommige functies die je misschien wilt, zoals lange contexten of meerdere gebruikers tegelijk, zijn eigenlijk vragen over geheugen en wachtrijen op je eigen box, dus test met de belasting die je verwacht voordat je erop vertrouwt.

Als je lokaal blijft, is de Python-kant eenvoudig; de OpenAI SDK werkt tegen http://localhost:11434/v1 met elke string als de sleutel.

Waar OpenRouter de betere keuze is

Een router is goed in breedte. Eén account en één API geven je toegang tot veel modellen, dus je kunt voor elke taak een ander model proberen, antwoorden vergelijken, of terugvallen op een ander model als één niet beschikbaar is. Als je product een specifiek gesloten model van een specifieke leverancier nodig heeft, bespaart een router die het aanbiedt je het afzonderlijk aanmelden bij elke leverancier.

De afwegingen volgen uit hetzelfde ontwerp. Gedrag hangt af van het model dat je kiest, en contentbeleid verschilt tussen modellen en providers, dus dezelfde prompt kan door de ene geweigerd worden en door de andere beantwoord. Prijzen verschillen per model, dus kostenprognose betekent het opzoeken van het model dat je gebruikt. Controleer hun huidige prijsopgave en modellenlijst voordat je je vastlegt, omdat die veranderen.

Als je maar één model nodig hebt, wordt veel van die breedte niet gebruikt.

Waar een speciale ongecensureerde API de betere keuze is

Deze service doet één ding. Het biedt één open-weight model, uncensored, gedraaid door een onafhankelijke provider en afgestemd op antwoorden zonder inhoudelijke afwijzingen voor legaal gebruik door volwassenen. Het is niet de officiële API van een modelleverancier en geen router. De harde limiet is dat seksuele inhoud met minderjarigen nooit is toegestaan.

Het past bij fictie, roleplay en companion apps voor volwassenen, schrijfgereedschap, en onderzoek of red-team werk waar weigeringen de workflow verstoren. Omdat het model onder je niet verandert, is het gedrag voorspelbaar: je stelt de prompt één keer in in plaats van per model. Prijzen zijn een vast tarief van $0,15 per 1M input tokens en $0,50 per 1M output tokens van prepaid tegoed, zonder abonnement en zonder kosten voor mislukte of geweigerde verzoeken.

Het is de verkeerde keuze als je beeld-, audio- of videogeneratie, embeddings of fine-tuning nodig hebt, omdat het alleen tekst is. Het is ook de verkeerde keuze als je een keuze uit modellen van verschillende leveranciers nodig hebt, of als je data je machine niet mag verlaten. Gebruik in die gevallen een router of draai Ollama.

Schakelen is vooral een base URL-aanpassing

Alle drie gebruiken een OpenAI-style chat-completies formaat, dus een kleine configuratielaag laat je ertussen schakelen. Hier is een Python-client die zijn doel leest uit de omgeving, met deze API als standaard.

Copyimport os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.ollamaapi.cc/v1"),
    api_key=os.getenv("LLM_API_KEY", "YOUR_API_KEY"),
)

resp = client.chat.completions.create(
    model=os.getenv("LLM_MODEL", "uncensored"),
    messages=[{"role": "user", "content": "Draft a short scene set in a night market."}],
    stream=False,
)
print(resp.choices[0].message.content)

Om hetzelfde script tegen Ollama uit te voeren, stel je de basis-URL in op http://localhost:11434/v1 en het model op één die je hebt opgehaald. Voor een router gebruik je de basis-URL en modelnamen uit zijn eigen documentatie. Dezelfde vorm in curl:

Copycurl https://api.ollamaapi.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

De gehoste API ondersteunt streaming, tool calling, JSON-modus en een contextvenster van 100.000 tokens. De quickstart loopt elk onderdeel door.

Limiet en operationele verschillen

Zodra je voorbij het eerste prototype gaat, zijn de praktische verschillen limieten en betrouwbaarheid in plaats van functies.

Met Ollama zijn de limieten van jou. Het aantal gelijktijdige verzoeken hangt af van hoeveel verzoeken je hardware tegelijk kan bedienen, en de contextlengte is een instelling die je kiest tegen beschikbaar geheugen. Wanneer de box druk is, wachten verzoeken. Wanneer hij uitvalt, valt je app ook uit, en repareren is jouw taak.

Met een router hangen limieten en beschikbaarheid af van het model en de provider waar je naartoe routeert, en ze kunnen per model verschillen. Lees de documentatie van het specifieke model waarop je wilt vertrouwen.

Bij deze API zijn de limieten vast en kort genoeg om te onthouden. Een volledige sleutel staat 8 gelijktijdige verzoeken en 300 verzoeken per minuut toe, en een proefsleutel staat 2 gelijktijdige en 60 per minuut toe. De maximale body is 8 MB. Overschrijding levert HTTP 429 op, met foutcode rate_limited voor verzoeken per minuut of concurrency voor te veel tegelijk; een tijdelijke overload levert ook 429 op met een Retry-After: 5 header. Een gestreamd verzoek houdt zijn concurrency slot vast tot de stream eindigt, dus lange streams tellen mee voor de 8. Response headers bevatten X-Balance-USD en de limietwaarden, wat monitoring eenvoudig maakt.

Een praktische manier om te beslissen

1. Moet data op je machine blijven? Ja betekent Ollama.
2. Heb je modellen van verschillende leveranciers nodig? Ja betekent een router.
3. Wil je één stabiel model zonder afwijzingen voor legaal gebruik door volwassenen, zonder dat je zelf hardware nodig hebt? Ja betekent een dedicated API.
4. Heb je ongebruikte GPU-capaciteit? Zo ja, lokaal draaien kan goedkoper zijn dan elke gehoste optie.

Je hoeft je niet vast te leggen. Begin met de proefversie van $0,50, die nieuwe gebruikers met één klik claimen op de API-sleutelpagina na het inloggen. Deze is 7 dagen geldig en je hebt geen creditcard nodig. Voer je echte prompts uit, controleer de output en bekijk de prijs per token voordat je tegoed toevoegt. Opwaarderingen lopen van $20 tot $500, per creditcard of crypto, en tegoed vervalt nooit. Als je prompts strikt privé zijn, onthoud dan dat prompts hier niet worden gebruikt voor training, maar lokale inferentie houdt ze helemaal van het netwerk af.

Meer handleidingen

• Ollama API in Python en een gehost alternatief
• Ollama API-prijzen: Lokale kosten versus betalen per token
• Mistral API-sleutelgids