Ollama API vs OpenRouter : lequel vous convient ?

Réponse courte

La comparaison Ollama API vs OpenRouter est en réalité une comparaison de deux types de choses différentes. Ollama est un programme qui exécute des modèles à poids ouverts sur une machine que vous contrôlez et les expose via une API HTTP locale. OpenRouter est un service hébergé placé devant de nombreux modèles provenant de nombreux fournisseurs et vous permet d'en choisir un par son nom via une seule API de style OpenAI.

Le choix dépend donc de l'endroit où vous souhaitez exécuter le calcul et du nombre de modèles que vous souhaitez atteindre. Si vous avez besoin d'une inférence hors ligne ou entièrement privée, lancez Ollama. Si vous voulez essayer de nombreux modèles différents sans en héberger aucun, un routeur a du sens. Si ce que vous voulez est un modèle qui répond sans refus de contenu pour un usage adulte légal, derrière une API simple au token, un service dédié est une troisième option, et ce site en est un.

Côte à côte

Ce tableau se limite aux informations publiquement connues sur chaque option et aux faits concernant ce service. Pour les prix de tout autre service, consultez leur page tarifaire actuelle.

	Ollama	OpenRouter	Cette API
Où il s'exécute	Votre propre machine ou serveur	Hébergé, achemine vers des fournisseurs	Hébergé, un fournisseur indépendant
Modèles	Tout modèle que vous pouvez extraire et charger en mémoire	De nombreux modèles de nombreux fournisseurs	Un seul modèle à poids ouverts, ID uncensored
Style API	API native plus interface de style OpenAI /v1	De style OpenAI	Compatible OpenAI
Matériel nécessaire de votre côté	Oui, dimensionné selon le modèle	Non	Non
Fonctionne hors ligne	Oui	Non	Non
Facturation	Votre matériel et votre énergie	Par token, varie selon le modèle	0,15 $ par 1M d'entrée, 0,50 $ par 1M de sortie
Comportement de refus	Dépend du modèle que vous choisissez	Dépend du modèle et du fournisseur que vous choisissez	Ajusté pour répondre sans refus pour un usage pour adultes légal

Où Ollama est le meilleur choix

Ollama s'impose lorsque les données doivent rester sur votre machine. Rien ne quitte l'ordinateur, aucun compte n'est nécessaire, et cela fonctionne en avion. C'est aussi le meilleur endroit pour expérimenter : vous pouvez télécharger un nouveau modèle à poids ouverts en quelques minutes, comparer plusieurs modèles avec vos propres prompts, et tester des versions quantifiées adaptées aux petits GPU.

C'est un choix moins adapté lorsque vous ne pouvez pas fournir de matériel. Les modèles plus gros nécessitent une véritable mémoire GPU, et le débit sur un ordinateur portable est limité. Servir une équipe depuis une seule machine signifie que vous gérez désormais l'infrastructure : mises à jour, pression mémoire, redémarrages. L'API native ne dispose pas d'authentification intégrée, l'exposer au-delà de localhost nécessite donc un proxy devant. Certaines fonctionnalités que vous souhaitez peut-être, comme de longs contextes ou plusieurs utilisateurs simultanés, sont en réalité des questions de mémoire et de file d'attente sur votre propre machine, testez donc avec la charge attendue avant de vous y fier.

Si vous restez local, le côté Python est simple ; le SDK OpenAI fonctionne avec http://localhost:11434/v1 avec n'importe quelle chaîne comme clé.

Où OpenRouter est le meilleur choix

Un routeur est bon pour la diversité. Un compte et une API vous donnent accès à de nombreux modèles, afin que vous puissiez essayer un modèle différent pour chaque tâche, comparer les réponses, ou basculer vers un autre modèle quand un est indisponible. Si votre produit a besoin d'un modèle fermé spécifique d'un fournisseur spécifique, un routeur qui l'offre vous épargne de vous inscrire auprès de chaque fournisseur séparément.

Les compromis découlent de la même conception. Le comportement dépend du modèle que vous choisissez, et les politiques de contenu diffèrent entre les modèles et les fournisseurs, donc le même prompt peut être refusé sur un et accepté sur un autre. Les prix diffèrent par modèle, donc la prévision des coûts signifie consulter le modèle que vous utilisez. Consultez leurs tarifs actuels et la liste des modèles avant de vous engager, car ceux-ci changent.

Si vous n'avez besoin que d'un seul modèle, une grande partie de cette diversité reste inutilisée.

Où une API dédiée sans censure est le meilleur choix

Ce service fait une seule chose. Il propose un seul modèle à poids ouverts, uncensored, exécuté par un fournisseur indépendant et ajusté pour répondre sans refus de contenu pour un usage pour adultes légal. Ce n'est pas l'API officielle d'aucun fournisseur de modèle et ce n'est pas un routeur. La limite stricte est que le contenu sexuel impliquant des mineurs n'est jamais autorisé.

Il convient aux applications de fiction, de jeu de rôle et de compagnons pour adultes, aux outils d'écriture, ainsi qu'aux travaux de recherche ou de red-team où les refus interrompent le flux. Le modèle ne changeant jamais sous vos yeux, le comportement est prévisible : vous réglez le prompt une fois plutôt que par modèle. Les tarifs sont fixes à 0,15 $ par 1M de tokens d'entrée et 0,50 $ par 1M de tokens de sortie depuis le crédit prépayé, sans abonnement et sans facturation des requêtes échouées ou refusées.

C'est le mauvais choix si vous avez besoin de génération d'images, d'audio ou de vidéo, d'embeddings ou de fine-tuning, car il est textuel uniquement. C'est aussi le mauvais choix si vous avez besoin d'un choix de modèles de fournisseurs, ou si vos données ne peuvent pas quitter votre propre machine. Dans ces cas, utilisez un routeur ou lancez Ollama.

Le changement se résume à une URL de base

Les trois parlent un format de complétion de chat de style OpenAI, donc une petite couche de configuration vous permet de passer de l'un à l'autre. Voici un client Python qui lit sa cible depuis l'environnement, par défaut cette API.

Copyimport os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.ollamaapi.cc/v1"),
    api_key=os.getenv("LLM_API_KEY", "YOUR_API_KEY"),
)

resp = client.chat.completions.create(
    model=os.getenv("LLM_MODEL", "uncensored"),
    messages=[{"role": "user", "content": "Draft a short scene set in a night market."}],
    stream=False,
)
print(resp.choices[0].message.content)

Pour exécuter le même script contre Ollama, définissez l'URL de base sur http://localhost:11434/v1 et le modèle sur un modèle que vous avez extrait. Pour un routeur, utilisez l'URL de base et les noms de modèles de sa propre documentation. La même forme en curl :

Copycurl https://api.ollamaapi.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

L'API hébergée prend en charge le streaming, l'appel d'outils, le mode JSON et une fenêtre de contexte de 100 000 tokens. Le démarrage rapide les détaille.

Limites et différences opérationnelles

Une fois que vous passez du premier prototype, les différences pratiques concernent les limites et la fiabilité plutôt que les fonctionnalités.

Avec Ollama, les limites sont les vôtres. Le nombre de requêtes simultanées dépend du nombre de requêtes que votre matériel peut servir à la fois, et la longueur du contexte est un paramètre que vous choisissez en fonction de la mémoire disponible. Quand la machine est occupée, les requêtes attendent. Quand elle tombe en panne, votre application aussi, et la réparer est votre responsabilité.

Avec un routeur, les limites et la disponibilité dépendent du modèle et du fournisseur vers lesquels vous acheminez, et elles peuvent différer d'un modèle à l'autre. Lisez la documentation du modèle spécifique sur lequel vous comptez vous fier.

Avec cette API, les limites sont fixes et suffisamment courtes pour être mémorisées. Une clé complète permet 8 requêtes simultanées et 300 requêtes par minute, et une clé d'essai permet 2 requêtes simultanées et 60 par minute. Le corps maximum est de 8 Mo. Le dépassement renvoie HTTP 429, avec le code d'erreur rate_limited pour les requêtes par minute ou concurrency pour trop de requêtes à la fois ; une surcharge temporaire renvoie également 429 avec un en-tête Retry-After: 5. Une requête streaming occupe sa place de concurrence jusqu'à la fin du flux, donc les longs streams comptent pour les 8. Les en-têtes de réponse portent X-Balance-USD et les valeurs de limite, ce qui rend la surveillance simple.

Une méthode pratique pour décider

1. Les données doivent-elles rester sur votre machine ? Oui signifie Ollama.
2. Avez-vous besoin de modèles de plusieurs fournisseurs ? Oui signifie un routeur.
3. Voulez-vous un modèle stable sans refus pour une utilisation adulte légale, et sans matériel à faire tourner ? Oui signifie une API dédiée.
4. Disposez-vous de capacité GPU inutilisée ? Dans ce cas, le déploiement local peut coûter moins cher que toute option hébergée.

Vous n'avez pas à vous engager. Commencez par l'essai de 0,50 $, que les nouveaux utilisateurs réclament en un clic sur la page clé API après la connexion, valable 7 jours, sans carte bancaire. Exécutez vos vrais prompts, vérifiez la sortie, et consultez la tarification par token avant d'ajouter du crédit. Les recharges vont de 20 $ à 500 $, par carte ou crypto, et le crédit n'expire jamais. Si vos prompts sont strictement privés, rappelez-vous que les prompts ici ne sont pas utilisés pour l'entraînement, mais l'inférence locale les garde entièrement hors réseau.

Plus de guides

• API Ollama en Python et une alternative hébergée
• Tarification de l'API Ollama : coût local vs paiement par token
• Guide de la clé API Mistral