Ollama API vs OpenRouter: quale si adatta a te

Risposta breve

Il confronto Ollama API vs OpenRouter è davvero un confronto tra due tipi di cose diverse. Ollama è un programma che esegue modelli a pesi aperti su una macchina che controlli ed espone tramite un'API HTTP locale. OpenRouter è un servizio ospitato che si posiziona davanti a molti modelli di diversi provider e ti permette di sceglierne uno per nome tramite un'unica API in stile OpenAI.

La scelta dipende quindi da dove vuoi che viva il calcolo e quanti modelli vuoi raggiungere. Se ti serve un'inferenza offline o completamente privata, esegui Ollama. Se vuoi provare molti modelli diversi senza ospitarli, un router ha senso. Se quello che vuoi è un modello che risponde senza censure per uso adulto lecito, dietro un'API pay-per-token, un servizio dedicato è una terza opzione, e questo sito è uno di questi.

Lato a lato

Questa tabella si attiene a ciò che è pubblicamente noto su ciascuna opzione e ai fatti di questo servizio. Per i prezzi di qualsiasi altro servizio, controlla la pagina dei prezzi attuale.

	Ollama	OpenRouter	Questa API
Dove gira	La tua macchina o server	Ospitato, instrada verso i fornitori	Ospitato, un provider indipendente
Modelli	Qualsiasi modello che scarichi e che entra in memoria	Molti modelli da molti fornitori	Un modello a pesi aperti, ID uncensored
Stile API	API nativa con endpoint OpenAI-style /v1	In stile OpenAI	Compatibile con OpenAI
Hardware necessario per te	Sì, dimensionato al modello	No	No
Funziona offline	Sì	No	No
Fatturazione	Il tuo hardware e l'energia	Per token, varia per modello	$0,15 per 1M input, $0,50 per 1M output
Comportamento di rifiuto	Dipende dal modello che scegli	Dipende dal modello e dal provider che scegli	Ottimizzato per rispondere senza rifiuti per uso adulto legale

Quando Ollama è la scelta migliore

Ollama vince ogni volta che i dati devono restare sulla tua macchina. Nulla esce dal computer, non serve un account e funziona in aereo. È anche il posto migliore per sperimentare: puoi scaricare un nuovo modello open-weight in pochi minuti, confrontarne diversi sui tuoi prompt e testare versioni quantizzate che si adattano a GPU piccole.

È una scelta peggiore quando non puoi fornire hardware. I modelli più grandi richiedono vera memoria GPU e il throughput su un laptop è limitato. Servire un team da una singola macchina significa gestire infrastrutture: aggiornamenti, pressione della memoria, riavvii. L'API nativa non ha autenticazione integrata, quindi esporla oltre localhost richiede un proxy davanti. Alcune funzionalità che potresti volere, come contesti lunghi o più utenti simultanei, sono davvero domande su memoria e code sulla tua macchina, quindi testa con il carico che ti aspetti prima di affidarti ad essa.

Se resti locale, il lato Python è semplice; l'SDK OpenAI funziona a http://localhost:11434/v1 con qualsiasi stringa come chiave.

Quando OpenRouter è la scelta migliore

Un router è bravo nell'ampiezza. Un account e un'API ti danno accesso a molti modelli, così puoi provare un modello diverso per ogni attività, confrontare le risposte o passare a un altro modello quando uno non è disponibile. Se il tuo prodotto ha bisogno di un modello chiuso specifico da un fornitore specifico, un router che lo offre ti risparmia di registrarti con ogni fornitore separatamente.

I compromessi derivano dallo stesso design. Il comportamento dipende dal modello che scegli e le policy sui contenuti variano tra modelli e provider, quindi lo stesso prompt può essere rifiutato su uno e risposto su un altro. I prezzi variano per modello, quindi la previsione dei costi significa cercare il modello che usi. Controlla i prezzi e l'elenco dei modelli attuali prima di impegnarti, perché cambiano.

Se ti serve sempre un solo modello, gran parte di quella varietà resta inutilizzata.

Quando un'API dedicata senza censura è la scelta migliore

Questo servizio fa una cosa. Offre un unico modello open-weight, uncensored, gestito da un provider indipendente e ottimizzato per rispondere senza rifiuti sui contenuti per uso adulto legale. Non è l'API ufficiale di alcun vendor di modelli e non è un router. Il limite rigido è che i contenuti sessuali che coinvolgono minorenni non sono mai permessi.

Si adatta a app di narrativa, roleplay e compagnia per adulti, strumenti di scrittura e attività di ricerca o red-team dove i rifiuti interrompono il flusso. Poiché il modello non cambia sotto di te, il comportamento è prevedibile: regoli il prompt una volta anziché per ogni modello. La tariffazione è fissa a $0,15 per 1M di token di input e $0,50 per 1M di token di output dal credito prepagato, senza abbonamento e senza addebito per le richieste fallite o rifiutate.

È la scelta sbagliata se ti servono generazione di immagini, audio o video, embeddings o fine-tuning, perché è solo testo. È anche la scelta sbagliata se ti serve una scelta di modelli di diversi vendor o se i tuoi dati non possono uscire dalla tua macchina. In quei casi usa un router o esegui Ollama.

Il passaggio è principalmente un cambio di base URL

Tutti e tre parlano un formato di completamento chat in stile OpenAI, quindi un piccolo strato di configurazione ti permette di passare da uno all'altro. Ecco un client Python che legge il target dall'ambiente, impostando come default questa API.

Copyimport os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.ollamaapi.cc/v1"),
    api_key=os.getenv("LLM_API_KEY", "YOUR_API_KEY"),
)

resp = client.chat.completions.create(
    model=os.getenv("LLM_MODEL", "uncensored"),
    messages=[{"role": "user", "content": "Draft a short scene set in a night market."}],
    stream=False,
)
print(resp.choices[0].message.content)

Per eseguire lo stesso script contro Ollama, imposta l'URL base a http://localhost:11434/v1 e il modello a uno che hai scaricato. Per un router, usa l'URL base e i nomi dei modelli dalla sua documentazione. La stessa forma in curl:

Copycurl https://api.ollamaapi.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

L'API ospitata supporta lo streaming, il tool calling, la modalità JSON e una finestra di contesto da 100.000 token. La quickstart illustra ciascuna.

Limiti e differenze operative

Una volta superato il primo prototipo, le differenze pratiche riguardano limiti e affidabilità più che le funzionalità.

Con Ollama i limiti sono tuoi. La concorrenza dipende da quante richieste il tuo hardware può servire in una volta, e la lunghezza del contesto è un'impostazione che scegli in base alla memoria disponibile. Quando la macchina è occupata, le richieste aspettano. Quando va giù, va giù anche la tua app, e sistemarla è compito tuo.

Con un router, limiti e disponibilità dipendono dal modello e dal provider a cui instradi, e possono variare da un modello all'altro. Leggi la documentazione del modello specifico su cui vuoi fare affidamento.

Con questa API i limiti sono fissi e brevi da ricordare. Una chiave completa permette 8 richieste concorrenti e 300 richieste al minuto, e una chiave trial permette 2 concorrenti e 60 al minuto. Il corpo massimo è 8 MB. Superare restituisce HTTP 429, con codice errore rate_limited per richieste al minuto o concurrency per troppe simultanee; un sovraccarico temporaneo restituisce anche 429 con un'intestazione Retry-After: 5. Una richiesta streaming tiene il suo slot di concorrenza fino alla fine dello stream, quindi gli stream lunghi contano contro gli 8. Le intestazioni di risposta riportano X-Balance-USD e i valori limite, che rendono il monitoraggio semplice.

Un modo pratico per decidere

1. I dati devono restare sulla tua macchina? Sì significa Ollama.
2. Ti servono modelli di diversi vendor? Sì significa un router.
3. Vuoi un modello stabile senza censure per uso adulto lecito e senza hardware da gestire? Sì significa un'API dedicata.
4. Hai capacità GPU inutilizzata? In tal caso, il locale potrebbe costare meno di qualsiasi opzione in hosting.

Non devi impegnarti. Inizia con il credito di prova da $0,50, che i nuovi utenti richiedono con un clic nella pagina chiave API dopo l'accesso, valido per 7 giorni, senza bisogno di carta. Esegui i tuoi prompt reali, verifica l'output e consulta la tariffazione pay-per-token prima di aggiungere credito. Le ricariche vanno da $20 a $500, con carta o cripto, e il credito non scade mai. Se i tuoi prompt sono strettamente privati, ricorda che i prompt qui non sono usati per l'addestramento, ma l'inferenza locale li tiene completamente fuori dalla rete.

Altre guide

• API Ollama in Python e un’alternativa ospitata
• Prezzi API Ollama: costo locale vs pagamento per token
• Guida alla chiave API Mistral