Cennik Ollama API: Koszt lokalny vs. Płatność za token

Co tak naprawdę oznacza „cennik Ollama API”

Gdy użytkownicy wpisują ollama api pricing do pola wyszukiwania, często szukają cennika, a w przypadku oprogramowania lokalnego go nie ma. Ollama to program, który instalujesz i który uruchamia modele o otwartych wagach na Twoim własnym komputerze, udostępniając je przez lokalny interfejs API HTTP. Nie liczy tokenów ani nie wystawia Ci rachunku za nie. Ollama oferuje również własne opcje hostowane; w ich przypadku sprawdź aktualną stronę z cenami, ponieważ niniejszy artykuł nie odnosi się do nich.

To nie oznacza, że wnioskowanie lokalne jest darmowe. Koszt zmienia się z opłaty za token na rzeczy, za które już płacisz lub które musisz kupić: maszynę z wystarczającą pamięcią, prąd, Twój czas na konfigurację i aktualizacje oraz koszt alternatywny zajętej karty GPU. Przydatnym pytaniem nie jest „jaka jest cena”, ale „przy moim wolumenie, która opcja jest tańsza i wystarczająco dobra”. Dalsza część artykułu podaje liczby po stronie hostowanej, abyś mógł na nie odpowiedzieć.

Koszt uruchomienia Ollamy samodzielnie

Po lokalnej stronie księgi rachunkowej są cztery pozycje.

• Sprzęt. Większe modele wymagają więcej pamięci GPU lub dużej ilości pamięci RAM. Jeśli już posiadasz odpowiednią maszynę, ten koszt jest poniesiony. Jeśli musiałbyś ją kupić lub wynająć, jest to największa pozycja.
• Prąd. Pomnóż pobór mocy maszyny w kilowatach przez liczbę godzin użytkowania i stawkę za prąd. Karta GPU w desktopie pod obciążeniem pobiera znacznie więcej energii niż w stanie spoczynku, więc liczenie tylko godzin pracy jest sprawiedliwe.
• Pojemność w stanie spoczynku. Serwer, który przez większość dnia stoi nieużywany, nadal musi istnieć. Rozliczanie za tokeny obciąża Cię tylko wtedy, gdy wyślesz zapytanie.
• Twój czas. Pobieranie modeli, aktualizacja środowiska, monitorowanie pamięci, restart po awariach.

Zmierz własne liczby zamiast ufać ogólnym wartościom. Zarejestruj, ile tokenów naprawdę zużywa Twoje obciążenie przez tydzień. Ten jeden pomiar jest również tym, czego potrzebujesz do dokładnego wycenienia alternatywy hostowanej.

Stawki hostowane i rachunki

Hostowane API na tej stronie rozlicza dwa liczniki. Tokeny wejściowe (Twój prompt, w tym historia czatu, którą ponownie wyślesz) kosztują $0.15 za 1 mln. Tokeny wyjściowe (uzupełnienie tekstu) kosztują $0.50 za 1 mln. Nie ma subskrypcji; dodajesz kredyt, który jest pobierany za każde zapytanie. Nieudane lub odrzucone zapytania nie są rozliczane, a kredyt nie wygasa.

Wzór jest krótki:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

Oto typowe zakresy zadań z obliczonymi wynikami.

Zadanie	Tokeny wejściowe	Tokeny wyjściowe	Koszt
Jedna odpowiedź czatu	2,000	500	$0.0003 + $0.00025 = $0.00055
1 000 takich odpowiedzi	2,000,000	500,000	$0.30 + $0.25 = $0.55
Podsumowanie długiego dokumentu	50,000	1,000	$0.0075 + $0.0005 = $0.008
Wypełnienie pełnego okna kontekstu	100,000	4,000	$0.015 + $0.002 = $0.017
Partia 10 000 zapytań	8,000,000	3,000,000	$1.20 + $1.50 = $2.70

Wiersz partii zakłada 800 tokenów wejściowych i 300 tokenów wyjściowych na zapytanie. Zauważ, że wyjście jest drogim licznikiem na token, ale zazwyczaj dominuje liczba tokenów wejściowych, więc długie prompty i długa historia czatu to miejsca, gdzie idą pieniądze.

Rozmowa, która rośnie krok po kroku

API czatu są bezstanowe, więc każda tura wysyła całą historię. To sprawia, że koszt rośnie szybciej niż liczba tur. Weź rozmowę 20-turową, w której każda wiadomość użytkownika ma 150 tokenów, a każda odpowiedź 250 tokenów, więc każda tura dodaje 400 tokenów do historii.

1. Tura 1 wysyła 150 tokenów wejściowych. Tura 2 wysyła 150 + 400 = 550. Tura k wysyła 150 + 400 x (k - 1).
2. Przez 20 tur całkowita liczba tokenów wejściowych to 150 x 20 + 400 x (0 + 1 + ... + 19) = 3 000 + 400 x 190 = 79 000 tokenów.
3. Całkowita liczba tokenów wyjściowych to 20 x 250 = 5 000 tokenów.
4. Koszt: 79 000 x 0,15 / 1 mln = $0,01185, plus 5 000 x 0,50 / 1 mln = $0,0025, łącznie $0,01435.

Około półtora centa za długą rozmowę. Jeśli podwoisz rozmowę do 40 tur, liczba tokenów wejściowych wzrośnie około czterokrotnie, ponieważ historia ciągle rośnie. Przycinanie lub streszczanie starych tur to główny sposób kontroli kosztów w aplikacjach czatu.

Kredyt, bonusy i okres próbny

Doładowujesz dowolną kwotą całkowitą od $20 do $500. Większe doładowania dają bonus: +5% od $50, +10% od $100 i +15% od $200. W praktyce oznacza to:

• $50 daje kredyt $52,50.
• $100 daje kredyt $110,00.
• $200 daje kredyt $230,00.

Płatność kartą (Visa, Mastercard, Apple Pay, Google Pay) lub krypto (USDT na TRC20, USDC na Base). Aktualne szczegóły znajdziesz na stronie z cenami.

Nowi użytkownicy mogą przetestować przed płaceniem. Po zarejestrowaniu się przez Google lub e-mail i hasło, na stronie klucza API znajduje się przycisk, który przyznaje $0,50 kredytu próbnego, jeden na osobę, ważny przez 7 dni, bez potrzeby podania karty. Przy wielkości odpowiedzi 2 000 wejściowych i 500 wyjściowych, $0,50 pokrywa około 900 odpowiedzi, co wystarczy do oceny, czy wyjście pasuje do Twojego projektu. Klucz próbny jest ograniczony do 2 równoległych zapytań i 60 zapytań na minutę. Możesz uzyskać swój klucz API w kilka minut.

Porównanie dla Twojego wolumenu

Użyj zalogowanych liczb tokenów i oblicz sumę za miesiąc. Załóżmy, że projekt zużywa 50 mln tokenów wejściowych i 10 mln tokenów wyjściowych miesięcznie. Koszt hostowany: 50 x $0,15 = $7,50, plus 10 x $0,50 = $5,00, więc $12,50. Teraz postaw obok swoją lokalną liczbę: miesięczny udział sprzętu, którego nie miałbyś inaczej, plus prąd za godziny pracy, plus wartość Twojego czasu na konserwację. Jeśli ta suma jest wyraźnie wyższa niż $12,50, hostowanie wygrywa kosztem. Jeśli już posiadasz nieużywany sprzęt, który dobrze obsługuje model, lokalne rozwiązanie wygrywa kosztem.

Koszt to nie jedyna oś porównania. Wersja lokalna przechowuje dane na Twojej maszynie i działa offline. Wersja hostowana eliminuje potrzebę posiadania karty GPU, zapewnia okno kontekstu o rozmiarze 100 000 tokenów i pozwala kilku usługom dzielić jeden backend. Hostowany model to pojedynczy model o otwartych wagach dostrojony do odpowiadania bez odmów treści dla legalnego użytku przez dorosłych, więc jego przydatność zależy od tego, czy pasuje do Twojego zadania. Prompty nie są wykorzystywane do trenowania.

Jedno uczciwe ograniczenie: nie ma darmowego, nieograniczonego poziomu. Po próbie za $0,50 płacisz za tokeny z przedpłaconego kredytu. Jeśli Twoja praca wymaga nieograniczonej liczby darmowych wywołań, a posiadasz sprzęt, lokalny Ollama to właściwe narzędzie.

Błędy zniekształcające porównanie

Kilka błędów pojawia się ponownie i ponownie, gdy ludzie wyceniają obciążenie LLM, a każdy z nich może odwrócić odpowiedź.

• Zapominanie o tokenach wyjściowych. Krótki prompt z długą odpowiedzią to głównie rachunek za tokeny wyjściowe. Pytanie o 300 tokenach, które generuje historię o 3 000 tokenach, kosztuje 300 x $0.15 / 1M + 3 000 x $0.50 / 1M = $0.000045 + $0.0015 = $0.001545.
• Ignorowanie ponownie wysyłanej historii. Jak pokazuje przykład z 20 turami, koszt czatu rośnie wraz z akumulującym się kontekstem, a nie z długością najnowszej wiadomości.
• Liczenie słów zamiast tokenów. Tekst angielski zwykle zużywa nieco więcej tokenów niż słów, a kod lub skrypty nienależące do alfabetu łacińskiego jeszcze więcej. Czytaj liczby zużycia zwracane z każdą odpowiedzią i używaj ich, a nie szacunków.
• Wycenianie lokalnego sprzętu na zero. Karta GPU, którą już posiadasz, nadal się zużywa i pobiera prąd, nawet jeśli nie wystawiasz za nią czek.
• Porównywanie różnych modeli. Mały lokalny model i większy hostowany nie dają tej samej jakości. Tańszy za token nie jest tańszy za dobrą odpowiedź, jeśli potrzebujesz wielu ponownych prób.

Ostatni punkt zasługuje na test, a nie na opinię. Weź dwadzieścia prawdziwych promptów ze swojego projektu, uruchom je w obu konfiguracjach i oceń odpowiedzi. Następnie wycenij zwycięzcę przy swoim rzeczywistym wolumenie.

Śledzenie wydatków

Każda odpowiedź z hostowanego API zawiera nagłówek X-Balance-USD z pozostałym kredytem, plus X-Request-Id do pytań o wsparcie. Możesz go odczytać w kodzie i powiadomić się przed wyczerpaniem salda.

Copyimport requests

r = requests.post(
    "https://api.ollamaapi.cc/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_API_KEY"},
    json={
        "model": "uncensored",
        "messages": [{"role": "user", "content": "Say hello."}],
        "max_tokens": 20,
    },
    timeout=60,
)
print(r.json()["choices"][0]["message"]["content"])
print("Balance:", r.headers.get("X-Balance-USD"))

Ustawienie max_tokens jest opcjonalne, ponieważ uzupełnienie może wykorzystać resztę okna, ale stanowi tani mechanizm zabezpieczający przed niekontrolowanym generowaniem danych wyjściowych. Dokumentacja zawiera informacje o pozostałych nagłówkach i limitach zapytań.

Więcej przewodników

• Ollama API w Pythonie i alternatywa hostowana
• Ollama API vs OpenRouter: Który pasuje do Ciebie
• Przewodnik po kluczu API Mistral