Ollama API Fiyatlandırması: Yerel Maliyet ve Token Başına Ödeme

"Ollama API fiyatlandırması"nın aslında ne anlama geldiği

İnsanlar arama kutusuna ollama api fiyatlandırması yazdığında, genellikle bir oran kartı ararlar ve yerel yazılım için böyle bir kart yoktur. Ollama, açık ağırlıklı modelleri kendi bilgisayarınızda çalıştıran ve bunları yerel bir HTTP API üzerinden sunan bir programdır. Token'ları saymaz veya size onlar için bir fatura göndermez. Ollama ayrıca kendi barındırılan seçeneklerini de sunar; bunlar için mevcut fiyatlandırma sayfasına bakın, çünkü bu makale onların adına konuşmaz.

Bu, yerel çıkarımın ücretsiz olduğu anlamına gelmez. Maliyet, token başına bir ücretten zaten ödediğiniz veya satın almanız gereken şeylere kayar: yeterli belleği olan bir makine, elektrik, kurulum ve güncellemeler için zamanınız ve meşgul bir GPU'nun fırsat maliyeti. Faydalı soru "fiyat ne" değil, "hacmimle ilgili olarak, hangi düzen daha az maliyetli ve yeterince iyi çalışır"dır. Bu makalenin geri kalanı, bu soruyu yanıtlayabilmeniz için barındırılan taraf için sayıları size verir.

Ollama'yı kendiniz çalıştırmanın maliyeti

Yerel tarafın maliyet hesaplamasında dört satır bulunur.

• Donanım. Daha büyük modeller daha fazla GPU belleği veya çok fazla sistem RAM'i gerektirir. Zaten uygun bir makineniz varsa, bu maliyet batıktır. Birini satın almak veya kiralamak zorunda kalsaydınız, bu en büyük kalemdir.
• Elektrik. Makinenin kilovatt cinsinden çekimini kullanım saatleriyle ve elektrik oranınızla çarpın. Bir masaüstü GPU'su yük altında boşta olandan çok daha fazla çeker, bu nedenle yalnızca meşgul saatleri saymak adil olur.
• Boşta kapasite. Günün çoğunu boş oturan bir sunucunun hala var olması gerekir. Token başına faturalandırma, yalnızca çağrı yaptığınızda sizi ücretlendirir.
• Zamanınız. Modelleri çekmek, çalışma zamanını güncellemek, belleği izlemek, çökmelerden sonra yeniden başlatmak.

Genel bir rakama güvenmek yerine kendi sayılarınızı ölçün. İş yükünüzün gerçekten kaç token kullandığını bir hafta boyunca kaydedin. Bu tek ölçüm, barındırılan alternatifin fiyatını doğru belirlemek için de ihtiyacınız olan şeydir.

Barındırılan oranlar ve aritmetik

Bu sitedeki barındırılan API iki kalem üzerinden fatura keser. Giriş tokenları (isteminiz, yeniden gönderdiğiniz tüm sohbet geçmişi dahil) 1M başına $0,15'tir. Çıktı tokenları (tamamlama) 1M başına $0,50'dir. Abonelik yoktur; kredi yüklersiniz ve istek başına düşen miktar kullanılır. Başarısız veya reddedilen istekler için ücret alınmaz ve kredi süresi dolmaz.

Formül kısadır:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

İşte hesaplamaları yapılmış yaygın iş şekilleri.

Görev	İstek tokenları	Çıktı tokenları	Maliyet
Bir sohbet yanıtı	2,000	500	$0.0003 + $0.00025 = $0.00055
1.000 böyle yanıt	2,000,000	500,000	$0.30 + $0.25 = $0.55
Uzun bir belgenin özetini çıkar	50,000	1,000	$0.0075 + $0.0005 = $0.008
Tam bağlamı doldur	100,000	4,000	$0.015 + $0.002 = $0.017
10.000 isteklik toplu iş	8,000,000	3,000,000	$1.20 + $1.50 = $2.70

Toplu iş satırı, istek başına 800 giriş ve 300 çıktı tokenı varsayar. Çıktının token başına pahalı kalemin olduğunu, ancak girişin sayı olarak genellikle baskın olduğunu unutmayın; bu nedenle uzun istemler ve uzun sohbet geçmişleri para harcanan yerdir.

Adım adım büyüyen bir sohbet

Sohbet API'leri durum bilgisi taşımaz, bu nedenle her dönüş tüm geçmişi yeniden gönderir. Bu da maliyetin dönüş sayısından daha hızlı artmasına neden olur. Her kullanıcı mesajı 150 token ve her yanıt 250 token olan 20 dönüşlü bir konuşma düşünün, böylece her dönüş geçmişe 400 token ekler.

1. 1. dönüş 150 giriş tokenı gönderir. 2. dönüş 150 + 400 = 550 gönderir. k. dönüş 150 + 400 x (k - 1) gönderir.
2. 20 dönüş boyunca giriş toplamı 150 x 20 + 400 x (0 + 1 + ... + 19) = 3.000 + 400 x 190 = 79.000 token olur.
3. Çıkış toplamı 20 x 250 = 5.000 token'dır.
4. Maliyet: 79.000 x 0,15 / 1M = $0,01185, artı 5.000 x 0,50 / 1M = $0,0025, toplamda $0,01435.

Uzun bir konuşma için yaklaşık bir buçuk sent. Konuşmayı 40 dönüşe iki katına çıkarırsanız, giriş yaklaşık dört katına çıkar, çünkü geçmiş büyümeye devam eder. Sohbet uygulamalarında maliyeti kontrol etmenin ana yolu eski dönüşleri kısaltmak veya özetlemektir.

Kredi, bonuslar ve deneme süresi

Herhangi bir tam tutarı $20 ile $500 arasında yüklersiniz. Daha büyük yüklemeler bir bonus içerir: $50'den +%5, $100'den +%10 ve $200'den +%15. Pratikte bu şu anlama gelir:

• $50, $52,50 kredi satın alır.
• $100, $110,00 kredi satın alır.
• $200, $230,00 kredi satın alır.

Ödeme kart (Visa, Mastercard, Apple Pay, Google Pay) veya kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile yapılır. Fiyatlandırma sayfası güncel detayları içerir.

Yeni kullanıcılar ödemeden önce test edebilir. Google veya e-posta ve şifre ile kaydolduktan sonra, API anahtarı sayfasında $0,50 deneme kredisi talep eden bir düğme bulunur, kişi başı bir tane, 7 gün boyunca geçerlidir, kart gerekmez. Yukarıdaki 2.000 giriş, 500 çıkış yanıt boyutunda, $0,50 yaklaşık 900 yanıtı karşılar, bu da çıktının projenize uygun olup olmadığını yargılamak için fazlasıyla yeterlidir. Bir deneme anahtarı 2 eşzamanlı istek ve dakikada 60 istekle sınırlıdır. API anahtarınızı alabilirsiniz birkaç dakika içinde.

Hacminiz için ikisini karşılaştırmak

Kayıtlı token sayılarınızı kullanın ve bir ay için toplamı yapın. Diyelim ki bir proje ayda 50M giriş token'ı ve 10M çıkış token'ı kullanır. Barındırılan maliyet: 50 x $0,15 = $7,50, artı 10 x $0,50 = $5,00, yani $12,50. Şimdi yerel figürünüzü yanına koyun: başka şekilde sahip olmayacağınız donanımın aylık payı, meşgul saatler için elektrik ve bakım zamanınızın değeri. Bu toplam açıkça $12,50'nin üzerindeyse, barındırma maliyet açısından kazanır. Zaten modeli iyi yöneten boşta donanımınız varsa, yerel maliyet açısından kazanır.

Maliyet tek eksen değildir. Yerel, verileri makinenizde tutar ve çevrimdışı çalışır. Barındırılan, bir GPU'ya ihtiyacınız olmasını ortadan kaldırır, 100.000 token'lık bir bağlam penceresi sağlar ve birden fazla hizmetin tek bir arka uç paylaşmasına olanak tanır. Barındırılan model, yasal yetişkin kullanımı için içerik reddetmeleri olmadan cevap vermek üzere ayarlanmış tek bir açık ağırlıklı modeldir, bu nedenle bu modelin görevinize uyup uymadığı da önemlidir. İstemler eğitim için kullanılmaz.

Bir dürüst sınır: ücretsiz sınırsız bir katman yoktur. $0,50 deneme süresinden sonra, ön ödemeli krediden token başına ödeme yaparsınız. İşiniz sınırsız ücretsiz çağrılar gerektiriyorsa ve donanımınıza sahipseniz, yerel Ollama doğru araçtır.

Karşılaştırmayı çarpan hatalar

İnsanlar bir LLM iş yükünü fiyatlandırdıklarında, birkaç hata tekrar tekrar ortaya çıkar ve her biri cevabı tersine çevirebilir.

• Çıktı tokenlarını unutma. Kısa bir istem ile uzun bir yanıt, çoğunlukla bir çıktı faturasıdır. 300 tokenlık bir soru, 3.000 tokenlık bir hikaye üretirse maliyet 300 x $0,15 / 1M + 3.000 x $0,50 / 1M = $0,000045 + $0,0015 = $0,001545 olur.
• Yeniden gönderilen geçmişi yok sayma. 20 dönüşlü örnekte gösterildiği gibi, sohbet maliyeti birikmiş bağlam ile orantılıdır, son mesajın uzunluğu ile değil.
• Tokenlar yerine kelimeleri sayma. İngilizce metinler genellikle kelimelerden biraz daha fazla token kaplar; kod veya Latin olmayan yazı sistemleri ise daha da fazla kaplar. Her yanıtla birlikte dönen kullanım sayılarına bakın ve tahmin yerine onları kullanın.
• Yerel donanımın fiyatlandırılması sıfır. Zaten sahip olduğunuz bir GPU hala aşınır ve hala güç çeker, onu satın almak için çek yazmasanız bile.
• Farklı modelleri karşılaştırmak. Küçük bir yerel model ile daha büyük bir barındırılan model aynı kaliteyi üretmez. Çok sayıda yeniden deneme gerekiyorsa, token başına daha ucuz olması iyi bir cevap başına daha ucuz olduğu anlamına gelmez.

Son nokta bir görüşten ziyade bir test gerektirir. Projenizden yirmi gerçek istem alın, ikisinde de çalıştırın ve cevapları yargılayın. Sonra kazananı gerçek hacminizde fiyatlandırın.

Harcamalara göz kulak olmak

Barındırılan API'den her yanıt, kalan kredisinizi içeren X-Balance-USD başlığını ve destek soruları için X-Request-Id taşır. Kodda okuyabilir ve bakiye bitmeden kendinize uyarı verebilirsiniz.

Copyimport requests

r = requests.post(
    "https://api.ollamaapi.cc/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_API_KEY"},
    json={
        "model": "uncensored",
        "messages": [{"role": "user", "content": "Say hello."}],
        "max_tokens": 20,
    },
    timeout=60,
)
print(r.json()["choices"][0]["message"]["content"])
print("Balance:", r.headers.get("X-Balance-USD"))

max_tokens ayarlamak isteğe bağlıdır, çünkü bir tamamlama pencerenin geri kalanını kullanabilir, ancak bu kontrolsüz çıktıya karşı ucuz bir koruma sağlar. belgeler diğer üst bilgileri ve hız limitlerini kapsar.

Daha fazla kılavuz

• Python ile Ollama API'si ve Barındırılan Bir Alternatif
• Ollama API vs OpenRouter: Hangisi Size Uygun
• Mistral API Anahtarı Rehberi