Harga API Ollama: Biaya Lokal vs Bayar per Token

Apa yang sebenarnya dimaksud dengan "harga API Ollama"

Ketika orang mengetik ollama api pricing ke dalam kotak pencarian, mereka sering mencari daftar tarif, dan dengan perangkat lunak lokal tidak ada daftar tersebut. Ollama adalah program yang Anda instal untuk menjalankan model bobot terbuka di komputer Anda sendiri dan melayaninya melalui API HTTP lokal. Ollama tidak menghitung token atau mengirimkan tagihan untuknya. Ollama juga menawarkan opsi yang di-host sendiri; untuk itu, periksa halaman harga saat mereka, karena artikel ini tidak mewakili mereka.

Hal itu tidak membuat inferensi lokal gratis. Biaya berpindah dari biaya per token menjadi hal-hal yang sudah Anda bayar atau harus beli: mesin dengan memori yang cukup, listrik, waktu Anda untuk penyiapan dan pembaruan, dan biaya peluang GPU yang sibuk. Pertanyaan yang berguna bukan "berapa harganya" tetapi "pada volume saya, pengaturan mana yang lebih murah dan berfungsi cukup baik". Sisa artikel ini memberikan angka untuk sisi terhosting sehingga Anda dapat menjawabnya.

Biaya menjalankan Ollama sendiri

Ada empat baris di sisi lokal buku besar.

• Perangkat keras. Model yang lebih besar membutuhkan lebih banyak memori GPU atau banyak RAM sistem. Jika Anda sudah memiliki mesin yang sesuai, biaya ini adalah biaya tenggelam (sunk cost). Jika Anda harus membeli atau menyewanya, itu adalah item terbesar.
• Daya. Kalikan konsumsi daya mesin dalam kilowatt dengan jam penggunaan dan tarif listrik Anda. GPU desktop saat beban menarik jauh lebih banyak daripada saat idle, sehingga menghitung hanya jam sibuk sudah adil.
• Kapasitas idle. Server yang tidak digunakan sebagian besar hari masih harus ada. Penagihan per token hanya membebankan Anda saat Anda memanggil.
• Waktu Anda. Menarik model, memperbarui runtime, memantau memori, memulai ulang setelah crash.

Ukur angka Anda sendiri daripada mempercayai angka generik. Catat berapa banyak token yang benar-benar digunakan beban kerja Anda selama seminggu. Pengukuran satu ini juga yang Anda butuhkan untuk menaksir alternatif terhosting secara akurat.

Tarif terhosting dan aritmetika

API yang di-host di situs ini menagih dua meter. Token input (prompt Anda, termasuk riwayat obrolan yang Anda kirim ulang) berharga $0.15 per 1M. Token output (kompleksi) berharga $0.50 per 1M. Tidak ada langganan; Anda menambahkan kredit dan kredit itu dikurangi per permintaan. Permintaan yang gagal atau ditolak tidak dikenakan biaya, dan kredit tidak kedaluwarsa.

Rumusnya singkat:

cost = input_tokens x 0.15 / 1.000.000 + output_tokens x 0.50 / 1.000.000

Berikut adalah bentuk pekerjaan umum dengan matematika yang telah dikerjakan.

Tugas	Token input	Token output	Biaya
Satu balasan chat	2,000	500	$0.0003 + $0.00025 = $0.00055
1.000 balasan seperti itu	2,000,000	500,000	$0.30 + $0.25 = $0.55
Meringkas dokumen panjang	50,000	1,000	$0.0075 + $0.0005 = $0.008
Isi penuh konteks	100,000	4,000	$0.015 + $0.002 = $0.017
Batch 10.000 permintaan	8,000,000	3,000,000	$1.20 + $1.50 = $2.70

Baris batch mengasumsikan 800 input dan 300 token output per permintaan. Perhatikan bahwa output adalah bagian mahal per token, tetapi input biasanya mendominasi jumlah, sehingga prompt panjang dan riwayat obrolan panjang adalah di mana biaya terjadi.

Obrolan yang berkembang langkah demi langkah

API obrolan bersifat stateless, sehingga setiap giliran mengirim ulang seluruh riwayat. Hal ini membuat biaya tumbuh lebih cepat daripada jumlah giliran. Ambil percakapan 20 giliran di mana setiap pesan pengguna adalah 150 token dan setiap balasan adalah 250 token, sehingga setiap giliran menambahkan 400 token ke riwayat.

1. Giliran 1 mengirim 150 token input. Giliran 2 mengirim 150 + 400 = 550. Giliran k mengirim 150 + 400 x (k - 1).
2. Selama 20 giliran, total input adalah 150 x 20 + 400 x (0 + 1 + ... + 19) = 3.000 + 400 x 190 = 79.000 token.
3. Total output adalah 20 x 250 = 5.000 token.
4. Biaya: 79.000 x 0,15 / 1 juta = $0,01185, ditambah 5.000 x 0,50 / 1 juta = $0,0025, total $0,01435.

Sekitar satu setengah sen untuk percakapan panjang. Jika Anda menggandakan percakapan menjadi 40 giliran, inputnya kira-kira menjadi empat kali lipat, karena riwayat terus bertambah. Memotong atau meringkas giliran lama adalah cara utama untuk mengendalikan biaya dalam aplikasi obrolan.

Kredit, bonus, dan uji coba

Anda mengisi saldo dengan jumlah bulat apa pun dari $20 hingga $500. Pengisian saldo yang lebih besar membawa bonus: +5% dari $50, +10% dari $100, dan +15% dari $200. Dalam praktiknya, itu berarti:

• $50 membeli kredit senilai $52,50.
• $100 membeli kredit senilai $110,00.
• $200 membeli kredit senilai $230,00.

Pembayaran dilakukan dengan kartu (Visa, Mastercard, Apple Pay, Google Pay) atau kripto (USDT di TRC20, USDC di Base). Halaman harga memiliki detail saat ini.

Pengguna baru dapat menguji sebelum membayar. Setelah Anda masuk dengan Google, atau dengan email dan kata sandi, halaman kunci API memiliki tombol yang mengklaim $0,50 kredit uji coba, satu per orang, berlaku selama 7 hari, tanpa perlu kartu. Pada ukuran balasan 2.000 input, 500 output di atas, $0,50 mencakup kira-kira 900 balasan, yang cukup untuk menilai apakah output sesuai dengan proyek Anda. Kunci uji coba dibatasi hingga 2 permintaan paralel dan 60 permintaan per menit. Anda bisa mendapatkan kunci API Anda dalam beberapa menit.

Membandingkan keduanya untuk volume Anda

Gunakan jumlah token yang Anda catat dan lakukan penjumlahan untuk satu bulan. Katakanlah sebuah proyek menggunakan 50 juta token input dan 10 juta token output per bulan. Biaya terhosting: 50 x $0,15 = $7,50, ditambah 10 x $0,50 = $5,00, jadi $12,50. Sekarang letakkan angka lokal Anda di sebelahnya: bagian bulanan dari perangkat keras yang tidak akan Anda miliki selain itu, ditambah daya untuk jam sibuk, ditambah nilai waktu pemeliharaan Anda. Jika total itu jelas di atas $12,50, hosting menang dalam hal biaya. Jika Anda sudah memiliki perangkat keras idle yang menangani model dengan baik, lokal menang dalam hal biaya.

Biaya bukan satu-satunya sumbu. Lokal menyimpan data di mesin Anda dan berfungsi secara offline. Hosted menghilangkan kebutuhan GPU, memberikan jendela konteks 100.000 token, dan memungkinkan beberapa layanan berbagi satu backend. Model terhosting adalah model bobot terbuka tunggal yang disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, jadi itu juga tergantung pada apakah model tersebut sesuai dengan tugas Anda. Prompt tidak digunakan untuk pelatihan.

Satu batas jujur: tidak ada tier gratis tanpa batas. Setelah uji coba $0,50, Anda membayar per token dari saldo prabayar. Jika pekerjaan Anda membutuhkan panggilan gratis tanpa batas dan Anda memiliki perangkat keras, Ollama lokal adalah alat yang tepat.

Kesalahan yang mendistorsi perbandingan

Beberapa kesalahan muncul berulang kali ketika orang menentukan harga beban kerja LLM, dan setiap kesalahan dapat mengubah jawaban.

• Melupakan token output. Prompt pendek dengan jawaban panjang sebagian besar adalah tagihan output. Pertanyaan 300 token yang menghasilkan cerita 3.000 token berharga 300 x $0.15 / 1M + 3.000 x $0.50 / 1M = $0.000045 + $0.0015 = $0.001545.
• Mengabaikan riwayat yang dikirim ulang. Seperti contoh 20 giliran menunjukkan, biaya obrolan diskalakan dengan konteks terakumulasi, bukan dengan panjang pesan terbaru.
• Menghitung kata alih-alih token. Teks bahasa Inggris biasanya membutuhkan token yang sedikit lebih banyak daripada kata-kata, dan kode atau skrip non-Latin membutuhkan lebih banyak lagi. Baca angka penggunaan yang dikembalikan dengan setiap respons dan gunakan angka tersebut, bukan perkiraan.
• Menentukan harga perangkat keras lokal menjadi nol. GPU yang sudah Anda miliki masih aus dan masih menarik daya, bahkan jika Anda tidak menulis cek untuknya.
• Membandingkan model yang berbeda. Model lokal kecil dan model terhosting yang lebih besar tidak menghasilkan kualitas yang sama. Lebih murah per token bukan lebih murah per jawaban bagus jika Anda membutuhkan banyak percobaan ulang.

Poin terakhir memerlukan pengujian daripada opini. Ambil dua puluh prompt nyata dari proyek Anda, jalankan di kedua pengaturan, dan nilai jawabannya. Kemudian tentukan harga pemenang pada volume nyata Anda.

Memantau pengeluaran

Setiap respons dari API yang di-host membawa header X-Balance-USD dengan saldo Anda yang tersisa, plus X-Request-Id untuk pertanyaan dukungan. Anda dapat membacanya dalam kode dan memberi peringatan kepada diri sendiri sebelum saldo habis.

Copyimport requests

r = requests.post(
    "https://api.ollamaapi.cc/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_API_KEY"},
    json={
        "model": "uncensored",
        "messages": [{"role": "user", "content": "Say hello."}],
        "max_tokens": 20,
    },
    timeout=60,
)
print(r.json()["choices"][0]["message"]["content"])
print("Balance:", r.headers.get("X-Balance-USD"))

Mengatur max_tokens adalah opsional, karena hasil komplit dapat menggunakan sisa jendela, tetapi ini adalah pengaman murah terhadap output yang tidak terkendali. dokumentasi mencakup header lainnya dan batas laju.

Panduan lainnya

• API Ollama dalam Python, dan Alternatif yang Dihosting
• Ollama API vs OpenRouter: Mana yang Cocok untuk Anda
• Panduan Kunci API Mistral