繁中 ▾
取得 API 金鑰

Ollama API 定價:本地成本與按 Token 計費

本地 Ollama 伺服器沒有按 token 計費,但也非免費。以下是將其真實成本與託管 API 的計費進行比較的方法:輸入 token 每 1M 計 $0.15,輸出 token 每 1M 計 $0.50。

更新於

重點摘要

  • 本地 Ollama 不計量 token;你需為硬體、電力與自己的時間付費。
  • 託管 API 費用為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,採預付制,無訂閱費。
  • 典型聊天回應輸入 2,000 Token、輸出 500 Token,費用為 $0.00055。
  • 沒有免費的無限層級;新用戶可獲得 $0.50 的試用額度,有效期 7 天。
一架天平,一端是本地 GPU 任務站,另一端是堆疊的 token 硬幣

「Ollama API 定價」的實際含義

當人們在搜尋框輸入ollama api 定價時,通常是在尋找費率表,而本地軟體並沒有費率表。Ollama 是一個安裝在電腦上的程式,可在本機電腦上執行開放權重模型,並透過本地 HTTP API 提供服務。它不會計算 token 數量,也不會就 token 向你收費。Ollama 也提供自己的託管選項;對於這些選項,請查看他們的當前定價頁面,因為本文不代表他們的定價。

這並不意味著本地推理是免費的。成本從按 token 計費轉移到你已經在支付或必須購買的事物上:具有足夠記憶體的機器、電力、設定與更新的時間,以及 GPU 被佔用的機會成本。有用的問題不是「價格是多少」,而是「以我的用量,哪種安排成本更低且足夠好用」。本文其餘部分提供託管端的數字,以便你回答這個問題。

自行運行 Ollama 的成本

本地端有四項帳目。

  • 硬體。 較大的模型需要更多的 GPU 記憶體或大量的系統記憶體。如果你已經擁有合適的機器,這項成本是沉沒成本。如果你必須購買或租用,這將是最大的項目。
  • 電力。 將機器的耗電量(千瓦)乘以使用時數,再乘以你的電費費率。桌面 GPU 在負載下消耗的電力遠高於閒置狀態,因此僅計算忙碌時數是公平的。
  • 閒置容量。 一天中大部分時間未使用的伺服器仍然必須存在。按 token 計費僅在你呼叫時收費。
  • 你的時間。 拉取模型、更新執行環境、監控記憶體、崩潰後重新啟動。

計算你自己的數據,而不是相信通用數值。記錄你的任務負載在一週內實際使用了多少 token。這項測量也是你準確計算託管替代方案成本所需的數據。

託管費率與計算

本站的託管 API 計量兩個項目。輸入 token(你的提示詞,包括你重新發送的任何對話歷史)每 1M 計 $0.15。輸出 token(補全內容)每 1M 計 $0.50。沒有訂閱費;你儲值額度,每次請求扣除。失敗或遭拒的請求不會計費,且額度不會過期。

公式很簡短:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

以下是常見任務類型,並附上經計算後的範例。

任務輸入 token輸出 token成本
一次聊天回應2,000500$0.0003 + $0.00025 = $0.00055
1,000 次此種回覆2,000,000500,000$0.30 + $0.25 = $0.55
摘要長文件50,0001,000$0.0075 + $0.0005 = $0.008
填滿完整上下文100,0004,000$0.015 + $0.002 = $0.017
10,000 次請求批次8,000,0003,000,000$1.20 + $1.50 = $2.70

批次行假設每次請求包含 800 個輸入 token 和 300 個輸出 token。請注意,輸出是每個 token 的昂貴計費單位,但輸入通常在數量上佔主導地位,因此長提示詞和長對話歷史是費用所在之處。

逐輪增長的對話

聊天 API 是無狀態的,因此每次回覆都會重新發送整個歷史記錄。這使得成本增長速度快於回覆次數。考慮一個 20 輪的對話,每個用戶訊息為 150 個 token,每個回覆為 250 個 token,因此每輪會向歷史記錄中添加 400 個 token。

  1. 第 1 輪發送 150 個輸入 token。第 2 輪發送 150 + 400 = 550。第 k 輪發送 150 + 400 x (k - 1)。
  2. 在 20 輪中,輸入總量為 150 x 20 + 400 x (0 + 1 + ... + 19) = 3,000 + 400 x 190 = 79,000 個 token。
  3. 輸出總量為 20 x 250 = 5,000 個 token。
  4. 費用:79,000 x 0.15 / 1M = $0.01185,加上 5,000 x 0.50 / 1M = $0.0025,總計 $0.01435。

長對話約需 1.5 美分。如果將對話加倍至 40 輪,輸入量大約變成四倍,因為歷史記錄會持續增長。修剪或摘要舊輪次是控制聊天應用程式成本的主要方式。

額度、獎金與試用

你可以儲值任何整數金額,從 $20 到 $500。較大的儲值附帶獎金:$50 起 +5%,$100 起 +10%,$200 起 +15%。實際上意味著:

  • $50 可購買 $52.50 的額度。
  • $100 可購買 $110.00。
  • $200 可購買 $230.00。

付款方式為信用卡(Visa、Mastercard、Apple Pay、Google Pay)或加密貨幣(TRC20 上的 USDT、Base 上的 USDC)。定價頁面 有當前詳細資訊。

新用戶可以先測試再付費。使用 Google 或電子郵件與密碼註冊後,API 金鑰頁面有一個按鈕可領取 $0.50 的試用額度,每人限領一次,有效期 7 天,無需信用卡。在上述 2,000 輸入、500 輸出的回覆規模下,$0.50 可覆蓋約 900 次回覆,足以判斷輸出是否符合你的專案需求。試用金鑰限制為 2 個並行請求和每分鐘 60 次請求。你可以在幾分鐘內 獲取你的 API 金鑰。

根據你的用量進行比較

使用你記錄的 token 數量並計算一個月的總和。假設一個專案每月使用 50M 輸入 token 和 10M 輸出 token。託管成本:50 x $0.15 = $7.50,加上 10 x $0.50 = $5.00,總計 $12.50。現在將你的本地成本放在旁邊:你原本不會購買的硬體所對應的月攤提費用,加上繁忙時段的電力成本,加上你的維護時間價值。如果總成本明顯高於 $12.50,託管在成本上勝出。如果你已經擁有能良好處理模型的閒置硬體,則本地在成本上勝出。

成本不是唯一的軸線。本地將數據保留在你的機器上並可離線運行。託管消除了對 GPU 的需求,提供 100,000-token 上下文視窗,並讓多個服務共享一個後端。託管模型是一個單一開放權重模型,經過調優以在合法成人用途下無內容拒絕地回答,因此這也取決於該模型是否適合你的任務。提示詞不用於訓練。

一個誠實的限制:沒有免費無限層級。$0.50 試用期後,你需從預付額度按 token 付費。如果你的任務需要無限免費呼叫且你擁有硬體,本地 Ollama 是合適的工具。

扭曲比較結果的錯誤

當人們為 LLM 任務負載計價時,會出現一些反覆出現的錯誤,每個錯誤都可能翻轉答案。

  • 忽略輸出 token。 短提示詞搭配長回答的情況,成本主要來自輸出。一個 300 token 的問題產生 3,000 token 的故事,成本為 300 x $0.15 / 1M + 3,000 x $0.50 / 1M = $0.000045 + $0.0015 = $0.001545。
  • 忽略重新發送的對話歷史。 正如 20 輪的範例所示,聊天成本隨累積的上下文擴展,而非最新訊息的長度。
  • 以字詞而非 token 計算。 英文文本通常比字詞多佔用一些 token,程式碼或非拉丁文字則會佔用更多。請閱讀每次回應附帶的使用量數據,並使用這些數據,而非估算值。
  • 將本地硬體定價為零。 你已經擁有的 GPU 仍會磨損並消耗電力,即使你沒有為它支付費用。
  • 比較不同的模型。 小型本地模型與較大的託管模型產生的品質不同。如果你需要多次重試,每 token 較便宜不等於獲得好答案的成本較低。

最後一點值得測試而非僅憑意見。從你的專案中取二十個真實提示詞,在兩種設置上運行它們,並評估答案。然後計算獲勝方案的費用。

監控支出

託管 API 的每個回應都包含 X-Balance-USD 標頭,顯示你剩餘的額度,以及 X-Request-Id 用於支援問題。你可以在程式碼中讀取這些資訊,並在額度耗盡前通知自己。

import requests

r = requests.post(
    "https://api.ollamaapi.cc/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_API_KEY"},
    json={
        "model": "uncensored",
        "messages": [{"role": "user", "content": "Say hello."}],
        "max_tokens": 20,
    },
    timeout=60,
)
print(r.json()["choices"][0]["message"]["content"])
print("Balance:", r.headers.get("X-Balance-USD"))

設定 max_tokens 是選配的,因為補全可能會使用視窗的剩餘部分,但它可以作為防止輸出失控的廉價保護措施。文件 涵蓋了其他標頭和速率限制。

問答

Ollama API 免費嗎?

本地 Ollama 軟體沒有按 token 計費,但你需要自行準備硬體與電力。本站的託管 API 按 token 計費,新用戶享有 $0.50 的試用額度。

託管 API 中 1M 個 token 的價格是多少?

1M 個輸入 token 的價格為 $0.15,1M 個輸出 token 的價格為 $0.50。若同時使用 1M 個輸入與輸出 token,總費用為 $0.65。

額度會過期嗎?

不會。預付額度不會過期,失敗或被拒絕的請求不會計費。

最低儲值金額是多少?

$20,任何整數金額,最高至 $500。獎金 5%、10% 和 15% 分別從 $50、$100 和 $200 起適用。

只差填寫表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰