Ollama API 定价:本地成本与按 Token 计费
本地 Ollama 服务器没有按 Token 计费,但也不是免费的。以下是将其真实成本与托管 API 进行对比的方法:输入 1M token $0.15,输出 1M token $0.50。
更新于
要点
- 本地 Ollama 没有 Token 计量;你支付硬件、电力和你自己的时间成本。
- 托管 API 价格为 1M 输入 token $0.15,1M 输出 token $0.50,预付制,无订阅。
- 典型的聊天回复包含 2,000 个输入 token 和 500 个输出 token,费用为 $0.00055。
- 没有免费无限层级;新用户获得有效期为 7 天的 $0.50 试用额度。

“Ollama API 定价”的实际含义
当人们搜索 ollama api pricing 时,通常是在寻找费率表,而本地软件并没有。Ollama 是一个安装在你的计算机上的程序,它在本地运行开放权重模型并通过本地 HTTP API 提供服务。它不计算 token 也不会为此向你收费。Ollama 也提供自己的托管选项;对于这些选项,请查看其当前定价页面,因为本文不代表它们。
这并不意味着本地推理是免费的。成本从按 token 收费转移到你已经支付或必须购买的东西上:具有足够内存的机器、电力、设置和更新的时间,以及 GPU 被占用时的机会成本。有意义的问题不是“价格是多少”,而是“以我的用量,哪种方案成本更低且足够好用”。本文的其余部分提供托管侧的数字,以便你回答这个问题。
自行运行 Ollama 的成本
本地账目有4行。
- 硬件。 较大的模型需要更多的 GPU 内存或大量的系统内存。如果你已经拥有合适的机器,这项成本是沉没成本。如果你必须购买或租用,它是最大的项目。
- 电力。 将机器的千瓦数乘以使用小时数,再乘以你的电价。满载下的桌面 GPU 耗电量远大于空闲状态,因此只计算繁忙小时数是公平的。
- 闲置容量。 一天中大部分时间闲置的服务器仍然必须存在。按 Token 计费仅在调用时收费。
- 你的时间。 拉取模型、更新运行时、监控内存、崩溃后重启。
计算你自己的数据,而不是相信通用数字。记录你的工作负载在一周内实际使用了多少 token。这一测量结果也是你准确计算托管替代方案价格所需的数据。
托管费率与算术计算
该站点的托管 API 分别对输入和输出计费。输入 token(您的提示词,包括您重新发送的任何对话历史)每 1M 个 token 收费 $0.15。输出 token(生成的回复)每 1M 个 token 收费 $0.50。没有订阅;您充值后,每次请求都会扣除额度。失败或被拒绝的请求不收费,且额度不会过期。
公式很简单:
cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000
以下是常见任务类型的计算结果。
| 任务 | 输入 token | 输出 token | 成本 |
|---|---|---|---|
| 一次聊天回复 | 2,000 | 500 | $0.0003 + $0.00025 = $0.00055 |
| 1,000 次此类回复 | 2,000,000 | 500,000 | $0.30 + $0.25 = $0.55 |
| 总结长文档 | 50,000 | 1,000 | $0.0075 + $0.0005 = $0.008 |
| 填满上下文 | 100,000 | 4,000 | $0.015 + $0.002 = $0.017 |
| 10,000 个请求的批次 | 8,000,000 | 3,000,000 | $1.20 + $1.50 = $2.70 |
批量行假设每个请求有 800 个输入 token 和 300 个输出 token。请注意,输出 token 的单价更贵,但输入通常占主导地位,因此长提示词和长聊天历史是花钱的地方。
逐轮增长的对话
Chat API 是无状态的,因此每一轮都会重新发送整个历史记录。这使得成本比轮数增长得更快。考虑一个 20 轮的对话,每个用户消息 150 个 Token,每个回复 250 个 Token,因此每轮向历史记录增加 400 个 Token。
- 第 1 轮发送 150 个输入 Token。第 2 轮发送 150 + 400 = 550。第 k 轮发送 150 + 400 x (k - 1)。
- 20 轮的输入总计为 150 x 20 + 400 x (0 + 1 + ... + 19) = 3,000 + 400 x 190 = 79,000 个 Token。
- 输出总计为 20 x 250 = 5,000 个 Token。
- 成本:79,000 x 0.15 / 1M = $0.01185,加上 5,000 x 0.50 / 1M = $0.0025,总计 $0.01435。
长对话约需 1.5 美分。如果将对话翻倍到 40 轮,输入大致翻四倍,因为历史记录不断增长。修剪或总结旧轮次是控制聊天应用成本的主要方法。
额度、奖励与试用
你可以充值 $20 到 $500 之间的任何整数金额。较大的充值附带奖励:$50 起 +5%,$100 起 +10%,$200 起 +15%。实际上这意味着:
- $50 可购买 $52.50 的额度。
- $100 可购买 $110.00。
- $200 可购买 $230.00。
支付方式为银行卡(Visa、Mastercard、Apple Pay、Google Pay)或加密货币(TRC20 上的 USDT,Base 上的 USDC)。定价页面 有当前详情。
新用户可以在付费前进行测试。使用 Google 或电子邮件和密码注册后,API 密钥页面有一个按钮,可领取 $0.50 试用额度,每人一次,有效期 7 天,无需银行卡。在上述 2,000 输入、500 输出回复规模下,$0.50 可覆盖约 900 次回复,足以判断输出是否适合你的项目。试用密钥限制为 2 个并发请求和每分钟 60 个请求。你可以在几分钟内 获取你的 API 密钥。
根据你的用量进行比较
使用你记录的 Token 计数并计算一个月的总和。假设一个项目每月使用 50M 输入 Token 和 10M 输出 Token。托管成本:50 x $0.15 = $7.50,加上 10 x $0.50 = $5.00,即 $12.50。现在将你的本地数字放在旁边:你原本不会拥有的硬件的月度份额,加上繁忙小时的电力,加上你维护时间的价值。如果该总额明显高于 $12.50,托管在成本上胜出。如果你已经拥有能很好地处理模型的闲置硬件,本地在成本上胜出。
成本不是唯一的维度。本地运行将数据保留在你的机器上,并且可以离线工作。托管服务消除了对 GPU 的需求,提供 100,000 token 的上下文窗口,并允许几个服务共享一个后端。托管模型是一个单一的开放权重模型,经过调整以在没有内容审查的情况下回答合法成人用途的问题,因此这也取决于该模型是否适合你的任务。提示词不用于训练。
一个诚实的限制:没有免费的无限层。试用 $0.50 后,你从预付额度按 Token 付费。如果你的工作需要无限免费调用且你拥有硬件,本地 Ollama 是合适的工具。
导致比较失真的错误
当人们对 LLM 工作负载定价时,会出现一些反复出现的错误,每个错误都可能翻转答案。
- 忘记输出 token。 短提示词长回答主要产生输出账单。一个 300 token 的问题生成 3,000 token 的故事,成本为 300 x $0.15 / 1M + 3,000 x $0.50 / 1M = $0.000045 + $0.0015 = $0.001545。
- 忽略近期历史。 正如 20 轮示例所示,聊天成本随累积上下文增加,而不是由最新消息的长度决定。
- 统计单词而非 token。 英文文本通常比单词占用更多的 token,代码或非拉丁脚本占用更多。查看每次响应返回的使用量数据并据此计算,而不是使用估算值。
- 将本地硬件定价为零。 你拥有的 GPU 仍然会磨损并消耗电力,即使你没有为此开支票。
- 比较不同的模型。 小型本地模型和较大的托管模型产生的质量不同。如果需要进行多次重试,每个 Token 便宜并不意味着每个好答案更便宜。
最后一点值得通过测试来验证,而非凭主观看法。从你的项目中选取二十个真实提示词,在两种设置下运行它们,并评估结果。然后根据你的实际用量计算获胜者的成本。
监控支出
托管 API 的每个响应都包含 X-Balance-USD 头(包含你的剩余额度)以及 X-Request-Id 头(用于支持问题)。你可以在代码中读取它们,并在额度耗尽前提醒自己。
import requests
r = requests.post(
"https://api.ollamaapi.cc/v1/chat/completions",
headers={"Authorization": "Bearer YOUR_API_KEY"},
json={
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello."}],
"max_tokens": 20,
},
timeout=60,
)
print(r.json()["choices"][0]["message"]["content"])
print("Balance:", r.headers.get("X-Balance-USD"))
设置 max_tokens 是可选的,因为补全可能会使用窗口剩余部分,但它可以作为防止输出失控的廉价手段。文档 涵盖了其他头信息和速率限制。
更多指南
问答
Ollama API 免费吗?
本地 Ollama 软件不收取按 token 计费的费用,但你需要自备硬件和电力。本站的托管 API 按 token 计费,新用户可获得 $0.50 的试用额度。
托管 API 中 1M token 的费用是多少?
1M 输入 token 费用为 $0.15,1M 输出 token 费用为 $0.50。包含 1M 输入和 1M 输出的任务总费用为 $0.65。
额度会过期吗?
不会。预付额度不会过期,失败或被拒绝的请求不会收费。
最低充值金额是多少?
$20,任何整数额,最高 $500。从 $50、$100 和 $200 起,分别享有 5%、10% 和 15% 的奖励。