Тарифы Ollama API: локальные затраты против оплаты за токен

Что на самом деле означает «тарифы Ollama API»

Когда люди вводят в поисковую строку тарифы Ollama API, они часто ищут прайс-лист, но для локального ПО его нет. Ollama — это программа, которую вы устанавливаете для запуска моделей с открытыми весами на своём компьютере и предоставления доступа через локальный HTTP API. Она не считает токены и не выставляет вам за них счёт. У Ollama также есть собственные размещённые опции; по ним смотрите текущую страницу тарифов, так как эта статья не относится к ним.

Это не делает локальный вывод бесплатным. Стоимость перемещается с платы за токен на то, за что вы уже платите или что нужно купить: машину с достаточным объёмом памяти, электроэнергию, ваше время на настройку и обновления, а также упущенную выгоду от GPU, который занят. Полезный вопрос не в том, «какова цена», а в том, «какой вариант обходится дешевле и работает достаточно хорошо при моём объёме». В оставшейся части этой статьи приведены цифры для хостинга, чтобы вы могли ответить на него.

Стоимость запуска Ollama самостоятельно

На локальной стороне бухгалтерской книги есть четыре строки.

• Оборудование. Большим моделям требуется больше видеопамяти GPU или значительный объём системной RAM. Если у вас уже есть подходящая машина, эти расходы являются безвозвратными. Если вам нужно купить или арендовать её, это будет самая крупная статья расходов.
• Электроэнергия. Умножьте потребление машины в киловаттах на часы использования и на ваш тариф за электричество. GPU под нагрузкой потребляет гораздо больше, чем в простое, поэтому учитывать только часы активной работы справедливо.
• Простаивающие мощности. Сервер, который большую часть дня простаивает, всё равно должен существовать. При тарификации за токены вы платите только когда делаете запрос.
• Ваше время. Загрузка моделей, обновление среды выполнения, мониторинг памяти, перезапуск после сбоев.

Измеряйте свои собственные показатели, а не доверяйте усреднённым цифрам. Запишите, сколько токенов действительно использует ваша нагрузка в течение недели. Это одно измерение также необходимо для точного расчёта стоимости альтернативы с размещённым API.

Тарифы размещённого API и арифметика

API на этом сайте использует два показателя. Входные токены (ваш промпт, включая любую историю чата, которую вы отправляете повторно) стоят $0,15 за 1 млн. Выходные токены (завершение генерации) стоят $0,50 за 1 млн. Подписки нет; вы пополняете баланс, и средства списываются за каждый запрос. Неудачные или отклонённые запросы не оплачиваются, а баланс не сгорает.

Формула короткая:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

Вот распространённые сценарии задач с приведёнными расчётами.

Задача	Входные токены	Выходные токены	Стоимость
Один ответ в чате	2,000	500	$0.0003 + $0.00025 = $0.00055
1 000 таких ответов	2,000,000	500,000	$0.30 + $0.25 = $0.55
Суммаризация длинного документа	50,000	1,000	$0.0075 + $0.0005 = $0.008
Заполнение полного контекстного окна	100,000	4,000	$0.015 + $0.002 = $0.017
Пакет из 10 000 запросов	8,000,000	3,000,000	$1.20 + $1.50 = $2.70

Строка «пакет» предполагает 800 входных и 300 выходных токенов на запрос. Обратите внимание, что выходные токены — это дорогой показатель за токен, но обычно преобладают входные, поэтому длинные промпты и длинные истории чата — это то, куда уходят деньги.

Чат, который растёт шаг за шагом

API чата не сохраняет состояние, поэтому каждый новый шаг отправляет всю историю заново. Это делает рост стоимости быстрее, чем рост количества шагов. Рассмотрим разговор из 20 шагов, где каждое сообщение пользователя содержит 150 токенов, а каждый ответ — 250 токенов, так что каждый шаг добавляет 400 токенов в историю.

1. Ход 1 отправляет 150 входных токенов. Ход 2 отправляет 150 + 400 = 550. Ход k отправляет 150 + 400 x (k - 1).
2. За 20 ходов общий объём входных данных составляет 150 x 20 + 400 x (0 + 1 + ... + 19) = 3 000 + 400 x 190 = 79 000 токенов.
3. Общий объём выходных данных составляет 20 x 250 = 5,000 токенов.
4. Стоимость: 79 000 x 0,15 / 1 млн = $0,01185, плюс 5 000 x 0,50 / 1 млн = $0,0025, итого $0,01435.

Около полутора центов за длинный разговор. Если удвоить разговор до 40 реплик, объём входных данных примерно вырастет в четыре раза, потому что история постоянно растёт. Обрезка или суммирование старых реплик — основной способ контролировать расходы в чат-приложениях.

Баланс, бонусы и пробный период

Вы пополняете баланс любой целой суммой от $20 до $500. Большие пополнения дают бонус: +5% от $50, +10% от $100 и +15% от $200. На практике это означает:

• $50 дают $52,50 баланса.
• $100 дают $110,00.
• $200 дают $230,00.

Оплата картой (Visa, Mastercard, Apple Pay, Google Pay) или криптовалютой (USDT на TRC20, USDC на Base). Страница с ценами содержит актуальные детали.

Новые пользователи могут протестировать сервис перед оплатой. После регистрации через Google или по электронной почте и паролю на странице API-ключа есть кнопка, позволяющая получить $0,50 пробного кредита, по одному на человека, сроком на 7 дней, без привязки карты. При размере ответа 2000 входящих и 500 исходящих токенов, указанных выше, $0,50 покрывают примерно 900 ответов, чего достаточно, чтобы оценить, подходит ли вывод для вашего проекта. Пробный ключ ограничен 2 параллельными запросами и 60 запросами в минуту. Вы можете получить API-ключ за несколько минут.

Сравнение двух вариантов для вашего объёма

Используйте ваши записанные объёмы токенов и посчитайте сумму за месяц. Скажем, проект использует 50 млн входных токенов и 10 млн выходных токенов в месяц. Стоимость размещённого API: 50 x $0,15 = $7,50, плюс 10 x $0,50 = $5,00, итого $12,50. Теперь сопоставьте с вашей локальной цифрой: ежемесячная доля оборудования, которое вы не покупали бы иначе, плюс электроэнергия за часы активной работы, плюс стоимость вашего времени на обслуживание. Если эта сумма явно выше $12,50, размещение выигрывает по стоимости. Если у вас уже есть простаивающее оборудование, которое хорошо справляется с моделью, локальное решение выигрывает по стоимости.

Стоимость — не единственный аспект. Локальное размещение хранит данные на вашей машине и работает офлайн. Хостинг устраняет необходимость в GPU, предоставляет контекстное окно на 100 000 токенов и позволяет нескольким сервисам использовать один бэкенд. Модель на хостинге — это одна модель с открытыми весами, настроенная на ответы без отказов по контенту для законного использования взрослыми, поэтому также важно, подходит ли эта модель для вашей задачи. Промпты не используются для обучения.

Один честный лимит: нет бесплатного безлимитного тарифа. После пробного периода на $0,50 вы платите за токен из предоплаченного баланса. Если вашей работе нужны бесплатные неограниченные вызовы и у вас есть оборудование, локальный Ollama — правильный инструмент.

Ошибки, искажающие сравнение

При оценке нагрузки LLM снова и снова возникают несколько ошибок, и каждая из них может изменить ответ.

• Упущение выходных токенов. Короткий промпт с длинным ответом — это в основном счёт за выходные токены. Вопрос на 300 токенов, который генерирует историю на 3000 токенов, стоит 300 x $0,15 / 1 млн + 3000 x $0,50 / 1 млн = $0,000045 + $0,0015 = $0,001545.
• Игнорирование повторно отправляемой истории. Как показывает пример с 20 репликами, стоимость чата масштабируется в зависимости от накопленного контекста, а не от длины последнего сообщения.
• Подсчёт слов вместо токенов. Английский текст обычно требует немного больше токенов, чем слов, а код или нелатинские письменности — ещё больше. Читайте числа использования, возвращаемые с каждым ответом, и используйте их, а не оценку.
• Оценка локального оборудования в ноль. Видеокарта, которая у вас уже есть, всё равно изнашивается и потребляет энергию, даже если вы не платите за неё.
• Сравнение различных моделей. Маленькая локальная модель и большая размещённая выдают разное качество. Дешевле за токен не значит дешевле за хороший ответ, если вам нужно много попыток.

Последний пункт заслуживает теста, а не мнения. Возьмите двадцать реальных промптов из вашего проекта, запустите их в обоих вариантах и оцените ответы. Затем посчитайте стоимость победителя при вашем реальном объёме.

Контроль расходов

Каждый ответ от размещённого API содержит заголовок X-Balance-USD с оставшимся балансом, а также X-Request-Id для обращений в техподдержку. Вы можете прочитать его в коде и уведомить себя, прежде чем баланс исчерпается.

Copyimport requests

r = requests.post(
    "https://api.ollamaapi.cc/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_API_KEY"},
    json={
        "model": "uncensored",
        "messages": [{"role": "user", "content": "Say hello."}],
        "max_tokens": 20,
    },
    timeout=60,
)
print(r.json()["choices"][0]["message"]["content"])
print("Balance:", r.headers.get("X-Balance-USD"))

Установка max_tokens необязательна, так как завершение генерации может использовать оставшуюся часть окна, но это дешёвая защита от неконтролируемого вывода. документация описывает другие заголовки и лимиты запросов.

Дополнительные руководства

• Ollama API на Python и альтернатива на хостинге
• Ollama API против OpenRouter: что выбрать вам
• Руководство по API-ключу Mistral