Ollama API 가격: 로컬 비용 vs 토큰 단위 요금

"Ollama API 가격"의 실제 의미

사람들이 검색 창에 ollama api pricing를 입력할 때, 그들은 종종 요금표를 찾고 있습니다. 로컬 소프트웨어에는 그런 요금이 없습니다. Ollama는 오픈 웨이트 모델을 자신의 컴퓨터에서 실행하고 로컬 HTTP API를 통해 제공합니다. Ollama는 토큰을 세지 않으며 토큰에 대한 청구서를 보내지도 않습니다. Ollama는 자체 호스팅된 옵션도 제공합니다. 해당 옵션의 경우 현재 가격 페이지를 확인하십시오. 이 기사는 해당 옵션을 대신 설명하지 않습니다.

이것이 로컬 추론이 무료임을 의미하지는 않습니다. 비용은 토큰당 요금에서 이미 지불하거나 구매해야 하는 항목으로 이동합니다: 충분한 메모리가 있는 기계, 전기, 설정 및 업데이트에 대한 시간, 그리고 사용 중인 GPU의 기회 비용. 유용한 질문은 "가격이 무엇인가"가 아니라 "내 사용량에서 어떤 구성이 더 저렴하고 충분히 잘 작동하는가"입니다. 이 기사의 나머지 부분에서는 호스팅 측의 숫자를 제공하여 이 질문에 답할 수 있도록 합니다.

Ollama 직접 실행 비용

로컬 쪽에는 장부의 네 가지 항목이 있습니다.

• 하드웨어. 더 큰 모델은 더 많은 GPU 메모리나 많은 시스템 RAM이 필요합니다. 적합한 기계를 이미 보유하고 있다면 이 비용은 매몰 비용입니다. 구매하거나 임대해야 한다면 가장 큰 항목입니다.
• 전력. 기계의 소비량(킬로와트)을 사용 시간과 전기 요금으로 곱하십시오. 부하 상태의 데스크탑 GPU는 유휴 상태보다 훨씬 더 많은 전력을 소비하므로, 바쁜 시간만 계산하는 것이 공정합니다.
• 유휴 용량. 하루 대부분 사용하지 않는 서버는 여전히 존재해야 합니다. 토큰당 과금은 호출할 때만 청구합니다.
• 당신의 시간. 모델 다운로드, 런타임 업데이트, 메모리 모니터링, 충돌 후 재시작.

보편적인 수치를 신뢰하기 대신 자신의 숫자를 측정하십시오. 작업량이 실제로 사용하는 토큰 수를 일주일 동안 기록하십시오. 이 하나의 측정치는 호스팅 대안을 정확하게 가격 책정하는 데에도 필요합니다.

호스팅 요금 및 산술

이 사이트의 호스팅 API는 두 가지 항목에 대해 과금합니다. 입력 토큰(프롬프트, 다시 보내는 모든 대화 기록 포함)은 1M당 $0.15입니다. 출력 토큰(완성본)은 1M당 $0.50입니다. 구독제는 없으며, 크레딧을 추가하면 요청마다 차감됩니다. 실패하거나 거부된 요청에는 요금이 부과되지 않으며, 크레딧은 만료되지 않습니다.

공식은 간단합니다:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

계산된 일반적인 작업 형태는 다음과 같습니다.

작업	입력 토큰	출력 토큰	비용
채팅 답변 1회	2,000	500	$0.0003 + $0.00025 = $0.00055
1,000개의 해당 답변	2,000,000	500,000	$0.30 + $0.25 = $0.55
긴 문서 요약	50,000	1,000	$0.0075 + $0.0005 = $0.008
전체 컨텍스트 채우기	100,000	4,000	$0.015 + $0.002 = $0.017
10,000개 요청 배치	8,000,000	3,000,000	$1.20 + $1.50 = $2.70

배치 행은 요청당 800개의 입력 토큰과 300개의 출력 토큰을 가정합니다. 토큰당 출력 비용이 더 비싸지만, 일반적으로 입력 토큰 수가 더 많으므로 긴 프롬프트와 긴 대화 기록이 비용이 많이 드는 부분입니다.

단계별 대화 확장

채팅 API는 상태가 없으므로 모든 턴에서 전체 기록을 다시 보냅니다. 이로 인해 비용은 턴 수보다 빠르게 증가합니다. 각 사용자 메시지가 150 토큰이고 각 응답이 250 토큰인 20턴 대화를 가정해 보세요. 각 턴은 기록에 400 토큰을 추가합니다.

1. 턴 1은 150 입력 토큰을 보냅니다. 턴 2는 150 + 400 = 550을 보냅니다. 턴 k는 150 + 400 x (k - 1)을 보냅니다.
2. 20턴 전체에 걸쳐 입력 총합은 150 x 20 + 400 x (0 + 1 + ... + 19) = 3,000 + 400 x 190 = 79,000 토큰입니다.
3. 출력 총합은 20 x 250 = 5,000 토큰입니다.
4. 비용: 79,000 x 0.15 / 1M = $0.01185, 그리고 5,000 x 0.50 / 1M = $0.0025, 총 $0.01435입니다.

긴 대화의 경우 약 1.5센트 정도가 듭니다. 대화를 40턴으로 두 배로 늘리면 기록이 계속 증가하기 때문에 입력량이 약 4배로 불어납니다. 오래된 턴을 잘라내거나 요약하는 것이 채팅 앱에서 비용을 통제하는 주요 방법입니다.

크레딧, 보너스 및 체험

$20부터 $500까지 임의의 정수 금액으로 충전할 수 있습니다. 더 큰 금액의 충전에는 보너스가 따릅니다: $50부터 +5%, $100부터 +10%, $200부터 +15%. 실제로 이는 다음과 같습니다:

• $50로 $52.50의 크레딧을 구매합니다.
• $100로 $110.00의 크레딧을 구매합니다.
• $200로 $230.00의 크레딧을 구매합니다.

결제는 카드(Visa, Mastercard, Apple Pay, Google Pay) 또는 암호화폐(TRC20의 USDT, Base의 USDC)로 가능합니다. 가격 책정 페이지에서 현재 세부 정보를 확인할 수 있습니다.

신규 사용자는 결제 전에 테스트해 볼 수 있습니다. Google 또는 이메일과 비밀번호로 가입하면 API 키 페이지에 체험 크레딧 $0.50을 청구하는 버튼이 있습니다. 사람당 하나, 7일 동안 유효하며 카드가 필요하지 않습니다. 위의 2,000 입력, 500 출력 답변 크기에서 $0.50은 약 900개의 답변을 커버할 수 있으며, 이는 출력이 프로젝트에 적합한지 판단하기에 충분합니다. 체험 키는 동시 요청 2개 및 분당 요청 60개로 제한됩니다. 몇 분 안에 API 키를 얻으세요.

사용량에 따른 비교

로깅된 토큰 수치를 사용하여 한 달치의 합계를 계산하십시오. 예를 들어 프로젝트가 월간 50M 입력 토큰과 10M 출력 토큰을 사용한다고 가정해 보세요. 호스팅 비용: 50 x $0.15 = $7.50, 여기에 10 x $0.50 = $5.00을 더하여 총 $12.50가 됩니다. 이제 로컬 비용을 옆에 적어 비교해 보세요: 그렇지 않았다면 구매하지 않았을 하드웨어의 월간 분담금, 바쁜 시간대의 전력 비용, 유지보수 시간의 가치입니다. 이 총합이 $12.50보다 명확히 높다면 호스팅이 비용 측면에서 유리합니다. 이미 모델을 잘 처리할 수 있는 유휴 하드웨어를 보유하고 있다면 로컬이 비용 측면에서 유리합니다.

비용은 유일한 축이 아닙니다. 로컬은 데이터를 기계에 유지하고 오프라인에서 작동합니다. 호스팅은 GPU가 필요하지 않게 하고, 100,000 토큰 컨텍스트 창을 제공하며, 여러 서비스가 하나의 백엔드를 공유할 수 있게 합니다. 호스팅 모델은 합법적인 성인 사용에 대한 콘텐츠 거부 없이 답변하도록 조정된 단일 오픈 웨이트 모델이므로, 해당 모델이 작업에 적합한지 여부에 달려 있습니다. 프롬프트는 학습에 사용되지 않습니다.

하나의 솔직한 제한 사항: 무료 무제한 요금제는 없습니다. $0.50 체험 후 선불 크레딧에서 토큰 단위 요금을 지불합니다. 작업에 무료 무제한 호출이 필요하고 하드웨어를 보유하고 있다면 로컬 Ollama가 적합한 도구입니다.

비교를 왜곡하는 실수

사람들이 LLM 작업량을 가격 책정할 때 몇 가지 오류가 반복적으로 나타나며, 각각 답변을 뒤집을 수 있습니다.

• 출력 토큰 잊기. 짧은 프롬프트와 긴 답변은 주로 출력 청구입니다. 300 토큰 질문이 3,000 토큰 이야기를 생성하면 비용은 300 x $0.15 / 1M + 3,000 x $0.50 / 1M = $0.000045 + $0.0015 = $0.001545입니다.
• 다시 보낸 대화 기록 무시하기. 20턴 예시에서 알 수 있듯이, 채팅 비용은 최신 메시지의 길이가 아닌 누적된 컨텍스트 창에 따라 증가합니다.
• 토큰 대신 단어 세기. 영어 텍스트는 일반적으로 단어보다 약간 더 많은 토큰을 차지하며, 코드 또는 비라틴 문자는 더 많이 차지합니다. 각 응답과 함께 반환된 사용량 수치를 읽고 추정치가 아닌 해당 수치를 사용하십시오.
• 로컬 하드웨어를 0에 가격 책정. 이미 소유한 GPU도 수표를 쓰지 않더라도 여전히 마모되고 전력을 소비합니다.
• 서로 다른 모델 비교하기. 작은 로컬 모델과 더 큰 호스팅된 모델은 동일한 품질을 제공하지 않습니다. 토큰당 가격이 저렴하다고 해서 좋은 답변을 얻기 위해 여러 번 재시도해야 한다면 저렴하다고 할 수 없습니다.

마지막 점은 의견보다 테스트가 필요합니다. 프로젝트에서 실제 프롬프트 20개를 가져와서 두 설정 모두에서 실행하고 답변을 평가하십시오. 그런 다음 승자를 실제 사용량으로 가격 책정하십시오.

지출 모니터링

호스팅된 API의 모든 응답에는 남은 크레딧을 알려주는 X-Balance-USD 헤더와 지원 문의용 X-Request-Id 헤더가 포함됩니다. 코드를 통해 이를 확인하고 잔액이 부족해지기 전에 알림을 설정할 수 있습니다.

Copyimport requests

r = requests.post(
    "https://api.ollamaapi.cc/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_API_KEY"},
    json={
        "model": "uncensored",
        "messages": [{"role": "user", "content": "Say hello."}],
        "max_tokens": 20,
    },
    timeout=60,
)
print(r.json()["choices"][0]["message"]["content"])
print("Balance:", r.headers.get("X-Balance-USD"))

max_tokens 설정은 선택 사항입니다. 완성 텍스트가 컨텍스트 창의 나머지 부분을 사용할 수 있기 때문입니다. 하지만 이는 예상치 못한 긴 출력을 방지하는 저렴한 방법입니다. 문서에서는 다른 헤더와 속도 제한에 대해 다룹니다.

더 많은 가이드

• Python용 Ollama API 및 호스팅 대안
• Ollama API vs OpenRouter: 어떤 것이 당신에게 맞을까요?
• Mistral API 키 가이드