ราคา API Ollama: ต้นทุนในเครื่องของคุณ เทียบกับการจ่ายต่อโทเคน

ความหมายที่แท้จริงของ "ราคา Ollama API"

เมื่อผู้คนพิมพ์ ollama api pricing ลงในกล่องค้นหา พวกเขามักจะมองหาตารางอัตรา และสำหรับซอฟต์แวร์ในเครื่องของคุณไม่มีตารางดังกล่าว Ollama คือโปรแกรมที่คุณติดตั้งเพื่อรันโมเดลแบบเปิดน้ำหนักบนคอมพิวเตอร์ของคุณเองและให้บริการผ่าน API HTTP ในเครื่องของคุณ มันไม่ได้นับโทเคนหรือส่งบิลให้คุณ Ollama ยังมีตัวเลือกแบบโฮสต์ของตัวเอง สำหรับตัวเลือกเหล่านั้น โปรดดูหน้าราคาปัจจุบันของพวกเขา เนื่องจากบทความนี้ไม่ได้กล่าวถึงพวกเขา

สิ่งนี้ไม่ได้ทำให้การอนุมานในเครื่องเป็นฟรี ค่าใช้จ่ายเปลี่ยนจากค่าธรรมเนียมต่อโทเคนไปเป็นสิ่งที่คุณจ่ายอยู่แล้วหรือต้องซื้อ: เครื่องที่มีหน่วยความจำเพียงพอ ไฟฟ้า เวลาของคุณสำหรับการติดตั้งและการอัปเดต และต้นทุนโอกาสของ GPU ที่กำลังทำงานอยู่ คำถามที่มีประโยชน์ไม่ใช่ "ราคาเท่าไหร่" แต่ "ที่ปริมาณของฉัน การจัดเรียงแบบใดมีต้นทุนน้อยกว่าและทำงานได้ดีพอ" ส่วนที่เหลือของบทความนี้ให้ตัวเลขสำหรับด้านโฮสต์เพื่อให้คุณสามารถตอบคำถามนั้นได้

ต้นทุนในการรัน Ollama ด้วยตัวเอง

ฝั่งผู้ใช้ในสมุดบัญชีมีรายการ 4 รายการ

• ฮาร์ดแวร์ โมเดลขนาดใหญ่ต้องการหน่วยความจำ GPU มากขึ้นหรือ RAM ของระบบจำนวนมาก หากคุณมีเครื่องที่เหมาะสมอยู่แล้ว ต้นทุนนี้ถือเป็นต้นทุนจม หากคุณต้องซื้อหรือเช่าเครื่องใหม่ นี่คือรายการที่ใหญ่ที่สุด
• พลังงาน คูณการกินไฟของเครื่องเป็นกิโลวัตต์ด้วยชั่วโมงการใช้งานและอัตราค่าไฟฟ้าของคุณ GPU บนเดสก์ท็อปเมื่อทำงานหนักจะกินไฟมากกว่าเมื่อไม่ได้ใช้งาน ดังนั้นการนับเฉพาะชั่วโมงที่ใช้งานจึงยุติธรรม
• ความจุที่ว่าง เซิร์ฟเวอร์ที่ว่างส่วนใหญ่ของวันยังคงต้องดำรงอยู่ การเรียกเก็บเงินต่อโทเคนจะเรียกเก็บเฉพาะเมื่อคุณเรียกใช้ API เท่านั้น
• เวลาของคุณ ดึงโมเดล อัปเดต runtime ตรวจสอบหน่วยความจำ รีสตาร์ทหลังจากเกิดข้อผิดพลาด

วัดตัวเลขของคุณเองแทนที่จะไว้วางใจตัวเลขทั่วไป บันทึกจำนวนโทเคนที่งานของคุณใช้จริงเป็นเวลาหนึ่งสัปดาห์ การวัดหนึ่งครั้งนั้นคือสิ่งที่คุณต้องการเพื่อประเมินราคาทางเลือกแบบโฮสต์ได้อย่างแม่นยำ

อัตราแบบโฮสต์และคณิตศาสตร์

API แบบโฮสต์บนเว็บไซต์นี้คิดเงินแยกเป็นสองส่วน โทเคนอินพุต (พรอมต์ของคุณ รวมถึงประวัติแชทที่คุณส่งซ้ำ) มีราคา $0.15 ต่อ 1M โทเคนเอาต์พุต (ข้อความที่สร้างขึ้น) มีราคา $0.50 ต่อ 1M ไม่มีแพ็กเกจรายเดือน คุณเติมเครดิตแล้วระบบจะหักตามคำขอ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกคิดเงิน และเครดิตไม่หมดอายุ

สูตรการคำนวณมีดังนี้:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

นี่คือรูปแบบงานทั่วไปพร้อมการคำนวณทางคณิตศาสตร์

งาน	โทเคน input	โทเคน output	ต้นทุน
การตอบกลับแชทหนึ่งครั้ง	2,000	500	$0.0003 + $0.00025 = $0.00055
1,000 คำตอบดังกล่าว	2,000,000	500,000	$0.30 + $0.25 = $0.55
สรุปเอกสารยาว	50,000	1,000	$0.0075 + $0.0005 = $0.008
เติมหน้าต่างบริบทให้เต็ม	100,000	4,000	$0.015 + $0.002 = $0.017
ชุดคำขอ 10,000 รายการ	8,000,000	3,000,000	$1.20 + $1.50 = $2.70

แถวชุดสมมติว่ามี 800 โทเคนอินพุตและ 300 โทเคนเอาต์พุตต่อคำขอ โปรดสังเกตว่าเอาต์พุตเป็นมิเตอร์ที่มีราคาแพงกว่าต่อโทเคน แต่โดยทั่วไปปริมาณโทเคนอินพุตมักสูงกว่า ดังนั้นพรอมต์ที่ยาวและประวัติแชทที่ยาวคือจุดที่เงินหมดไป

แชทที่เติบโตทีละเทิร์น

API แชทต่างๆ เป็นแบบไร้สถานะ ดังนั้นทุกเทิร์นจะส่งประวัติทั้งหมดอีกครั้ง นั่นทำให้ต้นทุนเติบโตเร็วกว่าจำนวนเทิร์น ลองพิจารณาการสนทนา 20 เทิร์น โดยที่ข้อความผู้ใช้แต่ละข้อความมี 150 โทเคนและแต่ละคำตอบมี 250 โทเคน ดังนั้นแต่ละเทิร์นจะเพิ่ม 400 โทเคนลงในประวัติ

1. เทิร์น 1 ส่ง 150 โทเคนอินพุต เทิร์น 2 ส่ง 150 + 400 = 550 เทิร์น k ส่ง 150 + 400 x (k - 1)
2. ตลอด 20 เทิร์น อินพุตรวมคือ 150 x 20 + 400 x (0 + 1 + ... + 19) = 3,000 + 400 x 190 = 79,000 โทเคน
3. เอาต์พุตรวมคือ 20 x 250 = 5,000 โทเคน
4. ต้นทุน: 79,000 x 0.15 / 1M = $0.01185 บวก 5,000 x 0.50 / 1M = $0.0025 รวมเป็น $0.01435

ประมาณหนึ่งเซ็นต์ครึ่งสำหรับการสนทนาที่ยาวนาน หากคุณเพิ่มการสนทนาเป็น 40 เทิร์น ปริมาณโทเคนอินพุตจะเพิ่มขึ้นประมาณ 4 เท่า เนื่องจากประวัติการสนทนาจะเพิ่มขึ้นอย่างต่อเนื่อง การตัดทอนหรือสรุปย่อรอบเก่าเป็นวิธีหลักในการควบคุมต้นทุนในแอปแชท

เครดิต โบนัส และการทดลองใช้

คุณสามารถเติมเงินด้วยจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 การเติมเงินจำนวนมากขึ้นจะมีโบนัส: +5% จาก $50, +10% จาก $100 และ +15% จาก $200 ในทางปฏิบัติหมายความว่า:

• $50 ซื้อเครดิตได้ $52.50
• $100 ซื้อเครดิตได้ $110.00
• $200 ซื้อเครดิตได้ $230.00

การชำระเงินด้วยบัตร (Visa, Mastercard, Apple Pay, Google Pay) หรือคริปโต (USDT บน TRC20, USDC บน Base) รายละเอียดปัจจุบันมีอยู่ที่หน้ากำหนดราคา

ผู้ใช้ใหม่สามารถทดสอบก่อนชำระเงิน หลังจากสมัครสมาชิกด้วย Google หรือด้วยอีเมลและรหัสผ่าน หน้าคีย์ API จะมีปุ่มสำหรับรับเครดิตทดลองใช้มูลค่า $0.50 คนละ 1 สิทธิ์ ใช้ได้ภายใน 7 วัน ไม่ต้องใช้บัตรใดๆ ที่ขนาดการตอบกลับ 2,000 โทเคนเข้า และ 500 โทเคนออก $0.50 จะครอบคลุมการตอบกลับได้ประมาณ 900 ครั้ง ซึ่งเพียงพอสำหรับการประเมินว่าผลลัพธ์เหมาะกับโครงการของคุณหรือไม่ คีย์ทดลองใช้จะจำกัดคำขอพร้อมกันได้ 2 คำขอ และ 60 คำขอต่อนาที คุณ รับคีย์ API ของคุณ ได้ภายในไม่กี่นาที

การเปรียบเทียบทั้งสองแบบสำหรับปริมาณการใช้งานของคุณ

ใช้จำนวนโทเคนที่บันทึกไว้ของคุณแล้วรวมยอดสำหรับหนึ่งเดือน สมมติว่าโปรเจกต์ใช้โทเคนอินพุต 50 ล้านและโทเคนเอาต์พุต 10 ล้านต่อเดือน ค่าบริการโฮสต์: 50 x $0.15 = $7.50 บวก 10 x $0.50 = $5.00 รวมเป็น $12.50 จากนั้นนำตัวเลขในเครื่องของคุณมาเปรียบเทียบ: ส่วนแบ่งต้นทุนฮาร์ดแวร์รายเดือนที่คุณไม่ได้เป็นเจ้าของอยู่แล้ว บวกกับค่าไฟฟ้าในช่วงเวลาที่ใช้หนัก และมูลค่าของเวลาในการบำรุงรักษาของคุณ หากยอดรวมนี้สูงกว่า $12.50 อย่างชัดเจน การโฮสต์จะชนะในแง่ต้นทุน หากคุณมีฮาร์ดแวร์ที่ว่างอยู่แล้วซึ่งรองรับโมเดลได้ดี การใช้งานในเครื่องจะชนะในแง่ต้นทุน

ต้นทุนไม่ใช่ปัจจัยเดียว การใช้งานในเครื่องของคุณเก็บข้อมูลไว้ในเครื่องของคุณและทำงานแบบออฟไลน์ การใช้งานแบบโฮสต์ลดความต้องการ GPU ให้หน้าต่างบริบทขนาด 100,000 โทเคน และอนุญาตให้หลายบริการใช้แบ็กเอนด์ร่วมกัน โมเดลแบบโฮสต์เป็นโมเดลแบบเปิดน้ำหนักเพียงตัวเดียวที่ปรับแต่งเพื่อตอบคำถามโดยไม่มีการปฏิเสธเนื้อหา สำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ดังนั้นจึงขึ้นอยู่กับว่าโมเดลนั้นเหมาะกับงานของคุณหรือไม่ พรอมต์ไม่ถูกใช้ในการฝึกฝน

ข้อจำกัดหนึ่งข้อที่ตรงไปตรงมา: ไม่มีแพ็กเกจฟรีแบบไม่จำกัด หลังจากเครดิตทดลองใช้ $0.50 คุณจะต้องจ่ายตามจำนวนโทเคนจากเครดิตแบบเติมเงินล่วงหน้า หากงานของคุณต้องการการเรียกใช้ฟรีแบบไม่จำกัดและคุณเป็นเจ้าของฮาร์ดแวร์ Ollama ในเครื่องคือเครื่องมือที่เหมาะสม

ข้อผิดพลาดที่ทำให้การเปรียบเทียบคลาดเคลื่อน

ข้อผิดพลาดบางประการปรากฏซ้ำแล้วซ้ำอีกเมื่อผู้คนประเมินต้นทุนงาน LLM และแต่ละข้อสามารถเปลี่ยนคำตอบได้

• การลืมนับโทเคนเอาต์พุต พรอมต์สั้นๆ ที่ให้คำตอบยาวๆ ส่วนใหญ่จะเป็นค่าใช้จ่ายด้านเอาต์พุต คำถามขนาด 300 โทเคนที่ให้เรื่องราวขนาด 3,000 โทเคนจะมีค่าใช้จ่าย 300 x $0.15 / 1M + 3,000 x $0.50 / 1M = $0.000045 + $0.0015 = $0.001545
• การเพิกเฉยต่อประวัติที่ส่งซ้ำ อย่างตัวอย่าง 20 เทิร์นแสดงให้เห็น ต้นทุนการแชทเพิ่มขึ้นตามบริบทที่สะสม ไม่ใช่ตามความยาวของข้อความล่าสุด
• การนับคำแทนโทเคน ข้อความภาษาอังกฤษมักใช้โทเคนมากกว่าคำเล็กน้อย และโค้ดหรือสคริปต์ที่ไม่ใช่ละตินจะใช้โทเคนมากกว่านั้นอีก อ่านตัวเลขการใช้งานที่ส่งกลับมาพร้อมกับแต่ละการตอบกลับแล้วใช้ตัวเลขเหล่านั้น ไม่ใช่การประมาณการ
• การกำหนดราคาฮาร์ดแวร์ในเครื่องเป็นศูนย์ GPU ที่คุณมีอยู่แล้วยังคงเสื่อมสภาพและยังใช้พลังงาน แม้ว่าคุณจะไม่เขียนเช็คจ่ายก็ตาม
• การเปรียบเทียบโมเดลที่แตกต่างกัน โมเดลในเครื่องขนาดเล็กและโมเดลที่โฮสต์ขนาดใหญ่ไม่ได้ให้คุณภาพเดียวกัน ราคาถูกกว่าต่อโทเคนไม่ได้หมายความว่าถูกกว่าต่อคำตอบที่ดีหากคุณต้องลองใหม่หลายครั้ง

จุดสุดท้ายสมควรได้รับการทดสอบมากกว่าการคาดเดา นำพรอมต์จริง 20 รายการจากโปรเจกต์ของคุณมาทดสอบบนทั้งสองระบบ แล้วประเมินคำตอบ จากนั้นคำนวณราคาผู้ชนะตามปริมาณการใช้งานจริงของคุณ

การติดตามการใช้จ่าย

การตอบกลับทุกครั้งจาก API ที่โฮสต์จะมีส่วนหัวX-Balance-USDที่มีเครดิตคงเหลือของคุณ รวมถึงX-Request-Idสำหรับคำถามสนับสนุน คุณสามารถอ่านค่าเหล่านี้ในโค้ดและแจ้งเตือนตัวเองก่อนที่ยอดเงินจะหมด

Copyimport requests

r = requests.post(
    "https://api.ollamaapi.cc/v1/chat/completions",
    headers={"Authorization": "Bearer YOUR_API_KEY"},
    json={
        "model": "uncensored",
        "messages": [{"role": "user", "content": "Say hello."}],
        "max_tokens": 20,
    },
    timeout=60,
)
print(r.json()["choices"][0]["message"]["content"])
print("Balance:", r.headers.get("X-Balance-USD"))

การตั้งค่า max_tokens เป็นตัวเลือก เนื่องจากข้อความที่สร้างอาจใช้พื้นที่ที่เหลือของหน้าต่างบริบท แต่เป็นมาตรการป้องกันที่ราคาถูกสำหรับข้อความที่สร้างที่เพิ่มขึ้นไม่หยุดยั้ง เอกสารประกอบ ครอบคลุมส่วนหัวอื่นๆ และขีดจำกัดอัตรา

คู่มือเพิ่มเติม

• API Ollama ใน Python และทางเลือกแบบโฮสต์
• Ollama API เทียบกับ OpenRouter: แบบไหนเหมาะกับคุณ
• คู่มือคีย์ API Mistral