Panduan Cepat untuk Pengguna Ollama

Prasyarat

Untuk menggunakan API ini, Anda memerlukan akun aktif dengan kunci API yang valid. Daftar di halaman Dapatkan kunci API menggunakan Google atau email dan kata sandi. Tidak diperlukan nomor telepon. Anda juga perlu SDK bahasa yang didukung terinstal di mesin Anda. Panduan ini mencakup Python dan Node.js, klien paling umum untuk endpoint OpenAI-compatible. API melayani satu model tanpa sensor yang diidentifikasi oleh uncensored. API menerima teks dan mengembalikan teks. Tidak ada fitur embedding, gambar, atau audio. Semua permintaan dikirim ke https://api.ollamaapi.cc/v1.

Instal SDK

Instal SDK resmi untuk bahasa pilihan Anda. Untuk Python, gunakan pip. Untuk Node.js, gunakan npm. Library ini menangani protokol HTTP, serialisasi JSON, dan streaming secara otomatis. Anda tidak perlu menulis permintaan HTTP mentah kecuali Anda lebih suka tingkat kontrol tersebut. SDK didokumentasikan dengan baik dan banyak digunakan di lingkungan produksi. Pastikan lingkungan Anda memenuhi persyaratan SDK. Python 3.8+ dan Node.js 18+ direkomendasikan. Perbarui dependensi Anda untuk menghindari masalah kompatibilitas dengan parameter model baru.

Konfigurasi Klien

Atur base URL ke endpoint kami. Ini adalah satu-satunya perubahan konfigurasi yang diperlukan untuk beralih dari OpenAI ke layanan tanpa sensor kami. Berikan kunci API Anda sebagai header otorisasi. SDK akan menangani sisanya. Jangan ubah nama model menjadi gpt-4 atau sejenisnya; gunakan uncensored. API mengikuti protokol chat-completions OpenAI secara ketat. Klien apa pun yang berfungsi dengan OpenAI akan berfungsi di sini dengan dua perubahan ini. Ini membuat migrasi atau pengujian A/B menjadi mudah. Anda dapat menjalankan kedua API secara berdampingan untuk membandingkan output.

Kirim Permintaan Pertama

Buat permintaan POST ke /v1/chat/completions. Sertakan ID model, prompt sistem, dan pesan pengguna. API mengembalikan respons teks. Jika Anda memiliki saldo, permintaan berhasil. Jika saldo tidak cukup, Anda mendapatkan error 402. Jika kunci Anda tidak valid, Anda mendapatkan error 401. Error ini bersifat standar dan mudah ditangani dalam kode. Model tidak menolak konten dewasa yang sesuai hukum, sehingga berguna untuk penulisan kreatif, riset keamanan, atau obrolan tanpa sensor. Periksa saldo di dasbor jika Anda ragu mengenai sisa kredit.

Respons Streaming

Aktifkan streaming dengan mengatur stream: true. API mengembalikan token saat token tersebut dihasilkan. Ini mengurangi latensi yang dirasakan oleh pengguna. Chunk terakhir berisi penggunaan token total untuk penagihan. Streaming didukung oleh semua SDK resmi. Ini penting untuk antarmuka chat di mana Anda ingin menampilkan teks saat teks tersebut ditulis. Server mengirim Server-Sent Events (SSE). Library klien Anda menangani parsing. Anda tidak perlu mengelola aliran event secara manual kecuali Anda sedang membangun klien kustom.

Batas, Error, dan Konteks

Jendela konteks adalah 100.000 token total, dengan output maksimum 32.000 token. Permintaan dibatasi hingga 300 per menit dan 8 permintaan paralel per kunci. Badan permintaan harus di bawah 8 MB. Error meliputi 401 untuk kunci tidak valid, 402 untuk saldo tidak cukup, dan 429 untuk batas laju. Ini adalah kode HTTP standar. Tangani dengan baik dalam aplikasi Anda. Model memblokir konten seksual yang melibatkan anak di bawah umur. Semua konten lain diperbolehkan. Saldo prabayar tidak pernah habis, sehingga Anda dapat menghentikan penggunaan tanpa kehilangan dana. Gunakan halaman dukungan untuk masalah pengembalian dana.

cURL

Copycurl https://api.ollamaapi.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapi.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)