Ollama 사용자를 위한 빠른 시작

사전 준비

API를 사용하려면 유효한 API 키가 있는 활성 계정이 필요합니다. Google 또는 이메일과 비밀번호로 API 키 받기 페이지에서 가입하세요. 전화번호는 필요하지 않습니다. 또한 머신에 지원되는 언어 SDK가 설치되어 있어야 합니다. 이 가이드는 Python과 Node.js를 다룹니다. API는 uncensored로 식별되는 단일 무검열 모델을 제공합니다. 텍스트를 입력하고 텍스트를 반환합니다. 임베딩, 이미지, 오디오 기능은 없습니다. 모든 요청은 https://api.ollamaapi.cc/v1으로 전송됩니다.

SDK 설치

선호하는 언어의 공식 SDK를 설치하세요. Python의 경우 pip를, Node.js의 경우 npm을 사용하세요. 이 라이브러리는 HTTP 프로토콜, JSON 직렬화 및 스트리밍을 자동으로 처리합니다. 제어 수준을 선호하지 않는 한 원시 HTTP 요청을 작성할 필요가 없습니다. SDK는 잘 문서화되어 있으며 프로덕션 환경에서 널리 사용됩니다. 환경이 SDK 요구 사항과 일치하는지 확인하세요. Python 3.8+ 및 Node.js 18+를 권장합니다. 호환성 문제를 피하기 위해 의존성을 최신 상태로 유지하세요.

클라이언트 구성

기본 URL을 엔드포인트로 설정하세요. 이는 OpenAI에서 무검열 서비스로 전환하는 데 필요한 유일한 구성 변경입니다. API 키를 인증 헤더로 전달하세요. SDK가 나머지를 처리합니다. 모델 이름을 gpt-4 또는 유사한 것으로 변경하지 마세요. uncensored을 사용하세요. API는 OpenAI 채팅 완료 프로토콜을 엄격히 따릅니다. OpenAI와 호환되는 모든 클라이언트는 이 두 가지 변경 사항으로 작동합니다. 이는 마이그레이션이나 A/B 테스트를 쉽게 만듭니다. 두 API를 병렬로 실행하여 출력을 비교할 수 있습니다.

첫 번째 요청 보내기

/v1/chat/completions로 POST 요청을 보내세요. 모델 ID, 시스템 프롬프트, 사용자 메시지를 포함하세요. API는 텍스트 응답을 반환합니다. 크레딧이 있으면 요청이 성공합니다. 크레딧이 부족하면 402 오류가 발생하고, 키가 유효하지 않으면 401 오류가 발생합니다. 이러한 오류는 표준이며 코드에서 처리하기 쉽습니다. 모델은 합법적인 성인 콘텐츠를 거부하지 않으므로 창작 글쓰기, 보안 연구 또는 무검열 채팅에 유용합니다. 남은 크레딧이 궁금하면 대시보드에서 잔액을 확인하세요.

스트리밍 응답

stream: true를 설정하여 스트리밍을 활성화하세요. API는 생성되는 토큰을 즉시 반환합니다. 이는 사용자의 지각된 지연 시간을 줄여줍니다. 마지막 청크에는 청구를 위한 총 토큰 사용량이 포함됩니다. 스트리밍은 모든 공식 SDK에서 지원됩니다. 텍스트가 작성되는 대로 표시하려는 채팅 인터페이스에는 필수적입니다. 서버는 서버 전송 이벤트(SSE)를 보냅니다. 클라이언트 라이브러리가 파싱을 처리합니다. 사용자 정의 클라이언트를 빌드하지 않는 한 이벤트 스트림을 수동으로 관리할 필요가 없습니다.

제한, 오류 및 컨텍스트 창

컨텍스트 창은 총 100,000 토큰이며 최대 출력은 32,000 토큰입니다. 요청은 분당 300회, 키당 동시 요청 8회로 제한됩니다. 요청 본문은 8 MB 미만이어야 합니다. 오류에는 키가 유효하지 않을 때 401, 크레딧 부족 시 402, 속도 제한 초과 시 429가 포함됩니다. 이는 표준 HTTP 코드입니다. 애플리케이션에서 적절히 처리하세요. 모델은 미성년자가 포함된 성적인 콘텐츠를 차단합니다. 그 외 모든 콘텐츠는 허용됩니다. 크레딧은 만료되지 않으므로 사용 중단을 해도 자금이 손실되지 않습니다. 환불 문제는 지원 페이지를 이용하세요.

cURL

Copycurl https://api.ollamaapi.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapi.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)