개발자를 위한 Venice API 문서

인증 및 Base URL

베이스 URL을 다음으로 설정하여 즉시 연결하세요 https://api.veniceapi.com/v1 및 API 키를 Authorization header. Google 또는 이메일로 가입한 후 즉시 이 키를 얻습니다. 이 단일 모델은 라우팅 로직 없이 모든 텍스트 생성을 처리합니다. 여러 엔드포인트나 프록시 구성을 관리할 필요가 없습니다.

키는 안전하게 보관하세요. 각 계정에는 동시에 활성 상태인 키가 하나만 지원되며, 새 키를 생성하면 이전 키가 무효화됩니다. 이렇게 하면 토큰 사용량과 청구에 대한 명확한 귀속이 보장됩니다.

채팅 완료 엔드포인트

에 텍스트 요청을 보내세요 /v1/chat/completions 표준 HTTP POST 방법을 사용하는 엔드포인트입니다. API는 모델 이름, 시스템 지시사항 및 사용자 메시지를 포함하는 JSON 페이로드를 받습니다.

기본 요청 구조입니다:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

응답은 생성된 텍스트, 토큰 사용량 통계 및 완료 플래그를 반환합니다. 다음 매개변수 등을 사용하여 동작을 조정할 수 있습니다. temperature 또는 top_p이러한 설정은 출력의 창의성과 무작위성을 제어합니다.

에러는 표준 HTTP 코드를 반환합니다. 401은 유효하지 않은 키를 나타내며, 402는 부족해진 크레딧을 신호합니다. 이러한 코드를 사용하여 자동화 워크플로우에서 실패를 우아하게 처리하세요.

Python SDK 통합

공식 OpenAI Python 라이브러리를 사용하여 비검열 LLM과 상호작용하세요. Venice base URL과 API 키로 클라이언트를 구성하세요. 이 방법은 요청 빌드 및 응답 파싱을 단순화합니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

이 방법은 OpenAI를 위해 설계된 기존 코드베이스와 원활하게 작동합니다. 애플리케이션 로직을 크게 변경하지 않고 베이스 URL만 교체하면 됩니다. 라이브러리는 직렬화 및 네트워크 연결을 자동으로 처리합니다.

모델 ID가 다음으로 설정되어야 한다는 점을 기억하세요 uncensoredVenice가 제공하는 특정 조정된 모델을 사용하고 있음을 보장합니다. 다른 모델은 동일한 동작 패턴을 보이지 않을 수 있습니다.

Node SDK 통합

OpenAI Node SDK를 사용하여 JavaScript 또는 TypeScript 프로젝트에 API를 통합하세요. 다음을 설정하세요. baseURL Venice 엔드포인트로 이동하여 API 키를 제공합니다. 이 설정은 동기식 및 비동기식 작업을 모두 지원합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

이 통합을 통해 채팅봇, 콘텐츠 생성기 또는 데이터 추출 도구를 빠르게 구축할 수 있습니다. SDK는 재시도 및 오류 처리를 포함한 요청 수명 주기를 관리합니다. 고급 사용 사례의 경우 필요한 경우 사용자 정의 헤더를 전달할 수 있습니다.

올바른 버전의 SDK를 가져왔는지 확인하세요. 이전 버전은 Venice API에서 제공하는 모든 기능을 지원하지 않을 수 있습니다. 호환성 세부 정보는 문서를 확인하세요.

SSE를 통한 스트리밍 응답

다음 설정하여 실시간 출력 활성화 stream 파라미터를 true. API는 전체 JSON 객체 대신 Server-Sent Events(SSE) 스트림을 반환합니다. 이를 통해 생성되는 토큰을 실시간으로 표시할 수 있습니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

스트리밍은 사용자에게 지각된 지연 시간을 줄여줍니다. 채팅 인터페이스나 실시간 대시보드에 이상적입니다. 스트림의 마지막 청크에는 최종 토큰 사용량 통계가 포함됩니다. 이 데이터를 파싱하여 비용을 정확하게 추적하세요.

연결 끊김을 우아하게 처리하세요. 스트림이 중단되면 요청을 재시도할 수 있습니다. API는 여러 스트림이 동시에 활성화된 경우 순서를 보장하지 않습니다. 높은 트래픽 중에는 속도 제한을 주의 깊게 모니터링하세요.

오류 처리 및 제한

API는 키당 분당 300회의 요청 제한을 적용합니다. 동시 요청 수는 키당 최대 8회로 제한됩니다. 요청 본문 크기는 8 MB를 초과할 수 없으며, 이를 초과하면 429 Too Many Requests 오류가 반환됩니다.

컨텍스트 윈도우 크기는 프롬프트와 완성을 합산해 100,000 토큰입니다. 요청당 최대 출력은 16,000 토큰입니다. 만약 max_tokens 설정되지 않음), 기본 제한은 2,048 토큰입니다. 잘림을 피하기 위해 입력을 적절히 계획하십시오.

자주 발생하는 오류에는 키가 잘못되어 401, 크레딧 부족으로 402가 포함됩니다. 이러한 코드를 처리하여 사용자에게 충전을 요청하십시오. 청구 문제는 지원 페이지를 사용하십시오. 크레딧은 만료되지 않으므로 나중에 충전할 수 있습니다.