Venice API-dokumentation til udviklere

Autentificering og base URL

Forbind øjeblikkeligt ved at indstille base-URL til https://api.veniceapi.com/v1 and including your API key in the Authorization header. Du opnår denne nøgle øjeblikkeligt efter tilmelding via Google eller e-mail. Denne enkeltmodel håndterer al tekstgenerering uden routing-logik. Du behøver ikke at administrere flere endpoints eller proxy-konfigurationer.

Hold din nøgle sikker. Hver konto tillader kun én aktiv nøgle ad gangen; generering af en ny nøgle ugyldiggør den tidligere. Dette sikrer klar tilskrivning af tokenforbrug og fakturering.

Chat completions endpoint

Send tekstrequests til /v1/chat/completions endpoint ved hjælp af standard HTTP POST-metoder. API'et accepterer en JSON-payload, der indeholder modelnavn, systeminstruktioner og brugermeddelelser.

Her er en grundlæggende anmodningsstruktur:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Svaret returnerer genereret tekst, tokenforbrugsstatistikker og kompletteringsflag. Du kan justere adfærd ved hjælp af parametre som temperature eller top_p. Disse indstillinger styrer kreativitet og tilfældighed i outputtet.

Fejl returnerer standard HTTP-koder. En 401 indikerer en ugyldig nøgle, mens 402 signalerer utilstrækkelig kredit. Brug disse koder til at håndtere fejlGracefully i dine automatiseringsarbejdsgange.

Integration af Python SDK

Brug det officielle OpenAI Python-bibliotek til at interagere med den ukensurerede LLM. Konfigurer klienten med Venice base-URL og din API-nøgle. Denne tilgang forenkler opbygning af anmodninger og parsing af svar.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Denne metode fungerer sømløst med eksisterende kodebaser, der er designet til OpenAI. Du kan skifte base-URL'en uden at ændre din applikationslogik væsentligt. Biblioteket håndterer serialisering og netværksforbindelser automatisk.

Husk, at model-ID'et skal indstilles til uncensored. Dette sikrer, at du bruger den specifikke indstillede model, der leveres af Venice. Andre modeller viser måske ikke de samme adfærdsmønstre.

Node SDK-integration

Integrer API i JavaScript- eller TypeScript-projekter ved hjælp af OpenAI Node SDK. Indstil baseURL til Venice-endpointet og angiv dit API-nøgle. Denne opsætning understøtter både synkrone og asynkrone operationer.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Denne integration giver dig mulighed for hurtigt at bygge chatbots, indholdsproducenter eller dataudtrækningsværktøjer. SDK'et styrer anmodningslivscyklussen, herunder gentagelser og fejlhåndtering. Du kan sende tilpassede headers, hvis det er nødvendigt for avancerede brugssager.

Sørg for, at du importerer den korrekte version af SDK'et. Ældre versioner understøtter muligvis ikke alle funktioner, der er tilgængelige i Venice API. Tjek dokumentationen for kompatibilitetsdetaljer.

Streaming-respons via SSE

Aktiver real-time output ved at indstille stream parameter til true. API'en returnerer en Server-Sent Events (SSE)-strøm i stedet for en komplet JSON-objekt. Dette giver dig mulighed for at vise tokens, mens de genereres.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming reducerer den opfattede forsinkelse for brugere. Det er ideelt til chatgrænseflader eller live-dashboard. Den sidste del af streamet indeholder statistik over tokenforbrug. Parse denne data for at spore omkostninger præcist.

Håndter forbindelsesafbrydelser fejlfrit. Hvis streamet afbrydes, kan du prøve anmodningen igen. API'et garanterer ikke rækkefølgen, hvis flere streams er aktive samtidigt. Overvåg dine hastighedsbegrænsninger nøje under høj trafik.

Fejlhåndtering og begrænsninger

API'en har en rate limit på 300 requests i minuttet pr. key. Concurrent requests er begrænset til 8 pr. key. Request bodies må ikke overstige 8 MB. Overskridelse af disse grænser returnerer en 429 Too Many Requests-fejl.

Kontekstvindets størrelse er 100.000 tokens for prompt og completion kombineret. Maks output pr. request er 16.000 tokens. Hvis max_tokens er ikke indstillet, er grænsen 2.048 tokens. Planlæg dine input tilsvarende for at undgå forkortelse.

Almindelige fejl inkluderer 401 for ugyldige nøgler og 402 for utilstrækkelig kredit. Håndter disse koder for at anmode brugere om top-up. Brug support-siden til faktureringsproblemer. Kredit udløber aldrig, så du kan toppe op senere.