Venice API-dokumentation för utvecklare

Autentisering och bas-URL

Anslut omedelbart genom att ange bas-URL till https://api.veniceapi.com/v1 och inkludera din API-nyckel i Authorization header. Du hämtar denna nyckel omedelbart efter att ha registrerat dig via Google eller e-post. Denna enda modell hanterar all textgenerering utan omdirigeringslogik. Du behöver inte hantera flera slutpunkter eller proxy-konfigurationer.

Håll din nyckel säker. Varje konto tillåter endast en aktiv nyckel i taget; att generera en ny nyckel gör att den tidigare blir ogiltig. Detta säkerställer tydlig tilldelning för tokenförbrukning och fakturering.

Slutpunkt för chattkomplettering

Skicka textförfrågningar till /v1/chat/completions slutpunkt med standard HTTP POST-metoder. API:t accepterar en JSON-last som innehåller modellnamn, systeminstruktioner och användarmeddelanden.

Här är en grundläggande begäransstruktur:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Svaret returnerar genererad text, tokenanvändningsstatistik och kompletteringsflaggor. Du kan justera beteendet med parametrar som temperature eller top_p. Dessa inställningar styr kreativitet och slumpmässighet i utmatningen.

Fel returnerar standardiserade HTTP-koder. En 401 indikerar en ogiltig nyckel, medan 402 signalerar otillräcklig kredit. Använd dessa koder för att hantera fel graciöst i dina automatiseringsflöden.

Integration av Python SDK

Använd det officiella OpenAI Python-biblioteket för att interagera med den okorrigerade LLM:en. Konfigurera klienten med Venice bas-URL och ditt API-nyckel. Denna metod förenklar byggandet av förfrågningar och parsning av svar.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Denna metod fungerar sömlöst med befintliga kodbasar som är utformade för OpenAI. Du kan byta bas-URL utan att ändra din applikationslogik nämnvärt. Biblioteket hanterar serialisering och nätverksanslutningar automatiskt.

Kom ihåg att model ID måste vara inställd på uncensored. Detta säkerställer att du använder den specifika optimerade modell som tillhandahålls av Venice. Andra modeller kanske inte uppvisar samma beteendemönster.

Node SDK-integration

Integrera API:t i JavaScript- eller TypeScript-projekt med OpenAI Node SDK:n. Ställ in baseURL till Venice-slutpunkten och ange ditt API-nyckel. Denna konfiguration stöder både synkrona och asynkrona operationer.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Denna integration gör att du kan bygga chattbotar, innehållsgeneratorer eller dataextraktionsverktyg snabbt. SDK:en hanterar begärandelivscykeln, inklusive försök och felhantering. Du kan skicka anpassade rubriker om det behövs för avancerade användningsfall.

Se till att du importerar rätt version av SDK:t. Äldre versioner stödjer kanske inte alla funktioner som finns tillgängliga i Venice API. Kontrollera dokumentationen för kompatibilitetsdetaljer.

Streaming-responder via SSE

Aktivera realtidsoutput genom att ställa in stream parametern till true. API:et returnerar en Server-Sent Events (SSE)-ström istället för ett komplett JSON-objekt. Detta gör att du kan visa tokens när de genereras.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Strömning minskar den upplevda latensen för användare. Det är idealiskt för chattgränssnitt eller live-dashboard. Den sista biten av strömmen innehåller statistik över tokenanvändning. Analysera denna data för att spåra kostnader korrekt.

Hantera anslutningsbrott smidigt. Om strömmen avbryts kan du försöka begäran igen. API:et garanterar inte ordning om flera strömmar är aktiva samtidigt. Övervaka dina hastighetsbegränsningar noggrant under hög trafik.

Felfhantering och begränsningar

API:et tillåter 300 anrop per minut per nyckel. Parallella anrop är begränsade till 8 per nyckel. Request bodies får inte överstiga 8 MB. Överskrider du dessa gränser returneras felet 429 Too Many Requests.

Kontextfönstrets storlek är 100 000 token för prompt och completion tillsammans. Maximal utmatning per begäran är 16 000 token. Om max_tokens är inställt, är standardgränsen 2 048 tokens. Planera dina inmatningar därefter för att undvika avklippning.

Vanliga fel inkluderar 401 för ogiltiga nycklar och 402 för otillräcklig kredit. Hantera dessa koder för att uppmana användare att ladda upp. Använd supportsidan för faktureringsproblem. Kredit löper aldrig ut, så du kan ladda upp senare.