Venice API-Dokumentation für Entwickler

Authentifizierung und Basis-URL

Verbinden Sie sich sofort, indem Sie die Base-URL auf https://api.veniceapi.com/v1 und einschließlich Ihres API-Schlüssels in den Authorization header. Sie erhalten diesen Schlüssel sofort nach der Anmeldung mit Google oder E-Mail. Dieses einzelne Modell verarbeitet alle Textgenerierungen ohne Routing-Logik. Sie müssen keine mehreren Endpunkte oder Proxy-Konfigurationen verwalten.

Halten Sie Ihren Schlüssel sicher. Jedes Konto erlaubt jeweils nur einen aktiven Schlüssel; die Generierung eines neuen Schlüssels macht den vorherigen ungültig. Dies stellt eine klare Zuordnung für Token-Nutzung und Abrechnung sicher.

Chat-Vervollständigungs-Endpunkt

Senden Sie Textanfragen an das /v1/chat/completions Endpunkt unter Verwendung standardmäßiger HTTP-POST-Methoden. Die API akzeptiert ein JSON-Payload, das den Modellnamen, Systemanweisungen und Benachrichtigungen enthält.

Hier ist eine grundlegende Anforderungsstruktur:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Die Antwort gibt generierten Text, Token-Nutzungsstatistiken und Vervollständigungsflags zurück. Sie können das Verhalten mit Parametern wie temperature oder top_p. Diese Einstellungen steuern Kreativität und Zufälligkeit in der Ausgabe.

Fehler geben standardmäßige HTTP-Codes zurück. Eine 401 zeigt einen ungültigen Schlüssel an, während 402 unzureichendes Guthaben signalisiert. Nutzen Sie diese Codes, um Fehler in Ihren Automatisierungsworkflows graceful zu behandeln.

Python SDK-Integration

Verwenden Sie die offizielle OpenAI-Python-Bibliothek, um mit dem unzensierten LLM zu interagieren. Konfigurieren Sie den Client mit der Venice-Basis-URL und Ihrem API-Schlüssel. Dieser Ansatz vereinfacht den Aufbau von Anfragen und die Analyse von Antworten.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Diese Methode funktioniert nahtlos mit bestehenden Codebasen, die für OpenAI entwickelt wurden. Sie können die Base-URL ändern, ohne die Anwendungslogik erheblich anzupassen. Die Bibliothek übernimmt die Serialisierung und Netzwerkverbindungen automatisch.

Denken Sie daran, dass die Modellkennung auf uncensored. Dies stellt sicher, dass Sie das spezifische abgestimmte Modell von Venice verwenden. Andere Modelle zeigen möglicherweise nicht die gleichen Verhaltensmuster.

Node SDK-Integration

Integrieren Sie die API in JavaScript- oder TypeScript-Projekte über das OpenAI Node SDK. Legen Sie den baseURL an den Venice-Endpunkt und geben Sie Ihren API-Schlüssel an. Dieses Setup unterstützt sowohl synchrone als auch asynchrone Operationen.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Diese Integration ermöglicht es Ihnen, Chatbots, Content-Generatoren oder Tools zur Datenextraktion schnell zu erstellen. Das SDK verwaltet den Anfragelebenszyklus, einschließlich Wiederholungen und Fehlerbehandlung. Sie können bei Bedarf benutzerdefinierte Header für erweiterte Anwendungsfälle übergeben.

Stellen Sie sicher, dass Sie die korrekte Version der SDK importieren. Ältere Versionen unterstützen möglicherweise nicht alle Funktionen, die in der Venice-API verfügbar sind. Überprüfen Sie die Dokumentation auf Kompatibilitätsdetails.

Streaming-Antworten über SSE

Echtzeit-Ausgabe aktivieren, indem Sie den stream Parameter auf true. Die API gibt einen Server-Sent Events (SSE)-Stream zurück, anstatt ein vollständiges JSON-Objekt. Dies ermöglicht es Ihnen, Tokens anzuzeigen, während sie generiert werden.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming reduziert die wahrgenommene Latenz für Nutzer. Es ist ideal für Chat-Schnittstellen oder Live-Dashboards. Das letzte Chunk des Streams enthält die finalen Token-Nutzungsstatistiken. Analysieren Sie diese Daten, um die Kosten genau zu verfolgen.

Behandeln Sie Verbindungsabbrüche korrekt. Wenn der Stream unterbrochen wird, können Sie die Anfrage erneut versuchen. Die API garantiert keine Reihenfolge, wenn mehrere Streams gleichzeitig aktiv sind. Überwachen Sie Ihre Rate Limits sorgfältig bei hohem Verkehrsaufkommen.

Fehlerbehandlung und Limits

Die API begrenzt die Anzahl auf 300 Anfragen pro Minute pro Schlüssel. Gleichzeitige Anfragen sind auf 8 pro Schlüssel begrenzt. Der Request-Body darf 8 MB nicht überschreiten. Das Überschreiten dieser Limits führt zu einem 429 Too Many Requests-Fehler.

Die Kontextfenstergröße beträgt 100.000 Tokens für Prompt und Completion kombiniert. Die maximale Ausgabe pro Anfrage beträgt 16.000 Tokens. Wenn max_tokens ist nicht festgelegt, beträgt die Standardgrenze 2.048 Tokens. Planen Sie Ihre Eingaben entsprechend, um Kürzungen zu vermeiden.

Häufige Fehler umfassen 401 für ungültige Schlüssel und 402 für unzureichendes Guthaben. Behandeln Sie diese Codes, um Benutzer zum Aufladen aufzufordern. Nutzen Sie die Support-Seite für Abrechnungsprobleme. Guthaben verfällt nie, sodass Sie später aufladen können.