Documentazione API Venice AI per gli sviluppatori

Autenticazione e URL di base

Connettiti immediatamente impostando l'URL di base su https://api.veniceapi.com/v1 e includendo la tua chiave API nell' Authorization header. Ottieni questa chiave istantaneamente dopo esserti registrato con Google o email. Questo singolo modello gestisce tutta la generazione di testo senza logica di routing. Non devi gestire più endpoint o configurazioni proxy.

Tieni la tua chiave al sicuro. Ogni account consente una sola chiave attiva alla volta; generando una nuova chiave, quella precedente viene invalidata. Questo garantisce una chiara attribuzione per l'utilizzo dei token e la fatturazione.

Endpoint Chat completions

Invia richieste di testo al /v1/chat/completions endpoint utilizzando metodi HTTP POST standard. L'API accetta un payload JSON contenente il nome del modello, le istruzioni di sistema e i messaggi dell'utente.

Ecco una struttura di richiesta base:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

La risposta restituisce il testo generato, le statistiche di utilizzo dei token e i flag di completamento. Puoi regolare il comportamento utilizzando parametri come temperature o top_p. Queste impostazioni controllano creatività e casualità nell'output.

Gli errori restituiscono codici HTTP standard. Un 401 indica una chiave non valida, mentre un 402 segnala credito insufficiente. Usa questi codici per gestire i fallimenti in modo elegante nei tuoi flussi di lavoro automatizzati.

Integrazione SDK Python

Utilizza la libreria Python ufficiale di OpenAI per interagire con l'LLM senza filtri. Configura il client con l'URL di base di Venice e la tua chiave API. Questo approccio semplifica la costruzione delle richieste e l'analisi delle risposte.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Questo metodo funziona in modo trasparente con codebase esistenti progettate per OpenAI. Puoi modificare l'URL base senza modificare significativamente la logica della tua applicazione. La libreria gestisce automaticamente la serializzazione e le connessioni di rete.

Ricorda che l'ID del modello deve essere impostato su uncensored. Questo garantisce che stai utilizzando il modello ottimizzato specifico fornito da Venice. Altri modelli potrebbero non presentare gli stessi modelli di comportamento.

Integrazione SDK Node

Integra l'API nei progetti JavaScript o TypeScript utilizzando l'SDK Node OpenAI. Imposta il baseURL all'endpoint di Venice e fornisci la tua chiave API. Questa configurazione supporta sia operazioni sincrone che asincrone.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Questa integrazione ti permette di creare chatbot, generatori di contenuti o strumenti di estrazione dati rapidamente. L'SDK gestisce il ciclo di vita della richiesta, inclusi i tentativi e la gestione degli errori. Puoi passare intestazioni personalizzate se necessario per casi d'uso avanzati.

Assicurati di importare la versione corretta dell'SDK. Le versioni precedenti potrebbero non supportare tutte le funzionalità disponibili nell'API di Venice. Controlla la documentazione per i dettagli di compatibilità.

Risposte in streaming tramite SSE

Abilita l'output in tempo reale impostando il stream il parametro a true. L'API restituisce uno stream di Server-Sent Events (SSE) invece di un oggetto JSON completo. Questo ti consente di visualizzare i token man mano che vengono generati.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Lo streaming riduce la latenza percepita per gli utenti. È ideale per le interfacce chat o le dashboard in tempo reale. L'ultimo chunk dello stream contiene le statistiche finali sull'utilizzo dei token. Analizza questi dati per monitorare i costi con precisione.

Gestisci le interruzioni di connessione in modo elegante. Se lo streaming si interrompe, puoi ripetere la richiesta. L'API non garantisce l'ordine se più stream sono attivi simultaneamente. Monitora attentamente i tuoi limiti di frequenza durante i picchi di traffico.

Gestione degli errori e limiti

L'API impone un limite di 300 richieste al minuto per chiave. Le richieste concorrenti sono limitate a 8 per chiave. Il corpo della richiesta non deve superare gli 8 MB. Il superamento di questi limiti restituisce un errore 429 Too Many Requests.

La dimensione della finestra di contesto è di 100.000 token per prompt e completamento combinati. L'output massimo per richiesta è di 16.000 token. Se max_tokens è non impostato, il limite predefinito è di 2.048 token. Pianifica i tuoi input di conseguenza per evitare il troncamento.

Gli errori comuni includono 401 per chiavi non valide e 402 per credito insufficiente. Gestisci questi codici per sollecitare gli utenti a effettuare ricariche. Usa la pagina di supporto per i problemi di fatturazione. Il credito non scade mai, quindi puoi ricaricare in un secondo momento.