Documentație API Venice AI pentru dezvoltatori

Autentificare și URL de bază

Conectați-vă imediat setând URL-ul de bază la https://api.veniceapi.com/v1 și includerea cheii tale API în Authorization header. Obții această cheie instantaneu după înregistrarea prin Google sau email. Acest singur model se ocupă de toate generările de text fără logică de rutare. Nu trebuie să gestionezi mai multe endpoint-uri sau configurații de proxy.

Mențineți cheia în siguranță. Fiecare cont permite doar o singură cheie activă la un moment dat; generarea unei noi chei invalidează pe cea anterioară. Acest lucru asigură o atribuire clară pentru utilizarea de tokeni și facturare.

Endpoint Completări Chat

Trimite cereri text către /v1/chat/completions endpoint folosind metode standard HTTP POST. API acceptă un payload JSON care conține numele modelului, instrucțiunile de sistem și mesajele utilizatorului.

Iată o structură de solicitare de bază:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Răspunsul returnează textul generat, statistici de utilizare a tokenilor și indicatori de finalizare. Puteți ajusta comportamentul folosind parametri precum temperature sau top_p. Aceste setări controlează creativitatea și aleatorietatea în ieșire.

Erorile returnează coduri HTTP standard. Un 401 indică o cheie invalidă, în timp ce 402 semnalează credit insuficient. Folosește aceste coduri pentru a gestiona eșecurile cu grijă în fluxurile tale de automatizare.

Integrare SDK Python

Folosește biblioteca oficială Python OpenAI pentru a interacționa cu LLM-ul non-cenzurat. Configurează clientul cu URL-ul de bază Venice și cheia API. Această abordare simplifică construirea cererilor și analiza răspunsurilor.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Această metodă funcționează perfect cu bazele de cod existente concepute pentru OpenAI. Puteți schimba URL-ul de bază fără a modifica semnificativ logica aplicației. Biblioteca se ocupă automat de serializare și conexiunile de rețea.

Amintește că identificatorul modelului trebuie setat la uncensored. Acest lucru asigură că utilizezi modelul calibrat specific furnizat de Venice. Alte modele pot să nu prezinte aceleași tipare de comportament.

Integrare SDK Node

Integrează API în proiecte JavaScript sau TypeScript folosind SDK-ul Node OpenAI. Setează baseURL către endpoint-ul Venice și furnizează-ți cheia API. Această configurare suportă atât operațiuni sincrone, cât și asincrone.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Această integrare îți permite să construiești rapid chatbot-uri, generatoare de conținut sau instrumente de extragere a datelor. SDK-ul gestionează ciclul de viață al solicitării, inclusiv reîncercările și gestionarea erorilor. Poți transmite antete personalizate dacă este necesar pentru cazuri de utilizare avansate.

Asigură-te că importi versiunea corectă a SDK-ului. Versiunile mai vechi pot nu suporta toate funcțiile disponibile în API-ul Venice. Verifică documentația pentru detaliile de compatibilitate.

Răspunsuri în flux prin SSE

Activează ieșirea în timp real setând stream parametrul la true. API returnează un flux de Evenimente trimise de server (SSE) în loc de un obiect JSON complet. Acest lucru îți permite să afișezi tokenii pe măsură ce sunt generați.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming-ul reduce latența percepută pentru utilizatori. Este ideal pentru interfețele de chat sau panourile de monitorizare în timp real. Ultimul fragment al fluxului conține statisticile de utilizare a tokenilor. Analizează aceste date pentru a urmări costurile cu precizie.

Gestionați întreruperile de conexiune cu grijă. Dacă stream-ul se întrerupe, puteți reîncerca cererea. API-ul nu garantează ordinea dacă mai multe stream-uri sunt active simultan. Monitorizați-vă limitele de rată îndeaproape în timpul traficului ridicat.

Gestionarea erorilor și limitele

API impune o limită de 300 de cereri pe minut pe cheie. Cererile concurente sunt limitate la 8 pe cheie. Corpurile cererilor nu trebuie să depășească 8 MB. Depășirea acestor limite returnează eroarea 429 Too Many Requests.

Dimensiunea ferestrei de context este de 100.000 de tokeni pentru prompt și completare combinate. Ieșirea maximă pe cerere este de 16.000 de tokeni. Dacă max_tokens este nedefinit, limita implicită este de 2.048 de tokeni. Planificați-vă intrările în consecință pentru a evita trunchierea.

Erorile comune includ 401 pentru chei invalide și 402 pentru credit insuficient. Gestionează aceste coduri pentru a solicita utilizatorilor reîncărcări. Utilizează pagina de suport pentru probleme de facturare. Creditul nu expiră niciodată, astfel încât poți reîncărca mai târziu.