Venice API dokumentáció fejlesztőknek

Hitelesítés és base URL

Azonnal csatlakozzon úgy, hogy a base URL-t erre állítja: https://api.veniceapi.com/v1 és tartalmazza API kulcsát a Authorization header. Ezt a kulcsot azonnal megkapod regisztráció után Google-fiókkal vagy e-mail címmel. Ez az egyetlen modell kezeli az összes szöveggenerálást irányítási logika nélkül. Nem kell több végpontot vagy proxy konfigurációt kezelned.

Tartsa a kulcsot biztonságban. Minden fiók legfeljebb egy aktív kulcsot támogat egyszerre; egy új kulcs generálása érvényteleníti a korábbit. Ez biztosítja a token használat és a számlázás egyértelmű nyomon követhetőségét.

Chat completions végpont

Szövegkérések küldése ide /v1/chat/completions endpoint szabványos HTTP POST módszerekkel. Az API elfogad egy JSON payloadt, amely tartalmazza a modell nevét, a rendszeri utasításokat és a felhasználói üzeneteket.

Íme egy alap kérésstruktúra:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

A válasz generált szöveget, tokenfelhasználási statisztikákat és befejezési flageket ad vissza. A viselkedést például a következő paraméterekkel módosíthatja temperature vagy top_p. Ezek a beállítások a kreativitást és a véletlenszerűséget vezérlik a kimenetben.

A hibák szabványos HTTP kódokat adnak vissza. A 401 érvénytelen kulcsot jelent, míg a 402 elégtelen hitelt jelez. Használd ezeket a kódokat a hibák gracefully kezelésére az automatizálási munkafolyamataidban.

Python SDK integráció

Használja a hivatalos OpenAI Python könyvtárat az uncensored LLM-hez való kapcsolódáshoz. Konfigurálja a klienst a Venice alap URL-jével és az API-kulccsal. Ez a megközelítés egyszerűsíti a kérések építését és a válaszok feldolgozását.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ez a módszer zökkenőmentesen működik meglévő, OpenAI-re tervezett kódbázisokkal. Az alap URL megváltoztatása nélkül cserélheted a szolgáltatást anélkül, hogy jelentősen módosítanod kellene az alkalmazás logikáját. A könyvtár automatikusan kezeli a szerializálást és a hálózati kapcsolatokat.

Emlékezzen, hogy a modell azonosítóját be kell állítani erre: uncensored. Ez biztosítja, hogy a Venice által biztosított specifikus hangolt modellt használja. Más modellek nem mutatnak ugyanolyan viselkedési mintákat.

Node SDK integráció

Integrálja az API-t JavaScript vagy TypeScript projektekbe az OpenAI Node SDK segítségével. Állítsa be a baseURL a Venice endpointra, és adja meg az API-kulcsát. Ez a beállítás támogatja a szinkron és aszinkron műveleteket is.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ez az integráció lehetővé teszi chatbotok, tartalomgenerátorok vagy adatkinyerő eszközök gyors fejlesztését. Az SDK kezeli a kérés életciklusát, beleértve az újrapróbálkozást és a hibakezelést. Egyedi fejléceket is megadhat szükség esetén a speciális esetekhez.

Győződjön meg róla, hogy a helyes SDK-verziót importálja. A régebbi verziók nem támogatják a Venice API összes elérhető funkcióját. Tekintse át a dokumentációt a kompatibilitási részletekért.

SSE-n keresztüli streamelő válaszok

Valós idejű kimenet engedélyezése a stream paramétert true. Az API Server-Sent Events (SSE) streamet ad vissza, nem pedig egy teljes JSON objektumot. Ez lehetővé teszi, hogy a tokeneket az előállításuk során megjelenítse.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

A streamelés csökkenti a felhasználók számára észlelt késleltetést. Ideális chat felületekhez vagy élő irányítópultokhoz. A stream utolsó darabja tartalmazza a végső tokenfelhasználási statisztikákat. Elemezze ezt az adatot a költségek pontos nyomon követéséhez.

Kezelje gracefully a kapcsolat megszakadásokat. Ha a stream megszakad, ismételheti a kérést. Az API nem garantálja a sorrendet, ha egyszerre több stream aktív. Figyelje szorosan a sebességkorlátokat nagy forgalom esetén.

Hibakezelés és korlátok

Az API percenként 300 kérésre korlátozza a sebességet kulcsonként. Az egyidejű kérések száma kulcsonként 8-ra van korlátozva. A kérések törzse nem haladhatja meg a 8 MB-ot. Ha túlléped ezeket a korlátokat, 429 Too Many Requests hibát kapsz.

A kontextusablak mérete 100 000 token prompt és completion együttesen. A kérelemonkénti maximális kimenet 16 000 token. Ha max_tokens nincs beállítva, a határ 2 048 tokenre áll be. Tervezze meg a bemeneteket ennek megfelelően a lecsapódás elkerülése érdekében.

A gyakori hibák közé tartozik a 401 az érvénytelen kulcsokért és a 402 az elégtelen hitelért. Kezelje ezeket a kódokat, hogy felhasználókat buktasson a feltöltésre. Használja a támogatási oldalt számlázási problémák esetén. A hitel sosem jár le, így később is tölthet fel. Ez a struktúra kiszámítható és átlátható költségeket biztosít.