Dokumentace API Venice AI pro vývojáře

Ověření a základní URL

Okamžité připojení nastavením základní URL na https://api.veniceapi.com/v1 a zahrnutím vašeho API klíče v Authorization hlavička. Tento klíč získáte okamžitě po registraci přes Google nebo e-mail. Tento jediný model řeší veškeré generování textu bez logiky směrování. Nemusíte spravovat více koncových bodů nebo konfigurace proxy.

"Chraňte svůj klíč. Každý účet podporuje najednou pouze jeden aktivní klíč; vygenerování nového klíče zneplatní ten předchozí. To zajišťuje jasnou atribuci pro spotřebu tokenů a fakturaci."

Endpoint Chat completions

Odesílejte textové požadavky na /v1/chat/completions endpoint pomocí standardních metod HTTP POST. API přijímá JSON payload obsahující název modelu, systémové instrukce a zprávy uživatele.

Zde je základní struktura požadavku:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Odpověď vrací vygenerovaný text, statistiky využití tokenů a příznaky dokončení. Chování můžete upravit pomocí parametrů jako temperature nebo top_p. Tato nastavení ovládají kreativitu a náhodnost ve výstupu.

Chyby vracejí standardní HTTP kódy. 401 označuje neplatný klíč, zatímco 402 signalizuje nedostatek kreditu. Použijte tyto kódy k plynulému zpracování selhání ve vašich automatizačních pracovních postupech.

Integrace Python SDK

Použijte oficiální knihovnu OpenAI pro Python pro komunikaci s LLM bez omezení. Nakonfigurujte klienta s URL Venice a svým API klíčem. Tento přístup zjednodušuje sestavování požadavků a parsování odpovědí.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tato metoda funguje bezproblémově s existujícími kódovými základnami navrženými pro OpenAI. Můžete změnit základní URL bez významné změny logiky aplikace. Knihovna automaticky řeší serializaci a síťová připojení.

Pamatujte, že identifikátor modelu musí být nastaven na uncensored. To zajišťuje, že používáte konkrétní vyladěný model poskytnutý společností Venice. Jiné modely nemusí vykazovat stejné vzorce chování.

Integrace SDK pro Node

Integrujte API do JavaScriptových nebo TypeScriptových projektů pomocí Node SDK OpenAI. Nastavte baseURL na endpoint Venice a poskytněte svůj API klíč. Toto nastavení podporuje jak synchronní, tak asynchronní operace.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tato integrace vám umožňuje rychle vytvářet chatboty, generátory obsahu nebo nástroje pro extrakci dat. SDK spravuje životní cyklus požadavku, včetně opakování a zpracování chyb. Pokud je to potřeba pro pokročilé případy použití, můžete předávat vlastní hlavičky.

Ujistěte se, že importujete správnou verzi SDK. Starší verze nemusí podporovat všechny funkce dostupné v API Venice. Podrobnosti o kompatibilitě naleznete v dokumentaci.

Streamované odpovědi přes SSE

Povolit výstup v reálném čase nastavením stream parameter na true. API vrací stream Server-Sent Events (SSE) místo kompletního objektu JSON. To vám umožňuje zobrazovat tokeny, jak jsou generovány.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streamování snižuje vnímanou latenci pro uživatele. Je ideální pro chatová rozhraní nebo živá data. Poslední část streamu obsahuje statistiky o spotřebovaných tokenech. Parsovejte tato data pro přesné sledování nákladů.

Gracefully zvládněte přerušení spojení. Pokud stream přeruší, můžete požadavek opakovat. API nezaručuje pořadí, pokud je aktivních více streamů současně. Sledujte své limity rychlosti důkladně během vysoké zátěže.

Zpracování chyb a limity

API vynucuje limit rychlosti 300 požadavků za minutu na klíč. Souběžné požadavky jsou omezeny na 8 na klíč. Tělo požadavku nesmí překročit 8 MB. Překročení těchto limitů vrátí chybu 429 Too Many Requests.

Velikost kontextového okna je 100 000 tokenů pro prompt a dokončení dohromady. Maximální výstup na požadavek je 16 000 tokenů. Pokud max_tokens není nastaveno, limit výchozím způsobem činí 2 048 tokenů. Plánujte své vstupy odpovídajícím způsobem, abyste předešli oříznutí.

Mezi běžné chyby patří 401 pro neplatné klíče a 402 pro nedostatečný kredit. Tyto kódy zpracujte tak, abyste uživatele vyzvali k dobití. Pro problémy s fakturací použijte stránku podpory. Kredit nikdy nevyprší, takže můžete dobít později.