Dokumentacja API Venice AI dla programistów

Uwierzytelnianie i URL bazowy

Połącz się natychmiast, ustawiając bazowy URL na https://api.veniceapi.com/v1 i dołączając swój klucz API w Authorization Nagłówek. Uzyskujesz ten klucz natychmiast po rejestracji przez Google lub e-mail. Ten pojedynczy model obsługuje wszystkie generowanie tekstu bez logiki trasowania. Nie musisz zarządzać wieloma punktami końcowymi ani konfiguracjami proxy.

Chroń swój klucz. Każde konto obsługuje tylko jeden aktywny klucz jednocześnie; wygenerowanie nowego klucza unieważnia poprzedni. Zapewnia to jasne przypisanie zużycia tokenów i rozliczeń.

Punkt końcowy uzupełnień czatu

Wyślij żądania tekstowe do /v1/chat/completions endpoint używając standardowych metod HTTP POST. API akceptuje ładunek JSON zawierający nazwę modelu, instrukcje systemowe i wiadomości użytkownika.

Oto podstawowa struktura żądania:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Odpowiedź zwraca wygenerowany tekst, statystyki użycia tokenów oraz flagi uzupełnienia. Możesz dostosować zachowanie za pomocą parametrów takich jak temperature lub top_p. Ustawienia te kontrolują kreatywność i losowość w wyjściu.

Błędy zwracają standardowe kody HTTP. Kod 401 oznacza nieprawidłowy klucz, a 402 oznacza niewystarczający kredyt. Użyj tych kodów do gracefulnego obsługi błędów w swoich przepływach automatyzacji.

Integracja Python SDK

Użyj oficjalnej biblioteki Python OpenAI do interakcji z bezcenzurowanym LLM. Skonfiguruj klienta, podając URL bazowy Venice i swój klucz API. To podejście upraszcza budowanie żądań i parsowanie odpowiedzi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ta metoda działa bezproblemowo z istniejącymi bazami kodu zaprojektowanymi dla OpenAI. Możesz zmienić URL bazowy bez istotnej zmiany logiki aplikacji. Biblioteka automatycznie obsługuje serializację i połączenia sieciowe.

Pamiętaj, że identyfikator modelu musi być ustawiony na uncensored. Zapewnia to, że używasz konkretnego dostrojonego modelu dostarczonego przez Venice. Inne modele mogą nie wykazywać tych samych wzorców zachowania.

Integracja SDK Node

Zintegruj API do projektów JavaScript lub TypeScript za pomocą Node SDK OpenAI. Ustaw baseURL do endpointu Venice i podaj swój klucz API. To ustawienie obsługuje zarówno operacje synchroniczne, jak i asynchroniczne.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ta integracja pozwala szybko budować boty czatowe, generatory treści lub narzędzia do ekstrakcji danych. SDK zarządza cyklem życia żądania, w tym ponawianiami i obsługą błędów. Możesz przekazać nagłówki niestandardowe, jeśli są potrzebne do zaawansowanych przypadków użycia.

Upewnij się, że importujesz poprawną wersję SDK. Starsze wersje mogą nie wspierać wszystkich funkcji dostępnych w API Venice. Sprawdź dokumentację pod kątem szczegółów kompatybilności.

Odpowiedzi strumieniowe poprzez SSE

Włącz output w czasie rzeczywistym ustawiając stream parametr do true. API zwraca strumień zdarzeń wysyłanych serwerowo (SSE) zamiast kompletnego obiektu JSON. Pozwala to na wyświetlanie tokenów w miarę ich generowania.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Strumieniowanie zmniejsza postrzeganą latencję dla użytkowników. Jest idealne dla interfejsów czatu lub paneli na żywo. Ostatni fragment strumienia zawiera statystyki zużycia tokenów. Przeanalizuj te dane, aby dokładnie śledzić koszty.

Obsłuż nagłe przerwania połączenia w sposób elegancki. Jeśli strumień zostanie przerwany, możesz ponowić żądanie. API nie gwarantuje kolejności, jeśli aktywne są jednocześnie wiele strumieni. Śledź swoje limity szybkości podczas dużego ruchu.

Obsługa błędów i limity

API narzuca limit szybkości wynoszący 300 żądań na minutę na klucz. Jednoczesne żądania są ograniczone do 8 na klucz. Rozmiary treści żądania nie mogą przekraczać 8 MB. Przekroczenie tych limitów zwraca błąd 429 Too Many Requests.

Rozmiar okna kontekstowego wynosi 100 000 tokenów dla promptu i odpowiedzi łącznie. Maksymalna długość odpowiedzi na żądanie wynosi 16 000 tokenów. Jeśli max_tokens jest nieustawione, limit domyślnie wynosi 2,048 tokenów. Zaplanuj swoje dane wejściowe odpowiednio, aby uniknąć obcinania.

Typowe błędy obejmują 401 dla nieprawidłowych kluczy oraz 402 dla niewystarczającego kredytu. Obsłuż te kody, aby poprosić użytkowników o doładowanie. Użyj strony wsparcia w przypadku problemów z rozliczeniami. Kredyt nigdy nie wygasa, więc możesz doładować później.