Документація API Venice AI для розробників

Автентифікація та базовий URL

Підключіться миттєво, встановивши базовий URL на https://api.veniceapi.com/v1 та включенням вашого API-ключу в Authorization header. Ви отримуєте цей ключ миттєво після реєстрації через Google або електронну пошту. Ця єдина модель обробляє всю генерацію тексту без логіки маршрутизації. Вам не потрібно керувати кількома кінцевими точками або конфігурацією проксі.

Зберігайте ваш ключ у безпеці. Кожен обліковий запис дозволяє лише один активний ключ одночасно; генерація нового ключа анулює попередній. Це забезпечує чітке визначення походження використання токенів та билінгу.

Ендпоінт Chat Completions

Надсилайте текстові запити до /v1/chat/completions ендпоінт, що використовує стандартні методи HTTP POST. API приймає JSON-корисне навантаження, що містить назву моделі, системні інструкції та повідомлення користувача.

Ось базова структура запиту:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Відповідь повертає згенерований текст, статистику використання токенів та прапорці завершення. Ви можете налаштувати поведінку за допомогою таких параметрів, як temperature або top_p. Ці налаштування керують креативністю та випадковістю у виводі.

Помилки повертають стандартні HTTP-коди. 401 вказує на недійсний ключ, а 402 сигналізує про недостатність коштів. Використовуйте ці коди для обробки невдач у ваших автоматизованих робочих процесах.

Інтеграція Python SDK

Використовуйте офіційну Python-бібліотеку OpenAI для взаємодії з uncensored LLM. Налаштуйте клієнт, вказавши базовий URL Venice та свій API-ключ. Цей підхід спрощує створення запитів та парсинг відповідей.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Цей метод бездоганно працює з існуючими кодовими базами, розробленими для OpenAI. Ви можете змінити базовий URL, не змінюючи значно логіку вашого додатку. Бібліотека автоматично обробляє серіалізацію та мережеві з'єднання.

Запам’ятайте, що ідентифікатор моделі має бути встановлено на uncensored. Це забезпечує, що ви використовуєте конкретну налаштовану модель, надану Venice. Інші моделі можуть не демонструвати такі ж патерни поведінки.

Інтеграція Node SDK

Інтегруйте API в проекти JavaScript або TypeScript за допомогою OpenAI Node SDK. Встановіть baseURL до ендпоінту Venice та надайте свій API-ключ. Ця конфігурація підтримує як синхронні, так і асинхронні операції.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ця інтеграція дозволяє швидко створювати чат-ботів, генератори контенту або інструменти для витягування даних. SDK керує життєвим циклом запиту, включаючи повторні спроби та обробку помилок. Ви можете передавати користувацькі заголовки, якщо це потрібно для розширених випадків використання.

Переконайтеся, що ви імпортуєте правильну версію SDK. Старіші версії можуть не підтримувати всі функції, доступні в Venice API. Перевірте документацію щодо сумісності.

Потокові відповіді через SSE

Увімкнути вивід у реальному часі, встановивши stream параметр на true. API повертає потік подій, що надсилаються сервером (SSE), замість повного об’єкта JSON. Це дозволяє вам відображати токени по мірі їх генерації.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Потокова передача зменшує сприйняту затримку для користувачів. Вона ідеально підходить для інтерфейсів чату або панелей моніторингу в реальному часі. Останній фрагмент потоку містить статистику використання токенів. Парсуйте ці дані для точного відстеження витрат.

Гарно обробляйте розриви з’єднання. Якщо потік переривається, ви можете повторити запит. API не гарантує порядок, якщо одночасно активні кілька потоків. Уважно слідкуйте за лімітами швидкості під час високого навантаження.

Обробка помилок та ліміти

API встановлює ліміт швидкості у 300 запитів на хвилину на ключ. Паралельні запити обмежені 8 на ключ. Тіла запитів не повинні перевищувати 8 МБ. Перевищення цих лімітів повертає помилку 429 Too Many Requests.

Розмір контекстного вікна становить 100,000 токенів для запиту та відповіді разом. Максимальний обсяг відповіді за один запит становить 16,000 токенів. Якщо max_tokens не встановлено, ліміт за замовчуванням становить 2,048 токенів. Плануйте свої вхідні дані відповідним чином, щоб уникнути обрізання.

Поширені помилки включають 401 для недійсних ключів та 402 для недостатнього кредиту. Обробляйте ці коди, щоб запитувати у користувачів поповнення. Використовуйте сторінку підтримки для проблем з оплатою. Кредит ніколи не прострочується, тому ви можете поповнити його пізніше.