Документация API Venice AI для разработчиков

Аутентификация и базовый URL

Подключитесь немедленно, установив базовый URL в https://api.veniceapi.com/v1 и включая ваш API-ключ в Authorization header. Вы получаете этот ключ мгновенно после регистрации через Google или email. Эта единственная модель обрабатывает всю генерацию текста без логики маршрутизации. Вам не нужно управлять несколькими эндпоинтами или конфигурациями прокси.

Храните ваш ключ в безопасности. Каждый аккаунт позволяет только один активный ключ в момент времени; генерация нового ключа делает предыдущий недействительным. Это обеспечивает четкое атрибутивное использование токенов и биллинг.

Эндпоинт Chat Completions

Отправляйте текстовые запросы в /v1/chat/completions эндпоинт с использованием стандартных методов HTTP POST. API принимает полезную нагрузку JSON, содержащую имя модели, системные инструкции и сообщения пользователя.

Базовая структура запроса:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Ответ возвращает сгенерированный текст, статистику использования токенов и флаги завершения. Вы можете настроить поведение с помощью таких параметров, как temperature или top_p. Эти настройки управляют креативностью и случайностью в выводе.

Ошибки возвращают стандартные HTTP-коды. 401 указывает на недействительный ключ, а 402 сигнализирует о недостатке средств. Используйте эти коды для graceful обработки сбоев в ваших автоматизированных рабочих процессах.

Интеграция Python SDK

Используйте официальную библиотеку OpenAI для Python для взаимодействия с uncensored LLM. Настройте клиент, указав базовый URL Venice и свой API-ключ. Этот подход упрощает создание запросов и парсинг ответов.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Этот метод бесшовно работает с существующими кодовыми базами, разработанными для OpenAI. Вы можете изменить базовый URL, не изменяя логику приложения значительно. Библиотека автоматически обрабатывает сериализацию и сетевые соединения.

Помните, что идентификатор модели должен быть установлен в uncensored. Это обеспечивает, что вы используете конкретную настроенную модель, предоставленную Venice. Другие модели могут не демонстрировать такие же паттерны поведения.

Интеграция Node SDK

Интегрируйте API в проекты JavaScript или TypeScript с помощью OpenAI Node SDK. Установите baseURL к эндпоинту Venice и укажите ваш API-ключ. Эта настройка поддерживает как синхронные, так и асинхронные операции.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Эта интеграция позволяет быстро создавать чат-ботов, генераторы контента или инструменты для извлечения данных. SDK управляет жизненным циклом запроса, включая повторные попытки и обработку ошибок. Вы можете передавать пользовательские заголовки, если это необходимо для расширенных сценариев использования.

Убедитесь, что вы импортируете правильную версию SDK. Более старые версии могут не поддерживать все функции, доступные в API Venice. Проверьте документацию на предмет совместимости.

Потоковые ответы через SSE

Включите вывод в реальном времени, установив stream параметр на true. API возвращает поток Server-Sent Events (SSE) вместо полного объекта JSON. Это позволяет отображать токены по мере их генерации.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Потоковая передача снижает воспринимаемую задержку для пользователей. Она идеально подходит для интерфейсов чата или панелей мониторинга в реальном времени. Последний фрагмент потока содержит статистику использования токенов. Парсите эти данные, чтобы точно отслеживать расходы.

Грамотно обрабатывайте разрывы соединения. Если поток прерывается, вы можете повторить запрос. API не гарантирует порядок, если одновременно активны несколько потоков. Тщательно отслеживайте лимиты частоты запросов в периоды высокой нагрузки.

Обработка ошибок и лимиты

API накладывает ограничение на частоту запросов: 300 запросов в минуту на ключ. Параллельных запросов может быть не более 8 на ключ. Размер тела запроса не должен превышать 8 МБ. Превышение этих лимитов возвращает ошибку 429 Too Many Requests.

Размер контекстного окна составляет 100,000 токенов для суммарного промпта и завершения. Максимальный объем вывода за один запрос составляет 16,000 токенов. Если max_tokens не задан, лимит по умолчанию составляет 2,048 токенов. Планируйте свои входные данные соответствующим образом, чтобы избежать усечения.

Типичные ошибки включают 401 для неверных ключей и 402 для недостаточного кредита. Обрабатывайте эти коды, чтобы запрашивать у пользователей пополнение. Используйте страницу поддержки для вопросов по биллингу. Кредиты не истекают, поэтому вы можете пополнить счет позже.