Tài liệu API Venice dành cho nhà phát triển

Xác thực và base URL

Kết nối ngay lập tức bằng cách đặt URL cơ sở thành https://api.veniceapi.com/v1 và bao gồm khóa API của bạn trong Authorization header. Bạn nhận được khóa này ngay lập tức sau khi đăng ký bằng Google hoặc email. Mô hình đơn lẻ này xử lý tất cả việc tạo văn bản mà không cần logic định tuyến. Bạn không cần quản lý nhiều điểm cuối hoặc cấu hình proxy.

Giữ khóa của bạn an toàn. Mỗi tài khoản chỉ cho phép một khóa hoạt động tại một thời điểm; tạo một khóa mới sẽ vô hiệu hóa khóa trước đó. Điều này đảm bảo việc phân bổ rõ ràng cho việc sử dụng token và hóa đơn.

Endpoint hoàn thành trò chuyện

Gửi các yêu cầu văn bản đến /v1/chat/completions endpoint sử dụng các phương thức POST HTTP tiêu chuẩn. API chấp nhận một tải trọng JSON chứa tên mô hình, hướng dẫn hệ thống và tin nhắn của người dùng.

Đây là cấu trúc yêu cầu cơ bản:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Phản hồi trả về văn bản được tạo, thống kê sử dụng token và các cờ hoàn thành. Bạn có thể điều chỉnh hành vi bằng các tham số như temperature hoặc top_p. Các cài đặt này kiểm soát độ sáng tạo và ngẫu nhiên trong đầu ra.

Lỗi trả về các mã HTTP tiêu chuẩn. Một mã 401 cho biết khóa không hợp lệ, trong khi 402 báo hiệu không đủ tiền. Sử dụng các mã này để xử lý lỗi một cách duyên dáng trong các quy trình tự động hóa của bạn.

Tích hợp Python SDK

Sử dụng thư viện Python chính thức của OpenAI để tương tác với LLM không kiểm duyệt. Cấu hình máy khách với URL cơ sở Venice và khóa API của bạn. Cách tiếp cận này đơn giản hóa việc xây dựng yêu cầu và phân tích phản hồi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Phương pháp này hoạt động liền mạch với các cơ sở mã hiện có được thiết kế cho OpenAI. Bạn có thể thay đổi URL cơ bản mà không cần thay đổi đáng kể logic ứng dụng của mình. Thư viện tự động xử lý việc tuần tự hóa và kết nối mạng.

Hãy nhớ rằng định danh mô hình phải được đặt thành uncensored. Điều này đảm bảo bạn đang sử dụng mô hình đã được tinh chỉnh cụ thể do Venice cung cấp. Các mô hình khác có thể không thể hiện các mẫu hành vi tương tự.

Tích hợp SDK Node

Tích hợp API vào các dự án JavaScript hoặc TypeScript bằng SDK Node OpenAI. Đặt baseURL đến điểm cuối của Venice và cung cấp khóa API của bạn. Thiết lập này hỗ trợ cả hoạt động đồng bộ và bất đồng bộ.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tích hợp này cho phép bạn xây dựng nhanh chóng các bot trò chuyện, trình tạo nội dung hoặc công cụ trích xuất dữ liệu. SDK quản lý vòng đời yêu cầu, bao gồm cả việc thử lại và xử lý lỗi. Bạn có thể truyền các tiêu đề tùy chỉnh nếu cần cho các trường hợp sử dụng nâng cao.

Đảm bảo bạn nhập phiên bản SDK đúng. Các phiên bản cũ có thể không hỗ trợ tất cả các tính năng có sẵn trong Venice API. Kiểm tra tài liệu để biết chi tiết tương thích.

Các phản hồi dạng stream thông qua SSE

Bật đầu ra thời gian thực bằng cách đặt stream tham số thành true. API trả về một luồng Sự kiện gửi qua máy chủ (SSE) thay vì một đối tượng JSON hoàn chỉnh. Điều này cho phép bạn hiển thị token khi chúng được tạo.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming giảm độ trễ cảm nhận cho người dùng. Nó lý tưởng cho các giao diện trò chuyện hoặc bảng điều khiển trực tiếp. Chunk cuối cùng của luồng chứa thống kê sử dụng token cuối cùng. Phân tích dữ liệu này để theo dõi chi phí chính xác.

Xử lý việc ngắt kết nối một cách mượt mà. Nếu luồng bị gián đoạn, bạn có thể thử lại yêu cầu. API không đảm bảo thứ tự nếu nhiều luồng hoạt động đồng thời. Theo dõi giới hạn tốc độ của bạn chặt chẽ trong thời gian lưu lượng cao.

Xử lý lỗi và giới hạn

API giới hạn tốc độ 300 yêu cầu mỗi phút mỗi khóa. Yêu cầu đồng bộ được giới hạn ở 8 mỗi khóa. Thân yêu cầu không được vượt quá 8 MB. Vượt quá giới hạn này sẽ trả về lỗi 429 Too Many Requests.

Kích thước cửa sổ ngữ cảnh là 100,000 token cho tổng prompt và kết hợp. Đầu ra tối đa mỗi yêu cầu là 16,000 token. Nếu max_tokens chưa được đặt, giới hạn mặc định là 2.048 token. Hãy lên kế hoạch cho đầu vào của bạn để tránh bị cắt ngang.

Các lỗi phổ biến bao gồm 401 cho khóa không hợp lệ và 402 cho tín dụng không đủ. Xử lý các mã này để nhắc người dùng nạp thêm tiền. Sử dụng trang hỗ trợ cho các vấn đề về thanh toán. Tín dụng không bao giờ hết hạn, vì vậy bạn có thể nạp thêm sau.