Dokumentasi API Venice AI untuk pengembang

Autentikasi dan URL dasar

Terhubung segera dengan mengatur URL dasar menjadi https://api.veniceapi.com/v1 dan termasuk kunci API Anda di Authorization header. Anda mendapatkan kunci ini secara instan setelah mendaftar melalui Google atau email. Model tunggal ini menangani semua generasi teks tanpa logika routing. Anda tidak perlu mengelola beberapa endpoint atau konfigurasi proxy.

Jaga kunci Anda tetap aman. Setiap akun hanya memungkinkan satu kunci aktif pada satu waktu; menghasilkan kunci baru membuat kunci sebelumnya tidak berlaku. Ini memastikan atribusi yang jelas untuk penggunaan token dan penagihan.

Endpoint Chat completions

Kirim permintaan teks ke /v1/chat/completions endpoint menggunakan metode POST HTTP standar. API menerima payload JSON yang berisi nama model, instruksi sistem, dan pesan pengguna.

Berikut struktur permintaan dasar:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Respons mengembalikan teks yang dihasilkan, statistik penggunaan token, dan flag penyelesaian. Anda dapat menyesuaikan perilaku menggunakan parameter seperti temperature atau top_p. Pengaturan ini mengontrol kreativitas dan keacakan dalam output.

Kesalahan mengembalikan kode HTTP standar. 401 menunjukkan kunci tidak valid, sedangkan 402 menandakan kredit tidak cukup. Gunakan kode-kode ini untuk menangani kegagalan dengan anggun dalam alur kerja otomatisasi Anda.

Integrasi SDK Python

Gunakan pustaka Python resmi OpenAI untuk berinteraksi dengan LLM uncensored. Konfigurasikan klien dengan URL dasar Venice dan kunci API Anda. Pendekatan ini menyederhanakan pembuatan permintaan dan parsing respons.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Metode ini berfungsi dengan lancar dengan basis kode yang ada yang dirancang untuk OpenAI. Anda dapat mengganti URL dasar tanpa mengubah logika aplikasi Anda secara signifikan. Perpustakaan menangani serialisasi dan koneksi jaringan secara otomatis.

Ingat bahwa ID model harus diatur ke uncensoredIni memastikan Anda menggunakan model yang disesuaikan khusus yang disediakan oleh Venice. Model lain mungkin tidak menunjukkan pola perilaku yang sama.

Integrasi SDK Node

Integrasikan API ke proyek JavaScript atau TypeScript menggunakan SDK Node OpenAI. Setel baseURL ke titik akhir Venice dan berikan kunci API Anda. Penyiapan ini mendukung operasi sinkron dan asinkron.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Integrasi ini memungkinkan Anda membangun chatbot, generator konten, atau alat ekstraksi data dengan cepat. SDK mengelola siklus hidup permintaan, termasuk retry dan penanganan kesalahan. Anda dapat meneruskan header kustom jika diperlukan untuk kasus penggunaan lanjutan.

Pastikan Anda mengimpor versi SDK yang benar. Versi lama mungkin tidak mendukung semua fitur yang tersedia di API Venice. Periksa dokumentasi untuk detail kompatibilitas.

Respons streaming melalui SSE

Aktifkan output real-time dengan mengatur stream parameter ke true. API mengembalikan stream Server-Sent Events (SSE) alih-alih objek JSON lengkap. Ini memungkinkan Anda menampilkan token saat dihasilkan.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming mengurangi latensi yang dirasakan oleh pengguna. Sangat ideal untuk antarmuka obrolan atau dasbor langsung. Chunk terakhir dari stream berisi statistik penggunaan token akhir. Parse data ini untuk melacak biaya secara akurat.

Tangani koneksi terputus dengan baik. Jika stream terganggu, Anda dapat mencoba permintaan lagi. API tidak menjamin urutan jika beberapa stream aktif secara bersamaan. Pantau batas laju Anda dengan ketat selama lalu lintas tinggi.

Penanganan kesalahan dan batasan

API menerapkan batas laju 300 permintaan per menit per kunci. Permintaan konkurensi dibatasi hingga 8 per kunci. Badan permintaan tidak boleh melebihi 8 MB. Melebihi batas ini akan mengembalikan error 429 Too Many Requests.

Ukuran context window adalah 100.000 token untuk gabungan prompt dan completion. Output maksimum per permintaan adalah 16.000 token. Jika max_tokens tidak diatur, batas default adalah 2.048 token. Rencanakan input Anda dengan tepat untuk menghindari pemotongan.

Kesalahan umum termasuk 401 untuk kunci tidak valid dan 402 untuk kredit tidak cukup. Tangani kode-kode ini untuk meminta pengguna menambah saldo. Gunakan halaman dukungan untuk masalah penagihan. Kredit tidak pernah kedaluwarsa, sehingga Anda dapat menambah saldo nanti.