Dokumentasi API Venice AI untuk pengembang

Pengesahan dan url asas

Sambungkan serta-merta dengan menetapkan URL asas kepada https://api.veniceapi.com/v1 dan termasuk kunci API anda dalam Authorization header. Anda mendapatkan kunci ini serta-merta selepas mendaftar melalui Google atau e-mel. Model tunggal ini mengendalikan semua penjanaan teks tanpa logik laluan. Anda tidak perlu menguruskan pelbagai hujung sambungan atau konfigurasi proksi.

Kekalkan kunci anda selamat. Setiap akaun membolehkan hanya satu kunci aktif pada satu masa; menjana kunci baru akan membatalkan kunci sebelumnya. Ini memastikan pengesahan yang jelas untuk penggunaan token dan pengebilan.

Hujung sambungan penyelesaian sembang

Hantar permintaan teks ke /v1/chat/completions endpoint menggunakan kaedah POST HTTP standard. API menerima payload JSON yang mengandungi nama model, arahan sistem, dan mesej pengguna.

Berikut adalah struktur permintaan asas:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Respons mengembalikan teks yang dijana, statistik penggunaan token, dan flag pelengkapan. Anda boleh menyesuaikan tingkah laku menggunakan parameter seperti temperature atau top_p. Tetapan ini mengawal kreativiti dan rawak dalam output.

Kesalahan memulangkan kod HTTP piawai. A 401 menunjukkan kunci tidak sah, manakala 402 menandakan kredit tidak mencukupi. Gunakan kod-kod ini untuk mengendalikan kegagalan dengan anggun dalam aliran kerja automasi anda.

Python SDK integration

Gunakan pustaka Python rasmi OpenAI untuk berinteraksi dengan LLM tanpa sensor. Konfigurasikan klien dengan URL asas Venice dan kunci API anda. Pendekatan ini memudahkan pembinaan permintaan dan penguraian respons.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kaedah ini berfungsi dengan lancar dengan kod sedia ada yang direka untuk OpenAI. Anda boleh menukar URL asas tanpa mengubah logik aplikasi anda dengan ketara. Perpustakaan mengendalikan serialisasi dan sambungan rangkaian secara automatik.

Perhatikan bahawa ID model mesti ditetapkan kepada uncensored. Ini memastikan anda menggunakan model yang telah diselaraskan khusus yang disediakan oleh Venice. Model lain mungkin tidak mempamerkan corak tingkah laku yang sama.

Integrasi SDK Node

Integrasikan API ke dalam projek JavaScript atau TypeScript menggunakan SDK Node OpenAI. Set baseURL ke hujung Venice dan berikan kunci API anda. Tetapan ini menyokong operasi serentak dan tak serentak.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Integrasi ini membolehkan anda membina bot sembang, penjana kandungan, atau alat pengekstrakan data dengan cepat. SDK menguruskan kitaran hayat permintaan, termasuk percubaan semula dan pengendalian ralat. Anda boleh menghantar header tersuai jika diperlukan untuk kes penggunaan lanjutan.

Pastikan anda mengimport versi SDK yang betul. Versi lama mungkin tidak menyokong semua ciri yang tersedia dalam API Venice. Semak dokumentasi untuk butis keserasian.

Respons aliran melalui SSE

Aktifkan output masa nyata dengan menetapkan stream parameter kepada true. API ini memulangkan aliran Acara yang Dikirim Pelayan (SSE) sebagai ganti objek JSON lengkap. Ini membolehkan anda memaparkan token seperti yang dijana.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Penstriman mengurangkan latensi yang dirasakan oleh pengguna. Ia sesuai untuk antara muka sembang atau papan pemuka langsung. Bahagian akhir penstriman mengandungi statistik penggunaan token akhir. Huraikan data ini untuk menjejak kos dengan tepat.

Tangani putus sambungan dengan baik. Jika aliran terganggu, anda boleh mencuba semula permintaan. API tidak menjamin tertib jika beberapa aliran aktif serentak. Pantau had kadar anda dengan rapat semasa trafik tinggi.

Penanganan ralat dan had

API ini mengenakan had kadar sebanyak 300 permintaan setiap minit setiap kunci. Permintaan serentak dihadkan kepada 8 setiap kunci. Badan permintaan tidak boleh melebihi 8 MB. Melebihi had ini akan memulangkan ralat 429 Too Many Requests.

Saiz tetingkap konteks ialah 100,000 token untuk gabungan prompt dan penyelesaian. Output maksimum setiap permintaan ialah 16,000 token. Jika max_tokens tidak ditetapkan, had lalai ialah 2,048 token. Rancang input anda dengan sewajarnya untuk mengelakkan pemotongan.

Ralat lazim termasuk 401 untuk kunci tidak sah dan 402 untuk kredit tidak mencukupi. Tangani kod-kod ini untuk memintakan pengguna menambah saldo. Gunakan halaman sokongan untuk isu pengebilan. Kredit tidak pernah luput, jadi anda boleh menambah saldo kemudian.