เอกสารประกอบ API ของ Venice AI สำหรับนักพัฒนา

Authentication and base URL

เชื่อมต่อได้ทันทีโดยการตั้งค่า URL ฐานเป็น https://api.veniceapi.com/v1 และรวมคีย์ API ของคุณใน Authorization header. คุณได้รับคีย์นี้ทันทีหลังจากสมัครสมาชิกผ่าน Google หรืออีเมล โมเดลเดียวนี้จัดการการสร้างข้อความทั้งหมดโดยไม่ต้องมีตรรกะการจัดเส้นทาง คุณไม่จำเป็นต้องจัดการจุดสิ้นสุดหรือการกำหนดค่าพร็อกซีหลายรายการ

รักษาความมั่นคงปลอดภัยของคีย์ของคุณ บัญชีแต่ละบัญชีอนุญาตให้ใช้คีย์ที่ใช้งานเพียงคีย์เดียวในครั้งเดียว การสร้างคีย์ใหม่จะทำให้คีย์ก่อนหน้าหมดอายุทันที สิ่งนี้ทำให้แน่ใจว่าการติดตามการใช้ tokens และการเรียกเก็บเงินมีความชัดเจน

จุดจบ API Chat completions

ส่งคำขอข้อความไปยัง /v1/chat/completions endpoint ที่ใช้วิธีการ POST ผ่าน HTTP มาตรฐาน API รับ payload JSON ที่มีชื่อโมดูล คำสั่งระบบ และข้อความของผู้ใช้

นี่คือโครงสร้างคำขอพื้นฐาน:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

การตอบกลับส่งข้อความที่สร้างขึ้น สถิติการใช้งานโทเค็น และเครื่องหมายการเสร็จสิ้น คุณสามารถปรับพฤติกรรมโดยใช้พารามิเตอร์เช่น temperature หรือ top_p. การตั้งค่าเหล่านี้ควบคุมความคิดสร้างสรรค์และความสุ่มในผลลัพธ์

ข้อผิดพลาดส่งรหัส HTTP มาตรฐานกลับมา 401 หมายถึงคีย์ไม่ถูกต้อง ส่วน 402 หมายถึงเครดิตไม่เพียงพอ ใช้รหัสเหล่านี้เพื่อจัดการกับความล้มเหลวอย่างสง่างามในเวิร์กโฟลว์อัตโนมัติของคุณ

การผสานรวม Python SDK

ใช้ไลบรารี Python ทางการของ OpenAI เพื่อเชื่อมต่อกับ LLM uncensored กำหนดค่า client ด้วย base URL ของ Venice และ API key ของคุณ วิธีนี้ทำให้การสร้างคำขอและการแยกวิเคราะห์คำตอบง่ายขึ้น

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

วิธีนี้ทำงานร่วมกับ codebases ที่มีอยู่ซึ่งออกแบบมาสำหรับ OpenAI ได้อย่างราบรื่น คุณสามารถเปลี่ยน base URL โดยไม่ต้องเปลี่ยน logic ของแอปพลิเคชันมากนัก ไลบรารีจัดการการ serialize และการเชื่อมต่อเครือข่ายโดยอัตโนมัติ

จำไว้ว่าตัวระบุโมเดลต้องถูกตั้งค่าเป็น uncensoredสิ่งนี้ช่วยให้คุณใช้โมเดลที่ปรับแต่งแล้วเฉพาะที่จัดเตรียมโดย Venice โมเดลอื่นอาจไม่แสดงรูปแบบพฤติกรรมเดียวกัน

การผสานรวม Node SDK

ผสาน API เข้ากับโปรเจกต์ JavaScript หรือ TypeScript โดยใช้ Node SDK ของ OpenAI ตั้งค่า baseURL ไปยังเอนด์พอยต์ของ Venice และระบุคีย์ API ของคุณ การตั้งค่านี้รองรับทั้งการทำงานแบบซิงโครนัสและแบบอะซิงโครนัส

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การผสานรวมนี้ช่วยให้คุณสร้างแชทบอท เครื่องกำเนิดเนื้อหา หรือเครื่องมือสกัดข้อมูลได้อย่างรวดเร็ว SDK จัดการวงจรชีวิตของคำขอ รวมถึงการลองใหม่และการจัดการข้อผิดพลาด คุณสามารถส่งหัวเรื่องกำหนดเองได้หากจำเป็นสำหรับกรณีการใช้งานขั้นสูง

ตรวจสอบว่าคุณนำเข้าเวอร์ชันที่ถูกต้องของ SDK แล้วหรือไม่ เวอร์ชันเก่าอาจไม่รองรับฟีเจอร์ทั้งหมดที่มีใน Venice API ตรวจสอบเอกสารสำหรับรายละเอียดความเข้ากันได้

การตอบสนองแบบสตรีมผ่าน SSE

เปิดใช้งานผลลัพธ์แบบเรียลไทม์โดยตั้งค่า stream พารามิเตอร์นี้เพื่อ true. API ส่ง stream แบบ Server-Sent Events (SSE) แทนที่จะเป็น JSON object เต็มรูปแบบ ทำให้คุณสามารถแสดง token ได้ทันทีที่สร้าง

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

การสตรีมช่วยลดความล่าช้าที่ผู้ใช้รู้สึกได้ เหมาะอย่างยิ่งสำหรับอินเทอร์เฟซแชทหรือแดชบอร์ดแบบเรียลไทม์ ชิ้นสุดท้ายของการสตรีมประกอบด้วยสถิติการใช้งานโทเค็นสุดท้าย วิเคราะห์ข้อมูลนี้เพื่อติดตามค่าใช้จ่ายได้อย่างแม่นยำ

จัดการการหลุดของการเชื่อมต่อได้อย่างราบรื่น หากการสตรีมหยุดชะงัก คุณสามารถลองคำขอใหม่ API ไม่รับประกันลำดับหากมีการสตรีมหลายรายการพร้อมกัน ติดตามขีดจำกัดอัตราส่วนของคุณอย่างใกล้ชิดในช่วงที่มีการจราจรหนาแน่น

การจัดการข้อผิดพลาดและขีดจำกัด

API กำหนดอัตราจำกัดการเรียกใช้ไว้ที่ 300 ครั้งต่อนาทีต่อคีย์ พร้อมขีดจำกัดการเรียกใช้พร้อมกันที่ 8 ครั้งต่อคีย์ ขนาดของ body การเรียกใช้ต้องไม่เกิน 8 MB หากเกินขีดจำกัดเหล่านี้ ระบบจะส่งข้อผิดพลาด 429 Too Many Requests

ขนาด context window คือ 100,000 tokens สำหรับ prompt และ completion รวมกัน การตอบกลับสูงสุดต่อคำขอคือ 16,000 tokens หาก max_tokens ยังไม่กำหนด ขีดจำกัดเริ่มต้นคือ 2,048 โทเคน โปรดวางแผนอินพุตของคุณให้เหมาะสมเพื่อหลีกเลี่ยงการตัดข้อความ

ข้อผิดพลาดทั่วไปรวมถึง 401 สำหรับคีย์ไม่ถูกต้องและ 402 สำหรับเครดิตไม่เพียงพอ จัดการรหัสเหล่านี้เพื่อแจ้งให้ผู้ใช้เติมเงิน ใช้หน้าการสนับสนุนสำหรับปัญหาการเรียกเก็บเงิน เครดิตไม่มีวันหมดอายุ ดังนั้นคุณสามารถเติมเงินในภายหลังได้