Venice api documentation for developers

Πιστοποίηση και base URL

Συνδεθείτε άμεσα ορίζοντας τη βάση URL σε https://api.veniceapi.com/v1 and including your API key in the Authorization header. Αποκτάτε αυτό το κλειδί ακαριαία μετά την εγγραφή με Google ή email. Αυτό το μοναδικό μοντέλο αναλαμβάνει όλη την παραγωγή κειμένου χωρίς λογική διαδρομής. Δεν χρειάζεται να διαχειριστείτε πολλαπλά endpoints ή ρυθμίσεις proxy.

Κρατήστε το κλειδί σας ασφαλές. Κάθε λογαριασμός επιτρέπει μόνο ένα ενεργό κλειδί τη φορά· η δημιουργία ενός νέου κλειδιού ακυρώνει το προηγούμενο. Αυτό διασφαλίζει ξεκάθαρη απόδοση για τη χρήση tokens και την χρέωση.

Τερματικό συμπληρώματος συζήτησης

Στείλτε αιτήσεις κειμένου στο /v1/chat/completions σημείο τερματισμού (endpoint) χρησιμοποιώντας τυπικές μεθόδους HTTP POST. Το API δέχεται ένα φορτίο JSON που περιέχει το όνομα μοντέλου, οδηγίες συστήματος και μηνύματα χρήστη.

Ακολουθεί μια βασική δομή request:

Copycurl https://api.veniceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check if the service blocks adult content in the test endpoint"}]
  }'

Η απάντηση επιστρέφει παραγόμενο κείμενο, στατιστικά χρήσης tokens και σημαίες ολοκλήρωσης. Μπορείτε να προσαρμόσετε τη συμπεριφορά χρησιμοποιώντας παραμέτρους όπως temperature ή top_p. Αυτές οι ρυθμίσεις ελέγχουν τη δημιουργικότητα και την τυχαιότητα στην έξοδο.

Τα σφάλματα επιστρέφουν τυπικούς κωδικούς HTTP. Ένα 401 υποδηλώνει μη έγκυρο κλειδί, ενώ το 402 σηματοδολεί ανεπαρκές πιστωτικό υπόλοιπο. Χρησιμοποιήστε αυτούς τους κωδικούς για να χειριστείτε τις αποτυχίες ομαλά στις αυτοματοποιημένες ροές εργασίας σας.

Ενσωμάτωση SDK Python

Χρησιμοποιήστε την επίσημη βιβλιοθήκη Python της OpenAI για να αλληλεπιδράσετε με το uncensored LLM. Διαμορφώστε τον πελάτη με τη βάση URL του Venice και το API key σας. Αυτή η προσέγγιση απλοποιεί τη δημιουργία αιτημάτων και την ανάλυση απαντήσεων.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Αυτή η μέθοδος λειτουργεί άψογα με υπάρχοντα κώδικες σχεδιασμένους για OpenAI. Μπορείτε να αλλάξετε τη βασική διεύθυνση URL χωρίς να αλλάξετε σημαντικά τη λογική της εφαρμογής σας. Η βιβλιοθήκη χειρίζεται αυτόματα τη σειριοποίηση και τις δικτυακές συνδέσεις.

Θυμηθείτε ότι το αναγνωριστικό μοντέλου πρέπει να οριστεί σε uncensored. Αυτό εξασφαλίζει ότι χρησιμοποιείτε το συγκεκριμένο ρυθμισμένο μοντέλο που παρέχεται από τη Venice. Άλλα μοντέλα μπορεί να μην παρουσιάζουν τα ίδια μοτίβα συμπεριφοράς.

Node SDK integration

Ενσωματώστε το API σε έργα JavaScript ή TypeScript χρησιμοποιώντας το Node SDK του OpenAI. Ορίστε το baseURL στο endpoint του Venice και παρέχετε το API key σας. Αυτή η ρύθμιση υποστηρίζει τόσο συγχρονικές όσο και ασύγχρονες λειτουργίες.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Αυτή η ενσωμάτωση σας επιτρέπει να χτίσετε chatbots, generators περιεχομένου ή εργαλεία εξαγωγής δεδομένων γρήγορα. Το SDK διαχειρίζεται τον κύκλο ζωής του αιτήματος, συμπεριλαμβανομένων των επαναπροσπαθειών και της διαχείρισης σφαλμάτων. Μπορείτε να περάσετε custom headers αν χρειαστεί για προηγμένες περιπτώσεις χρήσης.

Βεβαιωθείτε ότι εισάγετε τη σωστή έκδοση του SDK. Παλαιότερες εκδόσεις ενδέχεται να μην υποστηρίζουν όλα τα χαρακτηριστικά που διατίθενται στο Venice API. Ελέγξτε την τεκμηρίωση για λεπτομέρειες συμβατότητας.

Οι ροές απαντήσεων μέσω SSE

Ενεργοποίηση εξόδου σε πραγματικό χρόνο ορίζοντας το stream η παράμετρος σε true. Η API επιστρέφει μια ροή Server-Sent Events (SSE) αντί για ένα πλήρες αντικείμενο JSON. Αυτό σας επιτρέπει να εμφανίζετε tokens καθώς παράγονται.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Η ροή δεδομένων (streaming) μειώνει την αντιλαμβανόμενη καθυστέρηση για τους χρήστες. Είναι ιδανική για διεπαφές συνομιλίας ή ζωντανά πίνακες ελέγχου. Το τελευταίο κομμάτι της ροής περιέχει τα στατιστικά χρήσης tokens. Ερμηνεύστε αυτά τα δεδομένα για να παρακολουθείτε τα κόστη με ακρίβεια.

Διαχειριστείτε διακοπές σύνδεσης με επιδεξιότητα. Αν η ροή διακοπεί, μπορείτε να κάνετε επανάληψη της αίτησης. Το API δεν εγγυάται τη σειρά αν πολλαπλές ροές είναι ενεργές ταυτόχρονα. Παρακολουθήστε στενά τα όρια ρυθμού σας κατά τη διάρκεια υψηλής κίνησης.

Χειρισμός σφαλμάτων και όρια

Η API επιβάλλει όριο ρυθμού 300 αιτήσεων ανά λεπτό ανά κλειδί. Οι ταυτόχρονες αιτήσεις περιορίζονται στις 8 ανά κλειδί. Τα σώματα αιτήσεων δεν πρέπει να υπερβαίνουν τα 8 MB. Η υπέρβαση αυτών των ορίων επιστρέφει σφάλμα 429 Too Many Requests.

Το μέγεθος του παραθύρου συμφραζομένων είναι 100.000 tokens για είσοδο και έξοδο συνολικά. Η μέγιστη έξοδος ανά αίτηση είναι 16.000 tokens. Αν max_tokens είναι μη ρυθμισμένο, το όριο είναι 2.048 tokens. Σχεδιάστε τις εισόδους σας ανάλογα για να αποφύγετε την περικοπή.

Συνηθισμένα σφάλματα περιλαμβάνουν 401 για μη έγκυρα κλειδιά και 402 για ανεπαρκές credit. Διαχειριστείτε αυτούς τους κωδικούς για να ζητήσετε από τους χρήστες προσθήκη credit. Χρησιμοποιήστε τη σελίδα υποστήριξης για θέματα χρέωσης. Το credit λήγει ποτέ, οπότε μπορείτε να προσθέσετε credit αργότερα.