Τεκμηρίωση API

Authentication and Base URL

Ξεκινήστε ενημερώνοντας τη διαμόρφωση του client σας με το μοναδικό API key σας και τη συγκεκριμένη βάση URL μας. Δεν χρειάζεται να αλλάξετε τη λογική του κώδικά σας, μόνο το string σύνδεσης. Το endpoint είναι https://api.gatewayllm.cc/v1 και απαιτεί το Authorization: Bearer <key> header. Αυτή η ρύθμιση λειτουργεί με οποιοδήποτε τυπικό OpenAI-compatible SDK που έχετε ήδη εγκατεστημένο.

Πρώτη αίτηση

Στείλτε μια τυπική αίτηση ολοκλήρωσης συνομιλίας για να επαληθεύσετε τη σύνδεσή σας και να λάβετε μια άμεση απάντηση. Χρησιμοποιήστε το ID μοντέλου uncensored για πρόσβαση στο συγκεκριμένο μοντέλο γλώσσας μεγάλου μεγέθους μας. Το παρακάτω παράδειγμα δείχνει μια απλή αλληλεπίδραση κειμένου χρησιμοποιώντας το εργαλείο γραμμής εντολών cURL.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

Η απόκρισή σας θα φτάσει ως JSON που περιέχει το παραγόμενο κείμενο. Αν λάβετε έγκυρη απόκριση, η ενσωμάτωσή σας λειτουργεί σωστά.

Ενσωμάτωση SDK Python

Χρησιμοποιήστε την επίσημη βιβλιοθήκη Python της OpenAI για να αλληλεπιδράσετε με το endpoint μας υπερκαθορίζοντας τη βάση URL. Αυτό σας επιτρέπει να διατηρήσετε τη δομή του υπάρχοντος κώδικα Python σας ενώ αλλάζετε τον υποκείμενο πάροχο. Το παρακάτω απόσπασμα κώδικα δείχνει πώς να αρχικοποιήσετε τον πελάτη και να στείλετε ένα μήνυμα.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Η βιβλιοθήκη χειρίζεται αυτόματα τη σειριοποίηση και την αποσειριοποίηση. Τώρα μπορείτε να χρησιμοποιήσετε τυπικές μεθόδους όπως chat.completions.create με το backend μας.

Ρύθμιση SDK Node.js

Αρχικοποιήστε το πακέτο OpenAI Node.js με το κλειδί σας και τη βάση URL μας για να ξεκινήσετε τη δημιουργία περιεχομένου. Αυτή η προσέγγιση διασφαλίζει τη συμβατότητα με υπάρχουσες εφαρμογές Node χωρίς να απαιτείται μεγάλος αναπρογραμματισμός. Ο παρακάτω κώδικας δείχνει τη διαδικασία αρχικοποίησης.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Καλέστε τη μέθοδο completion με το επιθυμητό model ID σας. Το αντικείμενο απόκρισης θα περιέχει το παραγόμενο κείμενο στο content πεδίο.

Ροή και SSE

Ενεργοποιήστε τη ροή για λήψη tokens καθώς παράγονται, μειώνοντας την αντιλαμβανόμενη καθυστέρηση για μακρές εξόδους. Ορίστε stream: true στις παραμέτρους του αιτήματός σας για ενεργοποίηση των Server-Sent Events. Το παρακάτω παράδειγμα δείχνει πώς να καταναλώσετε τη ροή σε κομμάτια.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Κάθε chunk περιέχει μερικά δεδομένα. Το τελικό chunk περιλαμβάνει τα στατιστικά συνολικής χρήσης tokens. Αυτή η μέθοδος είναι ιδανική για διεπαφές χρήστη σε πραγματικό χρόνο.

Όρια, Σφάλματα και Context

Παρακολουθήστε τον ρυθμό των αιτημάτων σας και χειριστείτε τα σφάλματα ομαλά για να διατηρήσετε μια σταθερή εφαρμογή. Το API μας επιβάλλει όριο 300 αιτημάτων ανά λεπτό ανά κλειδί. Θα λάβετε ένα 401 σφάλμα αν το κλειδί σας είναι άκυρο, ένα 402 σφάλμα αν εξαντληθεί το προκαταβληθέν υπόλοιπό σας, και ένα 429 σφάλμα αν ξεπεράσετε το όριο ρυθμού. Κάθε αίτημα υποστηρίζει παράθυρο πλαισίου 100.000 tokens. Βεβαιωθείτε ότι το prompt συνολικά με την ολοκλήρωση παραμένει εντός αυτού του ορίου για να αποφύγετε την περικοπή.