Documentation API

Authentification et URL de base

Commencez par mettre à jour la configuration de votre client avec votre clé API unique et notre URL de base spécifique. Vous n'avez pas besoin de modifier la logique de votre code, seulement la chaîne de connexion. Le point de terminaison est https://api.gatewayllm.cc/v1 et nécessite le Authorization: Bearer <key> header. Cette configuration fonctionne avec n'importe quel SDK compatible OpenAI standard que vous avez déjà installé.

Première demande

Envoyez une requête standard de complétion de chat pour vérifier votre connexion et recevoir une réponse immédiate. Utilisez l'ID de modèle uncensored pour accéder à notre modèle de langage large spécifique. L'exemple suivant illustre une interaction textuelle simple à l'aide de l'outil en ligne de commande cURL.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

Votre réponse arrivera sous forme de JSON contenant le texte généré. Si vous recevez une réponse valide, votre intégration fonctionne correctement.

Intégration du SDK Python

Utilisez la bibliothèque Python officielle d'OpenAI pour interagir avec notre point de terminaison en remplaçant l'URL de base. Cela vous permet de conserver la structure de votre code Python existant tout en changeant de fournisseur sous-jacent. L'extrait de code suivant montre comment initialiser le client et envoyer un message.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

La bibliothèque gère automatiquement la sérialisation et la désérialisation. Vous pouvez désormais utiliser des méthodes standard telles que chat.completions.create avec notre backend.

Installation du SDK Node.js

Initialisez le package Node.js OpenAI avec votre clé et notre URL de base pour commencer à générer du contenu. Cette approche garantit la compatibilité avec les applications Node existantes sans nécessiter de refonte majeure. Le code suivant illustre le processus d'initialisation.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Appelez la méthode completion avec votre identifiant de modèle souhaité. L'objet de réponse contiendra le texte généré dans le content champ.

Streaming et SSE

Activez le streaming pour recevoir les jetons au fur et à mesure de leur génération, réduisant la latence perçue pour les sorties longues. Définissez stream: true dans les paramètres de votre requête pour activer les Server-Sent Events. L'exemple suivant montre comment consommer le flux par chunks.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Chaque chunk contient des données partielles. Le dernier chunk inclut les statistiques complètes d'utilisation des jetons. Cette méthode est idéale pour les interfaces utilisateur en temps réel.

Limites, Erreurs et Contexte

Surveillez votre taux de requêtes et gérez les erreurs avec élégance pour maintenir une application stable. Notre API impose une limite de 300 requêtes par minute par clé. Vous recevrez un 401 erreur si votre clé est invalide, un 402 erreur si votre crédit prépayé est épuisé, et un 429 erreur si vous dépassez la limite de taux. Chaque requête prend en charge une fenêtre de contexte de 100 000 tokens. Assurez-vous que votre invite plus la complétion reste dans cette limite pour éviter le troncature.