API Documentatie

Authenticatie en basis-URL

Werk je clientconfiguratie bij met je unieke API-sleutel en onze specifieke basis-URL. Je hoeft je codelogica niet te wijzigen, alleen de verbindingsreeks. Het eindpunt is https://api.gatewayllm.cc/v1 en vereist de Authorization: Bearer <key> header. Deze opstelling werkt met elke standaard OpenAI-compatible SDK die je al geïnstalleerd hebt.

Eerste verzoek

Stuur een standaard chat-completieverzoek om je verbinding te verifiëren en een directe respons te ontvangen. Gebruik de model-ID uncensored toegang tot ons specifieke grote taalmodel. Het volgende voorbeeld toont een eenvoudige tekstinteractie met behulp van de cURL-opdrachregeltool.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

Uw antwoord komt aan als JSON met daarin de gegenereerde tekst. Als u een geldig antwoord ontvangt, werkt uw integratie correct.

Python SDK Integratie

Gebruik de officiële OpenAI Python-bibliotheek om verbinding te maken met ons eindpunt door de basis-URL te overschrijven. Zo kunt u uw bestaande Python-codestructuur behouden terwijl u de onderliggende provider wijzigt. Het volgende codevoorbeeld toont hoe u de client initialiseert en een bericht verstuurt.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

De bibliotheek verwerkt serialisatie en deserialisatie automatisch. Je kunt nu standaardmethoden gebruiken zoals chat.completions.create met onze backend.

Node.js SDK-instelling

Initialiseer het OpenAI Node.js-pakket met je sleutel en onze basis-URL om inhoud te genereren. Deze aanpak zorgt voor compatibiliteit met bestaande Node-applicaties zonder dat er grote refactoring nodig is. De volgende code demonstreert het initialisatieproces.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Roep de completion-methode aan met je gewenste model-id. Het responsobject bevat de gegenereerde tekst in de content veld.

Streaming en SSE

Schakel streaming in om tokens te ontvangen zodra ze gegenereerd worden, wat de waargenomen latentie voor lange outputs vermindert. Stel stream: true in je request parameters om Server-Sent Events te activeren. Het volgende voorbeeld toont hoe je de stream in chunks kunt verbruiken.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Elk chunk bevat gedeeltelijke gegevens. Het laatste chunk bevat de totale tokengebruikstatistieken. Deze methode is ideaal voor realtime gebruikersinterfaces.

Limieten, fouten en context

Blijf uw aanvraagsnelheid bewaken en verwerk fouten soepel om een stabiele applicatie te behouden. Onze API hanteert een limiet van 300 aanvragen per minuut per sleutel. U ontvangt een 401 fout als je sleutel ongeldig is, een 402 fout als je vooruitbetaalde tegoed op is, en een 429 fout als je de limiet voor verzoeken per minuut overschrijdt. Elk verzoek ondersteunt een contextvenster van 100.000 tokens. Zorg dat je prompt plus voltooiing binnen deze limiet blijft om inkapping te voorkomen.