API dokumentáció

Hitelesítés és Base URL

Kezdje a kliens konfigurációjának frissítését egyedi API-kulcsával és specifikus bázis URL-jével. Nem kell módosítania a kód logikáját, csak a kapcsolati karakterláncot. A végpont a https://api.gatewayllm.cc/v1 és igényli a Authorization: Bearer <key> header. Ez a beállítás bármely szabványos OpenAI-kompatibilis SDK-val működik, amelyet már telepítettél.

Első kérés

Küldjön egy szabványos chat completion kérést a kapcsolat ellenőrzéséhez és azonnali válasz kapásához. Használja a modell azonosítót uncensored specifikus nagy nyelvi modellünkhöz. Az alábbi példa egy egyszerű szöveges interakciót mutat be a cURL parancssori eszköz segítségével.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

A válaszod JSON formátumban érkezik, tartalmazva a generált szöveget. Ha érvényes választ kapsz, az integrációd helyesen működik.

Python SDK Integráció

Használja a hivatalos OpenAI Python könyvtárat az endpointunkhoz való kapcsolódáshoz az alap URL felülírásával. Ez lehetővé teszi, hogy megtartsa meglévő Python kódstruktúráját miközben az alapvető szolgáltatót váltja. Az alábbi kódrészlet azt mutatja be, hogyan inicializálja a klienst és küldjön üzenetet.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

A könyvtár automatikusan kezeli a szerializációt és deszerializációt. Most már használhatod a szabványos módszereket, mint például chat.completions.create a hátrendszerünkkel.

Node.js SDK beállítása

Inicializálja az OpenAI Node.js csomagot a kulcsával és a bázis URL-ünkkel a tartalomgenerálás megkezdéséhez. Ez a megközelítés biztosítja a kompatibilitást a meglévő Node alkalmazásokkal anélkül, hogy jelentős átalakításra lenne szükség. Az alábbi kód bemutatja az inicializálási folyamatot.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Hívja meg a completion metódust a kívánt modellazonosítóval. A válasz objektum a generált szöveget a content mező.

Streaming és SSE

Streamelés engedélyezése a tokenek generálása közbeni fogadásához, csökkentve a felfogott késleltetést a hosszú kimeneteknél. Állítsa be stream: true a kérés paramétereiben a Server-Sent Events aktiválásához. A következő példa azt mutatja be, hogyan fogyasztható a stream darabokban.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Minden chunk részleges adatot tartalmaz. A végső chunk tartalmazza a teljes tokenfelhasználási statisztikákat. Ez a módszer ideális a valós idejű felhasználói felületekhez.

Korlátok, hibák és kontextus

Kövesse a kérelem sebességét, és kezelje a hibákat gracefully, hogy stabil alkalmazást tartson fenn. Az APInk percenkénti 300 kérelem korlátot alkalmaz kulcsonként. A következőt kapja: 401 hiba, ha a kulcs érvénytelen, egy 402 hiba, ha a előre fizetett hitelkeret kimerült, és egy 429 hiba, ha túllépi a sebességkorlátot. Minden kérés 100 000 tokenes kontextusablakot támogat. Győződjön meg arról, hogy a prompt és a kiegészítés együttesen nem haladja meg ezt a határt a levágás elkerülése érdekében.