Dokumentasi API

Pengesahan dan URL Asas

Mula dengan mengemas kini konfigurasi klien anda dengan kunci API unik anda dan URL asas khusus kami. Anda tidak perlu mengubah logik kod anda, hanya rentetan sambungan. Hujung sambungan adalah https://api.gatewayllm.cc/v1 dan memerlukan Authorization: Bearer <key> header. Tetapan ini berfungsi dengan mana-mana SDK serasi OpenAI standard yang sudah anda pasang.

Permintaan Pertama

Hantar permintaan penyelesaian semakan piawai untuk mengesahkan sambungan anda dan menerima respons serta-merta. Gunakan pengenal pasti model uncensored untuk mengakses model bahasa besar khusus kami. Contoh berikut menunjukkan interaksi teks mudah menggunakan alat baris perintah cURL.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

Respons anda akan tiba sebagai JSON mengandungi teks yang dijana. Jika anda menerima respons yang sah, integrasi anda berfungsi dengan betul.

Integrasi SDK Python

Gunakan pustaka Python rasmi OpenAI untuk berinteraksi dengan hujung sambungan kami dengan menimpa URL asas. Ini membolehkan anda mengekalkan struktur kod Python sedia ada sambil menukar penyedia asas. Petikan kod berikut menunjukkan cara menginisialisasi klien dan menghantar mesej.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pustaka mengendalikan serialisasi dan deserialisasi secara automatik. Anda kini boleh menggunakan kaedah piawai seperti chat.completions.create dengan backend kami.

Persediaan SDK Node.js

Mulakan pakej Node.js OpenAI dengan kunci anda dan URL asas kami untuk mula menjana kandungan. Pendekatan ini memastikan keserasian dengan aplikasi Node sedia ada tanpa memerlukan pembaharuan besar. Kod berikut menunjukkan proses inisialisasi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Panggil kaedah completion dengan ID model pilihan anda. Objek respons akan mengandungi teks yang dijana dalam content bidang.

Streaming dan SSE

Dayakan penstriman untuk menerima token sejurus ia dijana, mengurangkan latensi yang dirasakan untuk output panjang. Tetapkan stream: true dalam parameter permintaan anda untuk mengaktifkan Server-Sent Events. Contoh berikut menunjukkan cara mengonsumsi aliran dalam blok.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Setiap chunk mengandungi data separa. Chunk akhir termasuk statistik penggunaan token keseluruhan. Kaedah ini sangat sesuai untuk antara muka pengguna masa nyata.

Had, Ralat, dan Konteks

Pantau kadar permintaan dan tangani ralat dengan baik untuk mengekalkan aplikasi yang stabil. API kami mengenakan had 300 permintaan setiap minit setiap kunci. Anda akan menerima 401 kesilapan jika kunci anda tidak sah, a 402 kesilapan jika kredit prabayar anda telah habis, dan a 429 kesilapan jika anda melebihi had kadar. Setiap permintaan menyokong tetingkap konteks 100,000 token. Pastikan prompt anda ditambah dengan penyelesaian kekal dalam had ini untuk mengelakkan pemotongan.