Dokumentasi API

Autentikasi dan URL Dasar

Mulai dengan memperbarui konfigurasi klien Anda dengan kunci API unik Anda dan URL dasar khusus kami. Anda tidak perlu mengubah logika kode Anda, hanya string koneksi. Endpointnya adalah https://api.gatewayllm.cc/v1 dan memerlukan Authorization: Bearer <key> header. Konfigurasi ini kompatibel dengan SDK OpenAI standar apa pun yang sudah terpasang di sistem Anda.

Permintaan Pertama

Kirim permintaan penyelesaian chat standar untuk memverifikasi koneksi Anda dan menerima respons segera. Gunakan ID model uncensored untuk mengakses model bahasa besar spesifik kami. Contoh berikut menunjukkan interaksi teks sederhana menggunakan alat baris perintah cURL.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

Respons Anda akan tiba sebagai JSON yang berisi teks yang dihasilkan. Jika Anda menerima respons yang valid, integrasi Anda berfungsi dengan benar.

Integrasi SDK Python

Gunakan pustaka Python resmi OpenAI untuk berinteraksi dengan endpoint kami dengan menimpa URL dasar. Ini memungkinkan Anda mempertahankan struktur kode Python yang ada sambil mengganti penyedia layanan di balik layar. Cuplikan kode berikut menunjukkan cara menginisialisasi klien dan mengirim pesan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pustaka menangani serialisasi dan deserialisasi secara otomatis. Anda sekarang dapat menggunakan metode standar seperti chat.completions.create dengan backend kami.

Pengaturan SDK Node.js

Inisialisasi paket Node.js OpenAI dengan kunci Anda dan URL dasar kami untuk mulai menghasilkan konten. Pendekatan ini memastikan kompatibilitas dengan aplikasi Node yang ada tanpa memerlukan refaktor besar. Kode berikut mendemonstrasikan proses inisialisasi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Panggil metode completion dengan ID model yang Anda inginkan. Objek respons akan berisi teks yang dihasilkan di content bidang.

Streaming dan SSE

Aktifkan streaming untuk menerima token saat token tersebut dihasilkan, sehingga mengurangi latensi yang dirasakan untuk output panjang. Tetapkan stream: true dalam parameter permintaan Anda untuk mengaktifkan Server-Sent Events. Contoh berikut menunjukkan cara mengonsumsi aliran dalam chunk.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Setiap chunk berisi data parsial. Chunk terakhir mencakup statistik penggunaan token total. Metode ini sangat ideal untuk antarmuka pengguna real-time.

Batas, Error, dan Konteks

Pantau laju permintaan dan tangani error dengan baik untuk menjaga stabilitas aplikasi. API kami memberlakukan batas 300 permintaan per menit per kunci. Anda akan menerima 401 error jika kunci Anda tidak valid, a 402 error jika kredit prabayar Anda telah habis, dan a 429 error jika Anda melebihi batas laju. Setiap permintaan mendukung jendela konteks 100.000 token. Pastikan prompt Anda ditambah hasil tetap dalam batas ini untuk menghindari pemotongan.