API 文件

身份驗證與基礎 URL

首先使用您的唯一 API 金鑰和我們特定的基礎 URL 更新您的客戶端配置。您無需更改代碼邏輯，只需更改連接字符串。端點是 https://api.gatewayllm.cc/v1 並需要 Authorization: Bearer <key> 標頭。此設定與您已安裝的任何標準 OpenAI 相容 SDK 搭配使用。

首次請求

發送標準的聊天完成請求以驗證您的連線並獲得即時回應。請使用模型 ID uncensored 存取我們特定的大型語言模型。以下範例展示了如何使用 cURL 命令列工具進行簡單的文本互動。

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

您的回應將以包含生成文本的 JSON 格式返回。如果您收到有效回應，表示您的整合運作正常。

Python SDK 集成

透過覆寫 base URL，使用官方 OpenAI Python 函式庫與我們的端點互動。這讓您在切換底層供應商時，能保留現有的 Python 程式碼結構。以下程式碼片段顯示如何初始化客戶端並傳送訊息。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

程式庫會自動處理序列化與反序列化。您現在可以使用標準方法，例如 chat.completions.create 使用我們的後端。

Node.js SDK 設置

使用您的金鑰與我們的基礎 URL 初始化 OpenAI Node.js 套件以開始生成內容。此方法確保與現有 Node 應用程式相容，無需進行重大重構。以下程式碼展示了初始化過程。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

呼叫補全方法並傳入您想要的模型 ID。回應物件將在 content 欄位。

串流與 SSE

啟用串流以隨著生成接收 Token，降低長輸出的感知延遲。將 stream: true 在您的請求參數中以啟用伺服器發送事件。以下範例展示如何以區塊方式處理串流。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

每個區塊包含部分數據。最終區塊包含總令牌使用統計數據。此方法非常適合即時使用者介面。

限制、錯誤與上下文

監控您的請求速率並優雅地處理錯誤，以維持應用程式的穩定性。我們的 API 對每個金鑰實施每分鐘 300 次請求的限制。您將收到 401 若您的金鑰無效，則返回錯誤， 402 若您的預付信用額度已耗盡，則返回錯誤，以及 429 若超出速率限制則會返回錯誤。每個請求支援 100,000 個 token 的上下文視窗。請確保您的提示詞加上補全內容的總量在此限制內，以避免截斷。