API 文档

认证和基础 URL

首先使用您的唯一 API 密钥和我们的特定基础 URL 更新客户端配置。您无需更改代码逻辑，只需更改连接字符串。端点是 https://api.gatewayllm.cc/v1 且需要 Authorization: Bearer <key> 头部。此设置兼容您已安装的任何标准 OpenAI 兼容 SDK。

首次请求

发送标准聊天补全请求以验证你的连接并立即获得响应。使用模型 ID uncensored 访问我们特定的大型语言模型。以下示例演示了如何使用 cURL 命令行工具进行简单的文本交互。

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

您的响应将以包含生成文本的 JSON 格式返回。如果您收到有效响应，则说明您的集成工作正常。

Python SDK 集成

通过覆盖 base URL 使用官方 OpenAI Python 库与我们的端点交互。这使您可以在保留现有 Python 代码结构的同时切换底层提供商。以下代码片段展示了如何初始化客户端并发送消息。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

该库自动处理序列化和反序列化。您现在可以使用标准方法，例如 chat.completions.create 连接到我们的后端。

Node.js SDK 设置

使用您的密钥和我们的基础 URL 初始化 OpenAI Node.js 包以开始生成内容。这种方法确保了与现有 Node 应用程序的兼容性，而无需进行重大重构。以下代码演示了初始化过程。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

调用补全方法并传入您想要的模型 ID。响应对象将在 content 字段。

流式传输与 SSE

启用流式传输以按生成顺序接收 Token，从而降低长输出的感知延迟。设置 stream: true 在请求参数中以激活服务器发送事件。以下示例展示了如何分块消费该流。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

每个块包含部分数据。最后一个块包含总令牌使用情况统计信息。此方法非常适合实时用户界面。

限制、错误和上下文

监控您的请求速率并优雅地处理错误以维持应用程序的稳定。我们的 API 强制执行每个密钥每分钟 300 次请求的限制。您将收到一个 401 如果密钥无效，返回错误， 402 如果预付费余额耗尽，返回错误，以及 429 超出速率限制时返回错误。每个请求支持 100,000 个 token 的上下文窗口。请确保您的提示词加上补全内容的总 token 数在此限制内，以避免截断。