Documentação da API

Autenticação e URL Base

Comece atualizando a configuração do seu cliente com sua chave de API exclusiva e nossa URL base específica. Você não precisa alterar a lógica do seu código, apenas a string de conexão. O endpoint é https://api.gatewayllm.cc/v1 e requer o Authorization: Bearer <key> cabeçalho. Esta configuração funciona com qualquer SDK compatível com OpenAI padrão que você já tenha instalado.

Primeira solicitação

Envie uma solicitação padrão de conclusão de chat para verificar sua conexão e receber uma resposta imediata. Use o ID do modelo uncensored para acessar nosso modelo de linguagem grande específico. O exemplo a seguir demonstra uma interação de texto simples usando a ferramenta de linha de comando cURL.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

Sua resposta chegará como JSON contendo o texto gerado. Se você receber uma resposta válida, sua integração está funcionando corretamente.

Integração do SDK Python

Use a biblioteca oficial da OpenAI para Python para interagir com nosso endpoint substituindo a URL base. Isso permite que você mantenha a estrutura de código Python existente enquanto alterna o provedor subjacente. O snippet a seguir mostra como inicializar o cliente e enviar uma mensagem.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

A biblioteca lida com serialização e desserialização automaticamente. Agora você pode usar métodos padrão como chat.completions.create com nosso backend.

Configuração do SDK Node.js

Inicialize o pacote Node.js OpenAI com sua chave e nossa URL base para começar a gerar conteúdo. Esta abordagem garante compatibilidade com aplicações Node existentes sem exigir refatoração significativa. O código a seguir demonstra o processo de inicialização.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Chame o método de conclusão com o ID do modelo desejado. O objeto de resposta conterá o texto gerado no content campo.

Streaming e SSE

Ative o streaming para receber tokens conforme são gerados, reduzindo a latência percebida para saídas longas. Defina stream: true nos parâmetros da sua solicitação para ativar Eventos Enviados pelo Servidor. O exemplo a seguir mostra como consumir o fluxo em chunks.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Cada chunk contém dados parciais. O último chunk inclui as estatísticas completas de uso de tokens. Esse método é ideal para interfaces de usuário em tempo real.

Limites, Erros e Contexto

Monitore a taxa de suas requisições e trate os erros de forma graciosa para manter uma aplicação estável. Nossa API impõe um limite de 300 requisições por minuto por chave. Você receberá um 401 erro se sua chave for inválida, a 402 erro se seu crédito pré-pago for esgotado, e um 429 erro se você exceder o limite de taxa. Cada solicitação suporta uma janela de contexto de 100.000 tokens. Certifique-se de que seu prompt mais a conclusão permaneça dentro desse limite para evitar truncamento.