Documentación de la API

Autenticación y URL base

Empiece actualizando la configuración de su cliente con su clave API única y nuestra URL base específica. No necesita cambiar la lógica de su código, solo la cadena de conexión. El punto de conexión es https://api.gatewayllm.cc/v1 y requiere el Authorization: Bearer <key> header. Esta configuración funciona con cualquier SDK compatible con OpenAI estándar que ya tengas instalado.

Primera solicitud

Envía una solicitud estándar de finalización de chat para verificar tu conexión y recibir una respuesta inmediata. Utiliza el ID del modelo uncensored acceder a nuestro modelo de lenguaje grande específico. El siguiente ejemplo demuestra una interacción de texto simple usando la herramienta de línea de comandos cURL.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

Tu respuesta llegará en formato JSON que contiene el texto generado. Si recibes una respuesta válida, tu integración está funcionando correctamente.

Integración del SDK de Python

Utiliza la biblioteca oficial de Python de OpenAI para interactuar con nuestro endpoint sobrescribiendo la URL base. Esto te permite mantener la estructura de tu código Python existente mientras cambias el proveedor subyacente. El siguiente fragmento muestra cómo inicializar el cliente y enviar un mensaje.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

La biblioteca maneja la serialización y deserialización automáticamente. Ahora puedes usar métodos estándar como chat.completions.create con nuestro backend.

Configuración del SDK de Node.js

Inicializa el paquete de Node.js de OpenAI con tu clave y nuestra URL base para comenzar a generar contenido. Este enfoque asegura la compatibilidad con las aplicaciones Node existentes sin requerir una refactorización importante. El siguiente código demuestra el proceso de inicialización.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Llama al método de finalización con tu ID de modelo deseado. El objeto de respuesta contendrá el texto generado en el content campo.

Streaming y SSE

Habilita el streaming para recibir tokens a medida que se generan, reduciendo la latencia percibida para salidas largas. Establece stream: true en tus parámetros de solicitud para activar Eventos Enviados por el Servidor. El siguiente ejemplo muestra cómo consumir el flujo en fragmentos.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Cada fragmento contiene datos parciales. El fragmento final incluye las estadísticas de uso total de tokens. Este método es ideal para interfaces de usuario en tiempo real.

Límites, Errores y Contexto

Monitora la tasa de tus solicitudes y maneja los errores de manera elegante para mantener una aplicación estable. Nuestra API aplica un límite de 300 solicitudes por minuto por clave. Recibirás un 401 error si tu clave es inválida, un 402 error si tu crédito prepagado se agota, y un 429 error si excedes el límite de frecuencia. Cada solicitud admite una ventana de contexto de 100.000 tokens. Asegúrate de que tu prompt más la completación se mantengan dentro de este límite para evitar truncamientos.