Documentazione API

Autenticazione e Base URL

Inizia aggiornando la configurazione del tuo client con la tua chiave API univoca e il nostro URL di base specifico. Non hai bisogno di modificare la logica del tuo codice, solo la stringa di connessione. L'endpoint è https://api.gatewayllm.cc/v1 e richiede il Authorization: Bearer <key> header. Questa configurazione funziona con qualsiasi SDK compatibile con OpenAI standard che hai già installato.

Prima richiesta

Invia una richiesta standard di completamento chat per verificare la tua connessione e ricevere una risposta immediata. Utilizza l'ID del modello uncensored al nostro specifico modello linguistico di grandi dimensioni. L'esempio seguente dimostra un'interazione testuale semplice utilizzando lo strumento da riga di comando cURL.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

La tua risposta arriverà in formato JSON contenente il testo generato. Se ricevi una risposta valida, la tua integrazione funziona correttamente.

Integrazione SDK Python

Utilizza la libreria Python ufficiale di OpenAI per interagire con il nostro endpoint sovrascrivendo l'URL di base. Questo ti permette di mantenere la struttura del codice Python esistente mentre cambi il provider sottostante. Lo snippet seguente mostra come inizializzare il client e inviare un messaggio.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

La libreria gestisce automaticamente la serializzazione e la deserializzazione. Ora puoi utilizzare metodi standard come chat.completions.create con il nostro backend.

Setup SDK Node.js

Inizializza il pacchetto Node.js OpenAI con la tua chiave e il nostro URL di base per iniziare a generare contenuti. Questo approccio garantisce la compatibilità con le applicazioni Node esistenti senza richiedere una refactoring maggiore. Il codice seguente dimostra il processo di inizializzazione.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Chiama il metodo completion con il tuo ID modello desiderato. L'oggetto di risposta conterrà il testo generato nel content campo.

Streaming e SSE

Abilita lo streaming per ricevere i token man mano che vengono generati, riducendo la latenza percepita per gli output lunghi. Imposta stream: true nei parametri della richiesta per attivare gli Server-Sent Events. L'esempio seguente mostra come consumare il flusso a chunk.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ogni chunk contiene dati parziali. L'ultimo chunk include le statistiche complete sull'utilizzo dei token. Questo metodo è ideale per le interfacce utente in tempo reale.

Limiti, Errori e Contesto

Monitora il tasso delle tue richieste e gestisci gli errori in modo elegante per mantenere un'applicazione stabile. La nostra API impone un limite di 300 richieste al minuto per chiave. Riceverai un 401 errore se la tua chiave non è valida, un 402 errore se il tuo credito prepagato è esaurito, e un 429 errore se superi il limite di frequenza. Ogni richiesta supporta una finestra di contesto di 100.000 token. Assicurati che la tua prompt più il completamento rimangano entro questo limite per evitare la troncatura.