API Dokümantasyonu

Kimlik Doğrulama ve Temel URL

Benzersiz API anahtarınızı ve özel temel URL'mizi (base URL) istemci yapılandırmanıza ekleyerek başlayın. Kod mantığınızı değiştirmenize gerek yoktur, yalnızca bağlantı dizesini değiştirmeniz yeterlidir. Uç nokta https://api.gatewayllm.cc/v1 ve şunu gerektirir: Authorization: Bearer <key> header. Bu yapılandırma zaten kurulu olan herhangi bir standart OpenAI-uyumlu SDK ile çalışır.

İlk İstek

Bağlantınızı doğrulamak ve anında bir yanıt almak için standart bir sohbet tamamlama isteği gönderin. Model kimliğini uncensored özgün büyük dil modelimize erişim. Aşağıdaki örnek, cURL komut satırı aracını kullanarak basit bir metin etkileşimini göstermektedir.

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

Yanıtınız oluşturulan metni içeren JSON olarak gelecektir. Geçerli bir yanıt alırsanız, entegrasyonunuz doğru çalışıyor demektir.

Python SDK Entegrasyonu

Resmi OpenAI Python kütüphanesini base URL'yi geçersiz kilarak endpoint'imizle etkileşim kurmak için kullanın. Bu sayede mevcut Python kod yapınızı korurken altta yatan sağlayıcıyı değiştirebilirsiniz. Aşağıdaki kod parçası istemcinin nasıl başlatılacağını ve mesajın nasıl gönderileceğini gösterir.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kütüphane otomatik olarak serileştirme ve serileştirme dışı işlemleri yönetir. Artık standart yöntemleri kullanabilirsiniz chat.completions.create altyapımızla.

Node.js SDK Kurulumu

İçerik üretmeye başlamak için anahtarınız ve temel URL'nizle OpenAI Node.js paketini başlatın. Bu yaklaşım, büyük bir yeniden yapılandırma gerektirmeden mevcut Node uygulamalarıyla uyumluluğu sağlar. Aşağıdaki kod, başlatma sürecini göstermektedir.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

İstediğiniz model kimliğiyle completion metodunu çağırın. Yanıt nesnesi, oluşturulan metni şurada içerecektir content alanı.

Streaming ve SSE

Uzun çıktılar için algılanan gecikmeyi azaltmak amacıyla oluşturulurken tokenlar almak için akış özelliğini etkinleştirin. stream stream: true Sunucu Tarafından Gönderilen Etkinlikleri etkinleştirmek için istek parametrelerinizde. Aşağıdaki örnek, akışın parçalar halinde nasıl tüketileceğini gösterir.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Her parça kısmi veri içerir. Son parça toplam token kullanım istatistiklerini içerir. Bu yöntem gerçek zamanlı kullanıcı arayüzleri için idealdir.

Limitler, Hatalar ve Bağlam

İstek hızını izleyin ve kararlı bir uygulama sürdürmek için hataları zarifçe yönetin. API'miz anahtar başına dakikada 300 istek için bir sınır uygular. Size bir 401 anahtarınız geçersizse hata döndürür, bir 402 ön ödemeli bakiyeniz tükendiğinde hata döndürür ve bir 429 hız sınırı aşıldığında hata döndürür. Her istek 100.000 token'lık bir bağlam penceresini destekler. Kesilmeyi önlemek için prompt'unuz ile tamamlama metninizin toplamının bu sınıra uygun olduğundan emin olun.