API दस्तावेज़ीकरण

प्रमाणीकरण और बेस यूआरएल

अपने क्लाइंट कॉन्फ़िगरेशन को अपनी विशिष्ट API कुंजी और हमारे विशिष्ट बेस URL के साथ अपडेट करके शुरू करें। आपको अपने कोड लॉजिक को बदलने की आवश्यकता नहीं है, केवल कनेक्शन स्ट्रिंग। एंडपॉइंट है https://api.gatewayllm.cc/v1 और इसकी आवश्यकता है Authorization: Bearer <key> हेडर। यह सेटअप किसी मानक OpenAI-कम्पैटिबल SDK के साथ काम करता है जिसे आपने पहले से इंस्टॉल किया है।

पहला अनुरोध

अपने कनेक्शन की पुष्टि करें और तुरंत प्रतिक्रिया प्राप्त करें। Use the model ID uncensored हमारे विशिष्ट बड़े भाषा मॉडल तक पहुंचने के लिए। निम्नलिखित उदाहरण cURL कमांड-लाइन टूल का उपयोग करके एक सरल टेक्स्ट इंटरैक्शन दिखाता है।

Copycurl https://api.gatewayllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server health status"}]
  }'

आपकी प्रतिक्रिया JSON के रूप में आएगी जिसमें उत्पन्न पाठ होता है। यदि आपको एक मान्य प्रतिक्रिया मिलती है, तो आपकी इंटीग्रेशन सही ढंग से काम कर रही है।

Python SDK इंटीग्रेशन

आधिकारिक OpenAI Python लाइब्रेरी का उपयोग करके हमारे एंडपॉइंट के साथ इंटरैक्ट करें, बेस URL को ओवरराइड करके। इससे आप मौजूदा Python कोड संरचना बनाए रख सकते हैं जबकि अंडरलाइंग प्रदाता बदल सकते हैं। निम्नलिखित स्निपेट क्लाइंट को इनिशियलाइज़ करने और संदेश भेजने का तरीका दिखाता है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

लाइब्रेरी स्वचालित रूप से सीरियलाइज़ेशन और डीसीरियलाइज़ेशन संभालती है। आप अब मानक विधियों का उपयोग कर सकते हैं जैसे chat.completions.create हमारे बैकएंड के साथ।

Node.js SDK सेटअप

अपनी कुंजी और हमारे बेस URL के साथ OpenAI Node.js पैकेज को इनिशियलाइज़ करें ताकि सामग्री जनरेट करना शुरू कर सकें। यह दृष्टिकोण मौजूदा Node अनुप्रयोगों के साथ संगतता सुनिश्चित करता है, बिना बड़े रीफैक्टoring की आवश्यकता के। निम्नलिखित कोड इनिशियलाइज़ेशन प्रक्रिया को दर्शाता है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

कंप्लीशंस विधि को अपनी वांछित मॉडल आईडी के साथ कॉल करें। रिस्पॉन्स ऑब्जेक्ट जनरेटेड टेक्स्ट को content फ़ील्ड।

स्ट्रीमिंग और SSE

स्ट्रीमिंग को सक्षम करें ताकि टोकन जनरेट होते ही प्राप्त हों, जिससे लंबे आउटपुट के लिए अनुभवजन्य विलंबता कम हो। stream पैरामीटर को stream: true सर्वर-संदेशित इवेंट्स को सक्रिय करने के लिए अपने अनुरोध पैरामीटर में। निम्नलिखित उदाहरण दिखाता है कि स्ट्रीम को चंक में कैसे कन्ज़्यूम करें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

प्रत्येक चंक आंशिक डेटा रखता है। अंतिम चंक में कुल टोकन उपयोग आंकड़े शामिल होते हैं। यह विधि वास्तविक-समय इंटरफ़ेस के लिए आदर्श है।

सीमाएं, त्रुटियां, और संदर्भ

अपने अनुरोध दर की निगरानी करें और स्थिर एप्लिकेशन बनाए रखने के लिए त्रुटियों को सहजता से संभालें। हमारी API प्रति कुंजी प्रति मिनट 300 अनुरोध की सीमा लागू करती है। आपको एक 401 त्रुटि यदि आपकी कुंजी अमान्य है, एक 402 त्रुटि यदि आपकी पूर्व-भुगतान वाली क्रेडिट समाप्त हो गई है, और एक 429 दर सीमा से अधिक होने पर त्रुटि। प्रत्येक अनुरोध 100,000 टोकन के संदर्भ विंडो का समर्थन करता है। कटौती से बचने के लिए सुनिश्चित करें कि आपका प्रॉम्प्ट और पूर्णता इस सीमा के भीतर रहे।