fa ▾
همین حالا شروع کنید

دروازه LLM متن‌باز: افسانه‌ها در برابر واقعیت‌ها

یک LLM gateway open source تنها راه دسترسی شفاف به AI نیست. می‌توانید ارائه‌دهندگان را با تغییر یک URL پایه بلافاصله عوض کنید. کد موجود خود را حفظ کنید. فقط برای آنچه استفاده می‌کنید پرداخت کنید.

به‌روزرسانی‌شده

نکات کلیدی

  1. سازگاری Drop-in به شما اجازه می‌دهد URLهای پایه را بدون لمس منطق برنامه خود تغییر دهید.
  2. اعتبارهای کریپتو پیش‌پرداخت هرگز منقضی نمی‌شوند، بنابراین موجودی شما برای همیشه متعلق به شماست.
  3. این مدل آزادانه به موضوعات بزرگسالان، سیاسی و خلاق پاسخ می‌دهد بدون رد شدن‌های پنهان.
  4. استریم، حالت JSON و فراخوانی تابع دقیقاً مانند SDK استاندارد OpenAI عمل می‌کنند.

افسانه: به یک روتر پیچیده نیاز دارید

شما برای استفاده موثر از یک دروازه LLM متن‌باز نیازی به لایه مسیریابی سنگین ندارید. بسیاری از سازندگان فرض می‌کنند که باید بلافاصله تعادل بار را بین چندین نقطه پایانی مدیریت کنند. این رویکرد باعث افزایش تأخیر و سربار پیکربندی می‌شود. یک پروکسی ساده برای بیشتر برنامه‌ها بهترین عملکرد را دارد. شما SDK خود را به یک URL پایه اشاره می‌دهید. دروازه بقیه کار را انجام می‌دهد.

در نظر بگیرید که چگونه OpenRouter یا LiteLLM ترافیک را مدیریت می‌کنند. آن‌ها درخواست‌ها را بر اساس قوانین به ارائه‌دهندگان مختلف هدایت می‌کنند. آن پیچیدگی برای پیکربندی‌های چندمدلی مفید است. اما اگر فقط به یک مدل قابل اعتماد نیاز دارید، یک اتصال مستقیم سریع‌تر است. ما یک نقطه پایانی واحد ارائه می‌دهیم. شما عملکرد ثابتی دریافت می‌کنید بدون اینکه نیاز به مدیریت ناوگان ارائه‌دهندگان بالادستی داشته باشید.

با یک اتصال مستقیم شروع کنید. فقط زمانی که به افزونگی نیاز دارید به یک روتر مقیاس دهید. API ما از جریان‌دهی از طریق SSE پشتیبانی می‌کند. می‌توانید به‌روزرسانی‌های توکن‌به‌توکن را با حداقل تغییرات کد پیاده‌سازی کنید. این رویکرد معماری شما را تمیز نگه می‌دارد. از بار شناختی نگهداری یک جدول مسیریابی پیچیده اجتناب می‌کنید.

افسانه: بدون سانسور به معنای کیفیت پایین‌تر است

مدل‌های بدون سانسور متنی با کیفیت بالا دقیقاً مانند همتایان سانسور شده خود تحویل می‌دهند. تفاوت در منطق رد (refusal) است، نه در هوش. یک مدل سانسور شده ممکن است از بحث در مورد یک موضوع جنجالی خودداری کند. یک مدل بدون سانسور مستقیماً به آن پاسخ می‌دهد. این موضوع برای نویسندگی خلاق، نقش‌آفرینی و تحقیقات اهمیت دارد.

مدل ما با وزن باز است و برای آزادی تنظیم شده است. فیلترهای ایمنی عمومی را اعمال نمی‌کند. خروجی‌های خام را دریافت می‌کنید. پنجره زمینه 100,000 توکن است. این اجازه تحلیل عمیق و تولید متن طولانی را می‌دهد. محدودیت خروجی 16,000 توکن در هر درخواست است. می‌توانید پارامتر max_tokens را برای کنترل طول تنظیم کنید.

کیفیت به معماری زیرین بستگی دارد. ما سرورهای خود را اجرا می‌کنیم. مدل GPT، Claude یا Gemini نیست. یک مدل متمایز است که برای استفاده بدون محدودیت تنظیم شده است. می‌توانید آن را با یک آزمایش $0.50 تست کنید. تفاوت را خودتان ببینید. آزمایش هفت روز طول می‌کشد. این به شما اجازه می‌دهد کیفیت را قبل از تعهد بررسی کنید.

افسانه: باید اشتراک‌های ماهانه پرداخت کنید

هزینه‌های ماهانه برای دسترسی به هوش مصنوعی اجباری نیستند. شما می‌توانید دقیقاً به ازای آنچه استفاده می‌کنید پرداخت کنید. قیمت‌گذاری ما ساده است. توکن‌های ورودی میلیون‌ها $0.15 هزینه دارند. توکن‌های خروجی میلیون‌ها $0.50 هزینه دارند. خطاها رایگان هستند. رد شدن‌ها رایگان هستند. شما برای درخواست‌های هدر رفته پرداخت نمی‌کنید.

فروشندگان سنتی اغلب اشتراک‌های ماهانه دریافت می‌کنند. این هزینه‌ها می‌توانند به سرعت افزایش یابند. شما ممکن است برای دسترسی که استفاده نمی‌کنید پرداخت کنید. با اعتبار پیش‌پرداخت، شما هزینه خود را کنترل می‌کنید. اعتبار هرگز منقضی نمی‌شود. هر زمان که بخواهید می‌توانید شارژ کنید. مهلت ماهانه وجود ندارد. موجودی شما آنجا می‌ماند تا زمانی که به آن نیاز داشته باشید.

پرداخت‌ها فقط با ارز دیجیتال است. می‌توانید از USDT روی TRC20 یا USDC روی Base استفاده کنید. حداقل شارژ $20 است. حداکثر $500 است. برای واریزهای بزرگ‌تر اعتبار هدیه دریافت می‌کنید. $50، 5٪ اضافه دریافت می‌کند. $100، 10٪ اضافه دریافت می‌کند. $200، 15٪ اضافه دریافت می‌کند. این مدل از کاربران سنگین حمایت می‌کند. اعتبار خود را برای همیشه نگه می‌دارید. تعهد سالانه‌ای وجود ندارد. تمدیدهای غیرمنتظره‌ای وجود ندارد.

افسانه: حریم خصوصی با یک دروازه غیرممکن است

حریم خصوصی زمانی حفظ می‌شود که شما جریان داده‌ها را کنترل کنید. یک دروازه (gateway) لزوماً باید پرامپت‌های شما را برای همیشه لاگ نکند. مدل ما از داده‌های شما برای آموزش استفاده نمی‌کند. پرامپت‌های شما خصوصی باقی می‌مانند. ورودی متعلق به شماست. خروجی متعلق به شماست.

بسیاری از ارائه‌دهندگان از داده‌های شما برای بهبود مدل‌های خود استفاده می‌کنند. این یک مبادله رایج برای لایه‌های رایگان است. با یک دروازه پرداختی، می‌توانید حریم خصوصی سخت‌گیرانه‌تری را درخواست کنید. ما بر اساس مکالمات شما آموزش نمی‌دهیم. این برای استفاده سازمانی حیاتی است. همچنین برای توسعه‌دهندگان فردی مهم است. شما می‌خواهید ایده‌های خود متعلق به خودتان باقی بماند.

ایجاد حساب فقط به یک آدرس ایمیل نیاز دارد. نیازی به شماره تلفن نیست. شما بلافاصله به یک کلید API دسترسی پیدا می‌کنید. کلید یک بار نمایش داده می‌شود. آن را به طور ایمن ذخیره کنید. از آن در SDK خود استفاده کنید. اتصال استاندارد است. می‌توانید درخواست‌های خود را رمزگذاری کنید. دروازه آن‌ها را پردازش کرده و نتیجه را برمی‌گرداند. داده‌های شما باقی نمی‌مانند. شما کنترل کاملی بر تاریخچه استفاده خود دارید.

افسانه: فقط برای NSFW است

مدل‌های بدون سانسور فقط برای محتوای بزرگسالان نیستند. آن‌ها برای هر موضوعی هستند که ممکن است یک فیلتر را فعال کند. اظهارنظرهای سیاسی، مشاوره پزشکی، تحلیل حقوقی و داستان‌های خلاق اغلب با محدودیت‌ها مواجه می‌شوند. یک مدل بدون سانسور این موانع را برمی‌دارد. شما پاسخ کامل را دریافت می‌کنید.

یک توسعه‌دهنده را در نظر بگیرید که یک چت‌بات را آزمایش می‌کند. او ممکن است بخواهد موارد مرزی را کاوش کند. مدل‌های سانسور شده ممکن است از پاسخ دادن به یک سوال عجیب خودداری کنند. یک مدل بدون سانسور به آن پاسخ می‌دهد. این برای اشکال‌زدایی مفید است. همچنین برای نویسندگی خلاق مفید است. می‌توانید محتوای متنوع تولید کنید بدون اینکه با مدل بجنگید.

مدل ما استفاده بزرگسالان قانونی را مجاز می‌داند. محتوای جنسی شامل کودکان را مجاز نمی‌داند. این یک محدودیت سخت است. بقیه موارد بازی است. شما می‌توانید از آن برای کسب‌وکار، آموزش یا سرگرمی استفاده کنید. انعطاف‌پذیری کلید اصلی است. شما مجبور نیستید حدس بزنید چه چیزی مسدود خواهد شد. فقط پرامپت را ارسال می‌کنید. مدل پاسخ می‌دهد. این قابلیت اطمینان برای هر برنامه‌ای ارزشمند است.

افسانه: باید زیرساخت را مدیریت کنید

شما نیازی به مدیریت سرورها یا GPUها ندارید. API برای شما میزبانی می‌شود. شما بر روی برنامه خود تمرکز می‌کنید. ما زیرساخت را مدیریت می‌کنیم. این مزیت یک دروازه مدیریت شده است. شما سرعت میزبانی خود را با آسانی یک سرویس ابری دریافت می‌کنید.

میزبانی مستقل نیازمند مهارت‌های DevOps است. شما باید مقیاس‌پذیری را مدیریت کنید. باید به‌روزرسانی‌ها را انجام دهید. باید تأخیر را پایش کنید. یک API مدیریت‌شده این بارها را برمی‌دارد. ما بار را مدیریت می‌کنیم. ما مقیاس‌پذیری را مدیریت می‌کنیم. شما فقط درخواست می‌فرستید.

API ما از ۳۰۰ درخواست در دقیقه به ازای هر کلید پشتیبانی می‌کند. می‌توانید ۸ درخواست را به طور همزمان اجرا کنید. محدودیت حجم بدنه درخواست ۸ مگابایت است. این مقدار برای بیشتر برنامه‌ها کافی است. اگر به بیشتر نیاز دارید، می‌توانید استفاده از کلید خود را مقیاس‌بندی کنید. زیرساخت قوی است. نیازی به نگرانی درباره زمان توقف ندارید. ما کارهای سنگین را انجام می‌دهیم. شما یک نقطه پایدار دریافت می‌کنید. این به شما اجازه می‌دهد بر ساخت محصول خود تمرکز کنید. مدیریت سرورها.

افسانه: قیمت‌گذاری شفاف نیست

قیمت‌گذاری شفاف و قابل پیش‌بینی است. شما بابت توکن پرداخت می‌کنید. هزینه پنهانی وجود ندارد. نرخ‌ها ۰.۱۵ دلار به ازای هر میلیون توکن ورودی و ۰.۵۰ دلار به ازای هر میلیون توکن خروجی است. این واضح است. شما دقیقاً می‌دانید چه پرداخت می‌کنید.

بسیاری از فروشندگان دارای سطوح پیچیده قیمت‌گذاری هستند. آن‌ها بابت ویژگی‌ها هزینه دریافت می‌کنند. آن‌ها بایت پهنای باند هزینه دریافت می‌کنند. ما فقط بابت توکن‌ها هزینه دریافت می‌کنیم. خطاها رایگان هستند. رد شدن‌ها رایگان هستند. شما بابت درخواست‌های بد پرداخت نمی‌کنید. این عادلانه است. شما بابت ارزش پرداخت می‌کنید. ارزش متنی است که تولید می‌شود.

اعتبار پیش‌پرداخت به این معنی است که بودجه خود را کنترل می‌کنید. هر زمان که بخواهید شارژ می‌کنید. به اندازه موجودی خود خرج می‌کنید. در پایان ماه صورت‌حساب غیرمنتظره‌ای وجود ندارد. اعتبار منقضی نمی‌شود. می‌توانید برای یک پروژه بزرگ پس‌اندز کنید. می‌توانید به آرامی خرج کنید. انعطاف‌پذیری با شماست. این مدل ساده است. درک آن آسان است. برنامه‌ریزی برای آن آسان است.

افسانه: متن‌باز تنها راه است

متن‌باز تنها راه اعتماد نیست. شما می‌توانید به یک مدل بسته اعتماد کنید اگر قیمت‌گذاری منصفانه باشد. شما می‌توانید به یک سرویس میزبانی اعتماد کنید اگر حریم خصوصی خوب باشد. متن‌باز شفافیت به شما می‌دهد. اما همچنین پیچیدگی ایجاد می‌کند. شما باید مدل را اجرا کنید. شما باید منابع را مدیریت کنید.

مدل ما با وزن باز است. این یعنی وزن‌ها در دسترس هستند. می‌توانید معماری را بررسی کنید. می‌توانید آن را به صورت محلی اجرا کنید اگر بخواهید. اما می‌توانید از API ما نیز استفاده کنید. این بهترین هر دو جهان را به شما می‌دهد. آزادی متن‌باز را دریافت می‌کنید. راحتی یک سرویس میزبانی شده را دریافت می‌کنید.

اعتماد بر پایه شفافیت ساخته می‌شود. ما قیمت‌گذاری خود را نشان می‌دهیم. ما محدودیت‌های خود را نشان می‌دهیم. ما ویژگی‌های خود را نشان می‌دهیم. شما نیازی ندارید حدس بزنید چه اتفاقی در حال رخ دادن است. API استاندارد است. نقاط پایانی مستند شده‌اند. رفتار قابل پیش‌بینی است. این برای اکثر توسعه‌دهندگان کافی است. نیازی نیست کد را فورک کنید. فقط از آن استفاده کنید.

سوالات متداول

آیا Gateway LLM یک دروازه LLM متن‌باز است؟

وزن‌های مدل وزن‌باز (open-weight) هستند. سرویس دروازه میزبانی می‌شود. نیازی نیست زیرساخت را خودتان اجرا کنید. اگر مایل باشید می‌توانید مدل را بررسی کنید. اما می‌توانید برای راحتی از API ما استفاده کنید. این به شما انعطاف‌پذیری می‌دهد. مزایای متن‌باز را بدون هزینه‌های عملیاتی دریافت می‌کنید. این یک رویکرد ترکیبی است.

قیمت‌گذاری LLM بدون سانسور چیست؟

توکن‌های ورودی به ازای هر میلیون ۰.۱۵ دلار هزینه دارند. توکن‌های خروجی به ازای هر میلیون ۰.۵۰ دلار هزینه دارند. خطاها و رد شدن درخواست‌ها رایگان هستند. شما فقط بابت آنچه استفاده می‌کنید پرداخت می‌کنید. هزینه اشتراک ماهانه‌ای وجود ندارد. اعتبار هرگز منقضی نمی‌شود. می‌توانید حساب خود را با ارز دیجیتال شارژ کنید. این مدل ساده و منصفانه است.

چه روش‌های پرداختی را می‌پذیرید؟

فقط کریپتو: USTR روی TRC20 یا USDC روی Base، هر مبلغ صحیحی بین $20 تا $500. اعتبار بونوس از $50 اعمال می‌شود.

آیا این یک دروازه API سازگار با openai است؟

بله. API از استاندارد OpenAI پیروی می‌کند. می‌توانید از SDK رسمی استفاده کنید. فقط URL پایه را تغییر می‌دهید. همچنین کلید API را تغییر می‌دهید. نقاط پایانی یکسان هستند. قالب پاسخ یکسان است. این انتقال را آسان می‌سازد. می‌توانید ارائه‌دهندگان را بدون بازنویسی کد خود تغییر دهید. این یک جایگزین مستقیم برای اکثر برنامه‌ها است.

کلید خود را در یک مرحله باز کنید

ثبت‌نام کنید، کلید را بردارید، و URL پایه را به‌روز کنید. همین است.

همین حالا شروع کنیدمشاهده مستندات