Architect Financial Technologies، شرکتی که صرافی AX perpetual futures را اداره می‌کند، سرویسی به نام Liquid Inference راه‌اندازی کرده که به‌جای مسیریابی ثابت، هر درخواست استنتاج مدل زبانی را در یک حراج لحظه‌ای بین ارائه‌دهندگان قرار می‌دهد. خریدار کمترین پیشنهادی را می‌پردازد که قواعدش را رعایت کند.

مکانیزم حراج#

جریان کار چهار مرحله دارد: کلاینت یک فراخوانی استاندارد OpenAI یا Anthropic API ارسال می‌کند؛ قواعد خریدار پیشنهادهای واجد شرایط را فیلتر می‌کند؛ ارائه‌دهندگانی که آن مدل را قیمت‌گذاری کرده‌اند رقابت می‌کنند و کمترین پیشنهاد برنده می‌شود؛ و در نهایت سقف قیمت پیش از تولید اولین توکن قفل می‌شود و صورتحساب فقط مصرف اندازه‌گیری‌شده را پوشش می‌دهد.

خریداران می‌توانند سقف هزینه برای هر شغل، حد زمان تا اولین توکن، حداقل توان عملیاتی، مناطق مجاز، صفر نگهداری داده و فهرست مجاز ارائه‌دهنده یا مدل را تعیین کنند. یک حالت Auto هم وجود دارد که مدل مناسب را برای هر واحد کاری انتخاب می‌کند.

دسترسی و سازگاری#

سرویس با ابزارهای کدنویسی ایجنتی سازگار است: Claude Code، Codex، OpenCode، Cursor، Pi و Cline. برای توسعه‌دهنده‌ها پیام اصلی ساده است: base URL را عوض کنید و کد خود را نگه دارید.

پنجصد کاربر اول ۲۰ دلار استنتاج رایگان دریافت می‌کنند. برنامه معرفی، ۲۰ درصد کارمزد معرفی‌شدگان و ۱۰ درصد معرفی سطح دوم را به‌صورت اعتبار رایگان برمی‌گرداند.

مقایسه با رقبای موجود#

  • OpenRouter از بارگذاری متوازن مبتنی بر قیمت (عکس مجذور قیمت) استفاده می‌کند؛ Liquid Inference حراج لحظه‌ای انجام می‌دهد.
  • Hugging Face Inference Providers پیش‌فرض سریع‌ترین ارائه‌دهنده را انتخاب می‌کند و پسوند :cheapest اختیاری است.
  • کارمزد پلتفرم Liquid Inference هنوز اعلام نشده؛ OpenRouter ۵/۵ درصد کارمزد اعتباری با حداقل ۰/۸۰ دلار می‌گیرد؛ Hugging Face بدون markup است.
  • فهرست ارائه‌دهندگان و داده تأخیر Liquid Inference هنوز عمومی نیست.

این خبر برای کسی که ایجنت می‌سازد یعنی چه؟#

مدل حراجی برای هر درخواست، اگر چگالی ارائه‌دهندگان به‌اندازه باشد، می‌تواند قیمت‌ها را به‌طور سیستماتیک پایین بیاورد — چیزی که بارگذاری متوازن مبتنی بر قیمت در OpenRouter به‌صورت جزئی انجام می‌دهد. اما دو نکته مهم باقی می‌ماند: اول، کارمزد پلتفرم هنوز اعلام نشده و بدون آن نمی‌توان صرفه‌جویی واقعی را محاسبه کرد. دوم، ادعای «سازگاری drop-in» با OpenAI و Anthropic API به‌معنای رفتار یکسان نیست؛ تفاوت‌های ظریف در رفتار streaming، خطاها و قالب پاسخ بین ارائه‌دهندگان مختلف همچنان وجود دارد و در یک حراج لحظه‌ای، مدل پاسخ‌دهنده می‌تواند از درخواستی به درخواست دیگر عوض شود. برای ایجنت‌هایی که به رفتار قابل‌پیش‌بینی مدل وابسته‌اند، این نوسان یک ریسک عملیاتی است.

منبع: MarkTechPost