خبرKinference؛ کنترلپلین بازمتن vLLM روی Kubernetes با کاهش ۹۵ درصدی تأخیر در ترافیک با پیشوند مشترک
Buoyant سازنده Linkerd پروژه Kinference را منتشر کرد؛ کنترلپلین بازمتن برای vLLM روی Kubernetes با مجوز Apache 2.0 و نسخه آلفا
۱۶ آبان ۱۴۰۵۳ دقیقه مطالعه