#quantization

نمایش بصری فشرده‌سازی یک مدل زبانی بزرگ به حجم بسیار کم در حالی که قابلیت فراخوانی ابزار حفظ شده است

نسخه ۷.۹ گیگابایتی Qwen3.8-27B با ادعای حفظ tool-calling در حدود ۲ بیت به‌ازای هر وزن

مقایسه Underdog Saluki 27B (۷.۹ گیگابایت) با کوانتایز GSQ-RCO روی ۱۲۰ تسک BFCL؛ بررسی بایت‌به‌بایت و تست سرعت و حافظه در llama.cpp

۳ آبان ۱۴۰۵۲ دقیقه مطالعه