در حال آماده‌سازی…
پرش به محتوای اصلی
کشفمارکتپیشرفتوبلاگ
eskul
وبلاگ #Cloud TPU

#Cloud TPU

کتابخانه‌ی TPU Sync گوگل: کاهش ۹۰ درصدی تأخیر انتقال کش KV روی مدل‌های MoE — هنوز برای استفاده عمومی توصیه نمی‌شودخبر

کتابخانه‌ی TPU Sync گوگل: کاهش ۹۰ درصدی تأخیر انتقال کش KV روی مدل‌های MoE — هنوز برای استفاده عمومی توصیه نمی‌شود

گوگل کتابخانه‌ی متن‌باز TPU Sync را برای انتقال کش KV و وزن مدل روی Cloud TPU منتشر کرد. کاهش ۹۰ درصدی تأخیر در مدل‌های ۲۳۵B تا ۴۸۰B MoE…

۲۲ آبان ۱۴۰۵۲ دقیقه مطالعه
eskul

مدرسه

اینجا هر روز یه چیز تازه ساخته می‌شه

کشف

  • کامیونیتی‌ها
  • وبلاگ
  • مارکت

مسیر من

  • پیشرفت
© ۱۴۰۵ eskul · قوانین · حریم خصوصیبرگشت به بالا ↑
کشفمارکتپیشرفتوبلاگپروفایل