خبراجرای Dory 4B انویدیا روی llama.cpp نیاز به فورک دارد؛ پشتیبانی رسمی هنوز در حالت پیشنویس است
Dory 1.0 4B انویدیا یک مدل استدلالی کوچک با بلوک میانی مشترک است که تا چهار بار روی هر توکن اعمال میشود. اجرای آن روی llama.cpp فعلاً به…
۱۷ آبان ۱۴۰۵۲ دقیقه مطالعه