Hugging Face از Carbon-X رونمایی کرد: یک مدل زبانی متنی-ژنومی با ۱۴.۸ میلیارد پارامتر که DNA خام را در قالب چت دریافت می‌کند و به انگلیسی پاسخ می‌دهد. وزن‌های مدل تحت مجوز Apache ۲.۰ منتشر شده‌اند و آزمایشگاه‌ها می‌توانند توالی‌های حساس را روی GPU خودشان نگه دارند. این مدل با همکاری Zhongguancun Academy و TIGEM / University of Naples Federico II ساخته شده است.

معماری و آموزش#

Carbon-X از Qwen3-14B شروع شده و یک توکنایزر ترکیبی دارد: واژگان BPE مدل Qwen3 برای متن حفظ شده و ۵,۵۱۵ توکن DNA به آن اضافه شده است. هر توکن DNA شفت جفت‌باز را پوشش می‌دهد. مدل یک دیکدر استاندارد با ۴۰ لایه، اندازه‌ی پنهان ۵۱۲۰ و GQA با ۸ سر KV است. context length برابر ۴۰,۹۶۰ توکن است.

آموزش در چهار مرحله انجام شده:

  1. گرم‌کردن embedding: حدود ۱۰ میلیارد توکن با فریز کردن ترنسفورمر
  2. میان‌آموزش: ۳۰۲ میلیارد توکن با طول توالی ۸,۱۹۲ (۵۵٪ DNA خام، ۲۰٪ انگلیسی، ۱۵٪ متن زیست‌شناسی، ۱۰٪ داده‌ی دستورکار)
  3. SFT: ۳ دوره روی ۲۰ زیرمجموعه‌ی داده با پاسخ‌های تأییدشده توسط متخصصان
  4. RL: GRPO ناهمگام با پاداش‌های قابل‌تأیید در ۲ دور

عملکرد و هزینه#

بر اساس امتیازدهی خود Hugging Face، Carbon-X میانگین ۶۶.۷٪ روی پنج بنچمارک DNA کسب کرده — ۰.۸ امتیاز پایین‌تر از GPT-6.1 Sol و ۲۷ امتیاز بالاتر از Qwen3-14B. در BioReason Coding با ۷۴.۹٪ از همه‌ی مدل‌های آزمایش‌شده پیشی گرفته، اما در پرسش‌های splice-site روی GenomeQA تنها ۲۹.۸٪ پاسخ درست داده است.

هزینه‌ی اجرای مدل روی یک H200 حدود ۵ دلار در ساعت است. Hugging Face می‌گوید هزینه‌ی استنتاج به‌ازای هر مسئله تقریباً ۱/۱,۸۰۰ GPT-6.1 Sol است. ارزیابی ۲.۴ میلیون واریانت با اهمیت نامشخص در ClinVar حدود ۳۰۰ دلار هزینه دارد؛ همان کار روی مدل‌های frontier بین ۳۲,۰۰۰ تا ۴ میلیون دلار.

استقرار#

مدل روی یک GPU ۸۰ گیگابایتی با vLLM یا Transformers اجرا می‌شود. نسخه‌های GGUF رسمی شامل Q8_0 با حجم ۱۵.۸ گیگابایت و Q4_K_M با ۹.۶ گیگابایت است. برای llama.cpp حداقل بیلد b11742 لازم است، وگرنه توکنایزر DNA اشتباه کار می‌کند. Hugging Face توصیه می‌کند enable_thinking غیرفعال بماند، چون مدل بدون آن آموزش و ارزیابی شده است.

این خبر برای سازندگان ایجنت یعنی چه#

مهم‌ترین تغییر عملی این است که تحلیل واریانت ژنومی از انحصار API‌های گران‌قیمت خارج شده و روی سخت‌افزار محلی در دسترس قرار گرفته است. اگر در حال ساخت ایجنت‌های زیست‌informatics هستید، Carbon-X می‌تواند به‌عنوان زیرایجنت ارزان به‌جای فراخوانی مدل‌های frontier استفاده شود — منبع گزارش می‌دهد که Kimi K3 با مشورت Carbon-X از ۴۹.۴٪ به ۶۰.۵٪ رسید. اما دو احتیاط جدی وجود دارد: دقت ۲۹.۸٪ روی splice-site یعنی مدل در این نوع پرسش‌ها عملاً قابل‌اعتماد نیست، و مدل تأیید بالینی نشده است. برای کارهای تشخیصی یا بالینی، این خبر جایگزین روش‌های اعتبارسنجی‌شده نیست.

منبع: MarkTechPost