شرکت ان‌ویدیا جزئیات فنی مربوط به «رابطه زمان اجراي پیش‌بینی بیونمو» (BioNeMo Inference Runtime) یا همان BioIR را منتشر کرده است. این کتابخانه پایتون طوری طراحی شده که مدل‌های پیش‌بینی ساختار را روی GPUهای ان‌ویدیا تسریع کند، بدون اینکه نیاز به تغییر درworkflow استاندارد PyTorch باشد. هدف اصلی این ابزار، رفع گلوگاه‌های موجود در پردازش صف‌های طولانی از اهداف مستقل زیستی است.

عملکرد در مقیاس تولید#

BioIR هم‌اکنون در مقیاس عملیاتی مورد استفاده قرار گرفته است. این فناوری زیرساخت لازم برای گسترش اخیر پایگاه داده AlphaFold را فراهم کرد که منجر به ایجاد ساختارهای کمپلکس پروتئینی در ۴,۷۷۷ پروتئوم شد. در این پروژه حدود ۳۱ میلیون کاندیدای کمپلکس تولید و ۱.۸۱ میلیون مورد از آن‌ها به عنوان پیش‌بینی‌های با اعتمادبه‌نفس بالا منتشر شدند.

نتایج بنچمارک روی 8xH100#

در یک تست عملکردی که روی ۱,۰۰۰ هدف دیمری انسانی انجام شد، ان‌ویدیا BioIR را با نسخه متن‌باز Boltz-2 مقایسه کرد. این تست روی ۸ عدد GPU H100 80GB انجام گرفت. نتایج نشان داد که:

  • با استفاده از BioIR، نرخ تحویل موفقیت‌آمیز به ۵۸.۵ هزار رزیدو در هر ساعت-GPU رسید.
  • نسخه عمومی و متن‌باز تنها توانست ۲۰.۲ هزار رزیدو در هر ساعت-GPU پردازش کند.
  • در مجموع، یک بهبود ۲.۹۰ برابری در吞吐量 نرمال‌شده بر اساس رزیدو مشاهده شد.

لازم به ذکر است که این اعداد مربوط به مرحله تاخیر (folding-stage) هستند و شامل تولید MSA، پردازش CPU یا انتقال داده نمی‌شوند. همچنین، نسخه عمومی در ۲۹ هدف به دلیل کمبود حافظه شکست خورد.

مصرف انرژی و مقیاس‌پذیری#

برآورد خطی نشان می‌دهد که برای پردازش یک میلیون هدف مشابه، BioIR به ۱۱ مگاوات‌ساعت انرژی نیاز دارد، در حالی که نسخه عمومی به ۳۵ مگاوات‌ساعت انرژی متکی است. این کتابخانه از Ray executor برای توزیع ورودی‌های مستقل بین GPUها استفاده می‌کند و هر تکثیر کامل مدل روی یک GPU جداگانه قرار می‌گیرد.

منبع: MarkTechPost