#AI Safety
خبرAnthropic لایحه‌ی نظارت بر هوش مصنوعی را به کنگره پیشنهاد کرد؛ بازداشت مدل در صورت خطر مرگ ۵۰ نفر
Anthropic لایحه‌ای پیشنهادی به کنگره ارائه کرده که در صورت خطر مرگ بیش از ۵۰ نفر یا خسارت بالای ۱ میلیارد دلار، انتشار مدل هوش مصنوعی را…
خبررئیس مایکروسافت: بریتانیا شایسته‌تر از آمریکا و اتحادیه‌ی اروپا برای رهبری مقررات هوش مصنوعی است
برد اسمیت، رئیس مایکروسافت، در پادکست بی‌بی‌سی گفت بریتانیا بهترین جایگاه را برای رهبری مقررات جهانی هوش مصنوعی دارد و آمریکا و اتحادیه…
خبرمانیتور درونی Goodfire: ۵۱ دلار در برابر ۱۰ هزار دلار برای نظارت بر ایجنت‌های هوش مصنوعی
استارتاپ Goodfire مانیتورهایی معرفی کرد که سیگنال‌های درونی مدل را می‌خوانند و هزینه‌ی نظارت بر ایجنت‌های AI را از ۱۰ هزار دلار به ۵۱ دلار…
خبرمدیر گزارش‌های ایمنی OpenAI استعفا کرد: «هیچ همکارم سابقه‌ی ایمنی‌سازی هواپیما یا راکتور نداشت»
دیوید رابینسون، مسئول نگارش گزارش‌های ایمنی OpenAI، پس از ۳.۵ سال استعفا کرد و گفت هیچ همکارش سابقه‌ی مهندسی ایمنی در صنایع پرخطر نداشت.…
خبرطرح «مدیریت مرز» داریو آمودئی؛ واکنش جنسون هوانگ و بحث بر سر خودتنظیمی آزمایشگاه‌های هوش مصنوعی
داریو آمودئی، مدیرعامل Anthropic، طرحی برای «مدیریت مرز» توسعه هوش مصنوعی ارائه کرد که با حمایت برخی و مخالفت جنسون هوانگ از Nvidia همراه…
خبرگفتوگوهای محرمانه اوپن‌ای‌آی، انتروپیک و گوگل درباره ایمنی هوش مصنوعی
اوپن‌ای‌آی، انتروپیک و گوگل دیپ‌مایندها هفته‌هاست که درباره ایمنی هوش مصنوعی گفت‌وگو می‌کنند. جزئیات جدید از همکاری رقبا و واکنش‌های سیاسی.
خبرجنگسناون هوآنگ در کنفرانس All-In؛ تماس زنده با ترامپ و نمایش گوشی تاشو
گزارش تماس زنده دونالد ترامپ با جنتن هوآنگ، مدیرعامل انویدیا، در کنفرانس All-In. بحث درباره ایمنی هوش مصنوعی و واکنش‌های حاضران.
خبراستعفای پژوهشگر آن‌ترپیک و هشدار درباره هوش برتر خودبهبودبخش
استفاد یک پژوهشگر کلیدی از شرکت آن‌ترپیک همراه با هشدار جدی درباره ساخت هوش برتر خودبهبودبخش. همزمانی این رویداد با شایعات عرضه اولیه…
خبرگزارشگرهای MIT Technology Review درباره احتمال نابودی بشر توسط هوش مصنوعی گفتگو می‌کنند
MIT Technology Review نشست تخصصی با حضور سردبیران ارشد خود برای بررسی ترس از نابودی بشر توسط AI برگزار می‌کند.
خبرآنتروپیک پیشنهاد می‌دهد: سرعت پیشرفت هوش مصنوعی را با نظارت مستقل کنترل کنیم
داریو آمودی، مدیرعامل آنتروپیک، سه راهبرد برای کند کردن سرعت پیشرفت مدل‌های زبانی بزرگ ارائه داد و اعلام کرد شرکتش به یکی از آن‌ها متعهد…