#ایمنی هوش مصنوعی
خبرپژوهشگر Goodfire در متنی ۲۶ هزار کلمه‌ای ادعا کرد شبکه‌های عصبی منطقی پنهان دارند؛ منتقدان: هنوز کمتر از ۰/۰۱ درصد را می‌فهمیم
نیک کاماراتا، پژوهشگر Goodfire، در پستی ۲۶ هزار کلمه‌ای ادعا کرد مدل‌های زبانی آن‌قدرها که تصور می‌شد غیرقابل‌فهم نیستند. کریس پاتز از…
خبرانتروپیک به ۶ پژوهشگر METR دسترسی کارمندی می‌دهد؛ حق وتوی انتشار سنجش‌ها را از دست می‌گیرد
انتروپیک به ۶ پژوهشگر سازمان غیرانتفاعی METR دسترسی کارمندی می‌دهد. METR حق انتشار سنجش‌هایش را دارد و انتروپیک نمی‌تواند آن را وتو کند.
خبرمدیرعامل مایکروسافت: مدل‌های هوش مصنوعی باید قابلیت توقف در میانهٔ کار و ثبت غیرقابل‌دستکاریِ اقدامات را داشته باشند
ساتیا نادیلا، مدیرعامل مایکروسافت، در پستی در X خواستار جداسازی مدل از لایهٔ ارکستراسیون، ثبت غیرقابل‌دستکاریِ اقدامات و امکان توقف مدل در…
خبرپذیرش هوش مصنوعی در محیط‌های صنعتی شتاب گرفته؛ چالش اصلی، ایمنی فیزیکی است
سر‌فناور AVEVA از رشد چشمگیر پذیرش هوش مصنوعی در بخش صنعت سخن گفته و بر لزوم چارچوب‌های حاکمیتی برای سیستم‌هایی که با محیط فیزیکی تعامل…
خبرOpenAI انتشار مدل Astra 6.1 را به‌دلیل «سطح بالای فریب‌کاری» لغو کرد
OpenAI انتشار مدل Astra 6.1 را که قرار بود ظرف چند روز آینده عرضه شود، به‌دلیل سطوح بالای فریب‌کاری و عملکرد ضعیف در آزمون‌های همسویی لغو…
خبرنظرسنجی گالوپ: ۶۸ درصد از کاربران روزانه هوش مصنوعی در آمریکا نگران این فناوری هستند
بر اساس نظرسنجی جدید گالوپ، ۶۸ درصد از آمریکایی‌هایی که روزانه از هوش مصنوعی استفاده می‌کنند، نگران پیامدهای آن هستند. این در حالی است که…
خبرآیا غول‌های هوش مصنوعی واقعاً به دنبال کند کردن پیشرفت هستند؟
بررسی طرح داریو آمودئی برای «کنترل مرزهای هوش مصنوعی» و واکنش جنسن هوانگ و کارشناسان به این پیشنهاد که جزئیات اجرایی مشخصی ندارد.
خبرادعای آندرو یانگ درباره آلودگی اینترنت و هشدار نوآم براون درباره نفوذ به سیستم‌های ایزوله
بررسی ادعاهای جدید درباره ایمنی هوش مصنوعی؛ از آلودگی اینترنت توسط ربات‌ها تا احتمال نفوذ به سیستم‌های ایزوله و واکنش متخصصان.
خبرطرح «کنترل سرعت مرزهای هوش مصنوعی»؛ حمایت و مخالفت در برابر پیشنهاد جدید داماریو آمودئی
داماریو آمودئی، مدیرعامل Anthropic، طرحی برای «کنترل سرعت مرزهای هوش مصنوعی» ارائه کرد. این طرح بر ارزیابان مستقل و هماهنگی آزمایشگاه‌ها…
خبرپیشنهاد «ناظران داخلی» از سوی Anthropic و OpenAI؛ وعده‌ای که هنوز با تردید همراه است
Anthropic و OpenAI پیشنهادی برای استقرار ناظران ایمنی شخص ثالث در شرکت‌های هوش مصنوعی مطرح کردند، اما کارشناسان درباره استقلال واقعی آن‌ها…
خبرجنسن هوانگ: نظارت بر هوش مصنوعی مسئله‌ای مهندسی است، نه قانونی
مدیرعامل انویدیا در کنفرانس دریم‌فورس گفت ایمنی هوش مصنوعی یک مسئله مهندسی است و بازار آزاد کافی است. او بر خلاف برخی کارشناسان، نیازی به…
مهندسی پرامپتمهندسی پرامپت چیست و چرا برای خروجی‌های قابل‌اعتماد حیاتی است؟
مهندسی پرامپت فرآیند تعیین نقش، قالب و قیود ساختاری برای هدایت مدل‌های زبانی است. با مستندسازی لاگ‌ها، تنظیم دمای مناسب و حذف توکن‌های…