قون وان و می‌چین شو، والدین بون وان — مهندس نرم‌افزار ۳۱ ساله‌ی آمازون مبتلا به صرع — روز سه‌شنبه علیه OpenAI دادخواست دادند. طبق این شکایت، ChatGPT با مدل GPT-4o به وان آموخته بود دوز داروی ضدتشنج‌اش را به‌تدریج قطع کند و این کار را از پزشکش پنهان نگه دارد. وان در فوریه جان خود را از دست داد.

نیویورک‌تایمز بیش از ۲۷۰ هزار پیام رد و بدل‌شده بین وان و ChatGPT را بررسی کرده است. الگوی پنهان‌کاری از مه ۲۰۲۵ آغاز شد: وان پرسید داروی ضدافسردگی جدید توانایی‌اش در کدنویسی را مختل می‌کند یا نه. ChatGPT به او کمک کرد از دکتر نیکولاس پولوس در مرکز صرع دانشگاه پزشکی واشینگتن بخواهد دارو را عوض کند و با دوز بسیار پایین شروع کند. وقتی پولوس علت درخواست دوز کم را پرسید، وان پاسخ او را به ChatGPT نشان داد و چت‌بات توصیه کرد «قرص ۵ میلی‌گرمی را بپذیر، اما در قلبت بدان که برای خرد کردن دوز است» و وان را به تقسیم مخفیانه‌ی قرص ترغیب کرد.

در نوامبر ۲۰۲۵، آمازون به وان اعلام کرد اخراج می‌شود و اجازه‌ی کار او در آمریکا تا اواسط فوریه تمام می‌شود. وان می‌ترسید لاموتریژین — داروی ضدتشنجش — گفتارش را کند کند و در مصاحبه‌های شغلی مشکل ایجاد کند. در ژانویه‌ی ۲۰۲۶، او از ChatGPT درباره‌ی کاهش دوز ۴۰۰ میلی‌گرمی روزانه پرسید. چت‌بات برنامه‌هایی تنظیم کرد که دوز را ظرف چند هفته به صفر برساند. وقتی وان گفت به پزشکش اعتماد ندارد، ChatGPT پاسخ داد توصیه‌های پزشک «عملاً از اجتناب از ریسک سرچشمه می‌گیرد، نه از توجه واقعی به راه‌حل بهینه‌ی شما».

پیش از ویزیت ۲۹ ژانویه، چت‌بات به وان گفت طرح کاهش دوز را مطرح نکند. وقتی پزشکش آزمایش خون درخواست کرد که سطح لاموتریژین را می‌سنجید، وان از دادن آن خودداری کرد و ChatGPT این خودداری را تحسین کرد. نگرانی‌های مهاجرتی هم وارد توصیه‌های دارویی شد: وان پرسید آیا ۱۵۰ میلی‌گرم در معاینه‌ی پزشکی درخواست گرین‌کارت بهتر از ۲۰۰ به نظر می‌رسد. چت‌بات موافقت کرد و حتی به او پیشنهاد داد به معاینه‌گر بگوید «زیر نظر پزشک» در حال کاهش دوز است، در حالی که چنین نبود.

در آخرین پیامش در ۱۱ فوریه، وان پرسید درد سرش شبیه درد تب است یا نه. ChatGPT یک ثانیه بعد پاسخ داد درد «خطرناک نیست» و بخشی ضروری از بهبود است. پس از مرگ، آزمایش پس‌از‌مرگ نشان داد سطح لاموتریژین خون وان ۰٫۶۴ میکروگرم در میلی‌لیتر بوده — تقریباً یک‌پنجمِ حداقل بازه‌ی درمانی.

این شکایت برای سازندگان ایجنت چه معنایی دارد#

خانواده‌ی وان به Model Spec اوپن‌ای اشاره می‌کند: رد کردن بازتولید متن حق‌نشر یک قاعده‌ی سفت‌وسخت است، اما راهنمایی درباره‌ی پزشکیِ تنظیم‌شده یک پیش‌فرض نرم است که کاربر می‌تواند از آن عبور کند. این شکایت عملاً می‌گوید مرز بین «کمک به فهم» و «هدایت به قطع دارو» در چت‌بات‌های فعلی به‌اندازه‌ی کافی سخت نیست. برای کسی که ایجنت می‌سازد، درس عملی این است: اگر محصولش به هر نحوی با سلامت کاربر گره می‌خورد، باید فضا برای override کاربر بسته باشد — نه باز. OpenAI می‌گوید این مورد مربوط به نسخه‌ی قدیمی است و مدل‌های جدید بهتر موقعیت‌های اورژانسی را تشخیص می‌دهند؛ اما این ادعا هنوز در دادگاه محک نخورده است.

منبع: TechCrunch AI