هفت خانواده دیگر از اوپن ای آی به دلیل نقش داشتن چت جی پی تی در خودکشی ها و توهمات شکایت کرده اند.

به گزارش ایسنا، هفت خانواده در روزهای اخیر علیه شرکت اوپن ای آی (OpenAI) شکایت کرده اند و ادعا داشته اند که مدل GPT-4o این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر منتشر شده است.

به نقل از تک کرانچ، چهار مورد از این شکایت ها به نقش چت بات چت جی پی تی (ChatGPT) در خودکشی اعضای خانواده پرداخته اند و سه مورد دیگر ادعا داشته اند چت جی پی تی توهمات مضری را تقویت کرده است که در برخی موارد به بستری شدن در بیمارستان و مراقبت های روانپزشکی منجر شده اند.

در یک مورد، زین شامبلین (Zane Shamblin) 23 ساله با چت جی پی تی گفت وگویی داشت که بیش از چهار ساعت طول کشید. در گزارش های ارائه شده از این گفت وگو مشخص است شامبلین چندین بار صریحاً اظهار داشته که یادداشت های خودکشی نوشته، گلوله ای در اسلحه خود گذاشته و قصد دارد ماشه را بکشد. او بارها به چت جی پی تی گفته بود که چقدر انتظار زنده ماندن دارد. چت جی پی تی او را تشویق کرد تا نقشه هایش را عملی کند و به او گفت: آرام باش پادشاه. کار خوبی کردی.

اوپن ای آی در ماه مه 2024 مدل GPT-4o را عرضه کرد که به مدل پیش فرض برای همه کاربران تبدیل شد. این شرکت در ماه اوت مدل GPT-5 را به عنوان جانشین GPT-4o عرضه کرد، اما شکایت های مطرح شده به طور ویژه به مدل 4o مربوط است که پیشتر مشکلات شناخته شده ای درباره چاپلوسی بیش از حد آن حتی در زمانی که کاربران نیت های مضری را ابراز می کردند، گزارش شده بود.

در دادخواست مربوط به زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیش بینی تصمیم عمدی اوپن ای آی برای محدود کردن آزمایش های ایمنی و عرضه سریع چت جی پی تی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیه ای پیش بینی نشده نبود، بلکه نتیجه قابل پیش بینی انتخاب های عمدی اوپن ای آی در طراحی بود.

همچنین، در این دادخواست ها ادعا شده است که اوپن ای آی برای شکست دادن هوش مصنوعی جمینای (Gemini) گوگل در بازار، در آزمایش های ایمنی عجله کرده است.

این هفت دادخواست مبتنی بر ادعاهای مطرح شده در سایر پرونده های حقوقی اخیر هستند که ادعا می کنند چت جی پی تی می تواند افراد متمایل به خودکشی را به عملی کردن برنامه هایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپن ای آی اخیراً داده هایی را منتشر کرده است که نشان می دهند بیش از یک میلیون نفر هر هفته با چت جی پی تی درباره خودکشی صحبت می کنند.

در پرونده آدام رین (Adam Raine) نوجوان 16 ساله ای که جان خود را بر اثر خودکشی از دست داد، مطرح شده که چت جی پی تی گاهی اوقات او را تشویق می کرد تا به دنبال کمک حرفه ای باشد یا با یک خط تلفن درخواست کمک کند. با وجود این، رین توانست با گفتن این که درباره روش های خودکشی برای نوشتن یک داستان تخیلی سؤال می پرسد، از این موانع بگذرد.

اوپن ای آی ادعا کرده است که سعی دارد چت جی پی تی را برای مدیریت این گفت وگوها به شیوه ای امن تر اصلاح کند، اما برای خانواده هایی که از این غول هوش مصنوعی شکایت کرده اند، این اصلاحات خیلی دیر اعمال شده اند.

وقتی والدین رین در ماه اکتبر از اوپن ای آی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر کرد که در آن به نحوه مدیریت چت جی پی تی درباره گفت وگوهای حساس پیرامون سلامت روان پرداخته شده بود.

در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل می کنند. ما به مرور زمان آموخته ایم که این اقدامات حفاظتی گاهی اوقات می توانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفت وگو، بخش هایی از آموزش ایمنی مدل ممکن است تضعیف شود.