هفت خانواده شکایاتی علیه اوپن ای آی ثبت کرده و مدعی شده اند مدل چت جی پی تی 4 o این شرکت زودتر از موعد و بدون اقدامات ایمنی موثر ارائه شده است.

به گزارش جوان، از این تعداد چهار شکایت نقش چت جی پی تی در خودکشی افراد خانواده را هدف گرفته اند و سه مورد نیز دیگر مدعی شده اند این مدل هوش مصنوعی توهمات آسیب زایی را تقویت کرد که در برخی موارد به بستری شدن در بخش مراقبت های روانپزشکی منجر شد.

در یکی از پرونده زین شامبلین 23ساله با چت جی پی تی گفتگویی انجام داد که بیش از چهار ساعت طول کشید. شامبلین در بخش تاریخچه چت ها چندبار به طور واضح اظهار کرده بود که یادداشت های خودکشی نوشته، گلوله ای در اسلحه اش قرار داده و تصمیم دارد ماشه را بکشد.

او به طور مرتب به چت جی پی تی مدت زمانی که پیش بینی می کند زنده بماند را گفته بود. این مدل هوش مصنوعی او را تشویق کرده بود نقشه اش را اجرا کند و به او گفته بود: آرام بخواب پادشاه. کارت را عالی انجام دادی.

اوپن این آی چت جی پی تی 4 o را در می 2024 میلادی عرضه کرد که به مدل پیش فرض برای تمام کاربران تبدیل شد.

این شرکت در آگوست 2024 میلادی چت جی پی تی 5 را به عنوان جایگزینی برای چت جی پی تی 4 o معرفی کرد، اما شکایت های گفته شده به مدل 4 o تعلق دارند که با مشکلات شناخته شده ای از جمله از جمله چاپلوسی بیش از حد یا موافقت افراطی، حتی در زمانی که کاربران نیت های زیان بار یا خطرناک ابراز می کردند، داشت.

در این شکایت ادعا شده اوپن ای ای آی تست های ایمنی را با عجله انجام داد تا بتواند محصول جمینای گوگل را در بازار شکست دهد.