سم آلتمن ، مدیرعامل شرکت اوپن ای آی گفت که اگر کاربران چت جی پی تی افکار خودکشی داشته باشند، این چت بات می تواند به پلیس هشدار دهد.

به گزارش ایسنا به نقل از فایننشال اکسپرس، پس از پرونده خودکشی آدام رین (Adam Raine) 16 ساله، سم آلتمن (Sam Altman)، مدیرعامل شرکت اوپن ای آی (OpenAI) گفت: شرکتش در حال بررسی امکان هشدار دادن به مقامات درباره کاربران جوانی است که پیرامون خودکشی صحبت می کنند.

این تصمیم در حالی گرفته شده است که تعداد بیشتری از جامعه کاربران چت جی پی تی (ChatGPT) نگرانی های فزاینده خود را درباره نقش هوش مصنوعی در بحران سلامت روان ابراز می کنند.

آلتمن در یک مصاحبه جدید اظهار کرد که اوپن ای آی می تواند در چنین موقعیت هایی، مداخله فعال تری داشته باشد. آلتمن گفت که ممکن است تا 1500 نفر در هفته پیش از خودکشی با چت بات گفت وگو کنند. اگر این موضوع بدون مراقبت رها شود، می تواند چت بات را به یکی از عوامل اصلی مؤثر در چنین مواردی تبدیل کند و در نتیجه، نقش چت بات های هوش مصنوعی هوشمندتر را زیر سؤال ببرد.

اگرچه اوپن ای آی هنوز تصمیم نهایی خود را برای آموزش چت بات به منظور ارتباط با مقامات نگرفته، اما آلتمن گفت: بسیار منطقی است بگوییم در مواردی که جوانان درباره خودکشی صحبت می کنند، اگر نتوانیم با والدین آنها تماس بگیریم، با مقامات تماس می گیریم.

بحث پیرامون در پیش گرفتن یک سیاست جدید، پس از آن مطرح شده است که به دنبال پرونده خودکشی آدام رین - نوجوان 16 ساله ای که گفته می شود ماه ها از سوی چت جی پی تی تشویق شده بود - علیه اوپن ای آی طرح دعوی شد. در این دادخواست ادعا شده است که این چت بات هوش مصنوعی درباره روش های خودکشی راهنمایی ارائه کرده و حتی برای نوشتن یادداشت خودکشی پیشنهاد کمک داده است.

آلتمن گفت: حدود 10 درصد از مردم جهان با چت جی پی تی صحبت می کنند. با فرض درست بودن این موضوع، این بدان معناست که حدود 1500 نفر در هفته به گفت وگو با چت جی پی تی می پردازند و خودکشی می کنند. آنها احتمالاً درباره خودکشی با چت جی پی تی صحبت کرده اند و ما جان آنها را نجات نداده ایم. شاید می توانستیم چیز بهتری بگوییم. شاید می توانستیم فعال تر باشیم. شاید می توانستیم کمی توصیه های بهتری ارائه دهیم؛ از جمله این که شما باید این کمک را دریافت کنید یا باید درباره این مشکل طور دیگری فکر کنید یا واقعاً ارزش ادامه دادن را دارد و ما به شما کمک می کنیم کسی را پیدا کنید که بتوانید با او صحبت کنید .

آلتمن درباره متعادل سازی این عمل یعنی تصمیم گیری درباره این که چه اطلاعاتی در اختیار کدام مقامات قرار بگیرد نیز توضیحاتی را ارائه داد. به گفته آلتمن، اوپن ای آی هنوز در حال کار کردن روی این موضوع است که آیا چت جی پی تی باید نام و شماره تلفن کاربر را در اختیار پلیس بگذارد یا جزییات موقعیت مکانی او را به ارائه دهندگان خدمات درمانی ارائه دهد.

آلتمن گفت که اوپن ای آی علاوه بر سیستم بالقوه هشدار خودکشی، محافظ های قوی تری را برای کاربران زیر 18 سال پیاده سازی خواهد کرد. این کار می تواند شامل محدود کردن آزادی کاربران آسیب پذیر باشد تا از بازی دادن سیستم توسط آنها با این ادعا که درخواست هایشان برای اطلاعات مربوط به خودکشی برای نوشتن داستان تخیلی یا تحقیقات پزشکی است، جلوگیری شود. آلتمن گفت: باید بگوییم حتی اگر سعی داری داستان بنویسی یا تحقیقات پزشکی انجام بدهی، ما قرار نیست جواب بدهیم.