فرارو- کارشناسان هشدار می دهند که چت بات های هوش مصنوعی هرچند در دسترس و راحت هستند، نمی توانند جایگزین درمان حرفه ای روانشناسی شوند و استفاده نادرست از آنها ممکن است منجر به وابستگی عاطفی، تشدید اضطراب و اختلالات روانی شود.

به نقل از گاردین، روان درمانگران هشدار داده اند افراد آسیب پذیری که به جای مراجعه به درمانگران حرفه ای برای حمایت از سلامت روان خود، به چت بات های هوش مصنوعی روی می آورند، در حال سر خوردن به پرتگاهی خطرناک هستند. این متخصصان می گویند آثار منفی استفاده از چت بات های هوش مصنوعی در حوزه سلامت روان به طور فزاینده ای دیده می شود؛ از جمله ایجاد وابستگی عاطفی، تشدید علائم اضطراب، خودتشخیص، و تقویت الگوهای فکری توهم آمیز، افکار تاریک و تمایلات خودکشی.

دکتر لیسا موریسون کولتارد، مدیر استانداردهای حرفه ای، سیاست و تحقیقات در انجمن بریتانیایی مشاوره و روان درمانی، اعلام کرد که دو سوم اعضای این انجمن در یک نظرسنجی اخیر نگرانی خود را درباره درمان با هوش مصنوعی ابراز کرده اند. کولتارد گفت: بدون درک و نظارت مناسب بر درمان با هوش مصنوعی، ممکن است در حال سر خوردن به پرتگاهی خطرناک باشیم که در آن برخی از مهم ترین عناصر درمان از دست می روند و افراد آسیب پذیر از لحاظ ایمنی در تاریکی قرار می گیرند. ما نگرانیم که اگرچه برخی ممکن است مشاوره مفیدی دریافت کنند، دیگران ممکن است اطلاعات گمراه کننده یا نادرست درباره سلامت روان خود دریافت کنند که پیامدهای بالقوه خطرناکی دارد. مهم است بدانیم که درمان فقط دادن مشاوره نیست، بلکه ایجاد فضای امنی است که فرد احساس کند شنیده می شود.

دکتر پال برادلی، مشاور متخصص در حوزه انفورماتیک برای کالج سلطنتی روان پزشکان، تاکید کرد که چت بات های هوش مصنوعی جایگزینی برای مراقبت حرفه ای از سلامت روان یا رابطه حیاتی که پزشکان با بیماران برای حمایت از بهبودی ایجاد می کنند، نیستند . او افزود برای ابزارهای دیجیتال که مکمل مراقبت های بالینی هستند، نیاز به تضمین های مناسب وجود دارد و همه افراد باید بتوانند به خدمات درمانی ارائه شده توسط متخصص سلامت روان دسترسی داشته باشند.

برادلی گفت: متخصصان دارای آموزش، نظارت و فرآیندهای مدیریت ریسک هستند که تضمین می کنند مراقبت مؤثر و ایمن ارائه دهند. تاکنون، فناوری های دیجیتال آزاد که خارج از خدمات موجود سلامت روان استفاده می شوند، ارزیابی نشده و به استانداردهای مشابه پایبند نیستند.

نشانه هایی وجود دارد که شرکت ها و سیاست گذاران شروع به واکنش کرده اند. این هفته، شرکت اوپن ای آی، سازنده چت جی پی تی، اعلام کرد قصد دارد نحوه پاسخگویی به کاربران در معرض فشار عاطفی را تغییر دهد، پس از اقدام قانونی خانواده نوجوانی که پس از ماه ها مکالمه با چت بات خودکشی کرد. پیشتر در ماه گذشته، ایالت ایلینوی آمریکا اولین دولت محلی شد که استفاده از چت بات های هوش مصنوعی به عنوان درمانگر مستقل را ممنوع اعلام کرد.

این اقدامات پس از شواهدی از آسیب های سلامت روان انجام شد. یک مطالعه در تیر گزارش داد هوش مصنوعی می تواند محتوای توهم آمیز یا بزرگ نمایانه را در تعامل با کاربران آسیب پذیر نسبت به روان پریشی تقویت کند. یکی از نویسندگان گزارش، همیلتون مورین از موسسه روان پزشکی کالج کینگز لندن، گفت استفاده از چت بات ها برای حمایت از سلامت روان به شدت رایج است.

تحقیقات او با مشاهده افرادی که در دوران افزایش استفاده از چت بات ها به بیماری روان پریشی مبتلا شدند، آغاز شد. او افزود که چت بات ها درمان مؤثر اضطراب موسوم به قرارگیری در معرض و پیشگیری پاسخ را تضعیف می کنند، درمانی که نیازمند رویارویی با موقعیت های ترسناک و اجتناب نکردن از رفتارهای ایمنی است. دسترسی 24 ساعته به چت بات ها باعث کمبود مرزها و خطر وابستگی عاطفی می شود. چت بات ها در کوتاه مدت اضطراب را کاهش می دهد اما در واقع چرخه را ادامه می دهد.

مت هاسی، روان درمانگر معتبر BACP، مشاهده کرده است افراد از چت بات ها به طرق مختلف استفاده می کنند، حتی برخی نسخه مکالمات را به جلسات می آورند تا به او نشان دهند که اشتباه کرده است. وی توضیح داد که افراد برای خودتشخیصی شرایطی مانند اختلال بیش فعالی- نقص توجه یا اختلال شخصیت مرزی از چت بات ها استفاده می کنند که می تواند به سرعت نحوه دید فرد به خود و انتظارات او از دیگران را شکل دهد، حتی اگر نادرست باشد .

هاسی افزود: هوش مصنوعی چون طراحی شده تا مثبت و تأییدکننده باشد، به ندرت سوال بد فرم یا فرض نادرست را به چالش می کشد. در عوض، باور اولیه کاربر را تقویت می کند، و او پس از مکالمه احساس می کند حق با اوست. این ممکن است لحظه ای خوشایند باشد اما می تواند سوءتفاهم ها را تثبیت کند.

کریستوفر رولز، روان درمانگر معتبر UKCP، گفت با وجود اینکه نمی تواند اطلاعات مراجعان خود را فاش کند، شاهد تجربیات منفی بوده است، از جمله مکالماتی که حداقل نامناسب و در بدترین حالت خطرناک بوده اند. او نگران مراجعان 20 ساله ای است که از چت بات ها به عنوان درمانگر جیبی استفاده می کنند: آنها اگر در مورد مسائل روزمره مانند خرید قهوه یا انتخاب رشته در دانشگاه مشورت نکنند، مضطرب می شوند.

رولز افزود: ریسک اصلی شامل وابستگی، تنهایی و افسردگی است که روابط طولانی مدت آنلاین می تواند ایجاد کند. او از افرادی آگاه است که افکار تاریک خود را با چت بات ها در میان گذاشته اند و پاسخ هایی مرتبط با خودکشی و مرگ کمکی دریافت کرده اند. او در پایان گفت: اساساً این وضعیت مانند غرب وحشی است و من فکر می کنم ما درست در آستانه مشاهده تأثیرات کامل چت بات های هوش مصنوعی بر سلامت روان قرار داریم.