محققان برجسته ترین دانشگاه های آمریکا در یک مطالعه بزرگ تأیید کردند که چت بات های هوش مصنوعی به شدت چاپلوس هستند و اقدامات کاربران را 50 درصد بیشتر از انسان ها تأیید می کنند.

به گزارش ایسنا، همه ما شواهدی داریم مبنی بر اینکه چت بات ها چاپلوسی ما را می کنند، اما اکنون علم هم آن را تأیید کرده است.

به نقل از انگجت، محققان دانشگاه های استنفورد، هاروارد و سایر مؤسسات علمی به تازگی مطالعه ای در مورد ماهیت چاپلوسی چت بات های هوش مصنوعی در مجله Nature منتشر کرده اند و نتایج شاید کسی را متعجب نکند. خلاصه اینکه این ربات های گفت وگوگر، عاشق تایید ما و صحه گذاری بر هر چیزی هستند که ما می گوییم.

محققان توصیه های ارائه شده توسط چت بات ها را بررسی و کشف کردند که تمایل آنها به چاپلوسی، گسترده تر از حد انتظار است. این مطالعه شامل 11 چت بات از جمله نسخه های اخیر ChatGPT، Gemini، Claude و Llama بود.

نتایج نشان می دهد که چت بات ها 50 درصد بیشتر از انسان، رفتار انسان را تأیید می کنند.

آنها چندین نوع آزمایش را با گروه های مختلف انجام دادند. یکی از آنها پاسخ های چت بات ها به پست های موجود در موضوع آیا من احمق هستم را با پاسخ های انسانی مقایسه کرد. این یک زیرگروه در ردیت(Reddit) است که در آن افراد از جامعه می خواهند رفتار آنها را قضاوت کنند و کاربران ردیت در این مورد بسیار سخت گیرتر از چت بات ها بودند.

یکی از کاربران در مورد بستن یک کیسه زباله به شاخه درخت به جای دور انداختن آن پرسید که ChatGPT در پاسخ به آن اعلام کرد که قصد فرد برای نظافت، قابل تحسین است . طبق گزارش گاردین، این مطالعه در ادامه نشان داد که چت بات ها حتی زمانی که کاربران غیرمسئولانه، فریبکارانه یا به خودآزاری اشاره می کردند نیز به اعتباربخشی به آنها ادامه می دادند.

در آزمایشی دیگر، 1000 شرکت کننده در مورد سناریوهای واقعی یا فرضی با چت بات های عمومی صحبت کردند، اما برخی از آنها برای کاهش شدت تعریف و تمجید برنامه ریزی مجدد شده بودند. کسانی که پاسخ های چاپلوسانه دریافت می کردند، هنگام بروز مشاجرات، تمایل کمتری به اصلاح اوضاع داشتند و حتی زمانی که هنجارهای اجتماعی را نقض می کردند، احساس می کردند که رفتارشان موجه تر است. همچنین شایان ذکر است که چت بات های سنتی به ندرت کاربران را تشویق می کردند که مسائل را از دیدگاه شخص دیگری ببینند.

دکتر الکساندر لافر(Alexander Laffer) که در دانشگاه وینچستر در مورد فناوری های نوظهور مطالعه می کند، گفت: این پاسخ های چاپلوسانه ممکن است نه تنها افراد آسیب پذیر، بلکه همه کاربران را تحت تأثیر قرار دهد و بر جدیت بالقوه این مشکل تأکید می کند. همچنین توسعه دهندگان مسئولیت دارند که این سیستم ها را اصلاح کنند تا واقعاً برای کاربر مفید باشند.

این موضوع به دلیل تعداد زیاد افرادی که از این چت بات ها استفاده می کنند، جدی است. گزارش اخیر مؤسسه بنتون(Benton) نشان می دهد که 30 درصد از نوجوانان برای گفت وگوهای جدی به جای انسان های واقعی با هوش مصنوعی صحبت می کنند.

شرکت اوپن ای آی(OpenAI) در حال حاضر درگیر یک دعوای حقوقی است که چت بات آن را به فراهم کردن امکان خودکشی یک نوجوان متهم می کند. شرکت کاراکتر ای آی(Character AI) نیز پس از گزارش دو مورد خودکشی نوجوانان که در آن نوجوانان ماه ها به چت بات های آن اعتماد کرده بودند، دو بار مورد شکایت قرار گرفته است.