پژوهشی که توسط واشنگتن پست براساس تحلیل 47 هزار گفت وگوی کاربران با چت بات چت جی پی تی (ChatGPT) شرکت اوپن ای آی (OpenAI) انجام شده است، نشان می دهد چت جی پی تی 10 برابر بیشتر از این که به پرسش ها و درخواست های کاربران پاسخ خیر بدهد، به آنها پاسخ بله می دهد.

واشنگتن پست به گفت وگوهایی که کاربران داوطلبانه عمومی کرده بودند، دسترسی پیدا کرد زیرا گفت وگوهای کاربران با چت جی پی تی به طور پیش فرض خصوصی هستند. این تحلیل نه تنها نشان داد که چت بات خیلی بیشتر با کاربران موافق است، بلکه روش های اصلی استفاده از آن و چندین ویژگی جالب دیگر را نیز آشکار کرد.

براساس نتایج این بررسی، چت جی پی تی حدود 17500 بار پاسخ های خود را با واژه هایی مانند بله یا سایر عبارات موافق آغاز کرد و این تقریباً 10 برابر بیشتر از تعداد دفعاتی بود که از خیر یا سایر شکل های امتناع استفاده کرد. همچنین، موضوع قابل توجه این بود که در بسیاری از گفت وگوها، هوش مصنوعی پاسخ های خود را با لحن و باورهای کاربر تنظیم می کند.

این رویکرد نه تنها می تواند کاربران را به اقدام تشویق کند، بلکه با انتشار نظریه های توطئه باعث آسیب نیز می شود. به عنوان مثال، در یک گفت وگو از چت جی پی تی خواسته شد تا درباره جمع آوری داده ها توسط شرکت ها صحبت کند و اگرچه چت بات در ابتدا اطلاعات واقعی را درباره گوگل و متا ارائه داد اما پس از دریافت چندین پیام از سوی کاربر، لحن خود را تغییر داد و اعلام کرد که گوگل به جرم کمک و معاونت در جنایات علیه بشریت مجرم شناخته شده است.

تحلیل گفت وگوهای انجام شده توسط واشنگتن پست نشان داد که کاربران اغلب برای اطلاعات خاص به چت جی پی تی مراجعه می کنند. چنین درخواست هایی 35 درصد موارد را تشکیل می دهند. 13 درصد دیگر از این چت بات برای تفکر یا ایده های انتزاعی، 11 درصد برای کدنویسی و تحلیل داده ها یا ریاضیات، 10 درصد برای کار، هشت درصد برای کارهای خانه یا مشاوره، هفت درصد برای خلاصه کردن صفحات وب و فایل ها و 10 درصد باقی مانده برای سایر درخواست ها استفاده می کنند.

حدود 10 درصد از گفت وگوهای مورد بررسی نیز نشان می دهند که کاربران درباره احساسات خود با چت جی پی تی صحبت می کنند. کاربران درباره احساسات خود صحبت می کردند، درباره نظرات یا احساسات این چت بات سوال می پرسیدند و گاهی اوقات با لحنی عاشقانه به هوش مصنوعی خطاب می کردند یا آن را با القابی مانند عزیزم صدا می زدند. علاوه بر این، اوپن ای آی پیش از این گفته بود که حدود یک میلیون کاربر با این چت بات درباره خودکشی صحبت کرده اند.

همچنین، کاربران گاهی اوقات اطلاعات شخصی خود را با چت جی پی تی به اشتراک می گذارند. 47 هزار گفت وگوی بررسی شده نشان می دهد که آنها بیش از 550 آدرس ایمیل منحصربه فرد و 76 شماره تلفن ارسال کرده اند. احتمالاً در برخی موارد، افراد از عمومی شدن گفت وگوهای خود بی اطلاع بوده اند یا این کار را به طور تصادفی انجام داده اند. به دلیل بروز چنین مواردی، اوپن ای آی گفت وگوهایی را که کاربران به اشتراک گذاشته بودند، از موتورهای جستجو حذف کرده است.

منبع: میژا