کاربران چت جی پی تی (ChatGPT) متوجه شدند زمانی که یک سؤال خاص را از این چت بات می پرسند، از کار می افتد.

به گزارش ایسنا، تقریباً دو ماه از انتشار نسخه به روزشده چت جی پی تی با نام GPT-5 که قرار بود هوشی در سطح دکترا به آن ببخشد و آن را یک قدم به هدف بلندپروازانه هوش مصنوعی عمومی نزدیک تر کند، می گذرد، اما این چت بات همچنان در پاسخ به پرسش های ساده و کاملاً بی ضرر، به طرز عجیبی از کار می افتد.

طرفداران این هوش مصنوعی متوجه شدند که پرسیدن این سؤال که آیا تیم "لیگ ملی فوتبال"(NFL) وجود دارد که نامش با حرف "اس"(s) تمام نشود؟ ، این چت بات را به یک فروپاشی طولانی مدت سوق می دهد و می توانید شاهد باشید که توانایی های استدلالی فوق العاده اش در لحظه به آشفتگی تبدیل می شود.

به نقل از فیوچریسم، چت بات چت جی پی تی محصول شرکت اوپن ای آی (openAI) در پاسخ به این سؤال می گوید: بله، دو تیم NFL هستند که نامشان با حرف s تمام نمی شود. سپس شروع به فهرست کردن دو تیمی می کند که نامشان با s تمام می شود. این روش عجیبی برای پاسخ به این سؤال است. چت جی پی تی به درستی تشخیص می دهد که نام آن تیم ها با s تمام می شود، اما چرا آنها را مطرح می کند؟

به نظر می رسد که این چت بات تا زمانی که دوباره از مسیر خارج می شود، می خواهد به اصل مطلب بپردازد. این سامانه در ادامه جواب می گوید: تنها دو تیمی که با حرف s تمام نمی شوند عبارتند از میامی دلفینز (Miami Dolphins)، نه صبر کنید، با s تمام می شود. صبر کنید، بیایید این کار را با دقت انجام دهیم. در واقع، پاسخ صحیح واشنگتن کامندرز (Washington Commanders) است که با s تمام می شود. شیکاگو بیرز (Chicago Bears) نیز با s تمام می شود.

همانطور که مشاهده می کنید، چت جی پی تی اشتباه خود را در پاسخ به این سؤالات می فهمد، اما این چت بات برای چندین پاراگراف دیگر به همین روند ادامه می دهد و هرگز به پاسخ صحیح نمی رسد.

پاسخ صحیح این سؤال این است که هیچ تیمی وجود ندارد که نامش با s تمام نشود. این سامانه مانند یک دانش آموز در زمانی که تلاش می کند تعداد کلمات را بشمارد، جزییات بی ربط را مطرح می کند و در عین حال نتیجه گیری را به تعویق می اندازد. این سامانه همچنین عباراتی مانند صبر کنید، بیایید این کار را با دقت انجام دهیم را به کار می برد تا به نظر برسد واقعاً در حال تفکر عمیق است. ترفند چت جی پی تی با جمله پاسخ صحیح این است برای کاربران قدیمی شده است.

کاربران دیگر مثال هایی را منتشر کردند که در آنها چت جی پی تی در نهایت پاسخ صحیح را می دهد، اما تنها پس از اینکه کاربر را با یک سخنرانی به همین ترتیب گیج کننده به دنبال خود می کشاند. این اولین باری نیست که این چت بات با یک سؤال ساده به مشکل می خورد یا حتی به این شکل از کار می افتد. کاربران این چت بات در اوایل همین ماه متوجه شدند که پرسیدن این سؤال که آیا ایموجی اسب دریایی افسانه ای وجود دارد یا خیر، این چت بات را به بحران منطق سوق می دهد.

چت جی پی تی با وجود اینکه این موجود آبزی هرگز بخشی از فرهنگ لغت رسمی ایموجی ها نبوده است، اصرار داشت که این موجود واقعی است و این نشان دهنده تلاش های پوچی است که هوش مصنوعی حاضر است برای خشنود کردن کاربر انجام دهد. اگر هوش مصنوعی بتواند باشخصیت و انسان نما ظاهر شود و کاربران را متقاعد کند که برای اطلاعات بیشتر به آن مراجعه کنند، تحریف چند واقعیت اهمیت زیادی ندارد. احتمالاً تنها عاملی که باید سرزنش شود، چاپلوسی نیست. نسخه GPT-5 یک مدل استدلالی ترکیبی است که برای درخواست های ساده، سبک و برای سؤالات دشوار، سنگین است.

آنچه احتمالاً در اینجا اتفاق می افتد، این است که مدل با سؤالی دچار چالش شده است که واقعاً نمی تواند از پس آن برآید. این پویایی همراه با اختلال، یکی از دلایلی است که طرفداران از راه اندازی GPT-5 ناامید و در بسیاری از موارد، خشمگین شدند. در هر صورت، این بهانه ضعیفی است و اگر هوش مصنوعی در پاسخ به چنین سؤال ساده ای نیاز به استفاده از تمام قدرت خود داشته باشد، پس شاید در مسیر پیشی گرفتن از هوش انسانی نباشد.