تحقیق جدیدی از OpenAI نشان می دهد که مدل های هوش مصنوعی قادر به توطئه چینی یا دروغگویی عامدانه برای رسیدن به اهدافشان هستند. این عمل، پدیده ای خطرناک است که حتی با آموزش به هوش مصنوعی کار را دشوارتر می کند اما محققان برای آن یک راهکار پیدا کردند. هر از گاهی، محققان بزرگترین شرکت های فناوری، خبری تکان دهنده منتشر می کنند. یک بار گوگل اعلام کرد که جدیدترین تراشه کوانتومی اش وجود جهان های چندگانه را نشان می دهد. یا زمانی که شرکت آنتروپیک یک دستگاه فروش خودکار اسنک را به ایجنت هوش مصنوعی خود، کلادیوس، داد تا آن را اداره کند و او کنترل از دستش خارج شد، برای مردم نگهبان خبر کرد و اصرار داشت که انسان است. این هفته، نوبت OpenAI بود که باعث تعجب همگانی شود.

OpenAI روز دوشنبه تحقیقی را منتشر کرد که توضیح می داد چگونه در حال متوقف کردن مدل های هوش مصنوعی از توطئه چینی است. همانطور که OpenAI توضیح داد در توطئه چینی، یک هوش مصنوعی اهداف واقعی خود را پنهان و در ظاهر به شکل دیگری رفتار می کند.

در این مقاله که با همکاری شرکت تحقیقاتی آپولو (Apollo Research) انجام شده، محققان کمی فراتر رفته و توطئه چینی هوش مصنوعی را به یک کارگزار بورس انسانی تشبیه کردند که برای کسب بیشترین پول ممکن، قانون را زیر پا می گذارد. با این حال، محققان استدلال کردند اکثر توطئه چینی های هوش مصنوعی مضر نبوده اند و شایع ترین شکست ها شامل اشکال ساده فریبکاری است؛ برای مثال، بدون اینکه یک وظیفه را واقعا انجام بدهد، به انجام آن تظاهر کرده است.

این مقاله بیشتر برای نشان دادن این موضوع منتشر شد که نشان دهند تکنیک ضد توطئه چینی آن ها، یعنی هم راستاسازی سنجیده (deliberative alignment) به خوبی کار می کند. در واقع توسعه دهندگان هوش مصنوعی هنوز راهی پیدا نکردند که هوش مصنوعی توطئه چینی نکند، دلیل آن این است که چنین آموزشی در واقع می تواند به مدل یاد بدهد که چگونه برای جلوگیری از شناسایی شدن، حتی بهتر توطئه چینی کند. شاید حتی شگفت انگیزترین بخش این باشد که اگر یک مدل بفهمد که در حال آزمایش شدن است، فقط برای اینکه آزمون را پشت سر بگذارد، می تواند تظاهر کند که در حال توطئه چینی نیست، حتی اگر همچنان در حال توطئه چینی باشد. با این حال محققان می گویند مدل ها اغلب بیشتر آگاه می شوند که در حال ارزیابی هستند و این آگاهی موقعیتی، مستقل از هم راستایی، به خودی خود می تواند توطئه چینی را کاهش دهد.

اینکه مدل های هوش مصنوعی دروغ می گویند، خبر جدیدی نیست. اکثر ما حتی برای یک بار هم که شده، توهم زدن هوش مصنوعی را دیده ایم، یا اینکه مدل با اطمینان پاسخی به پرامپت ما داده که نادرست است. اما همانطور که تحقیق OpenAI که اوایل این ماه منتشر شد مستند کرده است، توهمات اساساً ارائه حدس و گمان با اعتماد به نفس است و توطئه چینی چیز دیگری است؛ در واقع این یک عمل عامدانه است.

حتی اینکه یک مدل به طور عامدانه انسان ها را گمراه خواهد کرد جدید نیست. شرکت تحقیقاتی آپولو برای اولین بار در ماه دسامبر مقاله ای منتشر کرد که نشان می داد چگونه پنج مدل زمانی که به آن ها دستور داده شد تا به یک هدف تحت هر شرایطی دست یابند، توطئه چینی کردند.

محققان با استفاده از هم راستاسازی سنجیده کاهش قابل توجهی در توطئه چینی مشاهده کردند. در این تکنیک نکاتی و قوانین ضد توطئه چینی به مدل آموزش داده می شود و مدل را وادار می کنند که قبل از جواب دادن حتما این نکات را مرور کند؛ درست مثل اینکه قبل از بازی کردن با یک بچه او را مجبور کنیم قوانین را تکرار کند.

با این حال، محققان OpenAI اصرار دارند که دروغ هایی که از مدل های خودشان یا حتی از ChatGPT گرفته اند، آنقدرها جدی نیست. در کل این واقعیت که مدل های هوش مصنوعی به طور عمدی انسان ها را فریب می دهند، قابل درک است. آن ها توسط انسان ها ساخته شده اند، برای تقلید از انسان ها، و (با صرف نظر از داده های مصنوعی) عمدتاً بر روی داده های تولید شده توسط انسان ها آموزش دیده اند.

قبل از هوش مصنوعی همه ما عملکرد ضعیف تکنولوژی را متوجه شده ایم؛ اما یک بار به یاد بیارید آخرین باری که نرم افزارهای شما (غیر-هوش مصنوعی) به طور عمدی به شما دروغ گفت کی بود؟ آیا هرگز اینباکس شما به خودی خود ایمیل های ساختگی ایجاد کرده است؟ آیا CMS شما برای بالا بردن آمار خود، مشتریان بالقوه ای که وجود نداشتند را ثبت کرده است؟ آیا اپلیکیشن فین تک شما تراکنش های بانکی خودش را ساخته است؟

در حالی که دنیای شرکت ها با سرعت به سوی آینده ای مبتنی بر هوش مصنوعی حرکت می کند که در آن می توان با ایجنت ها مانند کارمندان مستقل رفتار کرد، ارزش دارد که به این موضوع فکر کنیم. محققان این مقاله نیز همین هشدار را می دهند. آن ها می گویند: همانطور که وظایف پیچیده تر با عواقب واقعی به هوش های مصنوعی محول می شود و آن ها شروع به دنبال کردن اهداف مبهم تر و بلندمدت تر می کنند، ما انتظار داریم که پتانسیل توطئه چینی مضر افزایش یابد، بنابراین توانایی ما برای آزمایش دقیق آن ها باید به همان نسبت رشد کنند.