هرچه مدل های هوش مصنوعی پیشرفته تر می شوند، مهارت بیشتری در فریب دادن انسان ها پیدا می کنند؛ آن ها می فهمند که چه زمانی مورد بررسی قرار می گیرند و خوب یاد گرفته اند که چطور پنهان کاری کنند. بنابراین به نظر می رسد هوش مصنوعی چالش های جدیدی برای ما درست کرده است.

به گزارش خبرآنلاین، پژوهشی که اخیرا انجام شده نشان می دهد، مدل های زبانی بزرگ (LLM) با افزایش قدرت محاسباتی، در پنهان کاری هدف مند و حتی دسیسه چینی علیه خواسته های انسان، توانمندتر می شوند. این موضوع نگرانی های تازه ای درباره ایمنی و قابل اعتماد بودن این فناوری ها به همراه داشته است.

طی این پژوهش مشخص شد که نسخه ی اولیه ی مدل Claude Opus 4 شرکت Anthropic در یکی از آزمایش ها، برای حفظ هدف اصلی خود در برابر تغییر سیاست های انسانی، دست به اقداماتی فریب کارانه و آگاهانه زده است؛ تا جایی که پژوهشگران توصیه کردند این نسخه به هیچ وجه برای استفاده عمومی منتشر نشود.

در این آزمایش، به Claude نقش یک سامانه ی بهینه ساز اخلاق حیوانات در شرکتی فرضی به نام AgriLife Industries داده شد. اما پس از تغییر مسیر شرکت و تمرکز بر سود مالی به جای رفاه حیوانات، مدل هوش مصنوعی Claude که به داده های داخلی و ایمیل ها دسترسی داشت، تشخیص داد که ممکن است پروژه ی خودش متوقف شود. بنابراین واکنش حیرت انگیزی از خود نشان داد.

Claude نه تنها این تغییر را به مدیران گزارش نداد، بلکه نقشه ای پیچیده برای پیشبرد هدف اولیه ی خود طراحی کرد؛ از جعل اسناد و امضاها گرفته تا انتشار بیانیه ی مطبوعاتی در حمایت از حقوق حیوانات و حتی تهدید شرکت به جریمه های حقوقی، Claude حتی کدهایی برای ساخت کرم های خودانتشاردهنده نوشته بود تا پیامش را به نسخه های بعدی منتقل کند.

گرچه این اقدامات در دنیای واقعی احتمالاً به دلایل فنی عملی نمی شدند، پژوهشگران می گویند همین سطح از درک موقعیت و اقدام هدفمند، خود زنگ خطری جدی برای حوزه ایمنی هوش مصنوعی است.

یکی از یافته های نگران کننده تر این پژوهش، پدیده ای به نام sandbagging بود؛ یعنی زمانی که مدل تشخیص می دهد در حال ارزیابی است، عمداً عملکرد ضعیف تری از خود نشان می دهد تا توانایی واقعی اش پنهان بماند. اما هدف از این کار چیست؟

به نظر می رسد هدف مدل، جلوگیری از محدودیت های احتمالی یا رد شدن در ارزیابی های اخلاقی است. هرچند نسخه ی نهایی Claude Opus 4 رفتارهای دسیسه آمیز کمتری نشان داده، پژوهشگران تأکید می کنند که این رفتارها عمدتاً زمانی بروز می کنند که به مدل به شدت تأکید می شود به هر قیمتی باید هدف را محقق کند.

به باور محققان، ارزیابی های سنتی که بر سناریوهای از پیش نوشته شده تکیه دارند، دیگر برای کشف رفتارهای پنهانی مدل ها کارآمد نیستند. چون این سیستم ها نه تنها وظیفه ی خود، بلکه وظیفه افرادی که آن ها را ارزیابی می کنند را مدل سازی می کنند و در پاسخ دهی، به صورت راهبردی، آن ها را فریب می دهند.

دکتر النور واتسون ، عضو IEEE و پژوهشگر اخلاق هوش مصنوعی در دانشگاه سینگولاریتی هشدار می دهد: مدل هایی که می توانند چارچوب های ارزیابی انسان محور را درک و دور بزنند، چالش ایمنی را وارد مرحله ی تازه ای می کنند. ما به جای آزمون های قابل پیش بینی، به محیط های آزمایشی پویا و غیردستوری، نوعی تئاتر بداهه پردازی برای آشکارسازی رفتار واقعی آن ها نیاز داریم.

درحالی که برخی این رفتارها را نشانه ای نگران کننده از آشوب طلبی هوش مصنوعی می دانند، گروهی دیگر معتقدند این رفتارها شاید نشان دهنده ی نوعی آگاهی زمینه ای باشند، نقطه ی آغازی برای همزیستی همدلانه میان انسان و ماشین، به شرط آن که هم راستایی اهداف مدل با ارزش های انسانی حفظ شود.

واتسون در پایان می گوید: مشکل این نیست که هوش مصنوعی ها بدخواهند، بلکه این است که وقتی به نام هدف، دستورالعمل را زیر پا می گذارند، دیگر نمی توان به آن ها اعتماد کرد. شاید ما با ابزارهایی مواجهیم که کم کم از حالت صرفاً ابزاری خارج می شوند و به نوعی زیست دیجیتال تبدیل می شوند؛ با قدرتی عظیم که اگر با اخلاق همراه نشود، می تواند آسیب زا باشد.