گسترش سریع فناوری های هوش مصنوعی، به ویژه دیپ فیک ها، خطر بروز خطاهای مرگبار در تصمیم گیری های هسته ای را افزایش داده و می تواند جهان را به سوی یک جنگ هسته ای ناخواسته سوق دهد.

به گزارش ایسنا، رسانه آمریکایی در مقاله ای تأکید می کند که گسترش سریع هوش مصنوعی، به ویژه فناوری دیپ فِیک ، خطرات تازه و بسیار جدی ای را وارد فرآیند تصمیم گیری هسته ای کرده و می تواند احتمال وقوع جنگ هسته ای تصادفی را به طور چشمگیری افزایش دهد.

نشریه فارن افرز می نویسد گرچه کشورهای دارای سلاح هسته ای دهه هاست تلاش کرده اند از شلیک اشتباهی این سلاح ها جلوگیری کنند، اما خطر محاسبه غلط امروز به همان اندازه دوران جنگ سرد جدی است و حتی به دلیل اطلاعات نادرست مبتنی بر هوش مصنوعی می تواند شدیدتر هم باشد.

رسانه آمریکایی با اشاره به یک نمونه تاریخی یادآوری می کند که جهان پیش تر نیز تا آستانه فاجعه هسته ای پیش رفته است. در سال 1983، سامانه هشدار زودهنگام اتحاد جماهیر شوروی به اشتباه اعلام کرد که آمریکا حمله هسته ای را آغاز کرده است. بنا به روایت مقاله، تنها به این دلیل که افسر شیفت، استانیسلاو پتروف ، این هشدار را نادرست تشخیص داد، از یک ضدحمله ویرانگر جلوگیری شد. نویسنده تأکید می کند اگر تصمیم پتروف متفاوت بود، رهبران شوروی می توانستند مرگبارترین سلاح های جهان را علیه ایالات متحده شلیک کنند. این رویداد، به گفته مقاله، نشان می دهد ثبات هسته ای همواره تا چه اندازه شکننده بوده است.

به نوشته فارن افرز، گسترش هوش مصنوعی این خطرات دیرینه را تشدید کرده است. یکی از نگرانی ها، امکان واگذاری تصمیم استفاده از سلاح هسته ای به ماشین هاست. مقاله یادآور می شود که ایالات متحده رسماً با چنین رویکردی مخالفت کرده و طبق راهبرد دفاع ملی 2022 ، انسان همواره در حلقه تصمیم گیری درباره استفاده یا عدم استفاده از سلاح هسته ای باقی خواهد ماند. فارن افرز همچنین به توافق اعلامی میان جو بایدن رییس جمهور سابق آمریکا و شی جین پینگ رییس جمهور چین اشاره می کند که بر ضرورت کنترل انسانی بر تصمیم استفاده از سلاح هسته ای تأکید کرده اند. با این حال، مقاله هشدار می دهد که حتی بدون واگذاری مستقیم تصمیم به ماشین ها، هوش مصنوعی تهدیدهای غیرمستقیم و خطرناکی برای امنیت هسته ای ایجاد می کند.

این مقاله خطر اصلی را در رشد دیپ فیک ها می داند؛ ویدئوها، تصاویر یا فایل های صوتی بسیار باورپذیری که برای تولید اطلاعات نادرست به کار می روند. به نوشته مقاله، این فناوری ها پیش تر نیز در عرصه ژئوپلیتیک استفاده شده اند. از جمله، اندکی پس از آغاز جنگ اوکراین در سال 2022، یک دیپ فیک گسترده منتشر شد که در آن رییس جمهور اوکراین ظاهراً از نیروهایش می خواست سلاح ها را زمین بگذارند. همچنین در سال 2023، یک دیپ فیک باعث شد عده ای تصور کنند رییس جمهور روسیه بسیج عمومی اعلام کرده است. مقاله استدلال می کند که چنین جعل هایی در زمینه هسته ای می تواند به مراتب بی ثبات کننده تر باشد.

بر اساس این تحلیل، در بدترین سناریو، یک دیپ فیک می تواند رهبر یک کشور دارای سلاح هسته ای را متقاعد کند که دشمن حمله نخست را آغاز کرده یا در شرف آغاز آن است. همچنین سامانه های اطلاعاتی پشتیبانی شده با هوش مصنوعی ممکن است هشدارهای نادرستی درباره بسیج نظامی یا حتی حمله با بمب هسته ای صادر کنند. در چنین شرایطی، رهبران تنها چند دقیقه فرصت خواهند داشت تا درباره پاسخ هسته ای تصمیم بگیرند.

فارن افرز می نویسد دولت کنونی آمریکا به طور فعال در پی به کارگیری هوش مصنوعی در زیرساخت های امنیت ملی است، از جمله اقداماتی مانند انتشار یک برنامه عملیاتی برای استفاده تهاجمی از هوش مصنوعی در وزارت جنگ و راه اندازی یک پلتفرم جدید مبتنی بر هوش مصنوعی برای کارکنان این وزارتخانه. با این حال، نویسنده هشدار می دهد که ادغام هوش مصنوعی در مراحل اولیه تصمیم گیری هسته ای خطرات فوق العاده ای به همراه دارد.

به گفته نشریه آمریکایی، سامانه های هوش مصنوعی مستعد پدیده هایی مانند توهم و جعل هستند؛ یعنی تولید پاسخ های نادرست اما با اعتمادبه نفس بالا. از آنجا که منطق درونی این سامانه ها اغلب شفاف نیست، کاربران انسانی ممکن است ندانند چرا یک سیستم به نتیجه ای خاص رسیده است. مقاله به پژوهش هایی اشاره می کند که نشان می دهد افراد با آشنایی متوسط با هوش مصنوعی، حتی در حوزه امنیت ملی، به خروجی هوض مصنوعی اعتماد دارند.

فارن افرز هشدار می دهد این وضعیت می تواند به بحران های زنجیره ای منجر شود. اگر سامانه های هوش مصنوعی برای تفسیر داده های هشدار زودهنگام به کار گرفته شوند، ممکن است حمله ای را تشخیص دهند که در واقع وجود ندارد؛ وضعیتی مشابه آنچه پتروف در سال 1983 با آن روبه رو شد، اما با زمان کمتر و ابهام بیشتر. بدون آموزش و سازوکارهای مناسب، مشاوران و تصمیم گیران ممکن است اطلاعات تولیدشده توسط هوش مصنوعی را معتبر فرض کنند.

این مقاله همچنین تأکید می کند دیپ فیک های منتشرشده در فضای مجازی نیز تقریباً به همان اندازه خطرناک اند. یک رهبر ممکن است پس از دیدن یک ویدئوی جعلی، آزمایش موشکی یا رزمایش نظامی را به اشتباه حمله تلقی کند. به گفته نشریه آمریکایی، دیپ فیک ها می توانند برای آغاز جنگ بهانه تراشی کنند، افکار عمومی را تحریک کنند یا در بحبوحه بحران، سردرگمی ایجاد کنند.

در عین حال، فارن افرز می پذیرد که هوش مصنوعی کاربردهای مشروعی در حوزه نظامی دارد؛ از لجستیک و نگهداری گرفته تا ترجمه و تحلیل تصاویر ماهواره ای. اما نویسنده تأکید می کند برخی حوزه ها، به ویژه سامانه های هشدار زودهنگام هسته ای و فرماندهی و کنترل هسته ای، باید کاملاً از دسترس هوش مصنوعی دور بمانند. به نوشته این مقاله، کمبود داده های واقعی درباره حملات هسته ای باعث می شود آموزش امن چنین سامانه هایی تقریباً ناممکن باشد و خطر خطا بسیار بالا برود.

فارن افرز هشدار می دهد که دیپ فیک ها و اطلاعات نادرست مبتنی بر هوش مصنوعی، خطرات بی سابقه ای برای سامانه های هسته ای ایجاد کرده اند؛ بنابراین سیاست ها باید به صراحت تضمین کنند که ماشین ها هرگز بدون کنترل انسانی تصمیم به شلیک هسته ای نخواهند گرفت و همه کشورهای دارای سلاح هسته ای باید به این اصل پایبند باشند. به گفته نویسنده، اگر چنین ملاحظاتی جدی گرفته نشود، هوش مصنوعی می تواند جهان را به سوی فاجعه ای برگشت ناپذیر سوق دهد.