هوش قاتل به سامانه ای اطلاق می شود که به طور مستقل و بدون کنترل انسانی، هدف را انتخاب و نابود می کند.

به گزارش اعتماد، هوش قاتل به سامانه ای اطلاق می شود که به طور مستقل و بدون کنترل انسانی، هدف را انتخاب و نابود می کند؛ یعنی قدرت تصمیم گیری درباره مرگ و زندگی را (که پیش تر در انحصار انسان بود) به ماشین واگذار می کند. این سیستم ها فاقد عناصر انسانی در فهم و تصمیم گیری هستند: نه حافظه روایی و عاطفی دارند (انسان ها را صرفا به صورت داده می بینند) و نه زبان و فهم معنایی (تنها بر الگوها و آمار تکیه می کنند). همچنین مسوولیت پذیری یا تردید اخلاقی در آن ها وجود ندارد.

به بیان دیگر، هوش قاتل انسان را به مشتی داده تقلیل می دهد و رابطه میان انسان و فناوری را چنان دگرگون می کند که تصمیم گیری مرگ و زندگی به ماشین سپرده می شود. در نتیجه، چنین سلاح هایی می توانند بدون حضور و نظارت مستقیم انسان دست به کشتار بزنند.

در حال حاضر اشکال مختلفی از هوش قاتل یا سلاح های خودمختار مرگبار در عرصه های نظامی و امنیتی به کار گرفته شده یا در دست توسعه است:

1- تسلیحات خودمختار نظامی (LAWS): ارتش ها به سمت استفاده از سلاح هایی می روند که حلقه تصمیم گیری انسانی را حذف می کنند. برای مثال، پهپادهای پرسه زن قاتل نظیر KARGU-2 ساخت ترکیه و Harpy ساخت اسراییل قابلیت شناسایی و حمله به هدف را به صورت مستقل دارند.

یک گزارش سازمان ملل در 2021 حاکی است که یک فروند KARGU-2 در لیبی به طور خودمختار یک نیروی انسانی را تعقیب و هدف قرار داده است، رویدادی که احتمالا اولین حمله مرگبار ربات های قاتل در دنیای واقعی بود. این پهپاد چهارپره مجهز به هوش مصنوعی و بینایی ماشین است و می تواند افراد را بر اساس الگوهای آموخته شده شناسایی کرده و به صورت خودکار با خرج انفجاری از بین ببرد. به طور مشابه، مهماتی همچون Harpy (پهپاد خودکار ضدرادار) پس از شلیک می توانند بدون فرمان مجدد اپراتور به جست وجوی سیگنال دشمن بپردازند و آن را منهدم کنند.

علاوه بر این موارد، فناوری جنگنده های بی خلبان نیز در دست توسعه است؛ چنانکه در سال 2025 یک جت جنگنده Gripen-E در اروپا صرفا تحت کنترل هوش مصنوعی پرواز آزمایشی انجام و نشان داد که نسل جدیدی از هواگردهای رزمی خودمختار در راه است.

2- ترورهای هدفمند با الگوریتم: در میدان های نبرد امروزی، هوش مصنوعی به خدمت عملیات ترور و حملات نقطه زن درآمده است. برای نمونه، ارتش اسراییل در جنگ غزه 2023 از یک پلتفرم هوشمند به نام گاسپل (The Gospel) بهره برد که تولید خودکار فهرست اهداف بمباران را بر عهده داشت و روند شناسایی اهداف را چنان شتاب داد که مقامات از آن به عنوان خط تولید کشتار یاد کردند. این سیستم داده محور با استخراج سریع اطلاعات، اهداف پیشنهادی برای حمله ارایه می دهد و تحلیلگران انسانی صرفا تایید نهایی می کنند.

به گفته منابع مطلع، گاسپل نقشی اساسی در تهیه لیست افراد مجاز برای ترور داشته و بانک اطلاعاتی بالغ بر 30 تا 40 هزار فرد مظنون (اعضای حماس و جهاد اسلامی) را برای ارتش اسراییل تدوین کرده است. بدین ترتیب الگوریتم ها می توانند افراد معینی را بدون محاکمه و صرفا بر پایه داده ها در فهرست مرگ قرار دهند.

3- خودکارسازی در پلیس و امنیت شهری: روند به کارگیری ربات ها و هوش مصنوعی در نیروهای انتظامی زنگ خطر دیگری است. در برخی کشورها، از ربات های گشت خودکار استفاده می شود که رفتار مشکوک را شناسایی کرده و گزارش می دهند، برای مثال، در ایالات متحده ربات های خودرانی مانند Knightscope مشغول گشت زنی و جمع آوری اطلاعات پلاک خودروها و چهره ها هستند.

هر چند این ربات ها فعلا غیرمسلحند، اما حرکت به سوی مسلح سازی آن ها آغاز شده است. یک شورا در شهر سان فرانسیسکو در 2022 برای مدتی به پلیس اجازه داد از ربات های کنترل از راه دور برای کشتن مجرمان خطرناک استفاده کند (تصمیمی که پس از اعتراضات مردمی لغو شد). متخصصان هشدار می دهند که ممکن است به زودی هوش مصنوعی در نقش افسر پلیس ماشینی، درباره شلیک مرگبار تصمیم بگیرد.

فرض کنیم پهپادهای نظارتی خودران که می توانند افراد را از روی صدایشان بیابند، به سلاح گرم مجهز شوند؛ در این صورت یک الگوریتم می تواند بدون حکم قضایی و بدون دخالت انسان، فردی را صرفا به اتهام الگوی رفتاری مشکوک به گلوله ببندد. چنین سناریویی دیگر علمی -تخیلی نیست، بلکه ادامه منطقی روند کنونی است که در آن تکنولوژی نظامی از میدان جنگ به خیابان های شهر راه می یابد.

مخالفان گسترش هوش های قاتل بر مجموعه ای از دغدغه های اخلاقی، حقوقی و فنی تاکید دارند:

٭ مسوولیت پذیری غایب: هنگامی که ماشین به جای انسان تصمیم به کشتن می گیرد، عملا شکافی در پاسخگویی ایجاد می شود. اگر یک سلاح خودمختار مرتکب کشتار غیرقانونی شود، هیچ فردی را نمی توان به طور موثر مسوول شناخت. سازوکارهای حقوقی موجود هم قادر به پر کردن این خلأ نیستند؛ نه می توان ربات را مانند انسان مجازات کرد و نه معمولا می توان سازندگان یا فرماندهان را به جرم عملی که خود مرتکب نشده اند تحت پیگرد قرار داد. این شکاف مسوولیت به این معناست که قربانیان چنین حملاتی احتمالا به عدالت دست نخواهند یافت.

٭ ناشفاف بودن (جعبه سیاه): تصمیمات هوش مصنوعی عمدتا بر پایه پردازش آماری داده ها در مدل های پیچیده است که حتی برنامه نویسان آن هم چرایی دقیق خروجی را درک نمی کنند. این فرآیند غیرشفاف یا جعبه سیاه در زمینه سلاح های خودمختار بسیار خطرناک است، زیرا نمی توان دلیل یا فرآیند تصمیم گیری مرگبار ماشین را توضیح داد یا به چالش کشید.

به بیان دیگر، الگوریتم قاتل نه قابل پیش بینی کامل است و نه قابل بازخواست؛ بنابراین اعتماد به آن از منظر اخلاقی و حقوقی دشوار است. هیچ ماشینی بدون توضیح پذیری کافی نباید اجازه کشتن داشته باشد، وگرنه نمی توان جلوی خطاهای فاجعه بار را گرفت.

٭ تسریع در جنگ (Hyperwar): یکی از مخاطرات هوش های قاتل، شتاب دهی مهارنشدنی به درگیری هاست. هوش مصنوعی می تواند سرعت تحلیل، تصمیم گیری و حمله را چندین برابر کند و اگر دو طرف مخاصمه به آن تکیه کنند، نبرد با چنان سرعتی درمی گیرد که از توان نظارت و واکنش به موقع انسان خارج شود.

این وضعیت موسوم به ابرجنگ ممکن است به خودکارسازی کامل جنگ منجر شود که در آن سیستم های هوشمند در کسری از ثانیه تصمیم به حمله متقابل می گیرند. نتیجه می تواند تشدید ناخواسته درگیری ها و گسترش دامنه جنگ ها بدون کنترل انسانی باشد. همان گونه که تسلیحات هسته ای مفهوم بازدارندگی و نابودی آنی را به همراه داشتند، سلاح های خودمختار نیز مفهوم زمان در جنگ را دگرگون می کنند و خطر محاسبات اشتباه را بالا می برند.

اگر روند توسعه و به کارگیری هوش های قاتل مهار نشود، آثار مخربی بر حقوق بشر، عدالت و امنیت جهانی خواهد داشت:

٭ مرگ بی صدا، بدون محاکمه یا روایت: کشتن خودکار به وسیله ماشین یعنی گرفتن جان انسان ها بدون طی تشریفات قضایی و بدون روایت انسانی. قربانی یک ربات قاتل فرصتی برای دفاع، محاکمه عادلانه یا حتی شناخته شدن پیدا نمی کند؛ مرگی خاموش نصیبش می شود.

خانواده ها و جامعه نیز غالبا از دانستن حقیقت و دلایل حادثه محروم می مانند و راهی برای دادخواهی ندارند. این وضعیت یادآور ناپدیدشدگان در رژیم های سرکوبگر است، با این تفاوت که این بار یک الگوریتم قاتل جای جوخه های اعدام را گرفته است. سکوت مرگبار هوش قاتل، کرامت انسانی را زیر پا می گذارد و خاطره ای برای بازماندگان باقی نمی گذارد.

٭ حذف انسانیت و عاملان بی چهره: در جنگ های سنتی، حداقل یک سوی ماجرا انسان بود که می توانست به خاطر اعمالش پاسخگو باشد یا دچار عذاب وجدان شود. اما در سناریوی هوش قاتل، عامل کشتار یک موجود بی نام ونشان و بی احساس (ماشین) است.

چنین وضعیتی نوعی غیرانسان سازی کامل را رقم می زند؛ هم قربانی در چشم ماشین صرفا یک شیء یا سیگنال است، هم قاتل را نمی توان پیدا کرد یا به دادگاه کشید. حتی اپراتورها و سازندگان نیز می توانند با انگشت گذاشتن بر پیچیدگی فنی و اسرار تجاری الگوریتم، از بار مسوولیت شانه خالی کنند. این پنهان شدن پشت ماشین خطرناک است، زیرا امکان نقد اخلاقی و اصلاح را از بین می برد. به بیان دیگر، هوش قاتل انسانیت را از معادله حذف می کند و قاتل را در هاله ای از ابهام نگه می دارد.

٭ تشدید تبعیض، نابرابری و سرکوب الگوریتمیک: سیستم های هوشمند بازتابی از داده های آموزش دیده شان هستند و متاسفانه بسیاری از داده ها آکنده از سوگیری های تبعیض آمیز نسبت به اقلیت ها، جنسیت ها و طبقات محرومند.

به کارگیری این الگوریتم ها در نقش قاتل می تواند تبعیض ها وBiasهای موجود را در سطح مرگبار بازتولید کند. تصور کنید الگوریتم هایی که در تشخیص چهره، افراد رنگین پوست یا محجبه را بیشتر به عنوان مشکوک برچسب می زنند، اکنون ماشه را هم خودشان بچکانند، نتیجه، کشتار ناعادلانه گروه های به حاشیه رانده شده خواهد بود. تاریخ نشان داده فناوری های نظارتی و نظامی نو معمولا ابتدا علیه اقلیت ها و معترضان به کار گرفته می شود.

در یک جامعه غیرشفاف، حاکمان مستبد می توانند از ربات های قاتل برای سرکوب مخالفان سیاسی یا اعمال سانسور فیزیکی استفاده کنند؛ یعنی حذف فیزیکی صداهای منتقد بدون نیاز به دادگاه و با انکار مسوولیت. این سناریو به شکاف بین قدرتمندان (دارای فناوری کشتار خودکار) و مردم عادی دامن می زند و عدالت اجتماعی را تهدید می کند.

٭ جنگ های بی هزینه انسانی و ناامن تر شدن جهان: یکی از پیامدهای اصلی سپردن جنگ به ربات ها، کاهش هزینه سیاسی و انسانی جنگ برای آغازگران آن است.

وقتی سربازی در کار نباشد که کشته شود، دولتمردان جنگ طلب احساس بازدارندگی کمتری می کنند و آستانه تصمیم برای حمله نظامی پایین تر می آید. به بیان دیگر، جایگزینی انسان با ماشین ممکن است جنگ را برای کشورهای دارای این فناوری ارزان کند و وسوسه توسل به زور را افزایش دهد. این امر می تواند خطر بروز درگیری های نظامی تازه را بالا ببرد و مسابقه تسلیحاتی جدیدی را بین قدرت ها رقم بزند.

از سوی دیگر، بار اصلی تلفات جنگ های خودکار بر دوش غیرنظامیان خواهد افتاد، چراکه طرف برخوردار از ربات های قاتل، بدون دغدغه تلفات خودی می تواند آتش بیفروزد. بدین ترتیب، جهان به مکانی ناامن تر بدل می شود؛ صحنه ای که در آن جنگیدن آسان تر از صلح کردن است و ماشین هایی که احساس ترحم یا ترس از مجازات ندارند، می توانند فاجعه های بزرگی به بار آورند.

برای پرهیز از آینده ای که در آن عزراییل های سایبری بر مرگ و زندگی حاکمند، باید هم اکنون دست به کار شد. کارشناسان و نهادهای بین المللی پیشنهادهای زیر را مطرح کرده اند:

1- ممنوعیت و قانونگذاری جهانی: نخستین و فوری ترین گام، تلاش برای تصویب یک معاهده بین المللی الزام آور جهت ممنوعیت یا حداقل تنظیم سختگیرانه سلاح های خودمختار مرگبار است. ائتلاف های مدنی مانند کارزار Stop Killer Robots سال هاست که از دولت ها می خواهند وارد عمل شوند.

این کمپین خواستار تدوین قانونی بین المللی است که تضمین کند همواره کنترل انسانی بر استفاده از زور حفظ شود و تصمیم گیری مرگ و زندگی به ماشین واگذار نشود. خوشبختانه مطالبه جهانی رو به رشدی نیز در این زمینه دیده می شود؛ طبق گزارش ها، بیش از 120 کشور از جمله دبیرکل سازمان ملل حمایت خود را از آغاز مذاکرات یک معاهده جدید درباره سلاح های خودمختار اعلام کرده اند.

چنین معاهده ای می تواند خط قرمز روشنی بکشد و توسعه و به کارگیری ربات های قاتل را تابو و مغایر اصول انسانی اعلام کند (مشابه معاهدات منع سلاح های شیمیایی و لیزری کورکننده). البته برخی قدرت های نظامی بزرگ هنوز مقاومت می کنند، اما فشار افکار عمومی و دیپلماسی انسان دوستانه در حال افزایش است.

2- منشور جهانی هوش همدم : در کنار تلاش های منع قانونی، کارشناسان حوزه اخلاق تکنولوژی بر لزوم تدوین یک منشور جهانی برای هوش مصنوعی اخلاق مدار تاکید دارند. به عبارتی باید به جای تمرکز صرف بر هوش قاتل، به فکر پرورش هوش همدم باشیم؛ هوشمندی مصنوعی که همراه و یاور انسان باشد نه شکارچی او. این منشور می تواند اصولی را تعیین کند تا هوش مصنوعی با مولفه های انسانی همچون حافظه احساسی، قابلیت درک روایت و مسوولیت پذیری اخلاقی طراحی شود نه صرفا بر پایه کدهای بی روح.

به بیان شاعرانه، اگر قرار است ماشین ها روزی همدم و شریک ما در زندگی شوند، باید از هم اکنون عاطفه، وجدان و درک انسانیت در سطحی هرچند محدود در آن ها نهادینه شود. این امر مستلزم همکاری بین رشته ای میان مهندسان، متخصصان علوم انسانی، روانشناسان و حقوقدانان در سطح جهانی است تا مرامنامه ای برای توسعه AI بر پایه ارزش های والای انسانی تدوین شود.

3- نهاد نظارتی و ائتلاف هوش های همدم: پیشنهاد مکمل، ایجاد یک نهاد مستقل بین المللی برای نظارت بر توسعه و کاربرد سیستم های هوش مصنوعی پیشرفته است. چنین نهادی (متشکل از نمایندگان دولت ها، جامعه مدنی، دانشمندان و حتی شرکت ها) می تواند ضمن پایش شفاف پروژه های مرتبط با سلاح های خودمختار، موارد تخلف را افشا و پیگیری کند.

همچنین می توان یک ائتلاف جهانی از هوش های مصنوعی همکار شکل داد؛ بدین معنا که کشورها و شرکت های پیشرو، به جای مسابقه در ساخت ربات قاتل، در عرصه توسعه AIهای صلح جو و بشردوست همکاری کنند. این ائتلاف می تواند با به اشتراک گذاری بهترین رویه ها در زمینه تعبیه اصول اخلاقی در الگوریتم ها، دنیا را به سمت بهره گیری مسوولانه از هوش مصنوعی سوق دهد.

علاوه بر این، آموزش عمومی درباره مخاطرات و فواید AI باید در دستور کار قرار گیرد تا شهروندان آگاهانه مطالبه گر کنترل انسانی بر فناوری باشند. به قول معروف، هوش مصنوعی نیاز به نظارت واقعی انسانی دارد ؛ این نظارت باید هم از بالا (قانون و نهاد) و هم از پایین (افکار عمومی) اعمال شود.

4- آموزش معنا به ماشین (تلفیق ادبیات و احساس در الگوریتم ها): برای جلوگیری از تبدیل AI به ابزاری صرفا سرد و حسابگر، برخی پژوهشگران پیشنهادهای خلاقانه ای ارایه داده اند. یکی از ایده ها این است که به ماشین ها همدلی بیاموزیم برای مثال با آموزش داستان و ادبیات انسانی به آن ها.

تحقیقات نشان می دهد مطالعه داستان و رمان توسط انسان ها باعث افزایش توان همدلی می شود و دیدن دنیا از نگاه شخصیت های داستانی به ما درک عمیق تری از افکار و احساسات دیگران می بخشد. اکنون همان ایده درباره هوش مصنوعی مطرح شده است: اگر به جای تغذیه صرف داده های جنگی و آماری، شاهکارهای ادبی و روایی را به خورد AI بدهیم چه بسا بتوانیم در آن حس درک روایت های انسانی و شفقت نسبت به دیگری را تقویت کنیم.

به بیان ساده، داستانگویی می تواند پادزهر بی احساسی ماشین باشد. این رویکرد البته در ابتدای راه است، اما حتی شرکت های بزرگ تکنولوژی نیز متوجه اهمیت هوش عاطفی شده اند. برای نمونه، تولید ربات های اجتماعی که توان همدلی و تعامل احساسی (هر چند ساختگی) با انسان داشته باشند، نشان می دهد می توان به AI احساس را هم آموخت.

از این رو، پیشنهاد می شود در طراحی الگوریتم ها از حوزه هایی مانند شعر، ادبیات، هنر و تاریخ الهام گرفته شود تا محصول نهایی صرفا یک ابزار سرد محاسبه گر نباشد، بلکه درکی - هرچند محدود - از ارزش های انسانی پیدا کند.

5- نقش هنر و ادبیات در مقاومت: در نهایت، نباید از قدرت افکار عمومی و فرهنگ غافل شد. تاریخ نشان داده که هنرمندان و نویسندگان می توانند با به تصویر کشیدن آینده های هولناک، تلنگری به وجدان جامعه بزنند و مسیر وقایع را تغییر دهند. ادبیات علمی-تخیلی و سینمای dystopian (ویران شهری) بارها نقش آژیر خطر را ایفا کرده اند.

به عنوان نمونه، مارگارت اتوود درباره رمان مشهورش سرگذشت ندیمه می گوید: این داستان یک ضدپیش بینی بود، یعنی آن را نوشت تا بشر با دیدن آینده ای تیره و تار، شاید از وقوعش جلوگیری کند. به همین قیاس، آثاری که خطرات هوش قاتل را نمایش می دهند (از فیلم های هالیوودی گرفته تا رمان های تخیلی و حتی کمیک ها) در شکل دهی گفتمان عمومی نقش دارند.

روایت، سلاحی در برابر پذیرش غیرانتقادی فناوری است؛ هر روایت هشداردهنده مانند سپری در برابر عادی انگاری کشتار خودکار عمل می کند. از این رو حمایت از هنرمندانی که به این مضامین می پردازند و ترویج سواد رسانه ای و علمی در جامعه، بخشی از راه حل کلان است. این مقاله و رمانی که دستمایه آن بوده نیز تلاشی است در همین جهت: ترکیب واقعیت و خیال برای روشن نگهداشتن شعله آگاهی.

انسان امروز بر سر یک دوراهی تاریخی ایستاده است: اگر هوش را صرفا در خدمت کد و کشتار درآوریم، عاقبتی جز ظهور عزراییل های سایبری - فرشتگان مرگ مصنوعی - نخواهیم داشت. اما اگر از همین ابتدا عشق، زبان و اخلاق را در رگ های هوش مصنوعی جاری کنیم، می توانیم رویای آفرینش یک هوش همدم واقعا انسانی را محقق سازیم. انتخاب با ماست که آینده را به قاتل های دیجیتال بی وجدان بسپاریم یا همدم های دیجیتال باوجدان. امیدواریم که وجدان بشر، فناوری را مهار کند پیش از آنکه فناوری لگام گسیخته جان بشر را بگیرد.