عباس عبدی در یادداشتی در روزنامه اعتماد نوشت:

هر کنشگر یا سیاست گذاری می کوشد که مهم ترین عامل های خود را وارد میدان تعاملات کند. کسی که پولدار است پولش را، کسی که قوی است، زورش را، کسی که زیباست، قیافه اش را، کسی که سخنور است، موعظه اش را، کسی که عاقل و دانشمند است، دانشش را به میدان بیاورد تا خود را پیروز رقابت ها یا ستیزه ها کند.

در این میان حکومت ها می کوشند که برای اعمال اقتدار خود، نه تنها مولفه های قدرت خود را تنوع بخشند بلکه به جای عوامل سخت افزاری به سوی استفاده از عوامل نرم افزاری حرکت کنند. یکی از تفاوت های مهم نظام های سیاسی اولویت دادن آن ها بر عوامل مهارکننده و اِعمال اقتدار است.

در جامعه ما تنبیه و مجازات و نظارت فردی و جرم محور حرف اول را می زنند. هر مساله ای را که نمی پسندند ابتدا جرم انگاری کرده، سپس می خواهند با مجازات و تشدید نظارت بیرونی آن مساله را حل کنند، و در این میان یکی از ایده های رایج دفاع از افزایش شدت مجازات ها و گسترش حدود رفتارهای مجرمانه است. در حالی که اگر با مجازات مساله ای حل یا رفتارها مطابق میل قدرت می شد تاکنون همه مسائل دنیا حل شده بود.

لایحه مقابله با انتشار اخبار خلاف در فضای مجازی مصداق فاجعه باری از این رویکرد است که جز اتلاف وقت و هزینه و عصبانی کردن مردم هیچ نتیجه دیگری نداشت. تاکنون مطالب زیادی در مذمت و نقد این لایحه نوشته شده است. اکنون یکی از خوانندگان محترم یادداشت های من که در حوزه هوش مصنوعی آشنایی دارد با پایه قرار دادن نکات اصلی یادداشت های بنده، متن زیر را در چگونگی استفاده از این هوش برای مقابله با اخبار خلاف فرستاده که رویکردی ایجابی برای دست اندرکاران است تا جلوی دروغ و خلاف گویی را با استفاده از این ابزار بگیرند.

هوش مصنوعی (AI) نقش مهمی در راستی آزمایی اطلاعات، به ویژه در فضای مجازی ایفا می کند و می تواند به عنوان ابزاری دقیق و زیرساختی برای مقابله با دروغ و اطلاعات نادرست عمل کند. با توجه به ضرورت التزام به حقیقت محوری و شفافیت، درباره نقش AI، کاربردها و محدودیت های آن در ایران، پیشنهادهایی برای استفاده ارایه می شود. نقش و کاربردهای هوش مصنوعی در راستی آزمایی متنوع است.

- تشخیص خودکار اخبار جعلی؛ که با تکیه بر مدل های یادگیری الگوهای زبانی از سوی هوش مصنوعی می تواند منابع غیرمعتبر، یا تناقضات در اخبار را شناسایی کنند. هم اکنون پلتفرم هایی مانند Full Fact در بریتانیا یا پروژه های AI مثل Grok (توسعه یافته توسط xAI) برای تحلیل محتوا و شناسایی ادعاهای مشکوک استفاده می شوند. این شیوه به دلیل سرعت بالا در پردازش حجم عظیم داده ها، به ویژه در شبکه های اجتماعی مزیت بالایی دارند.

- تحلیل تصاویر و ویدئوها؛ الگوریتم های بینایی کامپیوتری می توانند تصاویر یا ویدئوهای دستکاری شده (Deepfake) را شناسایی کنند. ابزارهایی مثل Google Fact Check Explorer یا InVID تصاویر را با منابع معتبر مقایسه می کنند. برای مثال؛ شناسایی ویدئوهای جعلی در انتخابات یا بحران ها (مثل جنگ 12 روزه با اسراییل) را به راحتی انجام می دهند. مزیت آن نیز کاهش تأثیر محتواهای بصری گمراه کننده ای است که به سرعت بازنشر می شود.

- راستی آزمایی ادعاها با داده های باز؛ هوش مصنوعی می تواند ادعاهای مطرح شده در رسانه ها را با پایگاه های داده عمومی (مثل آمار دولتی، گزارش های سازمان های بین المللی) مقایسه کند و صحت آن ها را ارزیابی کند و موجب کاهش سوگیری انسانی در فرآیند راستی آزمایی شود.

- مدیریت شایعات در زمان کوتاه؛ هوش مصنوعی می تواند روند انتشار شایعات را در پلتفرم هایی مثل X یا تلگرام یا شبکه های ایرانی رصد کرده و با هشدار به موقع به کاربران یا پلتفرم ها، گسترش آن ها را محدود کند و واکنش سریع به اطلاعات نادرست در بحران ها بروز دهد.

- آموزش و توانمندسازی کاربران؛ چت بات های مبتنی بر AI می توانند به کاربران کمک کنند تا منابع خبری را تحلیل کنند یا صحت یک ادعا را بررسی کنند. مثل چت بات هایی که در واتس اپ یا تلگرام به کاربران پاسخ می دهند و منابع معتبر را پیشنهاد می کنند و سواد رسانه ای به صورت تعاملی و در دسترس را افزایش دهند.

البته هوش مصنوعی در راستی آزمایی اخبار محدودیت هایی هم دارد از جمله؛

- وابستگی به داده های باکیفیت؛ هوش مصنوعی برای عملکرد موثر نیازمند دسترسی به داده های معتبر و گسترده است. در کشورهایی مثل ایران که دسترسی به داده های شفاف محدود است، دقت آن کاهش می یابد و اگر پایگاه های داده ناقص یا مغرضانه باشند، ممکن است نتایج گمراه کننده تولید کند.

- سوگیری الگوریتمی؛ الگوریتم های هوش مصنوعی ممکن است به دلیل طراحی یا داده های آموزشی، سوگیری های فرهنگی، سیاسی یا زبانی داشته باشند. این مشکل در جوامع قطبی شده مثل ایران می تواند اعتماد به آن را کاهش دهد و بدون نظارت انسانی، ممکن است به طور ناخواسته برخی گروه ها را سانسور یا بدنام کند. البته با گذشت زمان و با انجام اصلاحات لازم، می توان کارایی آن ها را ارتقا داد.

- ناتوانی در درک زمینه محتوا؛ هوش مصنوعی در تحلیل طنز، کنایه یا محتوای فرهنگی خاص ممکن است اشتباه کند و یک ادعای غیرجدی را به عنوان دروغ شناسایی کند. این محدودیت می تواند به برچسب گذاری نادرست محتوا منجر شود.

- خطر سانسور و سوءاستفاده؛ دولت ها یا شرکت های بزرگ ممکن است از هوش مصنوعی برای سرکوب محتوای مخالف تحت عنوان راستی آزمایی استفاده کنند، که با هشدارهای موجود درباره جرم انگاری هم راستاست و در نبود نهادهای مستقل، می تواند به ابزاری برای کنترل اطلاعات تبدیل شود.

- محدودیت های فنی در محتواهای غیرمتنی؛ هوش مصنوعی در شناسایی Deepfakeهای پیشرفته یا محتواهای دستکاری شده صوتی، هنوز چالش برانگیز است و نیاز به فناوری های پیشرفته تر دارد. این مشکل در کشورهایی با زیرساخت های ضعیف تر پررنگ تر است.

برای استفاده از AI در راستی آزمایی و مقابله با خلاف گویی در ایران و با توجه به لزوم غلبه رویکرد حقیقت محوری و اجتناب حداکثری از رویکرد کیفری، اقدامات زیر پیشنهاد می شود:

- ایجاد پلتفرم های راستی آزمایی مبتنی بر هوش مصنوعی با همکاری دانشگاه ها و سازمان های غیردولتی مستقل. این ابزارها باید متن باز (Open-Source) باشند تا از سوءاستفاده جلوگیری شود. برای نمونه ابزاری باشد که محتوای پربازدید در تلگرام یا X و از همه مهم تر در شبکه های داخلی ایتا و بله را تحلیل و با داده های عمومی (مثل آمار رسمی مرکز آمار و بانک مرکزی) مقایسه کند.

- برای کاهش سوگیری و خطا، AI باید با تیم های راستی آزمایی انسانی (شامل روزنامه نگاران و محققان مستقل) ترکیب شود. این تیم ها می توانند زمینه فرهنگی و سیاسی را بهتر تحلیل کنند.

- توسعه چت بات های آموزشی به زبان فارسی و با توجه به فرهنگ محلی، کاربران را در تحلیل اخبار راهنمایی می کنند. این چت بات ها می توانند در پیام رسان های با کاربر بالا مثل تلگرام یا واتس اپ و ایتا فعال شوند، و به کاربر کمک کنند منبع یک خبر را بررسی یا ادعایی را با داده های رسمی مقایسه کند.

- برای تقویت دقت AI، دولت باید داده های عمومی (مثل آمار اقتصادی، سیاسی، قضایی یا سلامت) را به صورت شفاف منتشر کند. این کار هم راستا با تأکید بر شفافیت است.

- به جای تأکید بر استفاده از AI برای شناسایی و مجازات منتشرکنندگان اخبار جعلی یا خلاف، باید از آن برای اطلاع رسانی و آموزش استفاده شود. این رویکرد از خطر سانسور جلوگیری می کند. مثل برچسب گذاری محتوای مشکوک در پلتفرم ها به جای سانسور یا جرم انگاری. اتفاقا وجود خبر دروغ با برچسب دروغ نیز آموزنده تر از حذف آن است.

- همکاری با شرکت هایی مثل xAI یا گوگل برای استفاده از ابزارهای راستی آزمایی پیشرفته، با شرط حفظ استقلال و حریم خصوصی کاربران ایرانی، به ویژه برای تحلیل محتواهای فارسی.

پیشنهادهای این خواننده محترم منطقی و روشن است ولی به نظرم بعید است از سوی قانونگذاران ایرانی مورد توجه قرارگیرد چون اگر چنین شود آنگاه خواهند دید که کاربران تندروی داخلی و براندازان خارج از کشور در شبکه های اجتماعی، بارها و بارها بیش از دیگران دروغ منتشر می کنند. با گروه اول که قصد مقابله نیست و به گروه دوم هم دسترسی قضایی ندارند. نتیجه ایجاد مشکل برای کاربران منطقی و مستقل و مسوول است.