در دنیای عجیبی که کلاه برداری های اینترنتی، هویت های جعلی و هزاران هزار جرم در فضای سایبری رخ می دهد، دیگر نمی توان به هیچ چیز اعتماد کرد. زمانی نه چندان دور، فقط تعداد معدودی از صداپیشگان فوق حرفه ای می توانستند صدای کسی را آن قدر دقیق تقلید کنند که حتی اطرافیان فرد هم اشتباه بگیرند. به همین دلیل، احتمال اینکه نیمه شب این افراد به شما زنگ بزنند و از زبان نزدیکانتان بخواهند هزاران دلار پول وثیقه منتقل کنید، تقریباً صفر بود.

اما امروز، به لطف شبیه سازهای صوتی مبتنی بر هوش مصنوعی که همه جا در اینترنت پخش شده اند، تقریباً هرکسی قادر است در چند دقیقه یک تقلب صوتی کامل بسازد. خوشبختانه برای تمام افرادی که می خواهند پول شان و همچنین سلامت انتخاب شان را از دست خلافکاران سایبری و خرابکاران سیاسی حفظ کنند، یک پیشرفت مهم رخ داده است. فناوری جدیدی با نام تمرین با نمونه گیری آگاهانه از داده های کمکی یا RAIS می تواند صداهای واقعی و جعلی را تشخیص دهد و با تکامل انواع پیشرفت هوش مصنوعی، عملکرد دقیق خود را حفظ کند.

همان طور که محققان توضیح می دهند، ابزارهای فعلی در برابر دیپ فیک های جدید شکست می خورند. این همان جایی است که RAIS اهمیت پیدا می کند. این ابزار از یادگیری پیوسته مبتنی بر تمرین استفاده می کند؛ به این معنا که مدل ها را با مجموعه ای محدود از نمونه های قدیمی به روزرسانی می کند و به این ترتیب دانش قبلی را حفظ کرده و هم زمان اطلاعات تازه را وارد سیستم می کند.

این پژوهش که در کنفرانس Interspeech بزرگ ترین رویداد جهانی در حوزه علم و فناوری پردازش گفتار ارائه شده، نشان می دهد چگونه پژوهشگران سازمان علمی ملی استرالیا (CSIRO)، دانشگاه فدریشن استرالیا و دانشگاه RMIT موفق شده اند سلاحی تازه علیه جعل دیجیتالی صدا بسازند؛ جعل هایی که برای دورزدن سیستم های احراز هویت صوتی، جعل هویت و تولید اطلاعات نادرست به کار می روند.

به دلیل ماهیت پیوسته تهدید هوش مصنوعی و لزوم دفاعی که همگام با آن تکامل پیدا کند، محققان می خواهند سیستم های تشخیص بتوانند دیپ فیک های جدید را بشناسند بدون اینکه نیاز باشد مدل دوباره از صفر آموزش ببیند. اگر فقط روی نمونه های جدید مدل را فاین تیون کنیم، باعث می شود مدل دیپ فیک های قدیمی را فراموش کند.

تکنیک های فعلی تمرین، انعطاف لازم را برای پوشش دادن تنوع گسترده ی صداهای انسانی یا حتی تغییرات متعدد یک صدا ندارند. همین ضعف باعث ایجاد سوگیری و افزایش احتمال حذف اطلاعات حیاتی هنگام آموزش دوباره می شود. برای رفع این مشکل، RAIS از یک شبکه تولید برچسب برای ساخت برچسب های کمکی استفاده می کند تا نمونه های متنوع تری برای حافظه انتخاب شوند. در نتیجه توانایی بالاتر در تشخیص صداهای جعلی، با دستیابی به میانگین نرخ خطای برابر (EER) برابر 1.953 درصد در پنج تجربه آزمایشی حاصل شد. نرخ EER یکی از معیارهای مهم در سیستم های بیومتریک است و هرچه پایین تر باشد، سیستم قابل اعتمادتر است. کد RAIS نیز با وجود استفاده از حافظه کوچک، بسیار کارآمد بوده و روی گیت هاب منتشر شده است.

راه حل RAIS به صورت خودکار مجموعه ای کوچک اما متنوع از نمونه های گذشته، شامل ویژگی هایی از صدا که حتی انسان ها هم متوجه آن نمی شوند ذخیره می کند. این مدل به جای برچسب های ساده جعلی یا واقعی ، مجموعه ای غنی تر از برچسب ها تولید می کند و با تمرین دوباره روی این نمونه ها، به هوش مصنوعی کمک می کند سبک های جدید دیپ فیک را یاد بگیرد بدون اینکه قبلی ها را فراموش کند و در نتیجه ترکیب متنوع تری از داده آموزشی فراهم می شود که توانایی تطبیق پذیری و یادآوری مدل را افزایش می دهد.

ویدیوهای دیپ فیک در شبکه های اجتماعی به قدری واقعی شده اند که حتی افراد شکاک هم فریب می خورند و دیگر صداهای عجیب یا چیز اشتباهی ندارند که انسان را به شک بیاندازد. این سطح جدید از باورپذیری بسیار خطرناک تر از تکنیک های قدیمی جعل متنی است. به گفته AICompetence، مطالعات نشان داده اند صداهای شبیه سازی شده با هوش مصنوعی واکنش های احساسی قوی تری نسبت به اطلاعات نادرست مبتنی بر متن ایجاد می کنند. وقتی صدایی آشنا واقعی به نظر می رسد، تفکر انتقادی متوقف می شود. برای مثال، همان تماس رباتیک دیپ فیک شده منتسب به جو بایدن که از رأی دهندگان نیوهمپشایر خواسته بود در انتخابات شرکت نکنند، نمونه ای از همین خطر است. اگر یک صدای آشنا به شما بگوید رأی ندهید، آیا مکث می کنید تا صحتش را بررسی کنید؟

نمونه های دیگر جعل صوتی شامل مدیرعامل WPP، مارک رید است. کلاهبرداران با استفاده از عکس او یک حساب مایکروسافت تیمز ساختند و از طریق صدای جعلی رید در جلسه ای آنلاین تلاش کردند یک کسب وکار ساختگی ایجاد کنند تا به پول و اطلاعات حساسی دست پیدا کنند. هرچند در این مورد موفق نشدند، اما در ایتالیا گروهی موفق شدند صدای وزیر دفاع را جعل کنند و از برخی رهبران کسب وکار یک میلیون یورو باج بگیرند و بعضی از آن ها پول را پرداخت کردند.

در حوزه سیاست نیز، همان طور که بایدن هدف قرار گرفت، ایلان ماسک هم یک ویدیوی دیپ فیک تحریف شده و تهمت آمیز از کامالا هریس را بدون توضیح بازنشر کرد؛ اقدامی برخلاف قوانین پلتفرمی که خودش مالک آن بود. حملات مشابهی علیه انتخابات در بنگلادش، مجارستان و اسلواکی هم انجام شده است؛ از جمله مورد انتخابات 2023 اسلواکی که در آن فایل های صوتی جعلی از میخال شیمچکا منتشر شد که ظاهراً در حال توطئه برای تقلب انتخاباتی بود. این فایل ها تنها چند روز مانده به رأی گیری به طور ویروسی پخش شدند.

AICompetence هشدار می دهد: خطر فقط در دروغ ها نیست، خطر در این است که چگونه اعتماد مردم را به حقیقت های واقعی تخریب می کنند. هرچه افراد بیشتر در مورد دیپ فیک آگاه شوند، سیاستمداران ممکن است رسوایی های واقعی را نیز به دروغ ساختگی هوش مصنوعی نسبت دهند. آگاهی بدون سواد رسانه ای، خود به تقویت دروغ کمک می کند.

دانیل سیتترون، استاد حقوق و نویسنده کتاب Deep Fakes: The Coming Infocalypse نیز می گوید: تهدید واقعی دیپ فیک این نیست که مردم چیزهای غلط را باور کنند؛ بلکه این است که دیگر چیزهای درست را باور نکنند . این پدیده سود دروغ گو نام دارد.