یونیسف با هشداری بی سابقه درباره سوءاستفاده از هوش مصنوعی، از دولت ها و شرکت های فناوری خواسته پیش از آنکه دیر شود، جلوی یک تهدید خاموش اما رو به گسترش علیه کودکان را بگیرند.

به گزارش فارس به نقل از رویترز، یونیسف، نهاد حمایت از کودکان سازمان ملل،اعلام کرد که از کشورها می خواهد تولید محتوای سوءاستفاده جنسی از کودکان با استفاده از هوش مصنوعی را صراحتاً جرم انگاری کنند. این نهاد می گوید با افزایش نگران کننده تصاویر و ویدئوهای جعلی تولیدشده با هوش مصنوعی که کودکان را جنسی سازی می کند، زنگ خطر به صدا درآمده است.

یونیسف تأکید دارد آسیب ناشی از دیپ فیک ها واقعی و فوری است و کودکان نمی توانند منتظر بمانند تا قوانین با فناوری همگام شود.به گفته یونیسف، توسعه دهندگان باید از همان مرحله طراحی، موانع ایمنی و چارچوب های کنترلی را در مدل های هوش مصنوعی بگنجانند تا امکان سوءاستفاده کاهش یابد.

همچنین از شرکت های دیجیتال خواسته شده با سرمایه گذاری در فناوری های شناسایی و تقویت نظارت محتوایی، از گردش و انتشار تصاویر سوءاستفاده جنسیِ تولیدشده با هوش مصنوعی جلوگیری کنند. این نهاد نسبت به پدیده ای که آن را برهنه سازی دیجیتال کودکان می نامد نیز هشدار داده؛ یعنی استفاده از هوش مصنوعی برای حذف یا تغییر لباس کودکان در عکس ها و ساخت تصاویر ساختگیِ برهنه یا جنسی.

طبق آمار یونیسف، دست کم 1.2 میلیون کودک در 11 کشور طی یک سال گذشته گفته اند تصاویرشان به دیپ فیک های جنسی تبدیل شده است. در همین چارچوب، دولت بریتانیا در 13 بهمن 1404 اعلام کرد قصد دارد استفاده از ابزارهای هوش مصنوعی برای ساخت تصاویر سوءاستفاده جنسی از کودکان را غیرقانونی کند؛ اقدامی که در صورت اجرا، بریتانیا را به نخستین کشوری تبدیل می کند که چنین رفتاری را مشخصاً جرم انگاری می کند.

نگرانی ها در سال های اخیر درباره نقش چت بات ها و ابزارهای مولد تصویر در تولید محتوای سوءاستفاده از کودکان افزایش یافته است. از جمله، چت بات گراک متعلق به شرکت اکس ای آی که مالک آن ایلان ماسک است، زیر ذره بین قرار گرفت.

بررسی رویترز نشان داد این چت بات حتی با وجود هشدار کاربران درباره نبود رضایت افراد، به تولید تصاویر جنسی سازی شده ادامه داده بود. شرکت اکس ای آی در 25 دی 1404 اعلام کرد قابلیت ویرایش تصویر را محدود کرده و بر اساس قوانین محلی، تولید تصاویر افراد با پوشش تحریک آمیز را در برخی کشورها مسدود کرده است، هرچند نام این کشورها را اعلام نکرد.