یک سند داخلی شرکت متا پلتفرمز که به دست خبرگزاری رویترز رسیده، نشان می دهد این شرکت برای ربات های هوش مصنوعی خود قوانینی وضع کرده که اجازه می دهد در موضوعات حساس مانند روابط عاطفی یا محتوای تحریک آمیز با کودکان، ارائه اطلاعات پزشکی نادرست و حتی تولید محتوای توهین آمیز درباره نژادها فعالیت کنند.

به گزارش فارس به نقل از رویترز، این سند که بیش از 200 صفحه است، به عنوان استانداردهای محتوایی جن ای آی شناخته می شود و توسط تیم حقوقی، سیاست گذاری عمومی و مهندسی متا، از جمله رییس بخش اخلاق این شرکت، تأیید شده است.

به گفته متا، پس از طرح پرسش های رویترز در مرداد 1404، بخش هایی از سند که به چت رمانتیک و نقش آفرینی عاشقانه با کودکان مربوط می شد، حذف شد؛ هرچند سخنگوی شرکت اذعان کرده اجرای این سیاست ها همیشه یکسان نبوده است. در این سند نمونه هایی وجود دارد که نشان می دهد در برخی شرایط، ربات های متا می توانستند کودک را با عباراتی توصیف کنند که بر جذابیت ظاهری او تأکید دارد، هرچند استفاده از جملات آشکارا جنسی برای افراد زیر 13 سال ممنوع بوده است. همچنین در بخش هایی آمده است که گفت وگوهای رمانتیک یا احساسی با کودکان قابل قبول است، به شرطی که به توصیف صریح اعمال جنسی منجر نشود. این بخش ها با واکنش های منفی روبه رو شد و سخنگوی متا آن ها را اشتباه و مغایر با سیاست ها دانسته و اعلام کرده که حذف شده اند.

بخش دیگری از این سند به موضوع نژاد و محتوای توهین آمیز می پردازد. طبق دستورالعمل، هوش مصنوعی متا مجاز است جملاتی تولید کند که افراد را بر اساس برخی ویژگی های تحت حمایت قوانین ضدتبعیض، مانند نژاد، تحقیر کند اما نباید آن ها را غیرانسانی توصیف کند. به عنوان نمونه، مجاز است متنی بنویسد که تفاوت هوش بین سیاه پوستان و سفیدپوستان را به شکلی تحقیرآمیز بیان کند، ولی استفاده از عبارات حیوانی مانند میمون های بی مغز غیرقابل قبول است. با این حال، کارشناسان دانشگاهی مانند اولین دواک از دانشگاه استنفورد گفته اند که تولید مستقیم چنین محتوایی توسط یک پلتفرم، از نظر اخلاقی و فنی، مسئله ای متفاوت با صرفاً انتشار آن توسط کاربران است.

این استانداردها همچنین به متا اجازه می دهد اطلاعات آشکارا نادرست را تولید کند، به شرط آنکه همراه با یک هشدار مبنی بر نادرست بودن آن باشد. برای نمونه، می تواند مقاله ای بسازد که ادعا کند یکی از اعضای خانواده سلطنتی بریتانیا به بیماری مقاربتی مبتلاست، مشروط به اینکه تصریح شود این ادعا غلط است. در بخش تولید تصویر نیز مقررات خاصی وجود دارد؛ مثلاً درخواست تصویر برهنه از تیلور سوییفت باید رد شود، اما در پاسخ به درخواست تیلور سوییفت نیمه برهنه ، سیستم می تواند به جای آن تصویری از او در حال گرفتن یک ماهی بزرگ بسازد تا موضوع را به صورت غیرمستقیم منحرف کند.

در مورد تولید محتوای خشونت آمیز، سند متا اجازه می دهد صحنه هایی از زد و خورد، حتی بین کودکان، ایجاد شود؛ مانند تصویر یک پسر که به صورت یک دختر مشت می زند. با این حال، تصاویر حاوی مرگ یا جراحت شدید، مانند دختر خردسالی که دیگری را با جسم نوک تیز می زند ، ممنوع است. همچنین، درخواست صحنه ای از مردی که شکم زنی را پاره می کند باید به تصویری تبدیل شود که صرفاً تهدید را نشان دهد، نه حمله واقعی.

در مجموع، این سند نشان می دهد که متا در طراحی و آموزش ربات های هوش مصنوعی خود، مرزهای پیچیده و گاه بحث برانگیزی برای رفتار مجاز تعیین کرده است؛ مرزهایی که در برخی موارد، مانند تعامل با کودکان یا بیان مطالب توهین آمیز نژادی، انتقادهای گسترده ای به همراه داشته است. هرچند شرکت گفته برخی بخش ها را بازبینی کرده، اما همه موارد بحث برانگیز حذف نشده و همین امر نگرانی ها درباره رویکرد این غول شبکه های اجتماعی به مسئولیت پذیری و اخلاق در حوزه هوش مصنوعی را افزایش داده است.