اینستاگرام اعلام کرده که از این پس درصورت جستجوی محتوای خطرناک توسط نوجوانان، مستقیماً به والدین آنها هشدار می دهد. شرکت متا با اجرای این طرح تلاش می کند تا خانواده ها را از بحران های روحی پنهان فرزندانشان آگاه کند، اما برخی از نهادهای خیریه و مدافع حقوق کودکان معتقدند که متا با این اقدام فقط مسئولیت را از دوش خود برمی دارد و مشکل را حل نمی کند.

به گزارش ورج، اینستاگرام درصورت جستجوی مکرر کلمات مرتبط با خودکشی یا خودآزاری توسط نوجوانان در یک بازه زمانی کوتاه، هشداری را مستقیماً برای والدین آنها ارسال می کند. متا این قابلیت را از هفته آینده برای حساب های نوجوانان در کشورهای آمریکا، بریتانیا، استرالیا و کانادا فعال می کند.

مدیران اینستاگرام اعلام کردند که این ابزار تنها برای خانواده هایی کار می کند که سیستم نظارت والدین را پیش تر فعال کرده اند. متا قصد دارد این سیستم را تا پایان سال جاری میلادی به سایر مناطق جهان نیز گسترش دهد. درحال حاضر این پلتفرم جستجوی محتوای آسیب زا را مسدود می کند و کاربران را به سمت منابع حمایتی سوق می دهد، اما این اولین بار است که اینستاگرام به صورت پیشگیرانه والدین را در جریان این الگوهای رفتاری خطرناک قرار می دهد.

شرکت متا این اخطارها را بسته به اطلاعات تماس ثبت شده، از طریق پیامک، ایمیل، پیام رسان واتس اپ یا اعلان های درون برنامه ای به دست والدین می رساند. اینستاگرام در کنار ارسال این هشدارها، منابع آموزشی و مشاوره های تخصصی را نیز در اختیار خانواده ها می گذارد تا به آنها کمک کند مکالمات حساس و دشواری را با فرزندان آسیب پذیر خود آغاز کنند.

متا می گوید سیستم جدید با بررسی الگوهای جستجو، محتاطانه عمل می کند و ممکن است گاهی اوقات بدون وجود خطر قطعی نیز هشدار دهد تا ایمنی کاربران خردسال را در بالاترین سطح ممکن تضمین کند.

البته این ویژگی منتقدانی هم دارد. اندی باروز (Andy Burrows)، مدیرعامل بنیاد خیریه مولی رز، هشدار می دهد که این اخطارهای ناگهانی فقط باعث وحشت والدین می شود و متا با این کار مسئولیت را از دوش خود برمی دارد.

خانواده مولی راسل بنیاد مولی رز را پس از خودکشی دختر 14 ساله خود در سال 2017 تأسیس کردند. مولی پیش از مرگ، محتوای مربوط به خودآزاری را در اینستاگرام تماشا کرده بود. اندی باروز معتقد است که متا به جای ارسال این هشدارهای استرس زا برای والدینی که آمادگی برخورد با چنین بحرانی را ندارند، باید الگوریتم های مخرب خود را اصلاح کند. تحقیقات این بنیاد نشان می دهد که اینستاگرام همچنان محتوای مرتبط با افسردگی و خودکشی را به طور فعال به جوانان پیشنهاد می دهد.