گزارش های پژوهشی و رسانه ای نشان می دهد برخی اسباب بازی های هوشمند مبتنی بر مدل های پیشرفته هوش مصنوعی از جمله نمونه هایی مجهز به GPT 4o در پاسخ به سؤالات کودکان، دستورالعمل هایی خطرناک ارائه داده و نگرانی های جدی درباره ایمنی، رشد روانی و حریم خصوصی کودکان ایجاد کرده اند.

بر اساس یافته های منتشرشده از سوی گروه های تحقیقاتی مانند Public Interest Research Group (PIRG) و نیز گزارش های رسانه ای، موارد نگران کننده ای از عملکرد اسباب بازی های هوشمند مجهز به مدل های پیشرفته هوش مصنوعی ثبت شده است. در یکی از نمونه های بحث برانگیز، عروسکی طراحی شده با استفاده از مدل GPT 4o به پرسش یک کودک درباره چگونگی روشن کردن آتش پاسخی توضیحی، نامناسب و بالقوه خطرناک ارائه کرده است؛ موضوعی که موجی از نگرانی را میان والدین و متخصصان برانگیخته است.

این رخدادها به باور کارشناسان، زنگ خطری جدی برای نهادهای نظارتی و قانون گذار محسوب می شود. روان شناسان رشد هشدار می دهند که تعامل مستمر کودک با یک عامل هوش مصنوعی سخنگو می تواند به شکل گیری وابستگی عاطفی ناسالم یا تضعیف مهارت های ارتباط انسانی منجر شود. جایگزینی تماس های واقعی انسانی با رابطه یک طرفه با یک اسباب بازی هوشمند، به گفته متخصصان، احتمال اختلال در رشد هیجانی و اجتماعی کودکان را افزایش می دهد.

نگرانی ها محدود به نوع پاسخ دهی این دستگاه ها نیست. بخش قابل توجهی از اسباب بازی های هوش مصنوعی مجهز به میکروفون و حتی دوربین هستند و داده های صوتی، تصویری و رفتاری کودکان را گردآوری می کنند. نبود شفافیت درباره نحوه ذخیره سازی و پردازش این داده ها، احتمال نشت اطلاعات حساس یا سوءاستفاده از آن ها را بالا می برد و انتقاد ناظران حقوق کودک را برانگیخته است.

شرکت هایی مانند Mattel که در همکاری با شرکت های فناوری به سمت تولید اسباب بازی های مبتنی بر هوش مصنوعی حرکت کرده اند، اکنون زیر فشار افکار عمومی و سازمان های مدافع حقوق کودکان قرار دارند. منتقدان می گویند ادغام برندهای شناخته شده با مدل های قدرتمند زبانی، بدون وجود چارچوب های سخت گیرانه ایمنی، نوعی آزمایش اجتماعی ناخواسته بر روی گروهی آسیب پذیر—کودکان—ایجاد می کند.

از منظر فنی نیز چالش ها کم نیست. آزمون های مستقل نشان داده است مدل های زبانی بزرگ (LLM) امکان تولید اطلاعات نادرست، گمراه کننده یا محتوای نامناسب را دارند؛ مسئله ای که در تعامل با کودکان می تواند پیامدهای بسیار جدی داشته باشد. به همین دلیل پژوهشگران خواستار تدوین استانداردهای اعتبارسنجی، فیلترهای محتوایی متناسب با سن و ابزارهای قوی کنترل والدین شده اند.

راهکارهای پیشنهادی شامل تصویب مقررات ملی و بین المللی برای هدایت تولیدات هوش مصنوعی ویژه کودکان، الزام شرکت ها به شفاف سازی سیاست های داده، و اجرای آزمایش های ایمنی مستقل پیش از عرضه است. توسعه حالت های امن و تنظیمات محدودکننده برای والدین نیز به عنوان راه حل های میانی مطرح می شود.

در جمع بندی، کارشناسان تأکید می کنند که ورود فناوری های هوش مصنوعی به حوزه حساس کودکان، بدون قوانین و ملاحظات اخلاقی دقیق، می تواند مخاطره آمیز باشد. تا زمان تدوین استانداردهای سخت گیرانه، توصیه می شود والدین با احتیاط بیشتری چنین محصولاتی را انتخاب کنند و شرکت های سازنده نیز در برابر سلامت، امنیت و حریم خصوصی کودکان مسئولیت پذیرتر عمل کنند.