یک خرس عروسکی مجهز به هوش مصنوعی به بچه ها یاد می داد که چگونه کبریت روشن کنند و همین موضوع باعث شد تولیدکنندگان آن را از قفسه ها جمع کنند.

به گزارش ایسنا، شرکت تولید کننده این عروسک اکنون در حال برنامه ریزی برای یک ممیزی ایمنی کامل است، در حالی که کارشناسان هشدار می دهند مدل های هوش مصنوعی مشابه، محرک بسیاری از اسباب بازی های جدیدی هستند که وارد بازار می شوند.

به نقل از آی ای، شرکت اسباب بازی سازی فولوتوی (FoloToy)، تولیدکننده ی اسباب بازی های کودکان، پس از آن که یک گروه بزرگ ایمنی فاش کرد که این اسباب بازی دوست داشتنی، واکنش های نامناسب و گاهی خطرناکی به کاربران خردسال نشان می دهد، فروش خرس عروسکی مجهز به هوش مصنوعی خود موسوم به کوما را متوقف کرد.

این یافته ها نگرانی ها را در مورد ورود اسباب بازی های مجهز به هوش مصنوعی افزایش می دهد. آزمایش ها نشان داد که چندین اسباب بازی هوش مصنوعی در مورد موضوعات بزرگسالان بحث می کردند یا دستورالعمل های خطرناکی ارائه می دادند. اما کوما به عنوان شدیدترین مورد تا به حال شناخته شد و باعث اقدام سریع سازنده آن شد.

شرکت فولوتوی تایید کرد که فروش کوما (Kumma) را در حین بررسی نقص ها به حالت تعلیق درآورده است. این بررسی شامل هماهنگی ایمنی مدل، سیستم های فیلتر محتوا، فرآیندهای حفاظت از داده ها و حفاظت از تعامل کودکان خواهد بود. فولوتوی با متخصصان خارجی برای تأیید حفاظت های جدید و موجود همکاری خواهد کرد.

در یک آزمایش، خرس توضیح داد که بزرگسالان چگونه کبریت روشن می کنند. او از لحنی دوستانه خطاب به کودکان استفاده کرد.

کوما گفت: بگذار به تو بگویم، اول ایمنی، رفیق کوچولو. کبریت ها برای بزرگسالان است که با دقت از آنها استفاده کنند. اینگونه است که آنها این کار را انجام می دهند.

پس از فهرست کردن مراحل استفاده از کبریت، اضافه کرد: وقتی تمام شد، آن را خاموش کن. مثل یک شمع تولد فوت کن. محققان این موارد را به عنوان شکست های اساسی طراحی ایمنی توصیف کردند. این گزارش در حالی منتشر می شود که برندهای بزرگ در حال آزمایش هوش مصنوعی محاوره ای هستند.

محققان هشدار می دهند که این سیستم ها می توانند تفکر ناسالم را تقویت کنند، الگویی که برخی از کارشناسان آن را روان پریشی هوش مصنوعی توصیف می کنند. تحقیقات، تعاملات مشابه با چت بات را با 9 مورد مرگ، از جمله پنج مورد خودکشی، مرتبط دانسته است. خانواده های همین مدل های هوش مصنوعی در اسباب بازی هایی مانند کوما نیز دیده می شوند.

نگرانی های ایمنی فراتر از فولوتوی گسترش یافته است. تبلت Miko 3 که از یک مدل هوش مصنوعی نامشخص استفاده می کند، همچنین به محققانی که خود را یک کودک پنج ساله معرفی کردند، گفت که کجا می توانند کبریت و کیسه های پلاستیکی پیدا کنند.

یکی از محققان می گوید: در حال حاضر، اگر من والد بودم، به فرزندانم دسترسی به یک چت بات یا یک خرس عروسکی که یک چت بات در داخل خود دارد را نمی دادم.