افشاگری تازه نشان می دهد گفت وگوهای محرمانه کاربران با دستیار هوش مصنوعی گروک بی خبر از خودشان روی اینترنت منتشر شده است.

به گزارش فارس به نقل از ای او ال، اگر تا به حال با دستیار هوش مصنوعی گروک گفت وگو کرده اید، ممکن است بخش هایی از آن مکالمه روی اینترنت در دسترس عموم قرار گرفته باشد.

طبق گزارشی از فوربز ، این دستیار هوش مصنوعی متعلق به ایلان ماسک بیش از 370 هزار گفت وگو را روی وب سایت خود منتشر کرده که بعد توسط موتورهای جست وجو ایندکس و عمومی شده اند.

برخی از این مکالمات محتوای عادی و بی ضرری داشته اند، اما تعدادی از آن ها شامل موارد حساس و حتی غیرقانونی بوده اند؛ مثل دستورالعمل ساخت مواد مخدر غیرمجاز مانند فنتانیل و مت آمفتامین، یا راهنمایی برای ساخت بمب و روش های خودکشی. علاوه بر متن چت ها، فایل های بارگذاری شده توسط کاربران مثل عکس ها، جدول ها و اسناد دیگر هم منتشر شده است.

شرکت اکس اِی آی که توسعه دهنده گروک است، تاکنون به درخواست رسانه ها برای توضیح واکنشی نشان نداده است. این اتفاق تازه ترین نمونه از مجموعه ای گزارش های نگران کننده درباره ریسک های استفاده از چت بات هاست و به کاربران یادآوری می کند که هنگام استفاده از دستیارهای هوش مصنوعی باید بیشتر مراقب اطلاعاتی باشند که به اشتراک می گذارند.

در اوایل همین ماه، وب سایت 404 مدیا هم خبر داده بود که یک پژوهشگر بیش از 130 هزار گفت وگوی کاربران با دستیارهای هوش مصنوعی مختلف مثل کلود و چت جی پی تی را روی سایت آرشیو. اورگ (Archive. org) پیدا کرده است. این نشان می دهد مشکل افشای داده ها تنها به گروک محدود نمی شود.

نکته مهم این است که وقتی کاربر در گروک دکمه اشتراک گذاری را می زند، مکالمه به طور خودکار روی سایت گروک منتشر می شود؛ بدون هیچ هشدار یا اعلامی به کاربر. از آنجا که این لینک ها در اختیار موتورهای جست وجو قرار می گیرند، هر کسی می تواند به آن ها دسترسی داشته باشد. این موضوع در حالی رخ می دهد که در هیچ جای پلتفرم هشدار شفافی در این باره داده نشده است.

با این حال، کاربران یک امکان برای مدیریت چت هایشان دارند. با رفتن به آدرس grok. com/share-links می توانند تاریخچه گفت وگوهای به اشتراک گذاشته شده را ببینند و با زدن دکمه ریمو آن ها را پاک کنند. هرچند هنوز مشخص نیست که آیا این حذف، اثری روی نسخه های ایندکس شده در موتورهای جست وجو خواهد داشت یا نه.

مدیر بنیاد موزیلا ، هشدار می دهد که کاربران باید هیچ وقت اطلاعات شخصی یا محرمانه خود مثل کارت شناسایی یا داده های حساس را در این سیستم ها وارد نکنند. او می گوید مشکل اصلی این است که شرکت های هوش مصنوعی شفاف توضیح نمی دهند چه میزان داده جمع آوری می شود و در چه شرایطی ممکن است افشا شود. این نگرانی وقتی جدی تر می شود که بدانیم حتی نوجوانان 13 ساله هم می توانند از چنین چت بات هایی استفاده کنند.

او تأکید می کند شرکت هایی مثل گروک و چت جی پی تی باید صادقانه خطرات احتمالی را برای کاربران توضیح دهند. همان طور که این شرکت ها می گویند هوش مصنوعی ممکن است اشتباه کند، باید هشدار مشابهی هم درباره ریسک انتشار داده ها بدهند. بر اساس آمار شرکت بازاریابی فرست پیج سیج ، سهم بازار گروک تنها 0٫6 درصد است و بسیار عقب تر از رهبران اصلی بازار مثل چت جی پی تی با 60٫4 درصد، مایکروسافت کوپایلوت با 14٫1 درصد و گوگل جمنای با 13٫5 درصد قرار دارد.