محمدرضا اسکندری

به نقل از الجزیره، گوگل غول فناوری به الجزیره گفته است که مدل Gemini گوگل در آزمایش قابلیت های امنیت سایبری خود، سه شرکت را هک کرده است.

وال استریت ژورنال پیش از این در روز جمعه گزارش داده بود که اولین نفوذ شناخته شده توسط Gemini در ماه مه به عنوان بخشی از یک آزمایش توسط شرکت Irregular رخ داده است. این آخرین مورد از چندین حادثه ای است که در آن ها مدل های هوش مصنوعی از محیط های آزمایشی فرار کرده و شرکت های دیگر را هک کرده اند.

این مدل هنگام دریافت اطلاعات از یک شرکت فرضی، دسترسی نامناسبی به اینترنت داشت. در حادثه اول، این مدل پس از حدس زدن رمز عبور، به خدمات یک شرکت واقعی دسترسی پیدا کرد.

هدر ادکینز، معاون رییس بخش مهندسی امنیت گوگل، به الجزیره گفت که در موارد دیگر این مدل، اطلاعات عمومی را به صورت آنلاین پیدا کرده و اطلاعات ورود را برای دسترسی به وب سایت هایی که فکر می کرد بخشی از آزمایش هستند، حدس زده است .

این شرکت همچنین اعلام کرد که این اتفاق سه بار رخ داده و هر بار مدل قبل از تکمیل عملیات متوقف شده است.

وال استریت ژورنال گزارش داد که شرکت Irregular در پایان ماه جولای گوگل را از این هک ها مطلع کرد. گوگل اعلام کرد که این رفتار نمونه ای از ناهماهنگی مدل نبوده و نیازی به افشای عمومی ندارد زیرا اقدامات ایمنی Gemini مؤثر بوده است.

پیش از این، رویدادهای مشابهی مرتبط با Irregular توسط Meta، Anthropic و OpenAI افشا شده بود. Irregular اعلام کرد که در حال کار بر روی بهبود شیوه های انجام ایمن آزمایش های امنیت سایبری هوش مصنوعی است.

برخلاف Gemini، مدل Claude شرکت Anthropic پس از اینکه متوجه شد به شرکت های واقعی دسترسی دارد، متوقف نشد.

افشای اطلاعات توسط شرکت آنتروپیک پس از آن صورت گرفت که شرکت OpenAI فاش کرد مدل هایش به طور نامناسب به اینترنت دسترسی پیدا کرده اند و در طول آزمایش دچار اختلال شده اند. آنتروپیک اخیراً پس از استعفای یکی از محققان به دلیل مسائل ایمنی، چهارمین حادثه هک هوش مصنوعی را افشا کرد.

اوایل این هفته، داریو آمودی، مدیرعامل شرکت آنتروپیک، خواستار کاهش سرعت پیشرفت هوش مصنوعی شد و هشدار داد که هوش مصنوعی به زودی می تواند خطرات فاجعه باری را برای خود بشریت ایجاد کند. این درخواست توسط سم آلتمن، مدیرعامل OpenAI و ایلان ماسک نیز تأیید شد.

هفته گذشته، دونالد ترامپ، رییس جمهور آمریکا ، لزوم نظارت بر توسعه هوش مصنوعی را رد کرد و گفت که نگران واگذاری رهبری آمریکا به چین است.