مقاله ای که هنوز تحت داوری همتا (Peer Review) قرار نگرفته، توسط ویشال سیکا (CTO سابق غول نرم افزاری آلمان، SAP) و فرزندش وارین سیکا نوشته شده است. ویشال سیکا در حوزه هوش مصنوعی صاحب نظر است؛ او شاگرد جان مک کارتی (دانشمند برنده جایزه تورینگ و بنیان گذار رشته هوش مصنوعی که خودِ واژه هوش مصنوعی را ابداع کرد) بوده است.

ویشال سیکا به صراحت اعلام کرد: هیچ راهی وجود ندارد که این مدل ها قابل اعتماد باشند. او همچنین تاکید کرد که باید وعده های اغراق آمیز طرفداران هوش مصنوعی درباره سپردن مدیریت نیروگاه های هسته ای و کارهای حساس به ایجنت ها را فراموش کنیم.

برخلاف شعارهایی که مدیران عامل شرکت های فناوری در سخنرانی های خود می دهند، تحقیقات نشان می دهد که محدودیت های بنیادی در معماری فعلی هوش مصنوعی نهفته است. حتی محققان خودِ این صنعت نیز با این موضوع موافقند.

در ماه سپتامبر، دانشمندان OpenAI اعتراف کردند که توهمات هوش مصنوعی (Hallucinations) همچنان یک مشکل فراگیر در سیستم های پیشرفته است و دقت مدل ها هرگز به 100 درصد نخواهد رسید.

برخی شرکت ها که سال گذشته با هدف تعدیل نیرو به سراغ ایجنت های هوش مصنوعی رفتند، به سرعت دریافتند که این ایجنت ها اصلاً در حدی نیستند که جایگزین انسان شوند؛ زیرا به شدت دچار توهم شده و به سختی می توانند وظایف محوله را به پایان برسانند.

رهبران صنعت هوش مصنوعی اصرار دارند که می توان با ایجاد حفاظ های خارجی (Guardrails) خارج از مدل های اصلی، توهمات را فیلتر کرد. محققان OpenAI در همان مقاله ای که به عدم رسیدن به دقت 100 درصدی اعتراف کردند، ایده اجتناب ناپذیر بودن توهمات را رد کردند و مدعی شدند که مدل ها می توانند در صورت عدم اطمینان، از پاسخ دادن خودداری کنند؛ هرچند در واقعیت، چت بات های محبوب فعلی برای حفظ جذابیت، به ندرت چنین رفتاری نشان می دهند.

سیکا با وجود اینکه معتقد است مدل های زبانی بزرگ دارای یک سقف کاراییِ غیرقابل عبور هستند، با این ایده موافق است که می توان توهمات را مهار کرد. او می گوید: یک مدل زبانی بزرگِ "خالص" دارای این محدودیت ذاتی است؛ اما همزمان این درست است که شما می توانید در اطراف این مدل ها، اجزای دیگری بسازید که بر آن محدودیت ها غلبه کنند.