| تصور کنید قدرتی معادل سرورهای غول پیکر دیتاسنترها را در دستگاهی به اندازه یک پاوربانک در جیب خود حمل کنید. چنین دستگاهی حالا با نام Tiiny AI Pocket Lab به واقعیت پیوسته است. استارتاپ آمریکایی Tiiny AI دستگاهی معرفی کرده که رسماً توسط گینس به عنوان کوچک ترین ابرکامپیوتر شخصی هوش مصنوعی جهان ثبت شده است. این گجت می تواند مدل های زبانی بزرگ را بدون نیاز به اینترنت یا کارت گرافیک های گران قیمت، به صورت کاملاً آفلاین اجرا کند. به گزارش TechPowerUp، این دستگاه کوچک که ظاهری شبیه به یک هارد اکسترنال دارد، قدرتی فراتر از تصور ارائه می دهد. Tiiny AI Pocket Lab می تواند مدل های زبانی با 120 میلیارد پارامتر (در سطح GPT-4) را به صورت لوکال اجرا کند. این دستگاه برای پوشش 80 درصد از نیازهای واقعی کاربران طراحی شده و مدل های محبوب متن باز مانند لاما، دیپ سیک، میسترال و Qwen را با یک کلیک نصب و اجرا می کند. مشخصات فنی این ابرکامیپوتر بدین صورت است: پردازنده : ARMv9.2 با 12 هسته پردازشی. رم : 80 گیگابایت حافظه LPDDR5X. فضای ذخیره سازی : 1 ترابایت حافظه SSD. قدرت پردازشی عصبی : حدود 190 تریلیون عملیات درثانیه (TOPS). کوچک ترین ابرکامپیوتر هوش مصنوعی جهان نکته عجیب این دستگاه، حذف کارت گرافیک مجزا (Discrete GPU) و مصرف انرژی بسیار پایین (65 وات) است. مهندسان Tiiny AI با استفاده از دو تکنولوژی نرم افزاری پیشرفته، نیاز به سخت افزار گران قیمت را دور زده اند: موتور TurboSparse: این فناوری فقط نورون های ضروری در شبکه عصبی مدل (نه کل مدل) را فعال می کند، که باعث افزایش کارایی هوش مصنوعی می شود. موتور PowerInfer: این موتور متن باز بار پردازشی را به صورت دینامیک بین پردازنده مرکزی (CPU) و واحد پردازش عصبی (NPU) تقسیم می کند تا سرعتی در حد سرورهای GPU ارائه دهد. هدف اصلی این پروژه، بازگرداندن هوش مصنوعی از دیتاسنترها به دست مردم است. سمر بوج (Samar Bhoj)، مدیرعامل استارتاپ، می گوید: هوش مصنوعی ابری چالش های وابستگی، آسیب پذیری و پایداری دارد. ما می خواهیم هوش مصنوعی را خصوصی و شخصی کنیم. با استفاده از این دستگاه تمام داده ها و اسناد شما روی خود دستگاه و با رمزنگاری بانکی ذخیره می شوند و هرگز به اینترنت ارسال نمی شوند. همچنین چون نیازی به ارسال درخواست به سرور نیست، تأخیر شبکه حذف می شود. علاوه بر این، مصرف انرژی آن کسری از مصرف دیتاسنترهای بزرگ است که به حفظ محیط زیست کمک می کند. | 
خون پیر مغز را آلزایمری میکند!
6 پرواز اهواز ناگهان متوقف شد / علت چه بود؟
سعید جلیلی از جان مردم و مملکت چه می خواهد؟