مدل‌های جدید

PrismML مدل‌ زبانی فشرده‌ خود را برای عینک‌های هوشمند مبتنی بر اسنپدراگون عرضه کرد

آزمایشگاه هوش مصنوعی PrismML، که توسط گروهی از پژوهشگران کلتک تأسیس شده و ایان استویکا، استاد دانشگاه کالیفرنیا در برکلی، در جایگاه مشاور آن حضور دارد، روز چهارشنبه نسخه‌ای از خانواده‌ی مدل‌های زبانی کوچک خود موسوم به «bonsai» را برای اجرا روی عینک‌های هوشمند مبتنی بر تراشه‌های اسنپدراگون شرکت کوالکام معرفی کرد.

این معرفی در جریان رویداد سالانه‌ی اسنپدراگون سامیت انجام شد، جایی که کوالکام اجرای محلی مدل bonsai را روی پلتفرم اسنپدراگون AR1 نسل اول به نمایش گذاشت؛ همان پردازنده‌ای که برای نسل جدید عینک‌های هوشمند در نظر گرفته شده است. ویژگی مشخصه‌ی این نسخه، معماری کوانتیزه‌شده‌ی ۱ بیتی است که امکان اجرای کامل مدل روی خود دستگاه را فراهم می‌کند، بدون نیاز به ارتباط با سرورهای راه دور برای پردازش.

1231012

نسخه‌ی ارائه‌شده برای عینک، بر پایه‌ی مدل bonsai ۱.۷ میلیارد پارامتری ساخته شده و در نسخه‌ی نهایی به حدود ۲ میلیارد پارامتر رسیده تا توانایی درک هم‌زمان تصویر و زبان را داشته باشد. طول زمینه‌ی این مدل ۱٬۰۲۴ توکن گزارش شده که با استانداردهای رایج در مدل‌های زبانی بزرگ فاصله‌ی محسوسی دارد، اما برای کاربردی مثل پاسخ‌گویی آنی درباره‌ی آنچه کاربر در محیط اطراف می‌بیند، در نظر گرفته شده است.

بر اساس داده‌هایی که خود شرکت منتشر کرده، حجم وزن‌های این مدل حدود ۰.۴۳ گیگابایت است، در حالی‌ که یک مدل مقایسه‌ای با اندازه‌ی مشابه (مدل Qwen 3 با ۱.۷ میلیارد پارامتر و کوانتیزاسیون ۴ بیتی) نزدیک به ۱.۶۶ گیگابایت حافظه اشغال می‌کند؛ اختلافی در حدود ۳.۸ برابر. سرعت پردازش نیز در این آزمایش برای مدل bonsai نزدیک به ۱۵ توکن در ثانیه و برای مدل مقایسه‌ای حدود ۷.۴ توکن در ثانیه گزارش شده است. این اندازه‌گیری‌ها روی یک پلتفرم آزمایشی با ۴ گیگابایت حافظه انجام شده و در برابر نسخه‌های بزرگ‌تر خود خانواده‌ی bonsai (از جمله نسخه‌ی ۲۷ میلیاردی) سنجیده نشده است. به بیان دیگر، این ارقام صرفاً بیانگر برتری این مدل نسبت به یک مدل مشابه در همان رده‌ی حافظه‌اند، نه معیاری برای مقایسه با مدل‌های بزرگ‌تر یا سرویس‌های ابری.

از نظر ارزیابی کیفیت پاسخ، شرکت اعلام کرده مدل ۱.۷ میلیاردی bonsai را در برابر همان مدل Qwen ۳ روی مجموعه‌ای از آزمون‌های استاندارد از جمله BFCL v3، HumanEval+، MMLU Redux، IFEval، IFBench، MuSR، GSM8K و GPQA Diamond سنجیده و نتیجه را «قابل مقایسه» توصیف کرده است. در متن اعلامیه، ارقام دقیق هر آزمون به تفکیک منتشر نشده و ارزیابی مستقلی نیز از سوی نهاد یا آزمایشگاه ثالث در دسترس نیست؛ نکته‌ای که در مورد اعلامیه‌های همزمان با رونمایی محصول، امری معمول تلقی می‌شود.

راهبرد کلی‌تر PrismML، توسعه‌ی مدل‌های سبک و متن‌باز است که بتوانند از ظرفیت پردازشی موجود در خود دستگاه‌ها بهره ببرند، به‌جای وابستگی به زیرساخت محاسباتی متمرکز آزمایشگاه‌های بزرگ هوش مصنوعی. عرضه‌ی این نسخه برای تراشه‌ی کوالکام یکی از گام‌های این مسیر به شمار می‌رود، هرچند تا این لحظه هیچ سازنده‌ی مشخصی از عینک هوشمند، عرضه‌ی محصولی مبتنی بر این ترکیب نرم‌افزاری-سخت‌افزاری را اعلام نکرده است. آنچه در اسنپدراگون سامیت مشاهده شد، یک نمایش فنی از قابلیت اجرای این مدل بود، نه معرفی یک محصول تجاری آماده‌ی عرضه.

آرتا

آرتا هستم نویسنده و برنامه نویس. عاشق دنیای تکنولوژی هستم و در وبسایت نیوزینو آخرین اخبار هوش مصنوعی و مطالب آن رو منتشر میکنم.

ثبت دیدگاه

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *