در پی تحولی بی‌سابقه در معماری پردازنده‌های موبایل و بهینه‌سازی مدل‌های عمیق، امکان اجرای کامل، بومی و آفلاین مدل‌های زبانی بزرگ تا سقف ۷۰ میلیارد پارامتر (70B Models) مستقیماً روی سخت‌افزار گوشی‌های هوشمند فراهم گردید.

تا پیش از این، استفاده از مدل‌های فوق‌پیشرفته هوش مصنوعی نیازمند ارسال مداوم داده‌ها به دیتا سنترهای ابری پرمصرف، صرف هزینه‌های سنگین پهنای باند و تحمل تاخیرهای اجتناب‌ناپذیر شبکه بود.

اما با جهش شگرف در طراحی «واحدهای پردازش عصبی» (NPU) روی تراشه‌های جدید و ابداع تکنیک‌های فشرده‌سازی و کوانتیزه‌سازی پیشرفته، الگوریتم‌ها توانستند بدون افت محسوس کیفیت، در درون حافظه محدود دستگاه‌های همراه مستقر شوند.

این دستاورد کلیدی، آغاز رسمی کوچ صنعت از «هوش مصنوعی ابری» (Cloud-based AI) به «هوش مصنوعی محلی» (On-Device AI) است؛ رویدادی که نه‌تنها وابستگی کاربران به اینترنت را قطع می‌کند، بلکه امنیت داده‌ها و حریم خصوصی را به بالاترین سطح ممکن در تاریخ فناوری می‌رساند.

هوش مصنوعی از سرورهای ابری به سخت‌افزار همراه کوچ می‌کند

طی سال‌های گذشته، سیاست اصلی در بهره‌گیری از هوش مصنوعی مولد بر پایه مدل ارتباطی «کلاینت-سرور» (Client-Server) استوار بود. در این ساختار، هر زمان که کاربر درخواستی را مطرح می‌کرد، داده‌های صوتی یا متنی او از طریق شبکه اینترنت به دیتا سنترهای عظیم ارسال می‌شد تا پردازش سنگین روی هزاران پردازنده گرافیکی (GPU) انجام شده و پاسخ مجدداً به دستگاه کاربر بازگردد.

این فرایند افزون بر ایجاد «تاخیر در زمان پاسخ‌دهی» (Latency)، موجب مصرف شدید انرژی در خطوط انتقال داده و وابستگی دائمی کاربر به اتصال پایدار اینترنت می‌شد.

جهش اخیر در اجرای محلی مدل‌های ۷۰ میلیارد پارامتری روی گوشی‌های هوشمند، این زنجیره پیچیده را کاملاً قطع کرده است.

در این الگوی جدید، تمام فرایند پردازش، استدلال و تولید پاسخ در خود دستگاه و بدون تبادل حتی یک بایت داده با دنیای بیرون صورت می‌پذیرد. انتقال این حجم از توان پردازشی به یک دستگاه کوچک درون جیب، ساختار تعامل انسان با ابزارهای دیجیتال را از اساس بازنویسی کرده و هوش مصنوعی را از یک «سرویس اینترنتی» به یک «قابلیت سخت‌افزاری بومی» ارتقا داده است.

جهش در معماری واحدهای پردازش عصبی راه را هموار کرد

دلیل اصلی تحقق این رویای دیرینه، بازطراحی بنیادین تراشه‌های پردازشی موبایل و معرفی نسل جدید «واحدهای پردازش عصبی» (NPU) است. سازندگان بزرگ تراشه مانند «کوالکام»، «اپل» و «سامسونگ»، مساحت اختصاص‌یافته به بخش پردازش هوش مصنوعی را روی تراشه‌ها به‌شدت افزایش داده‌اند.

این واحدهای تخصصی بر خلاف پردازنده‌های مرکزی (CPU) و گرافیکی (GPU)، صرفاً برای انجام سریع ضرب ماتریسی و محاسبات اعشاریِ رایج در شبکه‌های عصبی طراحی شده‌اند.

در کنار سخت‌افزار، شیوه‌های نرم‌افزاری نوآورانه‌ای مانند «کوانتیزه‌سازی» (Quantization) و «تقطیر دانش» (Knowledge Distillation) نقش مکمل را ایفا کرده‌اند.

بدین معنا که از طریق کوانتیزه‌سازی ۴ بیتی و ۸ بیتی، وزن‌های چند ده‌میلیاردی مدل‌های بزرگ از اعداد اعشاری ۳۲ بیتی سنگین به قالب‌های بسیار کم‌حجم‌تر تبدیل می‌شوند، بدون آنکه دقت استدلال مدل به شکل قابل توجهی افت کند.

این فشرده‌سازی هوشمندانه باعث شده است که حجم اشغال‌شده در حافظه رم (RAM) و پهنای باند حافظه داخلی دستگاه تا بیش از ۷۰ درصد کاهش یافته و امکان بارگذاری مستقیم مدل فراهم شود.

حریم خصوصی مطلق و سرعت آنی تجربه کاربری را دگرگون کرد

اجرای محلی مدل‌های هوش مصنوعی دو مزیت بنیادین دارد که مدل‌های ابری هرگز قادر به ارائه آن‌ها نبوده‌اند:

حریم خصوصی و امنیت ۱۰۰ درصدی: در سیستم‌های ابری، داده‌های حساس کاربر از جمله اسناد متنی، تصاویر شخصی، فایل‌های صوتی و اطلاعات مالی باید به سرورهای شرکت‌های ثالث ارسال می‌شدند که این موضوع همواره نگرانی‌های شدیدی درباره افشای اطلاعات یا استفاده از داده‌ها برای آموزش مدل‌ها ایجاد می‌کرد. در هوش مصنوعی محلی، هیچ داده‌ای از دستگاه خارج نمی‌شود؛ پردازش در یک «محیط ایزوله سخت‌افزاری» انجام می‌شود و تمام اطلاعات شخصی کاملاً محرمانه باقی می‌مانند.

زمان پاسخ‌دهی صفر و کارکرد آفلاین: حذف زمان رفت و برگشت داده‌ها در شبکه اینترنت، سرعت تولید پاسخ را به شدت افزایش داده است. مدل‌های محلی پاسخ‌ها را به‌صورت آنی و زنده تولید می‌کنند. علاوه بر این، کاربر می‌تواند در پروازهای هوایی، مناطق دورافتاده بدون پوشش شبکه یا در زمان قطع کامل اینترنت، از تمامی قابلیت‌های پیشرفته هوش مصنوعی استفاده کند.

مدیریت انرژی و محدودیت رم بزرگ‌ترین چالش‌های مهندسی هستند

با وجود این موفقیت خیره‌کننده، اجرای مدل‌های ۷۰ میلیارد پارامتری روی دستگاه‌های همراه با چالش‌های فنی و عملیاتی سنگینی روبه‌رو است که مهندسان در حال رفع آن‌ها هستند.

مهم‌ترین مانع، محدودیت حجم و پهنای باند حافظه رم (RAM) در گوشی‌های هوشمند است. یک مدل ۷۰B فشرده‌شده حتی با کوانتیزه‌سازی ۴ بیتی، حداقل به ۳۵ تا ۴۰ گیگابایت فضای خالی در حافظه رم نیاز دارد تا بتواند بدون کندی عمل کند؛ رقمی که فراتر از ظرفیت استاندارد ۱۲ تا ۱۶ گیگابایتی گوشی‌های فعلی است و تولیدکنندگان را به سمت استفاده از رم‌های فوق‌سریع و یکپارچه در نسل‌های بعدی سوق داده است.

چالش دوم، مصرف انرژی و مدیریت حرارت دستگاه است. پردازش پیوسته و سنگین روی واحدهای پردازش عصبی، جریان الکتریکی بالایی از باتری می‌کشد که می‌تواند منجر به داغ شدن بدنه گوشی و کاهش عمر شارژدهی آن شود.

توسعه‌دهندگان برای حل این مشکل، از سیستم‌های پردازش ناهمگون (Heterogeneous Computing) استفاده می‌کنند تا کارهای سبک‌تر به بخش‌های کم‌مصرف تراشه واگذار شده و بخش‌های سنگین صرفاً هنگام نیاز شدید فعال شوند.

بستری برای شکل‌گیری دستیاران شخصی واقعی فراهم شد

کوچ هوش مصنوعی به داخل سخت‌افزار، زمینه را برای ظهور نسل جدیدی از «عامل‌های هوشمند شخصی» (Personal AI Agents) آماده کرده است. دستیاران صوتی و نرم‌افزاری قدیمی (مانند سیری یا گوگل اسیستنت) به دلیل عدم دسترسی مستقیم به پردازش محلی عمیق، صرفاً به دستورات ساده و پیش‌فرض محدود بودند.

اما مدل‌های محلی ۷۰ میلیارد پارامتری می‌توانند به تمام برنامه‌های گوشی، پیام‌ها، تقویم و ایمیل‌ها به‌صورت زنده و امن دسترسی داشته باشند.

این دستیاران محلی می‌توانند تمام داده‌های روزمره کاربر را بدون به‌خطر افتادن حریم خصوصی تحلیل کنند، اولویت‌های کاری را تنظیم کنند، کدهای برنامه‌نویسی بنویسند و حتی مکالمات طولانی را بدون نیاز به شبکه خلاصه نمایند.

در واقع پیوند هوش مصنوعی عمیق با سخت‌افزار شخصی، مفهوم گوشی هوشمند را از یک «دستگاه ارتباطی ساده» به یک «مغز دوم و همراه همیشگی برای انسان» تغییر داده است.

/فارس