گراک ۴.۸ با ۲.۵ تریلیون پارامتر در راه است؛ ایلان ماسک از پایان آموزش اولیه خبر داد

ایلان ماسک از پیشرفت توسعه Grok 4.8 خبر داده و می‌گوید مرحله اصلی آموزش این مدل هوش مصنوعی با ۲.۵ تریلیون پارامتر طی همین هفته به پایان می‌رسد. پس از آن، مدل وارد مرحله یادگیری تقویتی یا Reinforcement Learning خواهد شد.

طبق اطلاعات منتشرشده، Grok 4.8 یکی از بزرگ‌ترین مدل‌هایی خواهد بود که تاکنون در خانواده Grok توسعه یافته و افزایش تعداد پارامترها نشان می‌دهد مجموعه تحت مدیریت ماسک همچنان به استراتژی مقیاس‌دهی مدل‌های بنیادین ادامه می‌دهد.

Grok 4.8 با ۲.۵ تریلیون پارامتر آموزش می‌بیند

ماسک اعلام کرده است Grok 4.8 یک مدل ۲.۵ تریلیون پارامتری خواهد بود و آموزش اولیه آن در آستانه تکمیل قرار دارد.

«پارامتر» در مدل‌های زبانی به وزن‌های عددی داخلی گفته می‌شود که در جریان آموزش تنظیم می‌شوند و به مدل امکان می‌دهند الگوها و ارتباطات پیچیده موجود در داده‌ها را یاد بگیرد.

افزایش تعداد پارامترها لزوماً به‌تنهایی تضمین‌کننده هوشمندترشدن یک مدل نیست، اما در کنار داده آموزشی، معماری، کیفیت پساآموزش و توان پردازشی می‌تواند ظرفیت مدل برای یادگیری روابط پیچیده‌تر را افزایش دهد.

خود SpaceXAI نیز پیش‌تر در اسناد رسمی اعلام کرده بود آموزش نسل‌های آینده Grok به سمت مدل‌هایی با چند تریلیون پارامتر حرکت خواهد کرد.

مرحله بعدی Grok 4.8؛ یادگیری تقویتی

پایان آموزش اولیه به معنی آماده‌شدن Grok 4.8 برای انتشار عمومی نیست.

پس از Pre-training، مدل قرار است وارد مرحله Reinforcement Learning یا RL شود؛ فرایندی که در نسل‌های جدید مدل‌های هوش مصنوعی برای بهبود استدلال، حل مسئله، برنامه‌نویسی و انجام وظایف چندمرحله‌ای اهمیت زیادی پیدا کرده است.

xAI در نسل‌های اخیر Grok سرمایه‌گذاری قابل‌توجهی روی پساآموزش، Fine-tuning و Reinforcement Learning انجام داده است.

این شرکت هنگام معرفی Grok 4.5 نیز اعلام کرد که علاوه بر افزایش حجم داده، روی پالایش داده‌ها، حذف اطلاعات تکراری، امتیازدهی کیفی و آموزش تخصصی در حوزه‌هایی مانند برنامه‌نویسی، علوم، مهندسی و ریاضیات تمرکز کرده است.

نرم‌افزار جدید مبتنی بر ++C در فرایند توسعه

طبق اطلاعات منتشرشده درباره Grok 4.8، فرایند آموزش این مدل با استفاده از نرم‌افزار جدیدی مبتنی بر ++C انجام شده است.

جزئیات فنی این زیرساخت هنوز به‌صورت کامل منتشر نشده و مشخص نیست این تغییر دقیقاً چه میزان روی سرعت آموزش، بهره‌وری سخت‌افزار یا مقیاس‌پذیری مدل تأثیر خواهد داشت.

بااین‌حال، توسعه زیرساخت نرم‌افزاری اختصاصی می‌تواند برای مدلی با تریلیون‌ها پارامتر اهمیت زیادی داشته باشد؛ زیرا آموزش چنین مدل‌هایی به هماهنگی تعداد بسیار زیادی پردازنده گرافیکی و مدیریت حجم عظیمی از داده و ارتباطات میان آن‌ها نیاز دارد.

سرعت توسعه مدل‌های Grok افزایش یافته است

یکی از نکات مهم درباره Grok 4.8 فاصله کوتاه آن با نسل‌های قبلی است.

SpaceXAI مدل Grok 4.6 را در ماه آگوست ۲۰۲۶ منتشر کرد. این مدل برای برنامه‌نویسی، وظایف Agentic و کارهای دانشی طراحی شده و از پنجره زمینه ۵۰۰ هزار توکنی پشتیبانی می‌کند.

ماسک پیش‌تر نیز درباره توسعه Grok 4.7 صحبت کرده و گفته بود این مدل بر پایه معماری بزرگ‌تری نسبت به نسل‌های قبل ساخته می‌شود.

اکنون مطرح‌شدن Grok 4.8 با ۲.۵ تریلیون پارامتر نشان می‌دهد تیم توسعه Grok چرخه آموزش و پساآموزش مدل‌های جدید را با فاصله زمانی بسیار کوتاهی دنبال می‌کند.

هنوز زمان انتشار Grok 4.8 مشخص نیست

با وجود اعلام پایان قریب‌الوقوع مرحله آموزش، هنوز تاریخ رسمی انتشار عمومی Grok 4.8 اعلام نشده است.

پس از تکمیل آموزش پایه، مراحل Fine-tuning، Reinforcement Learning، ارزیابی‌های داخلی، آزمایش ایمنی و بهینه‌سازی برای سرویس‌دهی می‌توانند همچنان ادامه داشته باشند.

همچنین SpaceXAI تا این لحظه صفحه محصول یا Model Card رسمی برای Grok 4.8 منتشر نکرده است؛ بنابراین مشخصاتی مانند اندازه Context Window، قیمت API، سرعت تولید توکن و نتایج Benchmark آن هنوز مشخص نیست.

عدد ۲.۵ تریلیون پارامتر نیز فعلاً براساس اظهارات منتسب به ایلان ماسک مطرح شده و بهتر است تا انتشار مستندات فنی رسمی SpaceXAI، آن را مشخصه نهایی و مستقل تأییدشده مدل در نظر نگیریم.