رفتن به محتوای اصلی

تراشه اختصاصی OpenAI انویدیا را شکست داد؛ Jalapeño با مصرف کمتر، هوش مصنوعی را سریع‌تر اجرا می‌کند

0
بدون دیدگاه اشتراک‌گذاری
تبلیغات
تبلیغات

OpenAI اولین نتایج عملکرد تراشه اختصاصی هوش مصنوعی خود با نام Jalapeño را منتشر کرده است و اعداد اولیه بسیار قابل‌توجه به نظر می‌رسند. این تراشه که با همکاری Broadcom توسعه یافته، در آزمایش‌های Inference توانسته ترکیبی از سرعت بالاتر، تأخیر کمتر و بهره‌وری انرژی بهتر نسبت به برخی از قدرتمندترین سیستم‌های فعلی بازار ارائه کند.

Jalapeño اولین تراشه اختصاصی OpenAI محسوب می‌شود و برخلاف GPUهای عمومی‌تر، از ابتدا برای یک هدف مشخص طراحی شده است: اجرای سریع و بهینه مدل‌های زبانی بزرگ.

به گزارش تکراتو و به نقل از OpenAI، نتایج آزمایش این شرکت نشان می‌دهد Jalapeño در سه مدل مختلف بین ۱.۵ تا ۱.۹ برابر کار هوش مصنوعی بیشتری به‌ازای هر وات انجام می‌دهد و در عین حال تأخیر End-to-End آن بین ۱.۷ تا ۳.۶ برابر کمتر از سیستم‌های مقایسه‌شده بوده است.

Jalapeño چیست؟

Jalapeño یک ASIC یا Application-Specific Integrated Circuit است.

برخلاف پردازنده‌های گرافیکی که باید بتوانند طیف گسترده‌ای از محاسبات را انجام دهند، ASIC برای یک دسته مشخص از وظایف طراحی می‌شود.

OpenAI تراشه خود را مشخصاً برای Inference مدل‌های زبانی بزرگ ساخته است.

Inference مرحله‌ای است که پس از آموزش مدل اتفاق می‌افتد؛ یعنی زمانی که کاربر از ChatGPT سؤال می‌کند، یک Agent وظیفه‌ای انجام می‌دهد یا یک توسعه‌دهنده درخواست API ارسال می‌کند و مدل باید پاسخ تولید کند.

هرچه این مرحله سریع‌تر و کم‌هزینه‌تر انجام شود، OpenAI می‌تواند تعداد بیشتری درخواست را با زیرساخت کمتر پاسخ دهد.

Jalapeño در مقابل Nvidia GB200 و GB300

OpenAI برای سنجش عملکرد تراشه خود از InferenceX استفاده کرده است؛ بنچمارک عمومی SemiAnalysis که عملکرد کامل سیستم‌های Inference را بررسی می‌کند.

نتایج Jalapeño با سیستم‌های پیشرو موجود در بازار مقایسه شده‌اند که در بخش‌هایی از محدوده آزمایش شامل Nvidia GB200 و GB300 می‌شوند.

براساس نتایج منتشرشده توسط OpenAI، Jalapeño روی سه مدل عمومی آزمایش شده است:

GPT-OSS 120B
DeepSeek R1 670B
Kimi K2.5 1T

در مجموع این آزمایش‌ها، Jalapeño توانسته بین ۱.۵ تا ۱.۹ برابر AI Work بیشتری به‌ازای هر وات ارائه کند.

در بخش End-to-End Latency نیز تراشه OpenAI بین ۱.۷ تا ۳.۶ برابر تأخیر کمتری ثبت کرده است.

برای بارهای کاری بسیار تعاملی نیز OpenAI از عملکرد ۲.۱ تا ۴.۱ برابر بالاتر خبر می‌دهد.

این اعداد به‌خصوص برای AI Agentها اهمیت دارند؛ زیرا یک Agent ممکن است برای تکمیل یک وظیفه ده‌ها یا حتی صدها مرحله پردازشی متوالی انجام دهد و تأخیر هر مرحله در نهایت روی زمان کل انجام کار تأثیر می‌گذارد.

تراشه ۷۰۰ واتی در برابر سیستم‌های پرمصرف‌تر

یکی از جذاب‌ترین ویژگی‌های Jalapeño بهره‌وری انرژی آن است.

OpenAI توان طراحی حرارتی این تراشه را ۷۰۰ وات اعلام کرده است؛ بااین‌حال در بارهای کاری آزمایش‌شده، مصرف پایدار اندازه‌گیری‌شده آن از حدود ۵۵۰ وات فراتر نرفته است.

در مقایسه‌های منتشرشده، Nvidia GB200 با توان نامی ۱۲۰۰ وات و GB300 با توان نامی ۱۴۰۰ وات حضور داشته‌اند.

البته مقایسه مستقیم TDP دو تراشه به‌تنهایی برای تعیین برنده کافی نیست و OpenAI نیز به همین دلیل عملکرد را براساس میزان کار انجام‌شده به‌ازای انرژی مصرفی و Latency بررسی کرده است.

نتایج اولیه نشان می‌دهد Jalapeño در همین معیارها عملکرد بسیار رقابتی دارد.

یک رک کامل Jalapeño چه قدرتی دارد؟

جزئیات ارائه‌شده در کنفرانس Hot Chips تصویر دقیق‌تری از زیرساخت OpenAI ارائه می‌کند.

OpenAI قصد دارد Jalapeño را در Rackهایی شامل ۱۲۸ تراشه مستقر کند.

براساس اطلاعات ارائه‌شده توسط Richard Ho، معاون سخت‌افزار OpenAI، یک Rack با ۱۲۸ تراشه Jalapeño می‌تواند حدود ۱.۷ اگزافلاپس توان محاسباتی ۴ بیتی ارائه کند.

این مجموعه همچنین حدود ۲۷.۵ ترابایت حافظه HBM4 در اختیار خواهد داشت.

هر پکیج Jalapeño نیز پهنای باند حافظه‌ای در حدود ۱۵.۴ ترابایت‌برثانیه ارائه می‌کند.

اما مقیاس زیرساخت به همین‌جا ختم نمی‌شود.

یک Pod کامل Jalapeño می‌تواند شامل ۲۰۴۸ تراشه ASIC باشد؛ مقیاسی که نشان می‌دهد OpenAI این پروژه را صرفاً به‌عنوان یک آزمایش سخت‌افزاری کوچک نمی‌بیند.

هوش مصنوعی در ساخت تراشه هوش مصنوعی کمک کرده است

یکی از جالب‌ترین جنبه‌های Jalapeño مربوط به نحوه توسعه خود تراشه است.

OpenAI می‌گوید مدل‌های هوش مصنوعی این شرکت در مراحل طراحی و بهینه‌سازی Jalapeño به مهندسان کمک کرده‌اند.

این پروژه از طراحی اولیه تا Tape-out تولیدی تنها حدود ۹ ماه زمان برده است.

Tape-out مرحله‌ای بسیار مهم در طراحی تراشه است که در آن طراحی نهایی برای تولید به کارخانه نیمه‌هادی ارسال می‌شود.

OpenAI این چرخه توسعه را یکی از سریع‌ترین فرایندهای توسعه ASICهای پیشرفته توصیف کرده است.

به بیان ساده، مدل‌های OpenAI در ساخت سخت‌افزاری مشارکت کرده‌اند که قرار است نسل‌های آینده همان مدل‌های هوش مصنوعی را اجرا کند.

Broadcom چه نقشی در Jalapeño دارد؟

OpenAI این پروژه را به‌تنهایی انجام نداده است.

Broadcom یکی از مهم‌ترین شرکای این شرکت در توسعه Jalapeño محسوب می‌شود و در پیاده‌سازی سیلیکون، ارتباطات و فناوری‌های شبکه‌ای پروژه نقش دارد.

Celestica نیز در بخش‌هایی مانند طراحی برد، Rack، یکپارچه‌سازی سیستم و تولید مقیاس‌پذیر مشارکت می‌کند.

بااین‌حال معماری اصلی تراشه توسط OpenAI و براساس نیازهای مدل‌ها، Kernelها، سیستم‌های Serving و محصولات خود این شرکت طراحی شده است.

این رویکرد شباهت زیادی به استراتژی شرکت‌هایی مانند Google دارد که سال‌هاست تراشه‌های اختصاصی TPU را برای بارهای کاری هوش مصنوعی توسعه می‌دهد.

چرا OpenAI تراشه اختصاصی ساخته است؟

هزینه زیرساخت به یکی از بزرگ‌ترین چالش‌های صنعت هوش مصنوعی تبدیل شده است.

شرکت‌هایی مانند OpenAI برای اجرای مدل‌های خود به تعداد عظیمی از شتاب‌دهنده‌های AI نیاز دارند و بخش بزرگی از این بازار در اختیار Nvidia قرار دارد.

اما مسئله فقط قیمت خرید GPU نیست.

مصرف برق، سیستم خنک‌کننده، شبکه، حافظه و هزینه ساخت دیتاسنتر همگی در هزینه نهایی تولید هر Token نقش دارند.

اگر OpenAI بتواند با Jalapeño تعداد Token بیشتری را با همان مقدار انرژی تولید کند، هزینه اجرای ChatGPT، Codex و APIهای این شرکت کاهش پیدا خواهد کرد.

برای کاربران نیز این موضوع می‌تواند در نهایت به پاسخ‌های سریع‌تر، Agentهای واکنش‌پذیرتر و ظرفیت بالاتر سرویس‌ها منجر شود.

آیا OpenAI دیگر به انویدیا نیاز ندارد؟

خیر.

نتایج Jalapeño به معنی پایان همکاری OpenAI و Nvidia نیست.

Richard Ho، مدیر سخت‌افزار OpenAI، تأکید کرده که استراتژی Compute این شرکت همچنان شامل شرکای بزرگ سخت‌افزاری می‌شود و Nvidia یکی از آنهاست.

OpenAI حجم عظیمی از زیرساخت محاسباتی در اختیار دارد و یک تراشه اختصاصی به‌تنهایی نمی‌تواند تمام نیاز این شرکت را پوشش دهد.

Jalapeño در واقع راهی برای متنوع‌تر کردن زیرساخت OpenAI و بهینه‌سازی بارهای کاری مشخص است.

استقرار Jalapeño از همین امسال آغاز می‌شود

OpenAI قصد دارد اولین نسل Jalapeño را تا پایان سال ۲۰۲۶ در حجم محدود وارد دیتاسنترهای خود کند.

افزایش جدی حجم استقرار برای سال ۲۰۲۷ برنامه‌ریزی شده است.

این شرکت همچنین از همین حالا روی نسل‌های دوم و سوم این معماری کار می‌کند.

بنابراین Jalapeño یک پروژه تک‌نسلی نیست؛ بلکه آغاز یک پلتفرم چندنسلی برای سخت‌افزار اختصاصی OpenAI محسوب می‌شود.

شرکت همچنین پیش‌تر اعلام کرده بود که در بلندمدت قصد دارد این پلتفرم را در مقیاس گیگاوات مستقر کند.

OpenAI به سمت کنترل کامل زنجیره هوش مصنوعی می‌رود

اهمیت Jalapeño تنها در این نیست که در چند بنچمارک از Nvidia GB200 یا GB300 جلو افتاده است.

مسئله بزرگ‌تر، حرکت OpenAI به سمت یک مدل Full-Stack است.

این شرکت اکنون مدل‌های هوش مصنوعی، محصولات مصرف‌کننده مانند ChatGPT، ابزارهای توسعه‌دهندگان، نرم‌افزار Serving و حالا تراشه اختصاصی خود را توسعه می‌دهد.

این یعنی OpenAI می‌تواند سخت‌افزار را دقیقاً متناسب با رفتار مدل‌های خودش طراحی کند و سپس از اطلاعات واقعی میلیون‌ها کاربر برای بهینه‌سازی نسل‌های بعدی زیرساخت استفاده کند.

البته نتایج فعلی باید با احتیاط تفسیر شوند. اعداد منتشرشده عمدتاً از آزمایش‌های OpenAI روی بنچمارک عمومی InferenceX به دست آمده‌اند و قرار نیست ثابت کنند Jalapeño در تمام بارهای کاری از تمام محصولات Nvidia سریع‌تر است.

اما یک موضوع اکنون روشن است: OpenAI دیگر صرفاً یکی از بزرگ‌ترین خریداران تراشه‌های هوش مصنوعی جهان نیست؛ این شرکت حالا خودش وارد رقابت طراحی سیلیکون شده و اولین محصولش نیز شروع قدرتمندی داشته است.

دیدگاه ها و نظرات خود را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

مطالب مشابه