Jev معرفی شد؛ هوش مصنوعی متفاوتی که به‌جای تولید متن، برای نرم‌افزارها «تصمیم» می‌گیرد

استارتاپ TypeSafe AI از مدل هوش مصنوعی جدیدی به نام Jev رونمایی کرده که برخلاف مدل‌های زبانی بزرگی مانند ChatGPT یا Gemini، برای گفت‌وگو و تولید متن طراحی نشده است.

Jev به‌جای ساخت جمله و پاسخ متنی، مجموعه‌ای از تصمیم‌های ازپیش‌تعریف‌شده را همراه با احتمال و میزان اطمینان ارائه می‌کند؛ رویکردی که سازندگان آن معتقدند برای خودکارسازی نرم‌افزارها، مسیریابی وظایف، دسته‌بندی اطلاعات و نظارت بر ایجنت‌های هوش مصنوعی مناسب‌تر است.

TypeSafe این مدل را نخستین عضو دسته‌ای جدید با نام System One Models معرفی می‌کند.

Jev چه تفاوتی با مدل‌های زبانی دارد؟

مدل‌های زبانی بزرگ معمولاً خروجی را به‌صورت رشته‌ای از توکن‌ها و به‌شکل متوالی تولید می‌کنند. مدل ابتدا یک توکن می‌سازد، سپس براساس آن توکن بعدی را انتخاب می‌کند و این فرایند تا تکمیل پاسخ ادامه پیدا می‌کند.

Jev مسیر متفاوتی را دنبال می‌کند.

توسعه‌دهنده ابتدا ساختار تصمیم‌ها و گزینه‌های مجاز را مشخص می‌کند و مدل در یک درخواست، احتمال گزینه‌های مختلف را به‌صورت موازی ارائه می‌دهد.

برای مثال، یک نرم‌افزار می‌تواند از Jev بپرسد یک ایمیل متعلق به بخش فروش، پشتیبانی یا اسپم است و مدل برای هر گزینه میزان احتمال مشخصی ارائه کند.

این خروجی‌ها مستقیماً برای استفاده در کد طراحی شده‌اند و نیازی نیست مانند پاسخ متنی یک LLM ابتدا استخراج و اعتبارسنجی شوند.

TypeSafe دسته جدیدی به نام System One ساخته است

TypeSafe مدل Jev را در دسته‌ای با نام System One قرار داده است.

این نام از مفهوم «سیستم ۱» در نظریه تفکر سریع و کند دانیل کانمن الهام گرفته شده است؛ سیستمی که تصمیم‌های سریع و شهودی را در مقابل استدلال طولانی و مرحله‌به‌مرحله توصیف می‌کند.

در این مدل، هدف انجام کارهایی مانند دسته‌بندی، امتیازدهی، مسیریابی، استخراج اطلاعات و انتخاب میان چند گزینه است.

Jev قرار نیست برای نوشتن مقاله، گفت‌وگو یا انجام استدلال‌های بسیار طولانی جایگزین مدل‌های زبانی شود؛ بلکه برای موقعیت‌هایی طراحی شده که نرم‌افزار به یک تصمیم سریع و ساختاریافته نیاز دارد.

پاسخ در ۷۰ تا ۵۰۰ میلی‌ثانیه

یکی از مهم‌ترین ادعاهای TypeSafe درباره Jev، سرعت آن است.

شرکت سازنده زمان پاسخ مدل را در محدوده ۷۰ تا ۵۰۰ میلی‌ثانیه اعلام کرده است.

TypeSafe در برخی آزمایش‌های داخلی خود ادعا می‌کند Jev برای وظایف مناسب System One می‌تواند تا حدود دو مرتبه بزرگی سریع‌تر و کم‌هزینه‌تر از مدل‌های زبانی قدرتمند باشد.

بااین‌حال، این مقایسه‌ها توسط خود TypeSafe انجام شده‌اند و عملکرد واقعی مدل می‌تواند بسته به نوع وظیفه، مدل مقایسه‌شده و نحوه پیاده‌سازی متفاوت باشد.

هزینه Jev چقدر است؟

مدل جدید با یک مدل قیمت‌گذاری متفاوت نیز عرضه شده است.

TypeSafe هزینه پردازش ورودی Jev را ۴۲ دلار به ازای یک میلیارد توکن اعلام کرده است؛ یعنی حدود ۰٫۰۴۲ دلار برای هر یک میلیون توکن.

این شرکت برای توکن‌های خروجی هزینه‌ای دریافت نمی‌کند.

علت این تفاوت آن است که Jev خروجی متنی طولانی و توکن‌به‌توکن تولید نمی‌کند و تنها مقادیر ساختاریافته موردنیاز نرم‌افزار را برمی‌گرداند.

یادگیری تقویتی با تصمیم‌های کالیبره‌شده

TypeSafe برای آموزش مدل‌های System One روش جدیدی با نام Reinforcement Learning for Calibrated Decisions یا RLCD معرفی کرده است.

در این روش، مدل برای ارائه تصمیم‌هایی آموزش می‌بیند که میزان اطمینان آن‌ها نیز با احتمال واقعی موفقیت هماهنگ باشد.

به بیان ساده‌تر، اگر مدل برای یک تصمیم اطمینان ۹۰ درصدی اعلام کند، هدف این است که تصمیم‌هایی با چنین سطح اطمینانی تقریباً در همان محدوده از مواقع درست باشند.

این ویژگی می‌تواند برای خودکارسازی مهم باشد؛ زیرا توسعه‌دهنده قادر است حد مشخصی تعیین کند. برای مثال، نرم‌افزار می‌تواند تصمیم‌های با اطمینان بالای ۹۵ درصد را خودکار اجرا کند و موارد نامطمئن‌تر را برای بررسی انسانی بفرستد.

آیا Jev واقعاً «توهم» ندارد؟

TypeSafe ادعا می‌کند Jev به‌دلیل ساختار خروجی محدود و ازپیش‌تعریف‌شده، نمی‌تواند مانند یک مدل مولد متن آزاد تولید کند و در نتیجه با نوع رایج توهم در LLMها روبه‌رو نیست.

البته این موضوع به معنای آن نیست که Jev همیشه تصمیم درست می‌گیرد.

مدل همچنان می‌تواند گزینه اشتباه را انتخاب کند؛ تفاوت اصلی در این است که نمی‌تواند خارج از ساختار تعریف‌شده پاسخی دلخواه تولید کند و برای هر تصمیم نیز میزان اطمینان ارائه می‌دهد.

کاربرد Jev در نظارت بر ایجنت‌های هوش مصنوعی

یکی از کاربردهای موردنظر TypeSafe، نظارت بر مدل‌های زبانی و ایجنت‌های AI است.

Jev می‌تواند برای بررسی ورودی‌ها، تشخیص تلاش‌های Jailbreak، ارزیابی رفتار یک ایجنت یا تعیین اینکه یک درخواست باید به کدام مدل هوش مصنوعی فرستاده شود، استفاده شود.

این کاربرد آخر با نام Model Routing شناخته می‌شود.

برای مثال، Jev می‌تواند تشخیص دهد یک سؤال ساده به مدل ارزان‌تر فرستاده شود و تنها وظایف دشوار به مدل‌های قدرتمند و گران‌تر برسند.

آزمایش‌های اولیه توسعه‌دهندگان

براساس گزارش‌های منتشرشده، برخی توسعه‌دهندگان Jev را در سناریوهای واقعی آزمایش کرده‌اند.

یک مهندس Vercel اعلام کرده است که در یک وظیفه مرتبط با بررسی ایمنی دستورات، جایگزینی یک مدل زبانی با Jev باعث شده نتیجه بین ۵ تا ۱۸ برابر سریع‌تر تولید شود و دقت نیز افزایش پیدا کند.

در آزمایش دیگری برای دسته‌بندی ایمیل‌های تجاری، Gemini اندکی دقت بالاتری داشت، اما هزینه استفاده از آن طبق گزارش آزمایش‌کننده بین ۱۰ تا ۲۰ برابر بیشتر بود.

این نتایج هنوز معیار جامعی برای ارزیابی مدل محسوب نمی‌شوند، اما نشان می‌دهند چرا Jev در مدت کوتاهی توجه بخشی از جامعه توسعه‌دهندگان را به خود جلب کرده است.

Jev رقیب مستقیم ChatGPT نیست

ایده اصلی TypeSafe ساخت جایگزینی برای چت‌بات‌ها نیست.

Jev برای دسته‌ای از وظایف طراحی شده که در آن‌ها نرم‌افزار به‌جای یک متن زیبا یا استدلال طولانی، فقط به یک تصمیم سریع، قابل‌اندازه‌گیری و قابل‌استفاده در کد احتیاج دارد.

اگر این رویکرد در مقیاس واقعی موفق باشد، System One Models می‌توانند مکمل مدل‌های زبانی بزرگ شوند؛ به‌طوری‌که LLMها وظایف پیچیده و مولد را انجام دهند و مدل‌هایی مانند Jev تصمیم‌های پرتکرار و سریع داخل نرم‌افزارها را برعهده بگیرند.