رونمایی از مدل هوش مصنوعی MiniMax M3.1 Flash؛ سرعت خیره‌کننده با هزینه بسیار کم

شرکت مینی‌مکس از هوش مصنوعی M3.1 Flash با سرعت ۳ برابری و کاهش ۷۰ درصدی هزینه‌ها برای وظایف عامل‌محور و برنامه‌نویسی رونمایی کرد. شرکت چینی مینی‌مکس از هوش مصنوعی M3.1 Flash رونمایی کرد؛ مدلی که به‌گفته‌ی سازنده، در انجام وظایف پیچیده، برنامه‌نویسی و تحلیل بصری عملکردی در سطح مدل‌های پیشرفته دارد، اما با سرعت بیشتر و هزینه‌ی بسیار کمتر کار می‌کند.

مینی‌مکس می‌گوید M3.1 Flash در مقایسه با مدل M3، سرعت پردازش را تقریباً سه برابر کرده و هزینه‌ی استفاده را تا ۷۰ درصد کاهش داده است. این مدل برای کاربردهای مبتنی بر هوش مصنوعی عامل‌محور طراحی شده؛ رویکردی که در آن، مدل فقط به پرسش‌ها پاسخ نمی‌دهد، بلکه می‌تواند با استفاده از ابزارها، چند مرحله‌ی کاری را پشت‌سرهم اجرا کند و وظایفی مانند بررسی اطلاعات، کار با نرم‌افزارها یا توسعه‌ی کد را پیش ببرد.

یکی از نکات جالب درباره‌ی مدل جدید، ارتباطش با Space Bunny است؛ مدلی که پیش‌تر به‌صورت ناشناس فعالیت می‌کرد و طبق اعلام مینی‌مکس، بیش از ۲۰۰ تریلیون توکن پردازش کرده بود. شرکت چینی می‌گوید Space Bunny نسخه‌ی اولیه‌ی M3.1 Flash بوده است.

مینی‌مکس برای نشان‌دادن توانایی‌های مدل جدید به نتایج چند آزمون معیار اشاره می‌کند. M3.1 Flash در آزمون DeepSWE که توانایی مدل‌ها را در انجام وظایف پیچیده‌ی مهندسی نرم‌افزار می‌سنجد، امتیاز ۷۳٫۷ درصد را کسب کرده است.

این مدل همچنین در آزمون Agents’ Last Exam که عملکرد هوش مصنوعی را در انجام وظایف حرفه‌ای و چندمرحله‌ای ارزیابی می‌کند، به امتیاز ۲۹٫۶ رسیده و در آزمون BabyVision برای استدلال بصری نیز امتیاز ۹۱ را ثبت کرده است. این اعداد براساس ارزیابی‌های اعلام‌شده از سوی شرکت هستند و به‌تنهایی برای قضاوت درباره‌ی عملکرد مدل در تمام کاربردهای واقعی کافی نیستند.

سرعت اجرای مدل نیز از محورهای اصلی معرفی M3.1 Flash است. مینی‌مکس می‌گوید سرعت تولید خروجی در استفاده‌ی روزمره می‌تواند از ۲۰۰ توکن در ثانیه فراتر برود و سرعت میانه‌ی آن نیز بیش از ۱۷۰ توکن در ثانیه باشد.

توکن واحدی است که مدل‌های زبانی برای پردازش متن از آن استفاده می‌کنند؛ بنابراین سرعت تولید توکن نشان می‌دهد مدل با چه سرعتی پاسخ می‌سازد، هرچند زمان نهایی انجام یک کار به پیچیدگی درخواست و تعداد مراحل موردنیاز نیز بستگی دارد. قیمت‌گذاری API مدل جدید نیز برای توسعه‌دهندگانی که از هوش مصنوعی در محصولات و سرویس‌های خود استفاده می‌کنند، اهمیت دارد.

هزینه‌ی پردازش هر یک میلیون توکن ورودی ۰٫۱۵ دلار و هر یک میلیون توکن خروجی ۰٫۶۰ دلار اعلام شده است. هزینه‌ی خواندن توکن‌های ذخیره‌شده در حافظه‌ی موقت یا کش نیز به یک‌ونیم سنت برای هر یک میلیون توکن می‌رسد.

این سازوکار می‌تواند هزینه‌ی درخواست‌های تکراری را کاهش دهد؛ چون مدل لازم نیست هر بار تمام اطلاعات ورودی را از ابتدا پردازش کند. M3.1 Flash هم‌اکنون از طریق API مینی‌مکس، طرح اشتراکی M Plan و محصول MiniMax Code در دسترس قرار گرفته است.

MiniMax Code ابزاری برای برنامه‌نویسی و انجام کارهای اداری است که می‌تواند با اجازه‌ی کاربر به فایل‌های محلی، ابزارها و مرورگر دسترسی پیدا کند و وظایفی مانند نوشتن و رفع اشکال کد، تحلیل داده‌ها و آماده‌سازی گزارش یا ارائه را انجام دهد. مینی‌مکس می‌گوید وزن‌های مدل در ۲۳ اکتبر (۱ آبان) منتشر می‌شوند.

انتشار وزن‌ها به توسعه‌دهندگان امکان می‌دهد به پارامترهای آموزش‌دیده‌ی مدل دسترسی داشته باشند؛ موضوعی که می‌تواند گزینه‌های بیشتری برای اجرای مدل و سازگارکردن آن با نیازهای اختصاصی فراهم کند. بااین‌حال، دسترسی به وزن‌ها به‌تنهایی به معنای متن‌بازبودن کامل مدل نیست و شرایط مجوز استفاده نیز اهمیت دارد.