درحالی که توجه علاقه‌مندان هوش مصنوعی به مدل ارزان متمرکز شده، اپل تصمیم گرفت خانواده مدل‌های کوچک خود را گسترش دهد. محققان این شرکت اخیرا چندین مدل متن‌باز را در إطار پروژه DCLM منتشر کردند.
مدل‌های هوش مصنوعی متن‌باز تازه اپل
بر اساس گزارش، خانواده جدید هوش مصنوعی اپل شامل دو مدل اصلی است یکی با ۷ می‌لیارد پارام‌تر و دیگری با ۱.۴ می‌لیارد پارام‌تر. هر دو در بنچمارک‌ها عملکرد خوبی داشته‌اند، به‌ویژه مدل بزرگ‌تر که از پیشی گرفته و می‌تواند با مدل‌های پیشرو متن‌باز مانند ۳ از متا و از گوگل رقابت کند.
محققان اپل این مدل‌ها را بهترین مدل‌های متن‌باز از نظر عملکرد توصیف کرده‌اند. نکته مهم انتشار کد آموزشی و مجموعه داده‌ها در است که این مدل‌ها را به‌صورت کامل متن‌باز در دسترس قرار می‌دهد. هر دو مدل در بنچمارک MMLU امتیاز قابل‌قبولی کسب کرده‌اند تا در برابر مدل‌های تجاری رقیب باشند.
به گفته محققان اپل، مدل ۷ می‌لیارد پارام‌تری بهبود ۶.۶ درصدی در بنچمارک‌ها نسبت به (پیشین‌ترین مدل متن‌باز اپل) داشته و برای آموزش آن تا ۴۰ درصد محاسبه کمتر مورد نیاز بوده است. از سوی دیگر، نسخه ۱.۴ می‌لیارد پارام‌تری که روی ۲.۶ تریلیون توکن آموزش دیده، عملکرد قابل‌توجه‌ی در تست‌های MMLU، و نشان داده است.
اپل در اردیبهشت‌ماه نیز مدل‌های متن‌باز را در چهار اندازه ۲۷۰ می‌لیون، ۴۵۰ می‌لیون، ۱.۱ می‌لیارد و ۳ می‌لیارد پارام‌تر منتشر کرده بود. به بیان اپل این مدل‌ها در وظایف پردازش متن مانند نوشتن ایمیل عملکرد مساعدی دارند.
مدل‌های منتشرشده توسط محققان اپل به نظر در هیچ‌یک از محصولات آینده این شرکت به‌کار گرفته نمی‌شوند و بیش‌تر باید به‌عنوان پروژه‌های تحقیقاتی متن‌باز در نظر گرفته شوند.
