انتخاب مدل وزن‌باز؛ مجوز، توان اجرا و سازگاری با ابزارها

انتخاب مدل وزن‌باز با یک سوءتفاهم رایج شروع می‌شود: اینکه هر مدلی که وزنش قابل دانلود است، آزادانه قابل استفاده است. این‌طور نیست. هنگام انتخاب باید هم شرایط مجوز را بخوانید، هم توان اجرای مدل را روی سخت‌افزارتان بسنجید و هم ببینید قابلیت‌هایی که لازم دارید واقعاً در دسترس است یا نه.

در این قسمت از مجموعه‌ی آموزش هوش مصنوعی تخته سبز، اول تفاوت متن‌باز و وزن‌باز را روشن می‌کنیم. بعد مزایای این مدل‌ها و چند خانواده‌ی مشهور را مرور می‌کنیم و در پایان یک چک‌لیست عملی برای انتخاب می‌سازیم. سناریوی ما آموزشگاهی است که می‌خواهد بخشی از پاسخ‌گویی را روی سرور خودش اجرا کند.

مدل وزن‌باز و متن‌باز چه فرقی دارند؟

نرم‌افزار متن‌باز نقش مهمی در پیشرفت فناوری داشته است. ابتکار متن‌باز (OSI) ده معیار برای طبقه‌بندی نرم‌افزار متن‌باز تعریف کرده است. طبق این معیارها، کد منبع باید با مجوزی آزاد منتشر شود.

توسعه‌ی مدل‌های زبانی شبیه توسعه‌ی نرم‌افزار است، اما دقیقاً یکی نیست. همین تفاوت بحث‌های زیادی درباره‌ی تعریف «مدل متن‌باز» ایجاد کرده است. یک مدل متن‌باز به معنای کامل باید این‌ها را منتشر کند: داده‌ی آموزش، وزن‌های کامل، کد آموزش، کد ارزیابی و کد فاین‌تیون.

چرا بیشتر مدل‌ها وزن‌بازند؟

امروز تعداد کمی مدل همه‌ی این معیارها را دارد. مدل OLMo از مؤسسه‌ی AllenAI یکی از نمونه‌های نادر است که داده، کد و وزن‌ها را کامل منتشر کرده است. بیشتر مدل‌های مشهور، مثل Llama و بسیاری از مدل‌های Mistral، فقط وزن‌ها را منتشر می‌کنند.

به همین دلیل اصطلاح دقیق‌تر برای آن‌ها «وزن‌باز» است. این تمایز فقط لفظی نیست. وقتی داده‌ی آموزش منتشر نشده، نمی‌دانید مدل روی چه چیزی آموزش دیده؛ و وقتی مجوز اختصاصی است، آزادی استفاده‌تان محدود است.

مزایای مدل وزن‌باز

با همه‌ی این محدودیت‌ها، مدل‌های وزن‌باز مزیت‌های مهمی دارند. این مزیت‌ها دلیل اصلی انتخاب آن‌ها در بسیاری از پروژه‌های سازمانی‌اند.

سفارشی‌سازی و کنترل داده

چون وزن‌ها در اختیار شماست، می‌توانید مدل را فاین‌تیون کنید و برای یک کار یا حوزه‌ی خاص تخصصی‌اش کنید. نمونه‌های زیادی از این کار وجود دارد؛ مثل نسخه‌های Llama تنظیم‌شده برای زبان ژاپنی یا نسخه‌های Mistral برای پزشکی و ریاضی.

مزیت دوم، کنترل داده است. وقتی مدل روی سرور خودتان اجرا می‌شود، داده‌ی کاربران از زیرساخت شما خارج نمی‌شود. برای آموزشگاهی که با اطلاعات دانشجویان کار می‌کند، این یک مزیت قانونی و اخلاقی مهم است.

هزینه و انعطاف

هزینه‌ی هر توکن در مدل‌های وزن‌باز معمولاً پایین‌تر از مدل‌های اختصاصی است. هنگام ساخت برنامه، مقایسه‌ی عملکرد در برابر قیمت را فراموش نکنید. سایت‌هایی مثل Artificial Analysis مدل‌ها را از نظر کیفیت، سرعت و قیمت مقایسه می‌کنند.

انعطاف هم مزیت دیگری است. می‌توانید چند مدل را کنار هم به کار ببرید؛ مثلاً یک مدل کوچک برای کارهای ساده و یک مدل بزرگ‌تر برای استدلال. به تغییرات قیمت یا سیاست یک ارائه‌دهنده‌ی خاص هم وابسته نمی‌مانید.

خانواده‌های مشهور مدل وزن‌باز

فهرست مدل‌های وزن‌باز هر ماه بزرگ‌تر می‌شود. اینجا دو خانواده‌ی پرکاربرد را بررسی می‌کنیم تا ببینید هنگام مقایسه به چه جزئیاتی باید دقت کنید.

خانواده‌ی Llama

Llama از شرکت Meta یکی از پرکاربردترین خانواده‌های وزن‌باز است. Llama 3.1 در اندازه‌های مختلف، از جمله نسخه‌ای با ۴۰۵ میلیارد پارامتر، پنجره‌ی زمینه‌ی ۱۲۸ هزار توکنی و فراخوانی تابع بومی دارد. این ویژگی‌ها آن را برای RAG و ساخت ایجنت مناسب می‌کنند.

Llama 3.2 چندحالتی بودن را اضافه کرد؛ نسخه‌های ۱۱ و ۹۰ میلیاردی تصویر را هم می‌فهمند. نسخه‌های کوچک یک و سه میلیاردی هم برای اجرا روی تلفن همراه و دستگاه‌های لبه‌ای ساخته شده‌اند. فقط یادتان باشد مجوز Llama یک مجوز اختصاصی اجتماعی است، نه Apache؛ شرط‌هایی مثل سیاست استفاده‌ی قابل‌قبول و محدودیت برای سرویس‌های بسیار بزرگ دارد.

خانواده‌ی Mistral

Mistral بر کارایی و عملکرد بالا تمرکز دارد. Mistral Large مدل شاخص سازمانی این شرکت است؛ پنجره‌ی زمینه‌ی ۱۲۸ هزار توکنی، پشتیبانی چندزبانه و فراخوانی تابع بومی دارد. Mistral Small یک مدل کوچک و ارزان با تأخیر کم است که برای خلاصه‌سازی، تحلیل احساسات و درخواست‌های پرتکرار مناسب است.

Mistral NeMo در این خانواده جایگاه ویژه‌ای دارد؛ مجوز Apache 2.0 دارد و استفاده‌ی تجاری‌اش آزاد است. از توکنایزر Tekken استفاده می‌کند که برای زبان‌های غیرانگلیسی و کد کارآمدتر است. در حالی که برخی مدل‌های دیگر Mistral مجوز تحقیقاتی یا تجاری جداگانه دارند. همین تفاوت نشان می‌دهد چرا مجوز را باید برای هر مدل جداگانه خواند.

توکنایزر؛ جزئیاتی که روی هزینه اثر دارد

توکنایزر تعیین می‌کند متن شما به چند توکن تقسیم شود. توکنایزری که برای زبان فارسی بهتر طراحی شده باشد، همان متن را با توکن‌های کمتری نمایش می‌دهد. نتیجه، هزینه‌ی کمتر و جای بیشتر در پنجره‌ی زمینه است.

پیش از انتخاب، یک متن فارسی نمونه را با توکنایزر هر مدل نامزد بشمارید. تفاوت می‌تواند چشمگیر باشد و در مقیاس هزاران درخواست، هزینه را جابه‌جا کند.

چطور مدل وزن‌باز مناسب را انتخاب کنیم؟

پاسخ واحدی برای انتخاب مدل وزن‌باز وجود ندارد. نقطه‌ی شروع خوب، فیلتر بر اساس کار در فهرست‌هایی مثل Microsoft Foundry یا Hugging Face است. اگر روی حوزه‌ی خاصی کار می‌کنید، دنبال نسخه‌های فاین‌تیون‌شده برای همان حوزه بگردید. در نهایت، چند مدل را روی داده‌ی خودتان آزمایش کنید. نمودار زیر چهار قدم این انتخاب را نشان می‌دهد.

چک‌لیست انتخاب

جدول زیر پرسش‌هایی است که پیش از انتخاب هر مدل وزن‌باز باید جواب دهید.

هزینه‌ی واقعی اجرا

«رایگان بودن» وزن‌ها به معنای رایگان بودن اجرا نیست. هزینه‌ی واقعی شامل سخت‌افزار یا اجاره‌ی سرور GPU، برق، نگه‌داری، پایش و وقت تیم است. برای حجم کم درخواست، سرویس ابری ممکن است ارزان‌تر تمام شود.

محاسبه‌ی ساده‌ای کمک می‌کند. هزینه‌ی ماهانه‌ی سرور را بر تعداد درخواست‌های ماهانه تقسیم کنید و با قیمت هر درخواست در سرویس ابری مقایسه کنید. نقطه‌ی سربه‌سر معمولاً در حجم‌های بالا یا وقتی کنترل داده الزامی است، به نفع مدل وزن‌باز می‌چرخد.

سناریوی عملی؛ پاسخ‌گویی روی سرور آموزشگاه

یک آموزشگاه می‌خواهد بخشی از پاسخ‌گویی را روی زیرساخت خودش اجرا کند تا داده‌ی دانشجویان را کنترل کند. پیش از تصمیم نهایی، یک نمونه‌ی محدود می‌سازد.

ورودی و اقدام

ورودی آزمون سه بخش دارد: مشخصات سخت‌افزار موجود، نیازهای محصول و مجوز مدل انتخابی. اقدام مورد بررسی ساخت یک نمونه‌ی محدود است؛ یعنی اجرای مدل روی همان سخت‌افزار، سنجش مصرف منابع و بررسی قالب فراخوانی ابزار.

قالب فراخوانی ابزار را جدی بگیرید. هر خانواده‌ی مدل ممکن است فراخوانی تابع را کمی متفاوت پیاده کند. اگر دستیار شما به ابزار وابسته است، مطمئن شوید مدل انتخابی با فریم‌ورک ایجنت شما سازگار است.

معیار پذیرش و نمونه‌ی شکست

معیار پذیرش سه بخش دارد: کیفیت پاسخ فارسی، زمان اجرا روی سخت‌افزار واقعی و سازگاری با نیاز عملی محصول. یک نمونه‌ی ناقص هم بگذارید؛ مثلاً پرسشی که به پنجره‌ی زمینه‌ی بزرگ نیاز دارد.

شکستی که باید عمداً دنبالش باشید، همان سوءتفاهم ابتدای مقاله است: فرض یکسان بودن مجوز همه‌ی مدل‌هایی که وزنشان قابل دانلود است. این اشتباه ممکن است بعد از ماه‌ها کار، محصول را با مشکل حقوقی روبه‌رو کند. متن مجوز نسخه‌ی دقیق مدل را بخوانید و در گزارش ثبت کنید.

تمرین عملی؛ گزارش انتخاب یک مدل

خروجی این تمرین یک چک‌لیست تکمیل‌شده و گزارش اجرای آزمایشی یک مدل مشخص است:

1. دو مدل وزن‌باز نامزد انتخاب کنید و مجوز هر کدام را در یک جمله خلاصه کنید.
2. یک متن فارسی نمونه را با توکنایزر هر دو بشمارید و تعداد توکن‌ها را ثبت کنید.
3. مدل منتخب را روی سخت‌افزار موجود اجرا کنید و زمان پاسخ و حافظه‌ی مصرفی را بنویسید.

مشخص کنید کدام بخش را واقعاً اجرا کرده‌اید و کدام هنوز فرض است. این گزارش مبنای تصمیم برای استقرار واقعی است.

سخن پایانی

مدل وزن‌باز کنترل، انعطاف و معمولاً هزینه‌ی کمتر به همراه دارد؛ اما وزن قابل دانلود به معنای آزادی کامل نیست. تفاوت متن‌باز و وزن‌باز را بشناسید، مجوز هر نسخه را جداگانه بخوانید، توان سخت‌افزار و کیفیت فارسی را بسنجید و پیش از تصمیم نهایی یک نمونه‌ی محدود بسازید. انتخابی که با این چک‌لیست انجام شود، بعداً غافلگیرتان نمی‌کند.

در قسمت بعد سراغ انتخاب چارچوب ایجنت می‌رویم؛ اینکه چه چیزی را آماده بگیریم و چه چیزی را خودمان بسازیم.

این آموزش بر پایه‌ی درس Using Open Source Models و درس‌های مدل‌های Mistral و Meta از مجموعه‌ی آزاد Generative AI for Beginners مایکروسافت (مجوز MIT) به فارسی بازنویسی و تکمیل شده است.