Llama 3 چیست
Llama خانوادهای از مدلهای هوش مصنوعی است که Meta، شرکت پشت Facebook و Instagram، ساخته است. مثل ChatGPT و Claude، پرسشی مینویسید و پاسخ میگیرد. نکتهٔ جالب کاری که میکند نیست، شیوهٔ توزیعش است.
بیشتر مدلهای هوش مصنوعی داخل محصول سازندهشان قفلاند. شما از ChatGPT از طریق OpenAI استفاده میکنید و خود مدل هرگز از سرورهای آنها بیرون نمیآید. Meta وزنهای Llama را، یعنی همان اعدادی که مدل آموزشدیده را میسازند، منتشر میکند تا هرکسی بتواند دانلود و اجرایشان کند.
یک تشبیه کارآمد: بیشتر هوش مصنوعیها یک رستوراناند، سفارش میدهید و آنها میپزند. Llama به منتشرکردن دستور پخت نزدیکتر است. هم میتوانید در رستوران غذا بخورید، هم خودتان بپزید، تغییرش دهید یا آشپزخانهٔ خودتان را باز کنید.
یک نکتهٔ روشنکننده که آنلاین دربارهٔ آن بحث میشود. Llama را معمولاً متنباز توصیف میکنند و بهدقت که بگوییم «وزنباز» است، با پروانهای که شرطهایی دارد، از جمله محدودیتهایی برای استفادهٔ تجاری در مقیاس بسیار بزرگ. برای یک کاربر شخصی هیچ تفاوت عملی ندارد. برای شرکتی که محصولی روی آن میسازد، خواندن پروانه میارزد.
چرا این موضوع حتی اگر هرگز چیزی دانلود نکنید اهمیت دارد
سه پیامد به کاربران عادی میرسد.
ارزان است، پس همهجا هست. چون هرکسی میتواند میزبانیاش کند، رقابت هزینه را پایین میآورد. مدلهای Llama بخش بزرگی از هوش مصنوعیای را که در محصولات دیگر میبینید بدون برچسب نیرو میدهند، و معمولاً وقتی سرویسی از لایهٔ سریع یا اقتصادی حرف میزند منظورش همین است.
میتواند بدون اینترنت اجرا شود. مدلی روی دستگاه خودتان در هواپیما، در یک محیط امن یا هرجا که داده نباید از ساختمان بیرون برود کار میکند. هیچ سرویس میزبانیشدهای نمیتواند این را ارائه دهد.
بازار را صادق نگه میدارد. یک گزینهٔ رایگان و توانمند سقفی برای قیمت مدلهای بسته میگذارد، که فارغ از اینکه از چه چیزی استفاده میکنید به سود شماست.
واقعاً در چه چیزی خوب است
صادق بودن دربارهٔ این موضوع از شور و شوق مفیدتر است. Llama در چند اندازه عرضه میشود و معامله همیشه یکسان است: مدلهای کوچکتر بسیار سریع و ارزاناند، مدلهای بزرگتر تواناترند اما دیگر اجرایشان ارزان نیست.
| کار | Llama | جای بهتر |
|---|---|---|
| پرسشهای واقعی سریع | سریع و بهقدر کافی خوب | ندارد |
| فهرست کوتاه، ایدهپردازی، بازنویسی ساده | خیلی خوب و آنی | ندارد |
| کار تکراری روی موارد پرشمار | ایدهآل، چون هزینهٔ هر مورد مهم است | ندارد |
| هر چیزی که باید آفلاین یا خصوصی اجرا شود | تنها گزینهٔ واقعی | ندارد |
| نوشتهای که یک آدم سرتاسر میخواند | قابلاستفاده | Claude، محسوس |
| استدلال چندمرحلهای پیچیده | ضعیفتر از مدلهای پیشرو | GPT یا Claude |
| اسناد بسیار بلند | محدود | Gemini |
| هر چیزی از چند هفتهٔ اخیر | نمیداند | مدلی با دسترسی به وب |
الگو این است: عالی برای حجم و سرعت، رقابتی برای پرسشهای روزمره، و عقبتر از مدلهای پیشرو در استدلال دشوار و نوشتار پرداخته. برای چیزی رایگان این معاملهٔ منصفانهای است، و به همین دلیل «کدام بهتر است» پرسش اشتباهی است. آنجا که سرعت و هزینه مهم است از آن استفاده کنید، و وقتی کار سخت شد جابهجا شوید.
سه راه برای استفاده از آن
۱. از طریق یک فضای کاری، بدون هیچ نصبی. سادهترین گزینه. Llama در Whizi در کنار GPT، Claude و Gemini در دسترس است، پس میتوانید پرسشهای سریع را به آن بسپارید و وقتی کار سختتر شد در همان گفتگو به مدلی قویتر جابهجا شوید. چیزی برای نصب وجود ندارد.
۲. روی کامپیوتر خودتان. ابزارهایی مانند Ollama و LM Studio یک مدل را دانلود و بهصورت محلی اجرا میکنند. انتظارهای واقعبینانه: به دستگاهی نسبتاً امروزی با حافظهٔ فراوان نیاز دارید، مدلهای کوچکتر آنهایی هستند که راحت اجرا میشوند، و پاسخها بدون یک GPU خوب از سرویس میزبانیشده کندتر خواهند بود. در عوض، هیچچیزی که تایپ میکنید از دستگاهتان بیرون نمیرود و با اینترنت خاموش هم کار میکند. اگر حریم خصوصی یا استفادهٔ آفلاین شرط شماست واقعاً میارزد، وگرنه لازم نیست.
۳. از طریق API. اگر نرمافزار میسازید، ارائهدهندگان Llama را با هزینهٔ بسیار پایین به ازای هر توکن میزبانی میکنند، و اغلب همین دلیل انتخابش به جای یک مدل پیشرو برای کارهای پرحجم است.
چطور پاسخهای خوب از آن بگیریم
مدلهای کوچکتر به سبک prompt نویسی متفاوتی از مدلهای پیشرو پاسخ میدهند. سه عادت تفاوت بزرگی میسازند.
مستقیم و مشخص باشید. ۱۰ ایدهٔ نام برای یک کافه فهرست کن، هر کدام یک خط، بدون توضیح بهتر از یک درخواست گفتگویی جواب میدهد. مدلهای کوچکتر دستورهای ساده و صریح را خوب دنبال میکنند و روی دستورهای پیچیده منحرف میشوند.
هر بار یک چیز. مدلهای پیشرو شش قید را در یک prompt مدیریت میکنند. مدلهای کوچکتر با یک رشته درخواست تکموضوعی بهتر عمل میکنند.
قالب را بگویید. در یک جمله پاسخ بده یا فقط یک فهرست شمارهدار برگردان جلوی حاشیهپردازیای را میگیرد که مدلهای کوچکتر هنگام تردید تولید میکنند.
و بدانید کِی باید جابهجا شوید. اگر پاسخی مبهم است، خودش را نقض میکند یا نکتهای بدیهی را جا میاندازد، این علامت آن است که همان پرسش را به مدلی قویتر ببرید، نه اینکه مدام بازنویسیاش کنید. در فضای کاریای که چند مدل را کنار هم دارد، این یک کلیک است و گفتگو هم منتقل میشود.
مراقب چه چیزهایی باشید
نمیداند اخیراً چه اتفاقی افتاده است. دانشش در تاریخ آموزشش متوقف میشود، و اگر به جستجو وصل نباشد، پرسشی دربارهٔ ماه گذشته را با اطمینان از دانش عمومی پاسخ میدهد.
مثل هر مدلی، چیزهایی از خودش درمیآورد. مدلهای کوچکتر کمی بیشتر این کار را میکنند. هر واقعیت، تاریخ یا عدد مشخصی را بررسی کنید.
رایگان یعنی خصوصی نیست، اگر میزبانیشده باشد. اجرای Llama روی دستگاه خودتان خصوصی است. استفاده از آن از طریق سرویس کسی دیگر یعنی سیاست دادهٔ او اعمال میشود، دقیقاً مثل هر مدل دیگری.
سردرگمی نسخهها. Llama 3 یک نسل بود و از آن زمان نسخههای تازهتری هم منتشر شدهاند. اگر برایتان مهم است بپرسید از کدام نسخه استفاده میکنید، چون تفاوت توانایی میان نسلها بزرگ است.
- برای پرسشهای سریع، فهرستهای کوتاه و کارهای تکراری که سرعت در آنها مهم است از آن استفاده کنید
- وقتی کار به استدلال دقیق یا نوشتار پرداخته نیاز دارد به مدلی قویتر جابهجا شوید
- promptها را مستقیم نگه دارید، هر بار یک درخواست، و قالب خروجی را بگویید
- فقط در صورتی محلی اجرایش کنید که واقعاً به استفادهٔ آفلاین یا خصوصی نیاز دارید
- مثل هر مدل دیگری، هر واقعیت، تاریخ یا عدد مشخصی را بررسی کنید
- بپرسید از کدام نسخه استفاده میکنید، چون نسلها تفاوت زیادی دارند
پرسشهای متداول
برای استفاده از Llama 3 باید نرمافزاری دانلود کنم؟
نه. دانلود و اجرای محلی یکی از گزینههاست و اگر به استفادهٔ آفلاین یا کاملاً خصوصی نیاز دارید گزینهٔ درستی است، اما دستگاهی نسبتاً قدرتمند میخواهد و پاسخهایش از سرویس میزبانیشده کندتر است. بیشتر مردم از آن در مرورگر و از طریق یک پلتفرم استفاده میکنند، جایی که کنار مدلهای دیگر قرار دارد و هیچ نصبی لازم ندارد.
آیا Llama 3 از ChatGPT سریعتر است؟
مدلهای کوچکتر Llama بهطور محسوسی سریعترند، که آنها را برای پرسشهای کوتاه، فهرستهای سریع و هر کار تکراری عالی میکند. معامله سر توانایی است: در استدلال پیچیده و نوشتار پرداخته، مدلهای پیشرو آشکارا بهترند. رویکرد منطقی این است که برای سرعت از Llama استفاده کنید و وقتی پرسشی سختتر از ظاهرش از آب درآمد جابهجا شوید.
آیا Llama واقعاً رایگان است؟
وزنهای مدل رایگان قابل دانلودند و پروانه بیشتر کاربردها را مجاز میداند، با شرطهایی که عمدتاً برای استقرارهای تجاری در مقیاس بسیار بزرگ اهمیت دارند. اجرایش در عمل رایگان نیست، چون یا سختافزار و برق خودتان را هزینه میکند یا کارمزد بهازای توکن یک ارائهدهندهٔ میزبان را، که صرفاً بسیار کمتر از نرخ مدلهای پیشرو است.
اگر روی کامپیوتر خودم اجرایش کنم خصوصی است؟
بله، و همین قویترین دلیل برای اجرای محلی است. هیچچیزی که تایپ میکنید از دستگاهتان بیرون نمیرود، با اینترنت قطع کار میکند و هیچ سیاست ارائهدهندهای اعمال نمیشود چون ارائهدهندهای در کار نیست. هزینههایش عبارتاند از زحمت راهاندازی، دستگاهی با حافظهٔ کافی، پاسخهای کندتر بدون یک GPU خوب، و محدودماندن به مدلهای کوچکتری که راحت اجرا میشوند.
به جای ChatGPT یا Claude از Llama استفاده کنم؟
به جای آنها، بهندرت. در کنار آنها، اغلب. برای پرسشهای ساده و سریع، کارهای تکراری پرحجم و هر چیزی که باید خصوصی یا آفلاین اجرا شود انتخاب درستی است. برای نوشتهای که کسی با دقت میخواند، برای استدلال چندمرحلهای دشوار و برای اسناد بسیار بلند، مدلهای پیشرو بهشکل معناداری بهترند. در دسترس داشتن هر دو یعنی انتخاب به ازای هر کار انجام میشود، نه به شکل یک تعهد دائمی.