מה זה fine tuning בבינה מלאכותית?

Fine-tuning הוא דחיפה קטנה על גבי מודל ענק

מודל שפה מגיע אליכם כבר מאומן. האימון המקורי קרא קורפוס של טריליוני טוקנים; Meta דיווחה על יותר מ-15 טריליון עבור Llama 3. אימון המשך אז אילף אותו להיות עוזר. מה זה LLM מכסה את שני השלבים.

Fine-tuning הוא שלב שלישי, קטן בהרבה, שאתם מריצים בעצמכם. אתם נותנים למודל כמה מאות עד כמה אלפי דוגמאות של הקלט והפלט המדויקים שאתם רוצים, ומאמנים אותו קצת יותר על אלה. המדריך של OpenAI ל-fine-tuning אומר ששיפור ברור נראה בדרך כלל כבר מ-50 עד 100 דוגמאות. הפרמטרים זזים מעט לכיוון הפקת סוג התשובה שלכם כברירת מחדל.

פער הסדר גודל הוא כל הסיפור. חמישה עשר טריליון טוקנים מול כמה מאות דוגמאות: ה-fine-tune לא יכול להוסיף ידע משמעותי, כי אין מספיק ממנו כדי להזיז את המחט של מה שהמודל יודע. מה שהוא כן יכול לעשות זה להזיז את המחט של איך המודל מגיב, כי פורמט עקבי שחוזר על עצמו כמה מאות פעמים הוא בדיוק סוג הדפוס שדחיפה קטנה תופסת.

Fine-tuning משנה איך מודל עונה, אף פעם לא מה הוא יודע

הקו לשרטט הוא בין התנהגות לידע.

הכשל שאנשים נתקלים בו הוא השורה הרביעית. הם עושים fine-tune על מרכז העזרה שלהם, ומצפים למודל שמכיר את המוצר שלהם. הם מקבלים מודל שכותב בקול של מרכז העזרה וממציא את עובדות המוצר בשטף, כי האימון לימד אותו את הצורה של התשובות ולא את התוכן שלהן. עבודת הידע שייכת לחיפוש מידע, ומה זה RAG מסביר איך זה עובד.

למה עושים fine-tuning על מודלים זולים בכוונה

אף אחד לא עושה fine-tune למודל הכי יקר במשפחה עבור משימה צרה. המטרה היא לגרום למודל קטן וזול לעשות דבר אחד טוב כמו שהמודל המוביל עושה אותו עם פרומפט ארוך, ואז להריץ את הזול מיליוני פעמים.

המספרים מעל כל קצה הם ציוני Artificial Analysis Intelligence Index, שנקראו ב-2026-09-17, והקו הוא פער המחיר למיליון טוקנים. Llama 4 Maverick, מודל כללי, מקבל 9 נקודות מול 38 של Claude Sonnet 5; ההימור של fine-tune הוא שבמשימה צרה אחת אפשר לסגור את 29 הנקודות האלה תמורת חיסכון פי 127. במחירי OpenRouter כפי שנשלפו ב-2026-08-20, תשובה סטנדרטית של 1,000 טוקנים בכניסה ו-500 ביציאה עולה $0.0006 ב-Maverick ו-$0.007 ב-Sonnet 5, לפי מדד עלות מודלי AI, כך שסיווג פניות תמיכה שרץ 100,000 פעמים בחודש עולה $60 בראשון ו-$700 בשני. אם ה-Maverick המכוונן משתווה ל-Sonnet במשימה הזו, ה-tune מחזיר את עצמו כבר בחודש הראשון. החשבון הזה, לא איכות המודל בכלל, הוא בשביל מה fine-tuning קיים.

השיטה שהפכה את זה לזול היא LoRA, שפורסמה ב-2021, שמאמנת קבוצה קטנה של פרמטרים שנוספים במקום את כל המודל. עם הגרסה הבת 4 ביט שלה, QLoRA (Dettmers ואחרים, 2023), מודל בעל 7 מיליארד פרמטרים עובר כוונון על כרטיס מסך צרכני יחיד בעל 24GB. fine-tuning מלא של אותו מודל דורש עדכון כל פרמטר על פני כמה מעבדי GPU במרכז נתונים.

פרומפט, חיפוש מידע או מודל אחר פותרים את רוב המקרים לפני כל אימון

Fine-tuning הוא האופציה האחרונה, לא הראשונה, כי כל אחד מאלה פותר את המקרים הנפוצים במאמץ קטן בהרבה וניתן לשינוי תוך דקה.

1. פרומפט טוב יותר עם דוגמאות. שלוש דוגמאות של הפלט שאתם רוצים בתוך הפרומפט נותנות את רוב היתרון של fine-tune בפורמט ובטון, בלי שום אימון. הנדסת פרומפט למתחילים מכסה את הדפוס.
2. חיפוש מידע. אם הפער הוא ידע, שום כמות של כוונון לא תסגור אותו. העלו את המסמכים או הפעילו חיפוש.
3. מודל אחר. מודלים שונים בקול ברירת המחדל שלהם. מודל שכבר כותב בדרך שאתם רוצים עדיף על כוונון של מודל שלא, וסביבת עבודה עם כמה מודלים הופכת את זה לבדיקה בלחיצה אחת.

פנו ל-fine-tuning כשהפרומפט גדל לעמוד שלם של כללים שהמודל ממשיך לשכוח, כשהמשימה רצה בנפח שבו אורך הפרומפט הוא כסף אמיתי, או כשאתם צריכים פורמט שיוחזר באמינות עשרת אלפים פעמים בלי סטייה אחת. אלה צרכים אמיתיים. הם גם נדירים.

האם אפשר לעשות fine-tune בתוך מוצר צ'אט?

בדרך כלל לא, ו-Whizi לא יוצאת דופן. מוצרי צ'אט לצרכן, כולל Whizi, לא מציעים fine-tuning; זו תכונה למפתחים ב-API של הספקים ובמודלים בקוד פתוח. הדבר הכי קרוב בתוך אפליקציית צ'אט הוא הוראות קבועות. ב-Whizi אלה יושבות על פרויקט: הוראות מותאמות אישית לכל פרויקט חלות על כל שיחה בפרויקט הזה, וכך משיגים טון ופורמט עקביים על פני גוף עבודה שלם בלי לאמן שום דבר. איך להשתמש בפרויקטים מסביר איך להגדיר את זה.

זו הבחירה הנכונה עבור רוב האנשים. הוראת פרויקט היא פרומפט שכותבים פעם אחת ועורכים בכל פעם שהכללים משתנים. fine-tune הוא מודל שמאמנים מחדש בכל פעם שהכללים משתנים. לכל מי שלא מריץ משימה צרה בקנה מידה גדול, הפרומפט מנצח בעלות, במהירות השינוי ובעובדה שאפשר לקרוא אותו.

כלל ההחלטה: עשו fine-tune כשאותה משימה צרה רצה בנפח שבו מודל זול שמחזיר את עצמו חשוב. בכל מקום אחר, פשוט תכתבו את ההוראה.