מה זה system prompt?

ההודעה שלא שלחת, שהמודל קורא ראשונה

כל אפליקציית צ'אט שולחת למודל יותר מההודעה שלך. לפני המילים שלך מגיע בלוק טקסט שהאפליקציה כתבה: איך קוראים לעוזר, מה הוא צריך ולא צריך לעשות, איך לעצב תשובות, מה התאריך היום, לאילו כלים הוא יכול לקרוא. הבלוק הזה הוא ה-system prompt. אתה כותב "סכם את זה"; המודל מקבל עמוד שלם של כללים ואחריו "סכם את זה".

המודל מתייחס ל-system prompt כאל פקודת קבע. מודל שהתבקש להיות "עוזר תמציתי שעונה באנגלית בריטית ולעולם לא משתמש בתבליטים" יעשה זאת לאורך כל השיחה בלי שיזכירו לו, כי ההוראה מגיעה שוב עם כל הודעה. השליחה החוזרת הזו היא הפרט שאנשים מפספסים, וזה הפרט שעולה כסף, שהחלק השלישי מתמחר.

אפשר לראות דוגמאות אמיתיות. Anthropic מפרסמת את ה-system prompts שהיא משתמשת בהם עבור Claude באפליקציות שלה, עם הערות שחרור כשהם משתנים. קריאה של אחד היא הדרך הכי מהירה להבין את הז'אנר: פסקאות על טון, על מתי להשתמש ברשימות, על איך להתמודד עם בקשה שצריך לסרב לה, על תאריך העדכון האחרון של הידע, כתובות באנגלית פשוטה ולא בקוד. אחרים דלפו; ה-system prompt של Bing chat שקרא לעוזר "Sydney" חולץ על ידי סטודנט מסטנפורד בפברואר 2023 על ידי בקשה מהמודל לחזור על הטקסט שמעל השיחה.

למה אותה שאלה מקבלת תשובה שונה באפליקציה אחרת

ה-API-ים של המודלים מתייגים כל הודעה בתפקיד, והמודל מאומן לשקלל אותם אחרת.

שני דברים נובעים מהסדר הזה. ה-system prompt קובע את המסגרת, אז אותה הודעת משתמש מקבלת תשובה שונה במסגרת שונה: "כתוב לימריק" מייצר לימריק תחת system prompt אחד וסירוב תחת system prompt של עוזר בנקאי. וה-system prompt שייך לאפליקציה, אז מעבר בין אפליקציות על אותו מודל משנה את התשובות למרות שהמודל לא השתנה. מה זה LLM מפריד בין המודל לאפליקציה; ה-system prompt הוא רוב ההפרדה הזו.

הקו הזה לא מוחלט. מודלים מאומנים לעקוב אחרי ה-system prompt יותר מאחרי המשתמש, אבל הודעת משתמש עדיין יכולה לשכנע מודל לזנוח את ההוראות שלו, וזה בדיוק הנושא של מה זה jailbreaking בבינה מלאכותית. system prompt הוא ברירת מחדל חזקה, לא מנעול.

כמה עולה system prompt, כי הוא נשלח בכל פנייה

ה-system prompt הוא טוקני קלט, ומה זה טוקן בבינה מלאכותית מראה שקלט מחויב בכל הודעה. שיחה של 100 פניות עם system prompt של 8,000 טוקנים שולחת את ההוראה הזו 100 פעמים: 800,000 טוקני קלט לפני מילה אחת שלך.

נתמחר את זה במחיר רשמי. הודעה סטנדרטית היא כ-1,000 טוקנים בכניסה ו-500 ביציאה. הוספת הוראה של 8,000 טוקנים, מה ש-32,000 תווים באנגלית שווים לפי ארבעה תווים לטוקן, על כל אחת מ-100 ההודעות עולה את הקלט הנוסף שלמטה לפי המחירים של OpenRouter במדד עלות מודלי AI, שנשלף ב-2026-08-20.

ספקים מטמינים במטמון: OpenAI מוזילה קלט שמור במטמון בחצי, וב-90 אחוז במודלים החדשים ביותר שלה, ו-Anthropic מחייבת קריאת מטמון בעשירית מהמחיר הרשמי, כך שאפליקציה שמגדירה שמירה במטמון משלמת הרבה פחות מהתרשים. התרשים הוא מחיר רשמי, וזה מה שמדד העלות עוקב אחריו וזה מה שכל אפליקציה שמדלגת על שמירה במטמון משלמת. הוראות קבועות ארוכות עדיין הטקסט היחיד שנשלח בכל פעם.

Whizi גובה בכיוון ההפוך. הודעה עולה מספר קבוע של קרדיטים שנקבע לפי המודל, 1 במודל הבית, 10 ב-Claude Sonnet 5, 20 ב-Claude Opus 5, ואורך ההוראה אף פעם לא נכנס למחיר. אותן 100 הודעות עולות 100, 1,000 או 2,000 קרדיטים עם או בלי ההוראה. באיך קרדיטים של Whizi עובדים יש את הסולם.

איזה חלק מה-system prompt מותר לך לכתוב

מוצרים חושפים פרוסה של ה-system prompt שאתה יכול למלא. ChatGPT קורא לזה custom instructions וmemory; ל-Claude יש project instructions וstyles; ל-Gemini יש saved info. לא משנה השם, הטקסט שלך מתווסף להוראות של המוצר עצמו ונשלח מחדש בכל פנייה.

ב-Whizi הפרוסה היא הפרויקט. פרויקט הוא תיקייה של שיחות עם הוראות משלה, עד 32,000 תווים, שמופעלות על כל צ'אט בתוכה ונבנות מחדש לתוך ה-prompt בכל הודעה. קבצים מוצמדים נוסעים באותה דרך, מוגבלים ל-32,000 תווי טקסט שחולץ לכל קובץ ו-120,000 לכל בלוק הפרויקט. אין שדה custom instructions ברמת החשבון: הוראת הפרויקט היא ההוראה היחידה שכתובה על ידי משתמשים במוצר, אז העדפה שרוצים בכל מקום צריכה להיות מודבקת לכל פרויקט.

ארבעת הסוכנים המובנים מראים את הצד השני. השורות של Canadian CPA, Study Mentor, Writing Copilot ו-Math Tutor נושאות כל אחת system prompt קבוע שכתוב בקטלוג המודלים, שאי אפשר לערוך. בחירת סוכן היא בחירת system prompt.

מה שייך להוראה, לפי הדוגמאות שפורסמו

ההוראות שעובדות נקראות כמו תדריך לעמית חדש, וה-prompts שפורסמו של Claude הם הדגם הציבורי הכי טוב לצורה הזו. ארבעה דברים נושאים את רוב המשקל.

1. תפקיד וקהל במשפט אחד. "You are a tax assistant for Canadian sole proprietors" עושה יותר משלוש פסקאות של תארים.
2. כללי פורמט שנקבעים ככללים. "Answer in under 150 words. No bullet points. British spelling." מודלים עוקבים אחרי ציוויים ישירים באמינות רבה יותר מאשר אחרי העדפות.
3. מה לעשות כשלא בטוחים. "If the answer depends on a fact you do not have, ask one question before answering." בלי זה, המודל מנחש.
4. על מה לסרב, ואיך. לתת שם לקטגוריות ולניסוח הסירוב, אחרת המודל ימציא משלו.

מה שלא שייך: עובדות שמשתנות. מחיר, מספר מודלים או תאריך שכתובים ב-system prompt מוצהרים מחדש בכל פנייה עד שמישהו עורך אותם, וכך הוראה ישנה הופכת לתשובה שגויה שנשמעת בטוחה במשך חודשים. שים עובדות משתנות בקובץ מוצמד או בחיפוש, לא בפקודת הקבע, כי תאריך העדכון האחרון של המודל עצמו הופך אותן ליושנות בכל מקרה. הנדסת prompt למתחילים מכסה את הצד של ההודעה הבודדת באותה מלאכה.