התשובה הקצרה
כן: אפשר להשתמש ב-GPT, Claude, Gemini וכל מודל אחר באותה שיחה, ולהחליף ביניהם לכל הודעה מהבורר של המודלים. כל השיחה עוברת עם ההחלפה: ההודעות שלכם, התשובות של המודל הקודם והקבצים שצירפתם, כך ש-Claude יכול לבקר את מה ש-GPT כתב בלי שתדביקו כלום מחדש.
כל תור מחויב בעלות הקרדיטים של המודל שעונה עליו, והמודל צריך להיות כלול בתוכנית שלכם. שאר העמוד הזה מתמקד במתי ההחלפה משתלמת ומתי לא.
מה קורה כשמחליפים
המודל החדש מקבל את כל השיחה עד כה, כולל ההודעות שלכם, התשובות של המודל הקודם וכל קובץ שצירפתם. מנקודת המבט שלו הוא מצטרף לדיון שכבר בעיצומו, עם הכול חשוף לפניו.
זו הסיבה שההחלפה שונה מהעברת טקסט בין שלושה טאבים בדפדפן. כשמדביקים תוכן בכלי חדש, מביאים איתו את הפלט אבל מפסידים את ההיגיון, את האילוצים שהוגדרו במשך חמש הודעות, ואת המסמך שהועלה. החלפה במקום שומרת על הכול.
שני דברים שכדאי לדעת. המודל החדש רואה את התשובה של המודל הקודם כחלק מהשיחה, וזה יכול לגרום לו לנטות להסכים. כשרוצים דעה עצמאית באמת, כדאי לומר את זה במפורש: הערך את התשובה שלמעלה לגופה. אני רוצה את השיפוט שלך, לא סינתזה של מה שנאמר עד כה. ותקציב הקלט לכל תור מוגבל ל-40,000 טוקנים, ומודל עם חלון הקשר קטן מקבל פחות באופן יחסי, כך ששיחה ארוכה מאוד נחתכת כדי להתאים לכל מודל שאליו עוברים. מעבר לתקרה הזו, חלון הקשר גדול יותר לא שולח יותר מהשיחה. אם החלפה מייצרת תשובה שנראה שהיא שכחה את החלק הראשון של הדיון, תקציב ההקשר הוא בדרך כלל ההסבר.
ארבעת הדפוסים ששווה ללמוד
1. ניתוב לפי שלב. דפוס העבודה שרוב האנשים מגיעים אליו. שלבים שונים של משימה אחת עוברים למודלים שונים.
מבנה ב-GPT, טקסט רציף ב-Claude, אימות עם חיפוש רשת מופעל. זה מתאים לכתיבת פוסט, הצעה, מפרט או דוח, וזה עובד כי אלה באמת שלוש כישורים שונים ולא שלוש רמות קושי של אותו כישור.
2. חוות דעת שנייה. קבלו תשובה, ואז החליפו ובקשו מהמודל החדש לתקוף אותה.
קולגה הציע את התשובה שלמעלה. מצא מה לא נכון בה: שגיאות עובדתיות, מקרי קצה שהוחמצו, גישה פשוטה יותר, או הנחה שלא מתקיימת. אם היא בסדר באמת, אמור זאת בפשטות במקום להמציא הסתייגויות.
שתי תוצאות שימושיות. או שפגם אמיתי מתגלה לפני שפועלים לפיו, או שהמודל השני מסכים אף על פי שדחפו אותו לחלוק, וזה אישוש משמעותי. חזרה על אותה שאלה עם אותו מודל לא מייצרת אף אחת מהתוצאות הללו, כי מודלים נוטים להסכים עם עצמם.
3. שינוי המסגור. כשהסבר לא נקלט, החלפו במקום לקרוא שוב.
Claude ו-GPT מסבירים את אותו מושג במסגורים שונים באמת, והמסגור השני הוא לרוב זה שמצליח. זו הסיבה הכי לא מוערכת להשתמש ביותר ממודל אחד, והמחיר שלה הוא קליק אחד.
4. ניתוב לפי יכולת. מחליפים כי רק מודל אחד יכול לעשות את המשימה.
מסמך של 300 עמודים עובר למודל עם חלון הקשר של מיליון טוקנים. תמונה עוברת למודל שיכול לקרוא תמונות. שאלה על השבוע האחרון היא המקרה היחיד שלא דורש כלל החלפה: חיפוש רשת ב-Whizi הוא מתג לכל שיחה בתיבת הכתיבה, הוא רץ על המודל שכבר משתמשים בו, והפעלתו לא עולה כלום בקרדיטים. שאר המקרים אינם עניין של העדפה אלא אילוץ קשה, והם המקרה שבו מנוי חד-מודלי סתם נתקע.
איזה מודל לאיזה שלב
נקודת פתיחה ולא חוק. המשימות שלכם צריכות לגבור עליה בתוך שבוע של תשומת לב.
| שלב | מודל | הסיבה |
|---|---|---|
| סיעור מוחות, מבנה, תוכנית | GPT | מהיר, נאמן להנחיה, היררכיות נקיות |
| כתיבת טקסט, טון, שכנוע | Claude | הכי פחות פילר, שומר על קול אחיד, הכי טוב בטון קשה |
| מחקר, עובדות עדכניות, מקורות | כל מודל, עם מתג חיפוש הרשת מופעל | חיפוש הוא הגדרה לכל שיחה בתיבת הכתיבה, לא מאפיין של מודל |
| מסמכים ארוכים, קורפוסים גדולים | Gemini | חלון הקשר של 1M טוקנים בשורות הנוכחיות |
| פורמטים נוקשים, טבלאות, JSON | GPT | הכי אמין בשמירה על סכימה מדויקת |
| ביקורת ו-red teaming | כל דבר שלא כתב את זה | עצמאות היא כל העניין |
הטבלה מציינת את שלוש המשפחות שרוב האנשים מגיעים איתן, והבורר רחב יותר מזה. למשפחות משקל הפתוח יש עמוד ייחוס משלהן, עם עלות הקרדיטים לכל הודעה והתוכנית שפותחת כל שורה: Llama, Mistral, Kimi וגם GLM.
הכלל היחיד ששווה לשמור עליו לא משנה המשימה: המודל שמבקר לא צריך להיות המודל שכתב.
לגרום להחלפה באמת להשתלם
ההחלפה עוזרת הכי הרבה כשאומרים למודל החדש מה רוצים ממנו. מעבר בלי מסגור נותן המשך של אותה שיחה בקול קצת שונה.
העברת שלב
יש לנו כבר את התוכנית שלמעלה. כתוב רק את חלק 2. השתמש בעדויות שרשומות תחתיו. קול: [הדבק דוגמה]. אל תחזור על התוכנית בפני.
דרישת עצמאות
התעלם מהמסגור שנקבע לעיל וענה על זה מהתחלה: [ניסוח מחדש של השאלה]. אני רוצה עמדה עצמאית באמת, לא שיפור של מה שקיים כאן.
שינוי המשימה כליל
הפסק לכתוב. עבור לבדיקה. הנה הקריטריון: [ציין אותו]. דווח רק על בעיות, אל תכתוב מחדש.
עוד הרגל אחד: כשהחלפה מייצרת תוצאה טובה בבירור, שמרו רישום של איזה מודל ואיזה שלב. אחרי כמה שבועות תהיה לכם מפת ניתוב שספציפית לעבודה שלכם ולא להשוואת בנצ'מרק, ומפה כזו שווה יותר מכל השוואה מפורסמת.
מתי לא להחליף
ההחלפה זולה אבל לא חינם, ויש מקרים שבהם היא רק מחמירה את המצב.
- באמצע כתיבה, מטעמי סטייל. שינוי מודל באמצע יצירה ארוכה יוצר תפר גלוי, כי עקביות הקול היא בדיוק מה שמשתנה בין מודלים. סיימו את הטיוטה, ואז החליפו לביקורת.
- כשלא הגדרתם את המשימה. החלפה לא מתקנת פרומפט לא ברור. אם התשובה הראשונה לא הועילה כי השאלה לא הייתה ברורה, מודל אחר ייתן תשובה לא מועילה אחרת.
- כדי למצוא הסכמה. מעבר בין מודלים עד שאחד אומר את מה שרציתם לשמוע הוא דרך להלבין החלטה שכבר קיבלתם. אם שני מתוך שלושה חולקים, זו התוצאה שצריך לשים לב אליה.
- בשיחה מאוד ארוכה, למודל עם הקשר קטן יותר. אם ההקשר המוקדם חשוב והשיחה עצומה, כדאי להישאר עם המודל בעל ההקשר הגדול או לסכם את השיחה ולהתחיל מחדש.
להרצת שני מודלים באותו פרומפט במקביל ולא ברצף, ראו השוואת מודלים זה לצד זה.
- שייכו מודל לכל שלב של המשימה לפני שמתחילים
- ספרו למודל החדש איזו עבודה הוא לוקח על עצמו, ולא רק להמשיך
- בקשו עצמאות במפורש כשרוצים חוות דעת שנייה אמיתית
- לעולם אל תתנו למודל שכתב את הטקסט להיות זה שמבקר אותו
- החליפו כשהסבר לא נקלט, במקום לקרוא שוב את אותו הסבר
- סיימו טיוטה לפני החלפה, כדי שהקול יישאר עקבי
- רשמו לעצמכם איזה מודל מנצח באיזה שלב לעבודה שלכם
שאלות נפוצות
האם המודל הבא רואה את השיחה המלאה?
כן. Whizi מעביר את הקשר השיחה המלא כברירת מחדל, כולל ההודעות שלכם, תשובות המודל הקודם והקבצים המצורפים, כך שהמודל החדש מצטרף עם הכול חשוף לפניו. ההסתייגות היחידה היא תקציב הקלט לכל תור, שמוגבל ל-40,000 טוקנים וקטן יותר באופן יחסי במודלים עם חלון הקשר קטן: שיחה מאוד ארוכה נחתכת כדי להתאים. תשובה שנראה שהיא שכחה את החלק המוקדם של דיון ארוך פוגעת בדרך כלל בתקציב הזה, ולא בתכונה של המודל שעברתם אליו.
אפשר להסתיר חלק מהשיחה ממודל מסוים?
אפשר לפצל את השיחה או להתחיל צ'אט חדש עם רק ההקשר שרוצים להעביר, וזו הגישה הנכונה לקטעים רגישים וגם לשיחות ארוכות שהצטברו בהן פרטים לא רלוונטיים. התחלה נקייה עם סיכום קצר של מה שחשוב מייצרת פעמים רבות תשובות טובות יותר מהעברת ארבעים הודעות של היסטוריה, כי הקשר ישן מתחרה על תשומת הלב עם השאלה עצמה.
האם החלפת מודל באמצע טיוטה תשנה את סטייל הכתיבה?
כן, בצורה בולטת, וזו סיבה לסיים טיוטה במודל אחד לפני ההחלפה. עקביות הקול היא בדיוק מה שנבדל בין מודלים, כך שהעברה באמצע יצירה ארוכה משאירה תפר גלוי. הדפוס המועיל הוא לכתוב את הטיוטה כולה במודל אחד, ואז להחליף לביקורת, בדיקת עובדות או חילוץ מבני.
יש ניתוב מודלים אוטומטי?
כן, כשורת בורר אחת בשם Auto. הוא קורא כל הודעה, ממיין אותה לאחת משש דרגות קבועות, ועונה על המודל המוצמד לדרגה הזו, לעולם לא מעל מה שהתוכנית שלכם מאפשרת. אין כללי ניתוב לכתוב: שום דבר בהגדרות לא עורך את הסולם, לא משקלל דרגה, ולא מצמיד את Auto למודל. בחירת מודל ביד נשארת החלטה לכל הודעה, וההרגל של בחירה ידנית לכל שלב לרוב מלמד אתכם יותר על איזה מודל מתאים באמת לעבודה שלכם.
האם החלפה נחשבת הודעה נוספת?
שינוי המודל בבורר לא שולח שום דבר, כך שלא נגבה כלום עד ההודעה הבאה שלכם. כל תור מחויב בעלות הקרדיטים של המודל שעונה עליו, כך שהמחיר של התשובה הבאה משתנה עם ההחלפה: הודעה שנענית על ידי מודל בעלות קרדיט אחד עולה קרדיט אחד, ואותה הודעה שנענית על ידי מודל בעלות 20 קרדיטים עולה 20; סולם הקרדיטים מפרט את העלות של כל מודל. לשאול את אותה שאלה מודל שני זה תור חיוב נוסף, שמשתלם כשהתשובה חשובה.