האם בינה מלאכותית מסוכנת? תשובה כנה, לא הרגעה

לאן ההודעה שלך באמת הולכת

אתה מקליד שאלה, לוחץ שלח, ותשובה מופיעה תוך כשתי שניות. המהירות הזו גורמת לכל התהליך להרגיש כאילו הוא קרה בטלפון שלך. זה לא מה שקרה. המילים שלך יצאו מהמכשיר שלך, נסעו ברשת האינטרנט למרכז נתונים מלא בשבבים ייעודיים בבעלות החברה שמייצרת את המודל, עברו עיבוד שם, וחזרו. צ'אטבוט הוא לא בכלל כמו אפליקציית מחשבון שפועלת אופליין. הוא קרוב יותר לשליחת אימייל, או להעלאת תמונה לשירות ענן: העבודה השימושית מתבצעת על המחשב של מישהו אחר. אם הטכנולוגיה עצמה עדיין לא ברורה, מה זו בינה מלאכותית מכסה את היסודות בשפה פשוטה.

ברגע שהטקסט שלך יושב על השרתים של חברה, מה שקורה הלאה נקבע על ידי המדיניות ובקרות הגישה של אותה חברה, לא על ידי משהו פיזי בצד שלך. זה גם שם את שאלת הקבצים בפרופורציה. צ'אטבוט לא יכול לחטט בטלפון שלך, באימייל שלך, או בכונן העבודה שלך על דעת עצמו. הוא רואה רק את מה שאתה מוסר לו, בתוספת ההרשאות שנתת לאפליקציה כשהתקנת אותה. שתי דקות מושקעות היטב היום: פתח את הגדרות הטלפון, מצא את האפליקציה, וכבה גישה למצלמה, למיקרופון או לספריית התמונות אם אתה אף פעם לא משתמש בתכונות האלה. הנה מה שבאמת מגיע לספק.

• הטקסט שאתה מקליד או מדביק. הכול, כולל הפסקה שהעתקת ממסמך ולא קראת שוב.
• קבצים שאתה מצרף. קובץ PDF, תמונה, גיליון אלקטרוני. רק אלה שבחרת, רק ברגע שבחרת אותם.
• פרטי חשבון וחיבור. כתובת האימייל שלך, מיקום משוער לפי כתובת ה-IP שלך, סוג המכשיר שלך וגרסת האפליקציה.
• שום דבר אחר במכשיר שלך. לא ספריית התמונות שלך, לא אנשי הקשר שלך, לא אפליקציות אחרות, לא מסמכים שלא צירפת.
• לפעמים, השיחות הקודמות שלך. הרבה אפליקציות כיום נושאות זיכרון בין שיחות, מה שנוח ואומר שהודעות ישנות יכולות לצוץ מחדש בהודעות חדשות.

אימון, מסלולים, וההגדרה שאף אחד לא פותח

הפחד שמאחורי "האם בינה מלאכותית גונבת נתונים" בדרך כלל צר יותר מגניבה. מה שאנשים באמת רוצים לדעת הוא האם המילים שלהם מגיעות אל תוך הגרסה הבאה של המודל, והאם זר אי פעם יכול לראות אותן. הדפוס בתעשייה עקבי מספיק כדי לתאר אותו, למרות שכל ספק מנסח אותו אחרת ומשכתב את הניסוח כל כמה חודשים. באופן כללי: ככל שהחשבון נראה יותר כמו חשבון עסקי, כך פחות סביר שהתוכן שלך משמש לאימון, וכך יותר ההבטחה הזו כתובה בחוזה ולא במתג הגדרות.

מה סוג החשבון שלך	הדפוס הרגיל	מה לבדוק
חשבון צרכני חינמי	שיחות עשויות לשמש לשיפור המודלים אלא אם אתה מבטל את ההסכמה	מתג ביטול ההסכמה, והאם הוא פעיל
מסלול צרכני בתשלום (בערך 20 דולר לחודש)	לרוב אותה ברירת מחדל כמו במסלול החינמי, עם אותו מתג	אל תניח שהתשלום שינה את זה, כי לרוב זה לא
מסלול עסקי, צוות או ארגוני	אימון על התוכן שלך בדרך כלל כבוי כברירת מחדל וקבוע בחוזה	קונסולת המנהל שלך, כי הבחירה אולי לא שלך
גישת מפתחים או API	תוכן בדרך כלל מוחרג מאימון כברירת מחדל	דף מדיניות השימוש בנתוני ה-API של הספק

המתג קיים בכל אפליקציית צרכנים מרכזית. הוא נמצא תחת כותרת כמו בקרות נתונים, נתונים ופרטיות, או פעילות, והספקים מזיזים אותו מספיק פעמים שכתיבת נתיב תפריט כאן תהיה שגויה תוך חודש. לך למצוא אותו עכשיו, לפני שיש לך משהו רגיש שם. זו עבודה של חמש דקות שאתה עושה פעם אחת לכל אפליקציה.

שני דברים מפתיעים אנשים כשהם עושים זאת. ראשית, כיבוי האימון כמעט תמיד חל קדימה, לא אחורה, כך ששיחות שכבר היו לך עשויות להישאר באגן שבו הן כבר היו. שנית, כבוי פירושו "לא משמש לאימון", לא "אף פעם לא נשמר". ספקים בדרך כלל שומרים שיחות לתקופה מסוימת לצורך מעקב אחר שימוש לרעה, בדיקת בטיחות ותמיכה לפני שהמחיקה מתבצעת; OpenAI, לדוגמה, אומרת ששיחות שנמחקו מוסרות מהמערכות שלה תוך 30 יום אלא אם היא מחויבת מבחינה חוקית לשמור אותן. זה נכון גם לגבי שיחות שאתה מוחק בעצמך. אם אתה רוצה את הפרטים הספציפיים לספק שלך, קרא את המדיניות שלו ולא מאמר שמסכם אותה, כולל זה שלפניך. ואם הספק שאתה שוקל הוא מנוי מרובה מודלים ולא אחד המעבדות עצמן, האם מנוי בינה מלאכותית של צד שלישי בטוח מיישם את אותה טבלה על השכבה שבאמצע.

רשימת האסור-להדביק, והתיקון שלא עולה כלום

דברים מסוימים אסור שייכנסו לתיבת צ'אט, אצל כל ספק, תחת כל הגדרה. לא כי דליפה סבירה, אלא כי הנזק בלתי הפיך אם טעית פעם אחת. אי אפשר לבטל שליחה של מספר תעודת זהות. הגרסה הקצרה למטה, ומה אסור להדביק בצ'אט בינה מלאכותית כולל את הרשימה המלאה, כולל צילומי מסך, קבצי קוד ותמלולים שאנשים שוכחים.

• מספרי זהות ממשלתיים. ביטוח לאומי, תעודת זהות, דרכון, רישיון נהיגה, מספר עוסק.
• פרטי כרטיס וחשבון בנק. מספרי כרטיס מלאים, קודי אבטחה, מספרי חשבון וניתוב, ומעל הכול ביטויי שחזור (seed phrases) של קריפטו.
• סיסמאות ומפתחות גישה. כולל הזמנית שאתה נשבע שאתה עומד להחליף.
• עניינים פרטיים של אנשים אחרים. אבחנה של הורה, משכורת של חבר, כתובת בית של לקוח. ההסכמה הזו היא לא שלך לתת בשמם.
• כל דבר שמכוסה בהסכם סודיות בעבודה. דוחות כספיים שטרם פורסמו, רשימות לקוחות, קוד שמעסיק שלך הבעלים שלו, מסמכים תחת NDA. בדוק אם במקום העבודה שלך יש כלי מאושר לפני שאתה מחליט על זה בעצמך.
• חוזים ומסמכים משפטיים לא ערוכים. הסכם חתום בדרך כלל נושא שמות, כתובות וחתימות שהמודל לא צריך כדי לענות על השאלה שלך.

התיקון לא מרשים אבל הוא עובד: החלף את החלקים הרגישים בשם מציין מקום (placeholder) לפני שאתה מדביק. לפרטים ספציפיים לכל ספק, אילו אפליקציות מאמנות על שיחות כברירת מחדל ואיפה נמצא כל ביטול הסכמה, ההשוואה בין הצ'אטבוטים הפרטיים ביותר שומרת על המצב העדכני עם תאריכים. מודלים קוראים מבנה ושפה ולא זהות, כך שסעיף עם [LANDLORD] בתוכו מקבל את אותו ניתוח כמו אחד עם שם אמיתי. נניח שאתה רוצה שסעיף בחוזה שכירות יוסבר. במקום להדביק את החוזה, אתה שולח את זה:

סקור את הסעיף הזה מחוזה שכירות למגורים. השוכר הוא [TENANT], המשכיר הוא [LANDLORD], שכר הדירה החודשי הוא [AMOUNT], הנכס נמצא ב-[ADDRESS]. סעיף: "השוכר יהיה אחראי על כל התיקונים והתחזוקה בפנים הדירה, ללא הגבלה."

לאחר מכן אתה קורא את התשובה ומחזיר בעצמך את הערכים האמיתיים. במשימות שמתחילים בפועל מביאים לבינה מלאכותית, סיכום, ניסוח, הסבר ובדיקה, אובדן האיכות מהשימוש בשמות מציין מקום קרוב לאפס. אותה הרגל חלה גם על העלאות: ערוך את המסמך לפני שאתה מצרף אותו, מה שהמדריך לסיכום קובץ PDF בעזרת בינה מלאכותית עובר עליו שלב אחר שלב.

הסיכון שסביר יותר שיפגע בך

פרטיות היא הסיכון שאנשים שואלים עליו. דיוק הוא הסיכון שבאמת עולה להם כסף. מודל בינה מלאכותית מייצר טקסט באותה רמת ביטחון יציבה בין אם הוא צודק או ממציא (המנגנון מוסבר בלמה מודל ממציא), ואין רעד בקול כשהוא ממציא ציטוט מקרה משפטי, מינון, מועד להחזר כספי, או נתון סטטיסטי עם נקודה עשרונית. מתחילים קוראים שטף כידע, כי אצל בני אדם זה בדרך כלל נכון. את האינסטינקט הזה הכי חשוב לפרוק קודם, והתרופה המהירה ביותר היא לבדוק שלוש או ארבע תשובות שהיית בטוח לגביהן ולראות מה עולה.

הכשל השני הוא תזמון. מודל לומד מטקסט שנאסף עד תאריך חיתוך, כך שמחירים, סף מס, חוקים, תכונות מוצר וכל דבר מהחודשים האחרונים יכולים להיות מיושנים בשקט תוך שהם נשמעים עדכניים לחלוטין. חלק מהאפליקציות מחפשות באינטרנט כדי לתקן את זה וחלקן לא, ומעטות מודיעות איזה מהם קרה הרגע. כשתשובה תלויה במספר חי, שאל בפירוש אם הוא חיפש, ואז בדוק את המספר במקור בכל מקרה.

השלישי גורם לנזק האמיתי: לקחת תשובה שוטפת כעצה. בינה מלאכותית באמת טובה בהכנתך לשיחה רפואית, משפטית או פיננסית. היא מסבירה מה מונח אומר, איך קוראים לאפשרויות שלך, ואילו שאלות שווה לשאול. היא לא רופא, לא עורך דין ולא יועץ מוסמך. היא לא מכירה את ההיסטוריה שלך, היא לא יכולה לבדוק אותך, והיא לא תגיד לך מתי היא מעבר ליכולתה. השתמש בה לפני הפגישה, לא במקומה. למה בינה מלאכותית טועה מסביר את המנגנון, וזה מה שהופך תשובה שגויה לקלה יותר לתפוס לפני שאתה פועל לפיה.

חמש הרגלים שבאמת תשמור עליהם

עצות בטיחות נכשלות כשהן דורשות מאמץ בכל פעם. חמשת אלה עולים לך בערך עשר דקות פעם אחת, ואז כמה שניות בכל פעם אחר כך, וזו הסיבה שהן שורדות מגע עם שבוע עמוס.

1. בדוק את הגדרת הנתונים פעם אחת, היום. פתח הגדרות, מצא בקרות נתונים או פרטיות, החלט האם השיחות שלך יכולות לשמש לאימון, והמשך הלאה. חזור על כך רק כשאתה מחליף אפליקציה.
2. השתמש בשמות מציין מקום כברירת מחדל. [NAME], [COMPANY], [AMOUNT]. הפוך את זה לרפלקס ולא להחלטת שיקול דעת, כי החלטות שיקול דעת הן בדיוק מה שנכשל כשאתה ממהר.
3. אמת כל דבר שאתה מתכוון לפעול לפיו. אם תשובה תגרום לך לשלוח כסף, לחתום על מסמך, לקחת תרופה, או לצטט מספר לבוס שלך, אשר אותה במקום שהוא לא הצ'אטבוט.
4. שמור על הפרדה בין חשבונות עבודה לאישיים. השתמש בכלי המאושר של המעסיק שלך לחומר עבודה ובחשבון שלך לכל השאר. זה מגן עליך לפחות באותה מידה שזה מגן עליהם.
5. התייחס לכל תשובה כטיוטה ראשונה. נסח אותה מחדש במילים שלך לפני שהיא הולכת לאיזשהו מקום. כך אתה תופס את הטעויות תוך כדי עריכה, והתוצאה נשמעת כמוך ולא כמו תוכנה.

שום דבר מזה לא מוריד את הסיכון לאפס, ומי שאומר לך אחרת מנסה למכור לך משהו. מה שזה כן עושה זה להעביר את הסיכון הנותר לקטגוריה שאתה כבר חי בה: האימייל שלך יושב על שרת של מישהו, התמונות שלך נמצאות בענן של מישהו, ומזמן החלטת שהעסקה הזו הייתה שווה את זה. בינה מלאכותית היא אותה עסקה עם קבוצת חברות חדשה יותר בצד השני, אז היא ראויה לאותה זהירות רגילה במקום פאניקה או אמון עיוור.

הערה מעשית אחת על חשבונות. כל ספק שאתה נרשם אליו הוא מדיניות פרטיות נוספת, חלון שמירה נוסף, ובקרת נתונים נוספת שצריך לאתר, אז ארבעה חשבונות פירושם להריץ את הבדיקה הזו ארבע פעמים ולשכוח לפחות אחת מהן. איחוד מצמצם את מספר המדיניות שאתה אחראי עליה: Whizi מרכזת את GPT, Claude, Gemini ומודלים ליצירת תמונות תחת מנוי אחד, מה שמשאיר מסך הגדרות אחד במקום ארבעה, תוך הוספת חברה אחת נוספת לשרשרת. זו עסקה, לא ערבות בטיחות, ורשימת האסור-להדביק זהה בכל מקרה. לחלק השימושי בכל זה, איך להשתמש בבינה מלאכותית מפרט שבוע ראשון של משימות אמיתיות, ואיך לדבר עם בינה מלאכותית מכסה את הניסוח שמוציא תשובות טובות יותר מכל מודל.