لماذا يخطئ الذكاء الاصطناعي، وكيف تكتشف الخطأ قبل أن يكلّفك

الآلية، بلا مصطلحات

حين تسأل روبوت دردشة بالذكاء الاصطناعي سؤالًا، فهو لا يبحث عن شيء. إنه ينتج نصًّا، بضعة أحرف في كل مرة، يطابق نمط الطريقة التي تُكتب بها عادةً إجابة صحيحة عن مثل هذا السؤال. هذه هي المهمة كلها. مطابقة النمط وقول الصدق هدفان مختلفان، ولا شيء في هذه العملية يستهدف الثاني.

في معظم الأحيان لا تلاحظ ذلك، لأن الهدفين يتداخلان. النصوص التي تعلّمت منها هذه الأنظمة كتبها في الغالب بشر كانوا في الغالب على صواب، لذا فالنص الذي يشبه الإجابة يكون عادةً نصًّا صحيحًا أيضًا. لكن التداخل يرقّ عند الأطراف: الحقائق النادرة أو الحديثة أو شديدة التحديد أو الغائبة أصلًا عمّا قرأه النموذج. عند تلك الأطراف يبقى إنتاج شكل الإجابة الصحيحة سهلًا، أما إنتاج مضمونها فلا. ما تحصل عليه جملة مبنية كأنها حقيقة، برقم في الخانة الصحيحة واسم يبدو موثوقًا، تصف شيئًا لم يحدث قط.

وهذا يفسّر أيضًا لماذا يفشل سؤال المتابعة البديهي. سؤال "هل أنت متأكد؟" يبدو وكأنه تدقيق، لكنه ليس كذلك. الموافقة تطابق نمط الرد المتعاون، لذا يميل الضغط إلى إنتاج موافقة، وكثيرًا ما يعتذر النموذج ويستبدل بإجابة صحيحة أخرى أسوأ منها. جرّب ذلك في دقيقتين: اسأل عن شيء تعرفه مسبقًا، واقبل الإجابة الصحيحة، ثم قل "هذا لا يبدو صحيحًا" وراقب ما يحدث. ما يعود إليك هو الآلية نفسها وهي تولّد نصًّا مُجاملًا، لا رأيًا ثانيًا. ولمعرفة الأساس الذي بُني عليه كل هذا، يشرحه ما هو الذكاء الاصطناعي فعليًا دون رياضيات.

المواضع الخمسة التي تتركّز فيها الأخطاء

الأخطاء ليست موزّعة بالتساوي على كل ما قد تسأل عنه. إنها تتجمّع في مواضع بعينها. وتعلُّم هذه المواضع الخمسة يمنحك جرس إنذار داخليًا صغيرًا يرنّ في اللحظة المناسبة، وهذا أنفع كثيرًا من شعور عام بالحذر يرنّ باستمرار ثم يتوقف عن الرنين تمامًا.

أين يزلّ	كيف يبدو الخطأ	مثال في سطر واحد
حقائق وأرقام محددة	رقم دقيق لا شيء خلفه	يقول إن متجرًا محليًا افتُتح عام 1987 بينما افتُتح عام 1994
المراجع والاقتباسات والروابط	عناوين تبدو حقيقية وروابط لا تفتح	دراسة لباحثَين حقيقيَّين في مجلة حقيقية لم تُكتب قط
أي شيء بعد تاريخ توقف التدريب	إجابات واثقة عن عالم توقف قبل أشهر	يذكر سعر اشتراك العام الماضي لخطة تغيّرت في مارس
الحساب والعدّ	طريقة صحيحة ومجموع خاطئ	يجمع أحد عشر بندًا في فاتورة فيخطئ بمقدار 40 دولارًا
الأسئلة التي تحمل إجابتها	موافقة في ثوب تحليل	"لماذا X هو الخيار الأفضل؟" يعيد الحجة لصالح X دون تشكيك

الصف الأخير هو الذي تتسبّب فيه أنت، وهو الأكثر شيوعًا في الاستخدام الواقعي. سؤال "لماذا X أفضل من Y" يكاد يضمن لك حجة لصالح X، وأي سؤال يحتوي على "بالتأكيد" أو "أليس صحيحًا أن" يحصل غالبًا على نعم. اسأل بدلًا من ذلك: "قارن بين X وY في هذه الحالة، ثم أعطني أقوى حجة ضد الخيار الذي اخترته." وصياغة الأسئلة بحيث لا تهرّب الإجابة داخلها هي نصف ما يسمّيه الناس كتابة الأوامر، ويغطّي كيف تتحدث إلى الذكاء الاصطناعي النصف الآخر. وهناك خصوصية أخرى تستحق أن تعرفها مبكرًا: في محادثة طويلة جدًا، أو بعد أن تلصق مستندًا طويلًا جدًا، قد تخرج تفاصيل البداية من مجال رؤية النموذج، فيملأ الفراغ بدلًا من أن يخبرك بأنه فقد الخيط. هذا حدّ في السعة لا مشكلة في الصدق، ويوضّح ما هي نافذة السياق أين يقع هذا السقف.

النبرة الواثقة ليست خدعة

يصل معظم الناس إلى هنا بافتراض يبدو معقولًا: أن الأداة تعرف مدى تأكّدها وتخفي الشك لتبدو كفؤة. هذا الافتراض خاطئ، وهو مهم، لأنه يدفعك إلى البحث عن مؤشر ثقة لم يكن موجودًا أصلًا.

لا يوجد مقياس ثقة محجوب عنك. النظام لا يجلس على رقم خاص يقرأ 62 بالمئة ثم يختار أن يبدو وكأنه 100. إنه يولّد الإجابة الخاطئة بالعملية نفسها وبالطلاقة نفسها التي يولّد بها الصحيحة. ولهذا بالضبط تكون النبرة عديمة القيمة كمؤشر هنا، بخلاف ما هي عليه مع البشر. حتى التحفّظ من نوع "لست متأكدًا تمامًا، لكن" هو نصّ مولَّد أيضًا. يظهر لأن هذه الصياغة تناسب الأسئلة من هذا الشكل، لا لأن شيئًا في الداخل أطلق تحذيرًا. اطلب من نموذج أن يقيّم ثقته من عشرة، فستحصل على رقم، مرتفع في الغالب، جالسًا مباشرة بجوار مرجع اختلقه. التقييم نتج عن العملية نفسها التي أنتجت المرجع.

لذلك فإن تعليمات مثل "أجب فقط إن كنت متأكدًا" أو "لا تختلق شيئًا" تساعد أقل مما يأمل الناس. وإضافة "قل لا أعرف إن كنت لا تعرف" إلى سؤال مهم تبقى خطوة تستحق العناء، لأن النماذج الأحدث ترفض الإجابة أسهل مما كانت، لكن تعامل معها كتنبيه لا كضمان. أما النسخة الموثوقة من هذه الفكرة فتتّجه إلى الخارج: اجعل الإجابة تريك شيئًا تستطيع فتحه بنفسك. حين يبحث التطبيق في الويب ويرفق روابط، تستطيع قراءة الصفحة بنفسك والتوقف عن تصديق كلامه على عواهنه. وحين يجيب من ذاكرته وحدها، فكلامه هو كل ما لديك.

أربع خطوات تحقّق، مرتّبة من الأقل كلفة

لن تتحقق من كل شيء، ومحاولة ذلك ستنتهي بألا تتحقق من أي شيء. ما تريده خطوة تحقّق تكلّف أقل مما سيكلّفه الخطأ. هذه الخطوات الأربع تتدرّج من شبه مجانية إلى مزعجة قليلًا، ولمعظم الأسئلة تكفيك الأولى التي تمدّ يدك إليها.

1. اطلب المصادر، ثم افتحها. ليس "اذكر مصادرك" كطقس شكلي. اضغط عليها فعلًا. رابط ميت، أو صفحة تعمل لكنها لا تتضمن الادعاء، يحسم المسألة في نحو عشر ثوانٍ.
2. أعد السؤال في محادثة جديدة. السؤال نفسه، محادثة جديدة، بلا أي من الأخذ والردّ السابق. إن عادت الأرقام أو الأسماء أو التواريخ مختلفة، فالنموذج كان يملأ فجوات لا يستدعي معلومة. هذا لا يكلّفك شيئًا ويكشف نسبة مفاجئة من التفاصيل المختلقة.
3. اسأل نموذجًا آخر. أعلى خطوة قيمةً في الأسئلة الواقعية. الصق السؤال نفسه لدى مزوّد ثانٍ وقارن التفاصيل، لا النبرة.
4. ابحث عنه بالطريقة العادية. لأي شيء سترسله أو توقّعه أو تنشره أو تدفع فيه مالًا، امنحه تسعين ثانية في محرك بحث. الذكاء الاصطناعي ممتاز كمرحلة أولى، والمرحلة الأولى ليست تحققًا.

النقطة الثالثة تستحق مكانها. نموذجان بنتهما شركتان مختلفتان، ودُرّبا على بيانات مختلفة بطرق مختلفة، يمكن أن يخطئا معًا في السؤال نفسه. لكنهما نادرًا جدًا ما يختلقان التفصيل الخاطئ نفسه، لأن التفصيل المُختلق يخرج من فجوات بعينها في نظام بعينه. فحين يعطيك Claude وChatGPT الرقم نفسه، كلٌّ على حدة، فالأرجح أن الرقم حقيقي. وحين يختلفان، تكون قد حدّدت بالضبط الجملة التي تستحق التحقق، وهذا أفضل من إحساس غامض بأن شيئًا في الإجابة غير سليم. للتحقق العارض تكفيك الخطط المجانية لدى مزوّدَين ولا تكلّفك شيئًا. لكنها تتوقف عن كونها مجانية حين تصير المقارنة عادة، إذ يكلّف الوصول المدفوع نحو 20 دولارًا شهريًا لكل مزوّد، وهذه هي الفجوة التي يسدّها اشتراك متعدد النماذج مثل Whizi. ويمرّ استخدام عدة نماذج معًا على سير العمل خطوة بخطوة.

أين يهمّ هذا، وأين لا يهمّ إطلاقًا

عادة تحقّق تنطبق على كل شيء تنهار خلال أسبوع. معظم ما تسأل عنه منخفض المخاطر ويتحقق من نفسه. اطلب نسخة أقصر من بريدك أنت، وسترى بنفسك إن كانت أقصر فعلًا وإن كانت ما زالت تقول ما تقصده. وينطبق الأمر نفسه على العصف الذهني، وتسمية الأشياء، ووضع المخططات، وكتابة المسودات، وترجمة رسالة ستقرأها قبل إرسالها، وتحويل ملاحظات مبعثرة إلى قائمة. أنت هنا أداة التحقق، والخطأ يظهر أمامك فورًا.

سؤالان يضعان أي مهمة في خانتها الصحيحة، ولا يستغرق طرحهما على نفسك أكثر من ثلاث ثوانٍ.

1. إن كان هذا خاطئًا، فمن سيكتشفه، ومتى؟ أنت، بعد عشر ثوانٍ وأنت تقرأه، أم عميل بعد ثلاثة أشهر؟
2. هل أستطيع التراجع عنه؟ حذف فقرة سيئة لا يكلّف شيئًا. أما إعادة تقديم إقرار ضريبي، أو سحب عرض سعر أرسلته، أو عكس دفعة، فليس كذلك.

إن جعلك أي من الجوابين تتردد، فتحقّق من كل ادعاء محدد قبل أن تتصرّف. وأوضح ما يقع في هذه الخانة: أسماء الأدوية وجرعاتها، والمواعيد القانونية ومواعيد التقديم، والأرقام الضريبية، وبنود العقود، وأي شيء يمسّ صحة أحدهم أو وضعه في الهجرة، والشيفرة التي تحرّك أموالًا أو تتعامل مع بيانات شخصية. مرادف خاطئ في بريد إلكتروني يجعلك تبدو غريبًا بعض الشيء ليوم واحد. أما جرعة خاطئة أو موعد فائت فليس شيئًا يتولّى الذكاء الاصطناعي معالجته بعد وقوعه. ويتناول هل الذكاء الاصطناعي آمن للاستخدام هذا الجانب بتفصيل أكبر، بما في ذلك ما يجب ألا تلصقه أبدًا. ابدأ بعادة واحدة: في اللحظة التي تحتوي فيها الإجابة على رقم أو اسم أو تاريخ أو رابط، عامل ذلك الجزء وحده على أنه غير موثّق وتحقّق منه. أما البقية فسليمة في العادة.