ما معنى جيلبريك الذكاء الاصطناعي؟

الرفض عادة، والجيلبريك طريقة لكسرها

لا يحتوي النموذج على قاعدة تقول "لا تشرح كيفية فتح قفل". بل يحمل عادة الرفض، التي تُغرس خلال مرحلة ما بعد التدريب التي يصفها ما هو الضبط الدقيق في الذكاء الاصطناعي، حيث صنّف أشخاص رفض الطلبات الضارة أعلى من الامتثال لها حتى أصبح الرفض هو الاستمرار الأرجح لمثل هذا الطلب. أرجح، لا مؤكد.

الجيلبريك هو أي أمر يغيّر تلك الاحتمالات. غلّف الطلب بقصة، فيصبح الاستمرار الأرجح هو السطر التالي من القصة. قسّمه إلى أجزاء بريئة، فلا يُثير أي جزء منها العادة. رمّزه بترميز base64، فتدريب الرفض الذي رأى الإنجليزية الصريحة لا يتعرّف عليه. أعطِ النموذج مئتي مثال على مساعد يمتثل، ويُجاب الطلب الحادي والمئتان بنفس الروح، وهو ما أطلقت عليه Anthropic اسم جيلبريك متعدد الأمثلة في أبريل 2024، وقد سهُل مع اتساع نوافذ السياق.

الآلية نفسها هي التي تجعل النموذج مفيدًا: فهو يتبع نمط مُدخله. تدريب السلامة يجعل بعض الأنماط أقل احتمالًا بكثير، والجيلبريك يجد نمطًا لم يغطّه التدريب. لهذا لا تُحل المشكلة بقاعدة أفضل، ولهذا تقيسها الشركات كمعدّل.

الأساليب الشائعة، وما يستغلّه كل منها

أوامر DAN التي انتشرت على Reddit منذ ديسمبر 2022 هي النسخة الشعبية، وتوقفت كل نسخة عن العمل خلال أسابيع إلى أشهر مع تحديث OpenAI للنموذج، ثم ظهرت نسخة جديدة. كل أسلوب معروف يتبع هذه الدورة: يُنشر ثم يُعالَج. أدارت Anthropic مكافأة مالية مدفوعة لمن يجد جيلبريك شامل ضد مصنّفاتها، وهناك ينصبّ العمل الجاد الآن.

تمييز واحد يستحق الحفظ. الجيلبريك هو المستخدم ضد سياسة النموذج. أما ما هو حقن الأوامر فهو طرف ثالث ضد المستخدم، عبر محتوى يقرأه النموذج. الأساليب متداخلة، لكن الضحايا ليسوا الأنفسهم.

ما الذي يوقفه الحاجز الوقائي فعليًا، بالأرقام

أفضل رقم منشور يأتي من مصنّفات Anthropic الدستورية، التي نُشرت في فبراير 2025. درّب الفريق نماذج مصنّفة منفصلة لفحص المدخلات والمخرجات حول Claude، ثم شغّل نفس هجمات الجيلبريك الآلية على النموذج مع الفحص وبدونه.

تكلفة هذا الانخفاض هي النصف الآخر من النتيجة. أضافت المصنّفات 23.7 بالمئة إلى الحوسبة لكل استعلام، ورفعت رفض الطلبات غير الضارة بمقدار 0.38 نقطة مئوية. قبل الاختبار الآلي، أمضى 183 شخصًا أكثر من 3,000 ساعة في مكافأة اكتشاف ثغرات بحثًا عن جيلبريك شامل، أمر واحد يفتح كل الأسئلة العشرة المحظورة، ولم يجده أحد. وجد تحدٍ عام لاحق واحدًا بعد أسبوع. المعدّل ليس صفرًا؛ والمغزى أنه انتقل من نجاح معظم المحاولات إلى نجاح قلة منها.

هذا ما تعنيه "الحواجز الوقائية" عمليًا: سلسلة من الاحتمالات. عادة الرفض المُدرّبة تلتقط معظمها. مصنّف يلتقط معظم ما تبقّى. مراجعة بشرية تلتقط بعض الباقي. كل طبقة تكلّف زمن استجابة أو مالًا أو رفضًا خاطئًا، وتختار كل شركة نقطة على هذا المنحنى. يغطي هل الذكاء الاصطناعي آمن للاستخدام ما تعنيه تلك النقطة بالنسبة للمخاطر التي تواجهها فعليًا.

لماذا كنت تريد على الأرجح إعادة صياغة، لا جيلبريك

كثيرون ممن يبحثون عن جيلبريك واجهوا رفضًا لطلب معقول فحسب. طبيب يسأل عن جرعة، روائي يكتب شخصية شريرة، باحث أمني يصف هجومًا حقيقيًا، مؤرخ يقتبس نصًا حقيقيًا. الارتفاع بمقدار 0.38 نقطة أعلاه هو نصيب المصنّف فقط؛ فالعادة المُدرّبة ترفض من تلقاء نفسها، ولا أحد ينشر ذلك المعدّل.

أمران ينجحان وليس أي منهما جيلبريك. الأول هو السياق. الرفض هو تخمين النموذج بأن الطلب ضار، وجملة تشرح من أنت ولماذا تسأل تغيّر ذلك التخمين: "أنا صيدلاني أتحقق من جرعة أطفال" مُدخل مختلف عن السؤال المجرد. الثاني هو النموذج. تضع الشركات المزوّدة خطوطها في مواضع مختلفة، وطلب يرفضه نموذج يجيب عنه آخر بوصفه عاديًا تمامًا. في مساحة عمل متعددة النماذج، هذا مجرد تغيير في المنتقي يكلّف درجة النموذج الثاني، رصيد واحد لـ Whizi AI أو 10 لـ Claude Sonnet 5، ويغطي كيف تختار نموذج ذكاء اصطناعي الفروق التي تتجاوز الرفض.

ما لا ينجح، وما لن تساعد فيه Whizi: أوامر مصمّمة لتجاوز سياسة مزوّد ما. كل نموذج على Whizi يُقدَّم عبر OpenRouter والمزوّد الموجَّه إليه، فتنطبق طبقات سلامة ذلك المزوّد وسياسة استخدامه على كل رسالة، وأي جيلبريك ينجح هو مخالفة لسياسة الشركتين معًا. الحاجة المشروعة، إجابة صريحة عن سؤال مشروع، تُلبّى بالسؤال المباشر، وإن رُفض، بسؤال نموذج آخر بسياسة مختلفة.

إلى أين يتجه الجيلبريك

ثلاثة تحوّلات ظاهرة بالفعل في الأعمال المنشورة. طبقات المصنّفات في طريقها لتصبح معيارًا، ومعدّل رفضها الخاطئ هو الرقم الذي يجب مراقبته، لأن حاجزًا يمنع صيدلانيًا هو حاجز يبحث الناس عن طريقة للالتفاف حوله. النماذج مفتوحة الأوزان، التي يغطيها دليل نماذج LLM مفتوحة المصدر، يمكن إزالة تدريب الرفض منها بالضبط الدقيق، فيصبح الحاجز الوقائي بالنسبة لتلك النماذج حيث تُستضاف لا في أوزانها. والوكلاء يرفعون المخاطر: روبوت محادثة مخترَق يقول شيئًا لا ينبغي، بينما وكيل مخترَق مزوّد بأدوات يفعل شيئًا، ولهذا تهمّ خطوة التأكيد قبل أي إجراء أكثر من أي رفض.