سياق Whizi طويل جدًا على النموذج: ماذا يحدث؟

الإجابة المختصرة

لا يعرض Whizi أي خطأ متعلق بحد السياق. لا توجد أي عبارة في المنتج تذكر نافذة سياق أو حد رموز، لأن المحادثة التي تتجاوز حجم النموذج تُختصر لتناسبه قبل إرسال الطلب بدلًا من رفضها. ولا شيء يخبرك بحدوث ذلك. فإذا بدا أن النموذج نسي منتصف محادثة طويلة، فهذا بالضبط ما يحدث.

أربعة أمور ترفض طلبك صراحةً، ولكل منها اسمه الخاص:

الرسالة	رمز HTTP	السبب
This message is {count} characters, over the 100,000 character limit. Attach a shorter file, or ask about one section at a time.	400 message_too_long	رسالة واحدة، بما في ذلك النص المستخرج من ملفاتك، تجاوزت 100,000 حرف
This conversation has {count} messages, over the 100 message limit.	400 too_many_messages	طلب واحد يحمل نصًا يتجاوز 100 رسالة
Request is too large.	413 request_too_large	جسم طلب JSON الكامل تجاوز الحد المسموح به بالبايت للمسار
That system prompt is missing or over the 32,000 character limit.	400 invalid_system_prompt	تعليمات نظام تتجاوز 32,000 حرف

يُستبدل {count} في رسالة حد الأحرف برقمك الفعلي، منسّقًا بفواصل الآلاف. والرمز الموجود بجانب كل رسالة هو ما يظهر في تتبع الشبكة، حتى عندما تعرض لك الواجهة الجملة فقط.

إذا رأيت رسالة تذكر طول سياق أو عدد رموز، فهي لم تأتِ من Whizi. انتقل إلى القسم الأخير.

الميزانية التي يحصل عليها كل نموذج، وما يحدث عند تجاوزها

يحصل كل نموذج في القائمة على نفس الميزانية لكل دورة واحدة: 40,000 رمز إدخال و20,000 رمز إخراج. ووكيل المحاسبة الكندي (CPA) هو الاستثناء الوحيد، بميزانية 55,000 رمز إدخال و40,000 رمز إخراج.

عندما تتجاوز المحادثة تلك الميزانية، يختصر الخادم الخلفي السجل ليطابق ميزانية رموز النموذج بصمت، بدلًا من رفض الطلب. لا يوجد إشعار منبثق ولا شريط تنبيه ولا رمز خطأ لذلك.

عدد الرموز الذي يعتمده Whizi للاختصار هو تقدير وليس محلل رموز حقيقي. وقد يقلّل هذا التقدير عن المحلل الحقيقي بمعدل يصل إلى 1.66 مرة على بيانات JSON، لذلك يُطبَّق هامش قدره 1.8 مرة على الإدخال لتغطية أسوأ حالة مقاسة.

الانتقال إلى نموذج بنافذة سياق أكبر لا يرسل محتوى أكثر

هذا هو الحل الخاطئ الأكثر شيوعًا. فميزانية إدخال الـ40,000 رمز ثابتة: وهي نفسها على نموذج بنافذة مليون رمز كما هي على نموذج بنافذة 200,000 رمز. ونقل محادثة طويلة من نموذج بنافذة كبيرة إلى آخر لا يغيّر شيئًا في كمية ما يُرسَل منها.

حجم نافذة السياق لا يغيّر الميزانية إلا في اتجاه واحد، وهو التخفيض. فأي نموذج تقل نافذته عن 93,000 رمز يحصل على ميزانية أصغر ومتناسبة بدلًا من الميزانية الثابتة، مع تحديد سقف الإخراج بنسبة 40 بالمئة من النافذة، والاحتفاظ بهامش أمان قدره 1,000 رمز. ويخضع 31 نموذجًا في القائمة لهذا التقييد، وأصغر نافذة بينها هي 6,144 رمز.

لذا فإن التغيير الذي يساعد فعلًا هو عكس ما يجربه الناس عادة: الانتقال من نموذج صغير ومقيَّد إلى نموذج عادي. أما الانتقال بين نموذجين ذوَي نافذة كبيرة فهو تغيير لا يؤثر على الطول إطلاقًا. وكيفية عمل التبديل في منتصف المحادثة موضّحة في تبديل النماذج في منتصف المحادثة.

تفصيل يقف خلف رقم 93,000 يستحق المعرفة إذا كنت تحاول فهم سبب رفض نموذج لطلب صغير: OpenRouter يحسب الإدخال إضافةً إلى الحد الأقصى المطلوب للإخراج مقابل نافذة النموذج، لا الإدخال وحده.

الملف الطويل المرفوع يُقتَطع، ويُخبرك بذلك

الملفات المرفوعة هي السبب المعتاد لتجاوز رسالة واحدة حد الـ100,000 حرف، لأن ملفات PDF و Word وجداول البيانات تُستخرج كنص داخل متصفحك، ويُحتسب هذا النص ضمن الحد نفسه المطبَّق على أي شيء تكتبه.

عندما لا يتسع النص المستخرج، يُختصر بدلًا من رفضه، وتظهر عبارتان. الإشعار المنبثق يقول: Your upload was too large, so only the first part of it was sent. Ask about a smaller section for full coverage. وتحمل الرسالة نفسها العلامة [Attachment truncated: the upload was larger than one message can carry, so the content past this point was not included.] عند نقطة القطع، ليعرف النموذج أين تتوقف نسخته.

أما إذا رُفضت الرسالة بدلًا من اختصارها، فستحصل على عبارة message_too_long من الجدول الأول. والحل هو نفسه الذي يذكره الخطأ: أرفق ملفًا أقصر، أو اسأل عن قسم واحد في كل مرة.

سلوك آخر قد يبدو وكأنه نسيان: فقط أحدث رسالة من المستخدم تحمل مرفقات يتم إرسال مرفقاتها إلى النموذج. فالصورة أو ملف الـPDF الذي أرفقته منذ عشر دورات لا يُعاد إرساله في كل دورة لاحقة. إذا احتجت أن ينظر النموذج إليه مجددًا، أرفقه من جديد. ما يقبله Whizi وكيفية عمل الاستخراج موضّح في أنواع الملفات المدعومة.

ملاحظة حول التكلفة، لأن الطول يغيّر قيمة الدورة. في وضع Auto، تُوجَّه الرسالة التي تتجاوز نحو 6,000 حرف إلى فئة النصوص الطويلة بتكلفة 4 كريدت، على اعتبار أن رسالة بهذا الطول هي مستند ملصوق وليست سؤالًا. أما السؤال القصير فيُوجَّه إلى الفئة السريعة بتكلفة 1 كريدت. ومقياس الكريدت موضّح في كيف يعمل الكريدت.

ملفات المشروع المثبَّتة تُحتسب ضمن التعليمات في كل دورة

يُرفَق ملف المشروع المثبَّت كنص ضمن التعليمات في كل دورة من دورات ذلك المشروع، وليس مرة واحدة فقط، ولهذا استُبعدت الصور عمدًا من أنواع الملفات القابلة للتثبيت.

ولها حدودها الخاصة: يساهم كل ملف مثبَّت بحد أقصى 32,000 حرف من النص المستخرج، ويُحدَّد سقف كتلة المشروع بأكملها عند 120,000 حرف، عبر ما لا يزيد عن 10 ملفات مثبَّتة. ويمكن أن تصل تعليمات المشروع المخصصة إلى 32,000 حرف.

تُعاد صياغة الملفات المثبَّتة والتعليمات ضمن التعليمات في كل دورة من دورات ذلك المشروع، داخل نفس ميزانية الإدخال الخاصة بالمحادثة. وإذا بدت محادثة المشروع تفقد السياق أسرع من المعتاد، ألغِ تثبيت الملفات التي لا تسأل عنها.

إذا رأيت فعلًا خطأً يتعلق بطول السياق

فهو قادم من مزوّد النموذج، لا من Whizi، ووصلك عبر آلية التمرير المباشر. وأي عطل من جهة المزوّد لا يكون بسبب حد المعدل يُعاد كخطأ HTTP 502 برمز provider_error، حاملًا رسالة المزوّد مقتصَرة على 300 حرف. وعندما يتعذر تحليل رسالة خطأ المزوّد إطلاقًا، تحصل بدلًا من ذلك على The model provider rejected the request.

رفض المزوّد بسبب الطول سيذكر طول سياق وعدد رموز. وهذه الأرقام هي حساب المزوّد لطلبك مقارنةً بنافذة أصغر من الميزانية التي أرسلها Whizi، وهي بالضبط ما يحتاجه الدعم للنظر في الأمر.

لا يوجد إعداد في الواجهة يغيّر هذا. بدّل إلى نموذج آخر للحصول على إجابتك، وأرسل إلى الدعم الرسالة كاملة بأرقامها.

وهناك عبارتان أخريان كثيرًا ما تُفهمان خطأً على أنهما مشكلة طول. فعبارة Generation failed mid-stream. وعبارة The model stream was interrupted. هما عطلا اتصال في منتصف الرد، وليسا رفضًا بسبب الطول. أعد المحاولة معهما. أما Too many requests. Please wait and try again. فهي حد معدل عند 10 رسائل في الدقيقة، ولا علاقة لها بالطول أيضًا.