پنجرهٔ زمینه چیست؟ محدودیتی که همه‌چیز را توضیح می‌دهد

توضیح ساده

پنجرهٔ زمینه کل مقدار متنی است که یک مدل می‌تواند هم‌زمان پیش چشم داشته باشد. هر چیزی که مدل دربارهٔ گفتگوی فعلی شما می‌داند باید داخل آن جا شود: دستورالعمل‌های شما، تک‌تک پیام‌هایی که هرکدامتان فرستاده‌اید، هر فایلی که بارگذاری کرده‌اید، و پاسخی که قرار است بنویسد.

یک تصویر ذهنی مفید: مدل اصلاً هیچ خاطره‌ای از گفتگوی شما ندارد. هر بار که پیامی می‌فرستید، کل گفتگو تا آن لحظه از نو به آن داده می‌شود، همه‌اش را می‌خواند و پاسخ بعدی را می‌نویسد. پنجرهٔ زمینه اندازهٔ میزی است که این متن باید رویش جا شود. وقتی میز پر شد، چیزی باید از رویش برداشته شود.

به همین دلیل است که یک هوش مصنوعی می‌تواند بیست پیام تیزهوش به‌نظر برسد و بعد شروع کند به تناقض‌گویی، فراموش‌کردن قیدی که در ابتدا گذاشته بودید، یا خواستن فایلی که همین حالا به او داده‌اید. گیج نشده است. بخش ابتدایی گفتگو از لبهٔ میز سُر خورده است.

یک تمایز که باید همین اول درست بفهمید، چون سردرگمی زیادی درست می‌کند: پنجرهٔ زمینه همان حافظه نیست. محصولاتی مثل ChatGPT و Claude قابلیت حافظهٔ جداگانه‌ای دارند که واقعیت‌هایی دربارهٔ شما را بین گفتگوها ذخیره می‌کند و بی‌سروصدا در گفتگوهای تازه می‌گنجاند. آن یک قابلیت محصول است که روی مدل ساخته شده. پنجرهٔ زمینه یک ویژگی سخت خود مدل است، و هیچ قابلیت حافظه‌ای بزرگش نمی‌کند.

توکن‌ها، و راه تخمین‌زدنشان

پنجره‌های زمینه به‌جای کلمه با توکن اندازه گرفته می‌شوند، چون مدل‌ها کلمه نمی‌خوانند. تکه می‌خوانند: کلمه‌های رایج معمولاً یک توکن‌اند، کلمه‌های بلندتر یا غیرمعمول به چند تکه می‌شکنند، و نشانه‌گذاری و فاصله‌ها هم شمرده می‌شوند.

تبدیل‌های تقریبی که ارزش به‌خاطر سپردن دارند:

• ۱ توکن حدود ۴ کاراکتر انگلیسی است، یا حدود سه‌چهارم یک کلمه.
• ۱٬۰۰۰ توکن تقریباً ۷۵۰ کلمه است، حدود یک صفحه و نیم متن معمولی.
• کد متراکم‌تر است. به‌خاطر نمادها، تورفتگی‌ها و شناسه‌های غیرمعمول، انتظار چیزی نزدیک به یک توکن به ازای هر سه کاراکتر داشته باشید.
• زبان‌های دیگر کم‌بازده‌ترند. متن به زبان‌هایی که در توکن‌ساز کمتر نمایندگی دارند می‌تواند برای همان معنا دو تا سه برابر توکن مصرف کند، و اگر به‌ازای توکن پول می‌دهید دانستنش مهم است.

همین به شما راهی می‌دهد تا اعدادی را که در مطالب تبلیغاتی می‌بینید تصور کنید:

پنجرهٔ زمینه	تقریباً برابر با
۸٬۰۰۰ توکن	یک مقالهٔ بلند
۳۲٬۰۰۰ توکن	یک مقالهٔ پژوهشی کوتاه با یادداشت‌ها
۱۲۸٬۰۰۰ توکن	یک کتاب ۳۰۰ صفحه‌ای
۲۰۰٬۰۰۰ توکن	یک راهنمای فنی سنگین، یا یک مخزن کد میان‌اندازه
۱٬۰۰۰٬۰۰۰ توکن	چند کتاب، یا یک سال متن پیاده‌شدهٔ جلسه‌ها

چیزی که این جدول پنهان می‌کند مهم است: این سقف کل گفتگو را پوشش می‌دهد، نه هر پیام را. یک پنجرهٔ ۱۲۸٬۰۰۰ توکنی یعنی این نیست که می‌توانید بارها ۱۲۸٬۰۰۰ توکن بفرستید. یعنی جمع در حال رشد همه‌چیز، از جمله پاسخ‌های خود مدل، باید زیر آن عدد بماند.

چه چیزی واقعاً پنجرهٔ شما را پر می‌کند

معمولاً مردم از سرعت پرشدن پنجره جا می‌خورند، چون بیشتر چیزی که واردش می‌شود نامرئی است. در یک جلسهٔ چت معمولی، مدل در هر نوبت همهٔ این‌ها را می‌خواند:

۱. prompt سیستمی. دستورالعمل‌هایی که محصول پیش از تایپ‌کردن شما می‌فرستد: چطور رفتار کند، چه ابزارهایی هست، تاریخ امروز، قواعد ایمنی. اغلب هزاران توکن، و شما هرگز نمی‌بینیدش.

۲. دستورالعمل‌های سفارشی یا حافظهٔ شما. هر چیزی که محصول دربارهٔ شما ذخیره کرده و خودکار تزریق می‌کند.

۳. تک‌تک پیام‌های قبلی، مال شما و مال مدل، به‌طور کامل. پاسخ‌های طولانی مدل هم شمرده می‌شوند و معمولاً بزرگ‌ترین سهم را دارند.

۴. هر فایل بارگذاری‌شده، یا بخش‌های استخراج‌شدهٔ آن. یک PDF چهل صفحه‌ای تقریباً ۲۰٬۰۰۰ تا ۳۰٬۰۰۰ توکن است.

۵. نتایج ابزارها و جستجو. یک جستجوی وب که پنج صفحه می‌آورد می‌تواند بیشتر از کل گفتگوی تا آن لحظهٔ شما اضافه کند.

۶. پاسخی که دارد تولید می‌شود. خروجی از همان بودجهٔ ورودی استفاده می‌کند.

به همین دلیل است که گفتگویی که کوتاه به‌نظر می‌رسید می‌تواند نزدیک سقفش باشد. شما هشت پیام کوتاه فرستادید، اما مدل هشت پاسخ بلند نوشت، دو سند پیوست کردید و سه بار جستجو انجام شد. بخش قابل‌مشاهدهٔ همهٔ این‌ها شاید ده درصد کل باشد.

به همین دلیل هم راه‌حل یک گفتگوی سردرگم اغلب «یک چت تازه شروع کن» است. شما حال‌وهوای مدل را بازنشانی نمی‌کنید. دارید میز را خالی می‌کنید.

اندازهٔ تبلیغ‌شده در برابر اندازهٔ کارآمد

این مهم‌ترین بخش است و کمتر از همه دربارهٔ آن حرف زده می‌شود. کیفیت یک مدل تا خودِ سقف صاف نمی‌ماند و بعد ناگهان از پرتگاه نمی‌افتد. تدریجی افت می‌کند، و خیلی پیش از سقف شروع به افت می‌کند.

بهترین نسخهٔ مستندشدهٔ این پدیده اغلب اثر گم‌شدن در میانه نامیده می‌شود. یک واقعیت مشخص را در ابتدای یک سند طولانی بگذارید، مدل پیدایش می‌کند. در انتها بگذارید، باز هم پیدایش می‌کند. وسط ۲۰۰ صفحه دفنش کنید، دقت بازیابی به‌طور محسوسی افت می‌کند. توجه در سراسر یک ورودی طولانی یکنواخت پخش نمی‌شود، و لبه‌ها سهم بیشتری می‌گیرند.

وقتی کار به ترکیب چند واقعیت پراکنده در یک ورودی طولانی می‌رسد، سخت‌تر هم می‌شود. پیداکردن یک سوزن در انبار کاه مسئلهٔ حل‌شده‌ای است. پیداکردن چهار سوزن و استدلال دربارهٔ رابطهٔ میانشان نه، و دقیقاً همین کاری است که مردم از پنجره‌های زمینهٔ بزرگ می‌خواهند.

پس عدد تبلیغ‌شده را یک ظرفیت بیشینه بدانید، نه یک محدودهٔ کاری راحت. یک قاعدهٔ سرانگشتی از استفادهٔ واقعی: تا حدود نیمی از پنجرهٔ تبلیغ‌شده رفتار قابل‌اتکا می‌گیرید، و هر چیزی را که فراتر از آن باشد، به جای اعتماد باید راستی‌آزمایی کنید. اگر مدلی به شما گفت یک قرارداد ۳۰۰ صفحه‌ای هیچ بند فسخی ندارد، بررسی کنید، به‌ویژه اگر آن بند قرار باشد در میانه باشد.

نتیجه‌ای که برای مقایسه دارد این است: مدلی با پنجرهٔ یک میلیون توکنی به‌طور خودکار برای اسناد طولانی بهتر از مدلی با ۲۰۰٬۰۰۰ نیست. فقط در پذیرفتنشان بهتر است. اینکه در سراسر آن خوب استدلال می‌کند یا نه پرسش جداگانه‌ای است، و تنها راه دانستنش آزمایش با سندی است که پاسخش را از پیش می‌دانید.

وقتی جا تمام می‌شود چه اتفاقی می‌افتد

محصولات مختلف سرریز را متفاوت مدیریت می‌کنند، و دانستن اینکه از کدام استفاده می‌کنید بسیاری از رفتارهای عجیب را توضیح می‌دهد.

رفتار	چه می‌بینید	کجا رخ می‌دهد
خطای صریح	درخواست با پیامی دربارهٔ طول رد می‌شود	بیشتر استفاده‌های مستقیم از API
کوتاه‌سازی خاموش	قدیمی‌ترین پیام‌ها بدون اطلاع حذف می‌شوند	بسیاری از رابط‌های چت
خلاصهٔ غلتان	پیام‌های قدیمی در یک خلاصه فشرده می‌شوند	به‌طور فزاینده رایج در محصولات چت
بازیابی	در هر نوبت فقط بخش‌های مرتبط اسناد شما آورده می‌شود	ابزارهای سند و پایگاه دانش

کوتاه‌سازی خاموش همان است که مشکل واقعی می‌سازد، چون هیچ‌چیز اعلامش نمی‌کند. نشانه‌اش مدلی است که ناگهان قاعده‌ای را که در ابتدا گذاشتید نادیده می‌گیرد، به لحنی که یک ساعت پیش اصلاح کردید برمی‌گردد، یا پرسشی می‌پرسد که قبلاً پاسخش را داده‌اید. هیچ ایرادی به مدل وارد نشده. آن دستورالعمل‌ها فقط دیگر روی میز نیستند.

خلاصه‌های غلتان بهترند اما بخشی از اطلاعات را از دست می‌دهند. یک خلاصه جانِ مطلب را نگه می‌دارد و جزئیات را می‌اندازد، پس قید «هرگز کلمهٔ هم‌افزایی را به کار نبر» به‌شکل «کاربر ترجیح‌های سبکی دارد» باقی می‌ماند، که اصلاً به دردتان نمی‌خورد.

تاکتیک‌های عملی که واقعاً جواب می‌دهند

این‌ها بر اساس اثری که نسبت به زحمتشان دارند مرتب شده‌اند.

وقتی موضوع عوض می‌شود چت تازه‌ای شروع کنید. ارزشمندترین عادت به‌تنهایی همین است. یک گفتگوی طولانی هزینهٔ هر چیزی را که پیش از آن آمده با خود حمل می‌کند، از جمله حاشیه‌هایی که دیگر ربطی ندارند. گفتگوهای طولانی آگاه‌تر نیستند، گران‌تر و رقیق‌ترند.

پرسشتان را بعد از مطلب طولانی بگذارید، نه قبلش. اگر سندی را می‌چسبانید و بعد می‌پرسید، پرسش به جایی که پاسخ تولید می‌شود نزدیک‌تر است، و این دقت را روی ورودی‌های طولانی به‌شکل قابل‌اندازه‌گیری بهتر می‌کند. اول بچسبانید، بعد بپرسید.

قیدهای مهم را دوباره تثبیت کنید. در هر گفتگوی بیش از حدود پانزده رفت‌وبرگشت، قواعد مهم را در همان پیامی که اهمیت دارند دوباره بگویید: «یادآوری: انگلیسی بریتانیایی، بدون فهرست نقطه‌ای، زیر ۴۰۰ کلمه». یک سطر برایتان خرج دارد و از کوتاه‌سازی جان سالم به در می‌برد.

صفحه‌های مرتبط را بفرستید، نه کل کتاب را. اگر می‌خواهید مدل بند غرامت را بررسی کند، همان بند غرامت و اطرافش را بدهید. دقت بر حجم می‌چربد، سریع‌تر است، ارزان‌تر است و دقیق‌تر هم هست.

آگاهانه خلاصه کنید و از نو شروع کنید. وقتی یک جلسهٔ کاری طولانی شد، یک تحویل ساختاریافته بخواهید: وضعیت فعلی، تصمیم‌های گرفته‌شده، پرسش‌های باز، قیدها. آن را در یک چت تازه بچسبانید. جانِ مطلب را نگه می‌دارید و نویز را می‌اندازید، و بلافاصله می‌بینید مدل تیزتر شده است.

برای هرچه جا نمی‌شود از بازیابی استفاده کنید. اگر مطالب شما واقعاً از هر پنجره‌ای بزرگ‌ترند، پاسخ پنجرهٔ بزرگ‌تر نیست، آوردن تکه‌های مرتبط برای هر پرسش است. ابزارهای سندی در پسِ پرده همین کار را می‌کنند.

مراقب افت کیفیت باشید، نه فقط خطا. اگر پاسخ‌ها مبهم‌تر می‌شوند، بیشتر احتیاط می‌کنند یا دستورهای قالب را نادیده می‌گیرند، احتمالاً عمیقاً در پنجره فرو رفته‌اید. پیش از آنکه فرض کنید مدل بدتر شده، از نو شروع کنید.

واقعاً چقدر پنجره لازم دارید؟

به جای خرید بزرگ‌ترین عدد، پنجره را با کارتان جور کنید.

کار شما	چه چیزی لازم دارید	چرا
ایمیل، پیش‌نویس، پرسش‌های سریع	هر مدل امروزی	هرگز نزدیک سقف هم نمی‌شوید
ویرایش اسناد طولانی	۱۰۰٬۰۰۰ به بالا	سند به‌علاوهٔ گفتگوی شما دربارهٔ آن
بررسی قرارداد و آیین‌نامه	۲۰۰٬۰۰۰ به بالا، و راستی‌آزمایی کنید	سند به‌علاوهٔ استدلال دربارهٔ آن، با همان هشدار بالا
استدلال روی کل یک مخزن کد	بزرگ‌ترین گزینهٔ موجود	کد از نظر توکن متراکم است و استدلال بین فایلی به گستره نیاز دارد
تحلیل ماه‌ها متن پیاده‌شده	بزرگ‌ترین گزینهٔ موجود، یا بازیابی	اغلب بازیابی بهتر از زور بازو جواب می‌دهد
ساختن یک محصول روی API	کوچک‌تر از آنچه فکر می‌کنید، به‌علاوهٔ حافظهٔ نهان	prompt‌های طولانی عامل اصلی هزینه و تأخیرند

برای بیشتر مردم پاسخ صادقانه این است که پنجرهٔ زمینه عامل تعیین‌کننده در انتخاب بین اشتراک‌ها نیست. کیفیت نوشتن، اکوسیستم و قیمت بیشتر اهمیت دارند. دقیقاً در یک وضعیت تعیین‌کننده می‌شود: کار شما مرتب شامل واردکردن مطالبی بیش از گنجایش یک پنجرهٔ معمولی است، و در آن حالت تفاوت جزئی نیست، تفاوت ممکن و ناممکن است.

اگر می‌خواهید خودتان این را بیازمایید، راه عملی این است که همان سند طولانی را از دو یا سه مدل بگذرانید و پاسخ‌ها را با چیزی که از پیش می‌دانید بسنجید. فضای کاری‌ای مثل Whizi این کار را آسان می‌کند، چون GPT، Claude، Gemini، Grok و DeepSeek زیر یک اشتراک‌اند و پنجرهٔ بسیار بزرگ Gemini یک کلیک با ترکیب دقیق Claude فاصله دارد. مقایسهٔ مدل‌ها کنار هم را ببینید، یا برای تصمیم گسترده‌تر چگونه یک مدل هوش مصنوعی انتخاب کنیم را بخوانید.