Що таке knowledge cutoff?

Модель перестала читати в певну дату, і сама вона цієї дати не знає

Мовна модель навчається на фіксованому масиві текстів, зібраному ще до початку навчання. Що таке LLM розповідає про два етапи навчання; тут важливо те, що обидва використовують дані з кінцевою датою. Нічого опублікованого пізніше цієї дати в моделі немає. Ні вибори, ні зміна ціни, ні новини про саму модель.

Постачальники публікують цю дату на картці моделі, і дедалі частіше публікують дві. Anthropic зазначає "training data cutoff", останню дату, коли будь-які дані потрапили до навчання, і "reliable knowledge cutoff", більш ранню дату, до якої покриття достатньо щільне, щоб йому довіряти. Розрив між ними існує тому, що інтернету потрібні місяці, аби написати про подію: реліз у березні має жменьку сторінок у квітні і тисячі до вересня. Модель, навчена в липні, добре знає березень і майже нічого не знає про липень.

Сама модель не може назвати жодну з цих дат. У неї немає календаря і немає запису про власне навчання; коли її запитують "яка твоя дата відсічення знань", вона видає найімовірнішу відповідь на це запитання зі своїх навчальних даних, і зазвичай це дата, яку вона десь читала про попередню модель. Опубліковані системні промпти Anthropic прямо повідомляють Claude його власну дату відсічення текстом, і це саме визнання того, що інакше модель цього не знала б. Беріть дату з картки, ніколи з чату.

Наскільки застаріла модель у день релізу, виміряно

Навчання триває місяці, а оцінювання і робота над безпекою забирають ще більше часу, тож модель виходить у світ уже відстаючи. Графік читає вісім карток моделей: reliable або заявлену дату відсічення знань проти дати публічного релізу, у повних місяцях.

Два патерни. Флагманські моделі OpenAI виходили найзастарілішими, десять місяців і для GPT-4.1, і для GPT-5, тоді як Anthropic і Google трималися в межах двох до чотирьох. І цей розрив лише зростає в експлуатації: GPT-4o залишалася моделлю ChatGPT за замовчуванням ще рік після запуску, і на той момент її знання відставали вже на 19 місяців. Модель у щоденному використанні зазвичай відстає на рік чи більше в той день, коли ви щось у неї запитуєте.

Дати вище взяті безпосередньо з карток моделей, посилання на які наведені наприкінці цієї сторінки. Хронологія моделей ШІ містить дати релізу для кожної моделі, яку відстежує сайт.

Що робить модель, коли ви питаєте за межею дати відсічення

Вона відповідає. У цьому й проблема. У моделі немає кроку пошуку, який поверне "не знайдено"; вона генерує найправдоподібніше продовження, і для запитання про минулий місяць це продовження будується з патернів схожих запитань у навчальних даних. Запитайте про продукт, випущений після дати відсічення, і модель опише, яким такий продукт міг би правдоподібно бути. Попросіть поточну ціну, і вона назве ціну на момент відсічення, сформульовану в теперішньому часі.

Що таке AI-галюцинація пояснює, чому модель впевнена, а не невпевнена, але версія з датою відсічення має свою ознаку: відповідь виглядає зв'язно і трохи застаріло. Назва моделі на одну версію старіша, ціна торішня, "найновіша" функція та, що була у вікні навчання. Застаріла відповідь не виглядає неправильною; вона виглядає як минуле.

Фікс, це пошук, і він працює навіть на моделях, у яких пошуку немає

Дату відсічення пересунути не можна, тож рішення в тому, щоб дати моделі актуальний текст у момент відповіді. Це роблять два механізми. Завантаження документа кладе ваш текст у промпт, і модель відповідає на його основі. Веб-пошук отримує сторінки і робить те саме з відкритим інтернетом. Обидва є грандингом, і обидва є тим механізмом, який описує що таке RAG: модель усе ще прогнозує, але вже на матеріалі, новішому за її навчання.

У Whizi веб-пошук увімкнений за замовчуванням, розташований у полі введення поруч із кнопкою прикріплення файлу і застосовується до будь-якої обраної моделі. Саме в цьому й користь. Claude чи модель Llama: із увімкненим перемикачем кожна з них відповідає на запитання про цей тиждень із живих джерел. Перемикач надає дозвіл, а не видає команду, тож запит на вірш не запускає пошук, а запитання з датою запускає. Пошук не витрачає кредитів; повідомлення коштує стільки ж кредитів, скільки й без пошуку, за тарифом моделі, яка відповіла.

Варто чесно назвати одне обмеження. Пошук виправляє застарілість, але не виправляє достовірність. Застарілий допис у блозі отримується так само легко, як і сторінка постачальника, тож для ціни чи специфікації відкрийте посилання-джерело, перш ніж на нього покладатися, а для всього важливого запитайте другу модель з увімкненим пошуком і порівняйте відповіді.

Вважайте, що модель відстає на пів року, а тоді розберіться із запитанням

Вважайте, що будь-яка модель відстає щонайменше на пів року, а модель, якою ви користуєтеся давно, відстає на рік чи більше. Тоді розберіться із запитанням. Якщо відповідь залежить від фактів про світ після цієї межі, увімкніть пошук або завантажте джерело. Якщо відповідь залежить від міркування над тим, що вже є в розмові, дата відсічення не має значення, і пошук можна вимкнути.

Перевіряйте дату на картці моделі, а не в самій моделі. І коли модель сама промовляє "станом на мою останню оновлену інформацію", сприймайте це як цитату з навчальних даних, а не як факт про саму себе, і ставтеся з такою самою підозрою до всього, що йде після цієї фрази.