Knowledge cutoff là gì?

Mô hình ngừng đọc vào một ngày, và nó không biết ngày đó là ngày nào

Một mô hình ngôn ngữ học từ một khối văn bản cố định được tập hợp trước khi quá trình huấn luyện bắt đầu. What is an LLM trình bày hai giai đoạn huấn luyện; điều quan trọng ở đây là cả hai giai đoạn đều dùng dữ liệu có một ngày kết thúc. Bất cứ thứ gì được công bố sau ngày đó đều không nằm trong mô hình. Không phải cuộc bầu cử, không phải đợt thay đổi giá, cũng không phải tin tức về chính mô hình đó.

Các nhà cung cấp công bố ngày đó trên model card, và ngày càng nhiều bên công bố hai mốc. Anthropic liệt kê một "training data cutoff", ngày cuối cùng bất kỳ dữ liệu nào được đưa vào, và một "reliable knowledge cutoff", một mốc sớm hơn mà trước đó lượng thông tin đã đủ dày để đáng tin cậy. Khoảng cách giữa hai mốc này tồn tại vì internet cần nhiều tháng để viết đầy đủ về một sự kiện: một sản phẩm ra mắt tháng Ba chỉ có vài trang viết vào tháng Tư nhưng đã có hàng nghìn trang vào tháng Chín. Một mô hình được huấn luyện vào tháng Bảy biết rõ về tháng Ba nhưng biết rất ít về chính tháng Bảy.

Bản thân mô hình không thể cho bạn biết chính xác cả hai mốc đó. Nó không có lịch và không có bản ghi về quá trình huấn luyện của chính nó; khi được hỏi "knowledge cutoff của bạn là khi nào", nó tạo ra câu trả lời có khả năng cao nhất cho câu hỏi đó dựa trên dữ liệu huấn luyện, thường là một ngày nó từng đọc được về một mô hình trước đó. Các system prompt được Anthropic công bố cho Claude biết chính xác mốc cắt của nó bằng văn bản thuần, đây chính là bằng chứng cho thấy nếu không có điều đó mô hình sẽ không thể biết được. Hãy lấy ngày từ model card, không bao giờ lấy từ cuộc trò chuyện.

Một mô hình đã cũ đến mức nào vào ngày nó ra mắt, tính theo con số

Huấn luyện mất nhiều tháng, đánh giá và công tác an toàn còn mất thêm thời gian nữa, nên khi ra mắt một mô hình đã tụt hậu sẵn. Biểu đồ dưới đây đọc từ tám model card: mốc cutoff đáng tin cậy hoặc được công bố so với ngày phát hành công khai, tính theo tháng tròn.

Có hai khuôn mẫu rõ rệt. Các mô hình chủ lực của OpenAI luôn ra mắt chậm nhất, mười tháng cho cả GPT-4.1 lẫn GPT-5, trong khi Anthropic và Google chỉ dao động từ hai đến bốn tháng. Và khoảng cách này chỉ càng rộng thêm khi mô hình còn được dùng: GPT-4o vẫn là mô hình mặc định của ChatGPT một năm sau khi ra mắt, thời điểm đó kiến thức của nó đã lạc hậu tới 19 tháng. Một mô hình được dùng hằng ngày thường chậm hơn ít nhất một năm so với thời điểm bạn đặt câu hỏi.

Các mốc thời gian trên là do chính nhà cung cấp công bố, lấy từ model card được liên kết ở cuối trang này. AI model timeline có ngày phát hành của mọi mô hình mà trang này theo dõi.

Mô hình làm gì khi bạn hỏi vượt quá mốc cắt

Nó vẫn trả lời. Đó chính là vấn đề. Mô hình không có bước tra cứu để trả về "không tìm thấy"; nó tạo ra phần tiếp nối hợp lý nhất, và với câu hỏi về tháng trước, phần tiếp nối đó được xây dựng từ khuôn mẫu của những câu hỏi tương tự trong dữ liệu huấn luyện. Hỏi về một sản phẩm ra mắt sau mốc cắt, mô hình sẽ mô tả sản phẩm đó có khả năng sẽ như thế nào. Hỏi giá hiện tại, nó đưa ra mức giá tại thời điểm cutoff, nhưng lại diễn đạt ở thì hiện tại.

What is an AI hallucination giải thích vì sao mô hình tỏ ra tự tin thay vì tỏ ra không chắc chắn, nhưng phiên bản do knowledge cutoff gây ra có một dấu hiệu bạn có thể nhận ra: câu trả lời mạch lạc nhưng hơi cũ. Tên mô hình chậm một phiên bản, giá cả là của năm ngoái, tính năng "mới nhất" chỉ là tính năng trong khung thời gian huấn luyện. Một câu trả lời đã cũ không hề trông có vẻ sai; nó chỉ trông giống như quá khứ.

Cách khắc phục là tìm kiếm, và nó hiệu quả ngay cả với mô hình không có khả năng đó

Mốc cutoff không thể dời được, nên cách khắc phục là đưa cho mô hình văn bản mới nhất tại thời điểm trả lời. Có hai cơ chế làm được điều đó. Tải tài liệu lên đưa văn bản của bạn vào prompt, và mô hình trả lời dựa trên đó. Tìm kiếm web lấy về các trang web và làm điều tương tự với internet mở. Cả hai đều là grounding, và cả hai đều là cơ chế mà what is RAG mô tả: mô hình vẫn đang dự đoán, nhưng dựa trên tài liệu ra đời sau quá trình huấn luyện của nó.

Trong Whizi, tìm kiếm web được bật mặc định, nằm trong ô soạn thảo cạnh nút đính kèm, và áp dụng cho bất kỳ mô hình nào bạn chọn. Đó chính là phần hữu ích nhất. Claude hay một mô hình Llama: khi bật công tắc, mỗi mô hình đều trả lời câu hỏi về tuần này từ nguồn trực tiếp. Công tắc này chỉ cấp quyền chứ không ra lệnh, nên yêu cầu viết một bài thơ sẽ không kích hoạt tìm kiếm còn câu hỏi có kèm ngày tháng thì có. Tìm kiếm không tốn credit; tin nhắn chỉ tốn mức credit của mô hình đã trả lời nó, giống hệt như khi không tìm kiếm.

Có một giới hạn cần nói thẳng. Tìm kiếm khắc phục sự lỗi thời; nó không khắc phục độ tin cậy. Một bài blog đã lỗi thời được lấy về dễ dàng như một trang của nhà cung cấp, nên với giá cả hoặc thông số kỹ thuật, hãy mở liên kết được trích dẫn trước khi hành động dựa trên đó, và với bất cứ điều gì quan trọng, hãy hỏi một mô hình thứ hai với tìm kiếm bật và so sánh.

Giả định chậm sáu tháng, rồi phân loại câu hỏi

Hãy giả định mọi mô hình đều chậm ít nhất sáu tháng, và một mô hình bạn đã dùng một thời gian thì chậm một năm hoặc hơn. Sau đó hãy phân loại câu hỏi. Nếu câu trả lời phụ thuộc vào sự thật về thế giới sau mốc đó, hãy bật tìm kiếm hoặc tải nguồn lên. Nếu câu trả lời phụ thuộc vào việc suy luận về điều gì đó đã có sẵn trong cuộc trò chuyện, thì mốc cutoff không quan trọng và có thể tắt tìm kiếm.

Hãy kiểm tra model card, không phải chính mô hình, để biết ngày tháng. Và khi một mô hình tự nói "tính đến lần cập nhật gần nhất của tôi", hãy hiểu đó là mô hình đang trích dẫn dữ liệu huấn luyện của nó chứ không phải đang báo cáo một sự thật về chính nó, và nhìn nhận mọi thứ sau cụm từ đó với sự nghi ngờ tương tự.