Контекстное окно — рабочий стол модели
Что модель «помнит», что забывает — и почему разговор теряет нить
Связь с «Первым контактом»
В уроке «Токены и контекст: что AI помнит» ты впервые встретил контекстное окно и токены. Здесь — как окно работает в реальном чате: что модель «помнит», что выпадает и почему длинные диалоги теряют нить.
Ты знаешь: LLM предсказывает следующий токен. Но что именно она «видит» в чате? Не весь интернет и не всю историю жизни — только то, что помещается в контекстное окно прямо сейчас.
ПЕРВОЕ ЗНАКОМСТВО: КОНТЕКСТНОЕ ОКНО
Контекстное окно — лимит токенов за один запрос: системные инструкции + вся переписка + твой новый вопрос. Всё вместе не может превысить лимит модели. Что не влезло — для модели не существует.
Стол с ограниченным местом
Представь стол: на него помещается N листов. Всё на столе — модель учитывает. Что упало на пол — исчезло. Длинный чат заполняет стол; старые сообщения вытесняются новыми. Модель не «забывает из вредности» — она просто не видит то, что за пределами окна.
Каждый запрос — полное перечитывание
Важный факт из интеграции LLM: сама модель не хранит «память» между вызовами. Приложение (ChatGPT, твой бот) каждый раз подаёт историю заново — само или через API, который хранит переписку за него. AI «помнит» диалог, потому что весь чат снова попадает в контекст. Новый чат = пустой стол.
РАЗМЕРЫ ОКОН В 2026
Раньше типичный лимит — 4 000–8 000 токенов. На 2026 год у флагманских моделей OpenAI, Anthropic и Google окно около миллиона токенов, у некоторых компактных — сотни тысяч. Но лимит всё равно есть. И даже внутри большого окна середина длинного текста усваивается хуже — эффект «lost in the middle».
?Проверь себя
Соедини часть длинного контекста с тем, что там лучше разместить или чего ждать
1 Слева2 СправаГотово
Нажми утверждение слева, затем подходящий ответ справа — они соединятся.
Утверждения
Ответы
ПРАКТИЧЕСКОЕ ПРАВИЛО
Правила и роль — в системный промпт в начале. Длинный документ — выше вопроса, а сам вопрос — в конце: так советует, например, Anthropic для текстов от 20 000 токенов. Не надейся, что модель «найдёт» важное в середине простыни текста.
