Контекстное окно нейросети: что это?

Что такое контекстное окно и зачем оно нужно?

Контекстное окно — это рабочая память нейросети на время одного запроса. В него помещается всё, что модель видит перед тем, как ответить: системная инструкция, ваши сообщения, её собственные предыдущие ответы, приложенные файлы и картинки. Ответ, который она пишет прямо сейчас, тоже занимает место в этом объёме.

Определение из документации Anthropic о контекстных окнах звучит так: это весь текст, на который языковая модель может ссылаться при генерации ответа, включая сам ответ. И там же уточнение, которое многие пропускают: окно не имеет отношения к корпусу, на котором модель обучали. Знания лежат в весах, окно — это только оперативная память текущего разговора.

Измеряется окно в токенах — кусках текста, на которые модель режет всё входящее. По ориентиру из документации Gemini один токен соответствует примерно 4 символам, а 100 токенов — 60–80 английским словам. Для русского счёт другой, разбор с замерами есть в статье что такое токены в нейросети.

Главное следствие: между запросами модель не хранит ничего. Каждый раз, когда вы пишете новое сообщение, интерфейс отправляет модели всю переписку заново. Ощущение непрерывной беседы создаёт не память нейросети, а повторная отправка истории.

Почему нейросеть забывает начало разговора?

Забывает она потому, что старые сообщения перестают попадать в запрос. Механизмов у этого два, и работают они на разных уровнях.

Первый уровень — жёсткий лимит модели. Если запрос вместе с историей не влезает в окно, API отвечает ошибкой 400 с текстом «prompt is too long». Никакого тихого обрезания начала: документация Anthropic описывает именно ошибку.

Второй уровень — сам чат-интерфейс, и до модели дело часто не доходит. Та же документация прямо отмечает, что чаты вроде claude.ai управляют окном по скользящему принципу «первым пришёл, первым ушёл»: старые ходы выпадают ещё на стороне интерфейса. В чате Trackly сделано так же: в модель уходит не вся история, а последние сообщения диалога в пределах ток-бюджета, около 16 тысяч символов. Поэтому переписка, которую вы видите на экране, и текст, который получила нейросеть, — не одно и то же.

Отсюда типичная жалоба «я же говорил об этом выше». Модель не проигнорировала вашу реплику, она её просто не получила. Лечится это повтором ключевых условий в свежем сообщении.

У какой нейросети самое большое контекстное окно?

Самые большие окна 2026 года — миллион токенов, и держат их сразу несколько моделей. Anthropic указывает окно в миллион токенов для Claude Opus 4.7 и Claude Sonnet 4.6, а для остальных моделей семейства, включая Claude Haiku 4.5, — 200 тысяч. У Google похожая картина: мы запросили метаданные моделей напрямую через Gemini API, и gemini-2.5-pro с gemini-2.5-flash вернули лимит входа 1 048 576 токенов при лимите ответа 65 536.

Модель	Окно, токенов	Максимум ответа, токенов	Источник цифры
Claude Opus 4.7	1 000 000	128 000	документация Anthropic
Claude Sonnet 4.6	1 000 000	128 000	документация Anthropic
Claude Haiku 4.5	200 000	—	документация Anthropic
Gemini 2.5 Pro	1 048 576	65 536	ответ Gemini API
Gemini 2.5 Flash	1 048 576	65 536	ответ Gemini API
GPT-5	400 000	128 000	спецификация OpenAI
GPT-5 mini	400 000	128 000	спецификация OpenAI
GPT-4o	128 000	16 384	спецификация OpenAI

Цифры по GPT взяты из спецификации GPT-5 на сайте OpenAI. Обратите внимание на второй столбец: у моделей с окном в миллион токенов один запрос всё равно порождает не больше 128 тысяч токенов ответа. Большое окно — про чтение, а не про длину сочинения.

Разброс важен при выборе инструмента. Для переписки по рабочему вопросу хватает любой модели из таблицы, для разбора многостраничного договора разница между 128 тысячами и миллионом становится решающей. В каталоге Trackly доступны и Claude Opus 4.7, и Gemini 2.5 Pro — обе с окном в миллион токенов, обе без VPN и с оплатой в рублях.

Сколько текста помещается в миллион токенов?

Миллион токенов — это объём приличной библиотеки. Документация Gemini API в разделе Long context переводит абстрактное число в понятные величины: 50 000 строк кода при стандартных 80 символах в строке, восемь английских романов среднего размера, расшифровки более чем 200 подкастов средней длины или все ваши текстовые сообщения за пять лет.

Для русского текста прикидка грубее. Если считать по документации Gemini примерно 4 символа на токен, миллион токенов — это порядка четырёх миллионов символов, то есть несколько тысяч страниц. Практический вывод: типовой договор, диплом или годовой отчёт влезают в окно современной модели целиком, и резать их на куски больше не нужно.

Окно тратится не только на текст. По документации Anthropic один запрос к модели с окном в миллион токенов может включать до 600 изображений или страниц PDF, а к модели с окном 200 тысяч — до 100. Картинки, таблицы и описания подключённых инструментов расходуют тот же объём, что и обычные буквы.

Почему большое окно не спасает качество

Большое окно расширяет предел, но не гарантирует, что модель заметит нужную деталь. Это подтверждено экспериментально и признано самими разработчиками.

Нельсон Лю с соавторами из Стэнфорда в работе «Lost in the Middle: How Language Models Use Long Contexts», выложенной на arXiv в 2023 году, проверили это на задачах поиска ответа по нескольким документам. Результат: точность максимальна, когда нужный фрагмент стоит в начале или в конце входного текста, и заметно падает, когда он оказывается в середине. Эффект сохраняется даже у моделей, специально заточенных под длинный контекст.

Документация Anthropic описывает то же явление под именем context rot: по мере роста числа токенов точность и полнота выборки ухудшаются, поэтому отбор того, что вы кладёте в контекст, важен не меньше, чем доступный объём. Миллион токенов мусора работает хуже, чем десять тысяч токенов по делу.

Практика из этого следует прямая. Кладите ключевое требование в конец запроса, а не в середину простыни. Режьте документ до релевантных глав вместо того, чтобы отправлять его целиком. И проверяйте ответ по длинному тексту выборочно — там, где модель могла проскочить середину.

Как контекстное окно влияет на цену и скорость?

Влияет напрямую: чем длиннее история, тем дороже и медленнее каждый следующий ход. При работе через API оплачивается весь входной объём, и на десятом сообщении диалога вы платите за всю переписку заново, а не только за новую реплику.

Есть и вторая статья расхода, о которой часто забывают. У рассуждающих моделей токены размышления тарифицируются как выходные и, по документации Anthropic, учитываются в лимите окна наравне с остальным содержимым. Описания подключённых инструментов и кэшированные части запроса тоже занимают место: кэширование меняет цену этих токенов, а не факт их присутствия в окне.

В интерфейсе Trackly счёт устроен иначе. Ответ в чате с нейросетью стоит 20 токенов по фиксированному тарифу, независимо от длины переписки, — считать входные и выходные токены вручную не нужно. Пересчёт по токенам остаётся у тех, кто ходит в модели напрямую через API.

Как работать с длинными документами и диалогами

Работать с большим объёмом можно тремя способами, и выбор зависит от того, насколько текст превышает окно.

• Резать на части. Самое простое: отправлять главы по очереди и собирать выводы вручную. Работает всегда, требует времени.
• Сжимать историю. Закончили тему — откройте новый диалог и перенесите туда короткую выжимку вместо всей переписки. Anthropic для этой задачи ввела серверную компактизацию: она суммирует ранние части разговора на своей стороне.
• Подключать поиск по базе. Вместо того чтобы грузить в окно весь корпус документов, система находит нужные фрагменты и подаёт только их. Метод называется RAG, и подробно он разобран в статье что такое RAG.

Отдельно стоит держать в голове устройство самой модели: окно существует потому, что механизм внимания сравнивает каждый токен с каждым, и вычисления растут быстрее длины текста. Почему это так, объяснено в разборе как работают нейросети.

И самый недооценённый приём — начинать заново. Диалог на сотню сообщений почти всегда содержит больше шума, чем пользы: три абзаца выжимки в свежем чате дают модели более чистый контекст, чем вся накопленная история.

Источники

• Anthropic — документация «Контекстные окна» (проверено 2026-08-07).
• OpenAI — спецификация модели GPT-5 (проверено 2026-08-07).
• Google — «Long context», документация Gemini API (проверено 2026-08-07).
• Google — «Understand and count tokens», документация Gemini API (проверено 2026-08-07).
• Liu N. F. и соавторы — «Lost in the Middle: How Language Models Use Long Contexts», arXiv, 2023 (проверено 2026-08-07).