Что такое Context Window
Context Window — это объём информации, который AI-модель может удерживать и учитывать в одном запросе или диалоге. Простыми словами, это «объём памяти в моменте», с которым модель работает прямо сейчас.
Термин особенно важен для LLM, длинных документов, RAG-систем и сложных диалогов. Чем больше context window, тем больше текста, инструкций и данных модель может учитывать одновременно.
Зачем нужен Context Window
Большой context window помогает AI точнее отвечать на длинные вопросы, работать с большими документами, анализировать файлы и не терять нить разговора в длинном диалоге.
- влияет на качество длинных диалогов;
- важен для анализа документов;
- помогает AI лучше учитывать инструкции;
- нужен для сложных enterprise-сценариев.
Context Window простыми словами
Context Window — это сколько информации ИИ может держать в рабочем контексте одновременно.
Автор
