Видео этого урока скоро появится
Конспект урока доступен ниже
Токены и контекст: как LLM читает твой код
Разберёшься, что такое токены, почему у модели ограниченная память и куда девается начало длинного диалога. Посчитаешь размер собственных файлов в токенах. Это фундамент: без него непонятно, почему агент иногда «забывает» договорённости.
Конспект урока
- 1
Токен это кусок слова
Модель читает не буквы и не слова, а токены. Русский текст расходует их заметно щедрее английского, а код добирает на отступах и скобках.
- 2
Что помещается в окно
Контекстное окно это всё, что модель держит перед глазами разом: правила, твой диалог, содержимое прочитанных файлов и вывод команд. Прочитанный большой файл занимает место до конца сессии.
- 3
Почему агент забывает
Когда окно заполняется, ранняя часть диалога сжимается в короткий пересказ. Детали договорённостей исчезают первыми, а общие фразы остаются.
- 4
Смотрим заполнение командой
Команда /context показывает, чем именно занято окно. Заглядывай туда перед крупной задачей, а не после того, как агент начал чудить.
- 5
Читать фрагмент, а не файл
Проси искать по проекту и читать нужный кусок вместо чтения файлов целиком. Один файл на тысячу строк способен съесть заметную долю окна.
- 6
Разница между /clear и /compact
Команда /clear начинает чистую сессию, /compact сжимает диалог и продолжает начатое. Между разными задачами почти всегда правильнее /clear.
Практика
Запусти /context в начале сессии и запиши цифры. Затем попроси прочитать три больших файла и посмотри снова: выпиши, сколько окна съел каждый файл.
Сделал? Отметь урок пройденным и переходи дальше