Видео этого урока скоро появится
Конспект урока доступен ниже
Как устроена нейросеть, которая пишет тексты
Разберёшь на пальцах, что происходит внутри языковой модели, когда ты отправляешь ей сообщение. Поймёшь, почему ИИ не думает, а предсказывает следующее слово, и почему этого хватает для впечатляющих результатов. После урока перестанешь видеть в нейросети магию и начнёшь видеть инструмент.
Конспект урока
- 1
Модель предсказывает следующий кусок
Языковая модель на каждом шаге считает вероятности следующего токена и берёт один из вариантов, потом повторяет это сотни раз. Никакого плана всего ответа заранее у неё нет, текст рождается слева направо.
- 2
Откуда берётся «знание»
Сначала модель прогоняют через гигантский массив текстов, потом дообучают на примерах хороших ответов и оценках людей. Поэтому она отлично держит стиль и формат, а факты помнит приблизительно.
- 3
Один вопрос, разные ответы
Выбор следующего токена случайный, поэтому два одинаковых запроса дают разные формулировки. Если нужен стабильный результат, задавай жёсткий формат ответа, а не надейся на повтор.
- 4
Режим рассуждения
У современных ассистентов есть режим, где модель сначала прогоняет длинную цепочку размышлений и только потом отвечает. Он заметно точнее на логике, математике и коде, но ответ идёт дольше, для простых писем его включать незачем.
- 5
Знания устаревают
База модели заморожена на дате окончания обучения, свежие события она знает только через поиск в интернете. Про версии, цены и новости всегда проси включить поиск и дать ссылки.
- 6
Что отсюда следует практически
Модель сильна там, где важны язык, структура и переформулирование, и слаба там, где нужна точная фактура из головы. Отсюда простое правило: генерацию доверяй ей, проверку фактов оставляй себе.
Практика
Задай одному ассистенту один и тот же вопрос три раза в трёх новых чатах и выпиши, что в ответах совпало, а что разъехалось. Совпавшее считай устойчивым знанием модели, разъехавшееся ставь в очередь на проверку.
Сделал? Отметь урок пройденным и переходи дальше