Видео этого урока скоро появится
Конспект урока доступен ниже
Галлюцинации: как поймать ИИ на выдумке
Увидишь живые примеры того, как модель уверенно сочиняет факты, ссылки и цифры. Освоишь три приёма проверки: запрос источников, перекрёстное сравнение ответов и поиск в интернете прямо из чата. Составишь список задач, где ИИ можно доверять, и задач, где перепроверка обязательна.
Конспект урока
- 1
Воспроизведи галлюцинацию своими руками
Попроси модель без включённого поиска назвать пять статей по узкой теме с авторами и годами. Открой ссылки: часть работ окажется несуществующей, зато оформленной абсолютно правдоподобно.
- 2
Почему это происходит
Модель оптимизирована на правдоподобный текст, а не на признание незнания, поэтому пробел в данных она достраивает похожим по форме ответом. Уверенный тон никак не связан с тем, правда это или нет.
- 3
Включай поиск на всё изменчивое
Цены, версии, законы, статистика и любые события последних месяцев требуют кнопки поиска в интернете. Проси не просто ответ, а ответ с прямыми ссылками на источники.
- 4
Проверяй сами ссылки
Открывай каждую ссылку и ищи на странице конкретную цифру или цитату из ответа. Существующий домен ничего не доказывает, доказывает только найденный на странице текст.
- 5
Перекрёстная проверка
Спорный факт задай второму ассистенту в новом чате, не показывая первый ответ. Разошлись формулировки или цифры, значит вопрос идёт на ручную проверку.
- 6
Раздели задачи на два списка
В зелёный список клади работу со своим же текстом: переписать, сократить, структурировать, придумать варианты. В красный всё, где есть цифры, даты, цитаты, имена, юридические и медицинские утверждения, там проверка обязательна всегда.
Практика
Возьми любой ответ ИИ с фактами и проверь в нём пять конкретных утверждений по первоисточникам. Посчитай, сколько подтвердилось, и запиши вывод для себя одной строкой.
Сделал? Отметь урок пройденным и переходи дальше