Галлюцинация нейросети – это когда ИИ выдаёт ответ, который звучит уверенно, но на самом деле содержит ошибку или вообще не соответствует действительности. Почему так происходит? Потому что нейросеть учится на огромных массивах данных, сама находит закономерности – и иногда ошибается.
Пример: нейросеть обработала 10 тысяч изображений столов. Она поняла, что это предмет мебели, у него может быть разная форма и разное количество ножек. Но она не знает, что за столом пьют чай, и не может связать стол с домом. Поэтому при генерации могут появляться логические ошибки – например, стол, плывущий по морю вверх ногами. Для человека это очевидная глупость, а нейросеть сгенерировала это с полной серьёзностью.
То же самое с видео. Нейросеть смотрит сотни роликов, стоп-кадров, в том числе размытых. И может случайно зафиксировать у персонажа третью ногу или шестой палец – и принять это за норму.
Ошибки в текстах
С текстами похожая история. Нейросеть хорошо справляется с точными формулировками – теоремами, правилами, расчётами. Но когда речь заходит об истории, философии или этике – начинаются проблемы.
Например, Алиса легко расскажет теорему Пифагора или перескажет «Властелина колец». Но если спросить о Гражданской войне – она либо уйдёт в общие фразы, либо приведёт последнее упоминание темы в открытом доступе. Потому что у неё нет собственного мнения – она просто обрабатывает то, что есть в открытых источниках.
Типичные ошибки нейросетей
При генерации изображений
неправильные пропорции тела;
лишние детали (третья нога, шестой палец);
отсутствие нужных частей;
стилевая разноголосица – картинка выглядит как сборная солянка.
При генерации текстов
обезличенность – текст как под копирку;
общие, расплывчатые формулировки;
уход в канцелярит;
противоречия внутри одного ответа – нейросеть выучила противоположные точки зрения и может выдать их в одном тексте.
Как проверять ответы нейросетей
Специального сервиса для проверки галлюцинаций пока нет. Но есть несколько способов.
Визуальная проверка – подходит для картинок.
Сверка с надёжными источниками – например, проверить теорему по учебнику.
Повторить запрос несколько раз – если суть ответа не меняется, ошибки скорее всего нет.
Проверить один запрос в разных нейросетях – сравнить ответы ChatGPT, Алисы и GigaChat.
В точных науках нейросети ошибаются реже. В истории и этике – чаще, потому что там нужны анализ и рассуждения.
Как уменьшить количество ошибок
Подробно описывайте запрос. Чем больше деталей – тем точнее ответ. Не просто «как я провёл лето», а «как я провёл лето от лица шестиклассника из Свердловской области, который ездил в скалолазный лагерь».
Используйте негативный промпт – перечисляйте то, что не хотите видеть: лишние пальцы, неправильные пропорции.
В Midjourney и подобных сервисах можно использовать дополнительные параметры – указывать уровень хаоса или стилизации.
