Почему нейросеть уверенно выдумывает факты и как это проверить

Вы спрашиваете нейросеть про закон, а она выдаёт номер статьи, точную формулировку и даже год поправки. Всё звучит гладко и убедительно. Вы копируете это в письмо клиенту — и через день выясняется, что такой статьи не существует. Нейросеть её просто придумала. Это и есть то, что специалисты называют «галлюцинацией»: модель уверенно выдаёт выдумку за факт, и по тону ответа отличить правду от вымысла почти невозможно.

Нейросеть не помнит факты — она угадывает следующее слово

Главное, что стоит понять раз и навсегда: языковая модель не хранит базу проверенных фактов, как справочник. Она предсказывает, какое слово вероятнее всего идёт дальше, опираясь на миллионы прочитанных текстов. Обычно это работает отлично — потому что в текстах правда встречается чаще выдумки. Но когда точного ответа модель «не знает», она не говорит «не знаю». Она собирает правдоподобную фразу из похожих кусочков. Получается гладко, логично и полностью выдумано.

Отсюда простое правило: чем реже тема встречается в интернете, тем выше шанс выдумки. Спросите про столицу Франции — ответ верный всегда. Спросите про малоизвестную книгу, точную цитату из выступления или редкий ГОСТ — и начинается зона риска.

Где нейросети врут чаще всего

Выдумка почти никогда не приходит одна и та же. Но есть места, где она всплывает раз за разом:

• Цитаты и авторы. Модель легко припишет красивую фразу Эйнштейну или Стиву Джобсу, хотя те её никогда не говорили.
• Ссылки и источники. Попросите список литературы — и получите книги с настоящими авторами, но несуществующими названиями.
• Цифры и статистика. «68% компаний увеличили выручку» — звучит солидно, а откуда цифра, модель объяснить не сможет.
• Законы, статьи, нормативы. Номера статей и даты поправок нейросеть придумывает особенно охотно.
• Люди и события. Спросите биографию не самого известного человека — и получите смесь правды с выдуманными деталями.

Живой пример. Бухгалтер попросил ChatGPT подсказать, какой статьёй регулируется спорный вычет. Модель выдала номер и формулировку. Он сослался на неё в разговоре с налоговой — и попал в неловкое положение: статья звучала правдоподобно, но регулировала совсем другое. Час на проверку сэкономил, день на разбор потратил.

Почему выдумку так трудно заметить

Мы привыкли, что уверенный тон = знание. У человека дрожащий голос и «э-э, кажется» выдают неуверенность. У нейросети этого нет вообще. Она пишет выдуманный номер закона ровно тем же спокойным тоном, что и таблицу умножения. Ошибка не выделяется ни шрифтом, ни оговоркой. Именно поэтому на неё так легко попасться: мозг читает гладкий текст и достраивает доверие сам.

Как проверить ответ за минуту

Полностью убрать выдумку нельзя, но поймать её почти всегда — можно. Несколько привычек, которые экономят нервы:

• Проверяйте всё, что можно проверить. Любую цифру, цитату, номер закона, имя, дату — вбейте в обычный поиск. Тридцать секунд против испорченной репутации.
• Просите источник прямо. «Откуда эта цифра? Дай ссылку». Если модель начинает юлить или выдаёт битые ссылки — почти наверняка выдумка.
• Спросите то же самое дважды по-разному. Если ответы про факт расходятся — модель не знает и гадает.
• Разрешите сказать «не знаю». Добавьте в запрос: «Если не уверен — так и напиши, не выдумывай». Это заметно снижает число фантазий.
• Давайте свои данные. Когда вы вставляете в запрос свой договор, свою таблицу, свой текст и просите работать только с ними — выдумывать модели почти неоткуда.

Где выдумка не страшна, а где опасна

Не всякая задача требует паранойи. Когда вы просите нейросеть накидать идеи для поста, переписать текст живее, придумать варианты заголовка или составить план поездки — выдумка не вредит, потому что проверяемых фактов там нет, а креатив вы всё равно отбираете сами. Риск появляется там, где ответ станет основанием для решения: деньги, право, здоровье, договоры, публичные заявления. В быту — расслабьтесь. В делах, где цена ошибки высокая, — проверяйте каждую конкретику.

Российские и зарубежные модели ошибаются одинаково

Это не болезнь одной программы. Выдумывают все: и ChatGPT, и Claude, и Gemini, и GigaChat, и Алиса. Природа у них одна — они предсказывают текст, а не сверяются с истиной. Модели с доступом в интернет и режимом «поиска» врут реже, потому что подтягивают свежие данные и дают ссылки, которые можно открыть. Но и там стоит кликнуть по ссылке и убедиться, что за ней действительно то, что обещано, а не просто похожий заголовок.

С чего начать

Запомните одну установку: нейросеть — быстрый и талантливый помощник, но не источник истины. Пусть черновики, идеи и структуру она делает за вас — а факты, цифры и ссылки проверяете вы. Возьмите за правило: прежде чем куда-то вставить конкретную цифру или цитату из ответа, потратьте тридцать секунд и сверьте её. Эта привычка отделяет тех, кому ИИ экономит часы, от тех, кто потом разгребает последствия. А когда бизнесу нужно, чтобы нейросеть отвечала строго по своим документам и почти не фантазировала, это настраивается отдельно — такие системы под задачу компании собирает МАВИИ.