Почему нейросеть выдумывает факты и как заставить её признаваться

Вы готовите презентацию и просите нейросеть найти исследование, которое подкрепит слайд. Через пять секунд у вас есть всё: название, институт, год, фамилии авторов и красивая цифра «62% опрошенных». Вы вставляете её крупным шрифтом. На встрече коллега просит ссылку, вы начинаете искать и понимаете, что такого исследования нет. Вообще нигде. Так выглядят галлюцинации нейросети, и с ними сталкивался почти каждый, кто пользуется ChatGPT, ГигаЧатом, Алисой или DeepSeek.

Обидно, что нейросеть не предупредила. Она не написала «кажется» или «могу ошибаться», она ответила тем же уверенным тоном, каким объясняет таблицу умножения. Ниже разберём, почему так происходит, какой фразой заставить её показывать, где факт, а где догадка, и как проверить ответ за пару минут.

Почему нейросеть уверенно выдумывает

Нейросеть, с которой вы переписываетесь, не ищет ответ в справочнике. Внутри у неё нет полки с проверенными фактами. Она устроена иначе: смотрит на ваш вопрос и подбирает следующее слово, которое здесь звучит правдоподобнее всего. Потом ещё одно. И так до конца ответа.

Представьте студента, который не выучил билет, зато прочитал сотню чужих ответов на похожие вопросы. Он знает, как звучит хороший ответ: сначала определение, потом пример, потом «по данным исследований». Говорит гладко, не запинается. Преподаватель кивает, пока не спросит: «А какое именно исследование?»

Вот это и называют галлюцинацией. Слово пугающее, но смысл простой: нейросеть выдала уверенный ответ, которого нет в реальности. Она не врёт нарочно, у неё нет цели вас обмануть. У неё просто нет внутреннего сигнала «я этого не знаю», если вы сами не попросили его включить.

Чаще всего нейросеть выдумывает там, где нужна точность:

• цифры и проценты;
• даты и годы;
• названия книг, статей и исследований;
• цитаты известных людей;
• ссылки на сайты;
• редкие имена и фамилии;
• свежие новости, которых она ещё не видела.

Общие вещи вроде «почему небо голубое» она объясняет хорошо: таких текстов она видела тысячи. А вот точный процент из конкретного опроса она могла видеть один раз или не видеть вовсе. И тогда она подставляет число, которое просто хорошо смотрится в этом месте.

Готовый промпт: детектор выдумок

Нейросеть охотно признаётся, что не знает, если ей это разрешить. По умолчанию она старается быть полезной и выдать ответ любой ценой. Этот промпт меняет правила игры. Вставьте его перед вопросом или в самом начале нового чата:

Отвечай только тем, в чём уверен. Если не уверен, так и скажи.
Каждое утверждение пометь в конце:
[проверено], если это общеизвестный факт,
[не уверен], если ты предполагаешь или можешь ошибаться.
Не придумывай названия исследований, книг, ссылки и цитаты. Если источника не знаешь, напиши «источник не знаю».
В конце дай список того, что мне стоит проверить самому.

Зачем здесь каждая строка:

• «Если не уверен, так и скажи». Это разрешение не знать. Без него нейросеть считает, что ответ «не знаю» вас разочарует, и заполняет пробел чем-то правдоподобным.
• Пометки [проверено] и [не уверен]. Они заставляют оценить каждое утверждение отдельно, а не весь ответ целиком. Вы сразу видите, на какие фразы можно опереться, а какие лучше проверить.
• Запрет придумывать источники. Самые коварные выдумки как раз названия исследований и ссылки. Прямой запрет и готовая фраза «источник не знаю» дают нейросети честный выход.
• Список для проверки. Нейросеть сама показывает слабые места, и вам не приходится гадать, что из ответа может быть неправдой.

Промпт работает в любом ИИ-чате: ChatGPT, Claude, Gemini, ГигаЧате, Алисе, DeepSeek. Если пользуетесь одним сервисом постоянно, посмотрите в настройках раздел с постоянными инструкциями (он часто называется «Персонализация» или «Инструкции»). Туда можно вставить эти строки один раз, и они будут работать во всех новых чатах. Меню у сервисов меняется, так что название пункта может отличаться.

Пример: до и после

Ниже придуманный пример, но очень похожий на то, что выдают нейросети. Вопрос один и тот же.

Без промпта. Вопрос: «Какой процент людей в России читает книги каждый день? Дай исследование».

По данным исследования Института социологии чтения за 2019 год, каждый день книги читают 27% россиян. Авторы работы, Н. А. Смирнова и П. В. Орлов, отмечают, что доля читателей выше среди женщин и жителей крупных городов.

Звучит солидно. Есть институт, год, фамилии и точная цифра. Проблема в том, что всё это может быть сочинено от первого до последнего слова. Именно так выглядит типичная выдумка: конкретно, скучно и правдоподобно.

С промптом. Тот же вопрос, но перед ним вставлен детектор выдумок.

Точной свежей цифры я не знаю [не уверен]. Опросы о чтении в России проводят социологические службы, например ВЦИОМ и ФОМ [проверено]. Конкретное исследование с процентом «каждый день» назвать не могу, источник не знаю.

Что проверить самому: найдите последний опрос о чтении на сайтах социологических служб и посмотрите, как там сформулирован вопрос. «Читаю каждый день» и «читал за последний месяц» дают очень разные цифры.

Второй ответ менее эффектный, зато честный. Он не даёт вам готовую цифру на слайд, но показывает, где её искать, и не подставляет вас перед коллегами.

Как проверить ответ нейросети за 2 минуты

Даже с промптом проверять всё равно придётся. Хорошая новость: обычно хватает пары минут.

1. Название исследования или книги вставьте в поиск в кавычках. Кавычки заставляют поисковик искать точную фразу. Если нашлось ноль результатов или только пересказы на сомнительных сайтах, скорее всего, это выдумка.
2. Цифры ищите в первоисточнике. Не в статье, которая на него ссылается, а на сайте самого института, ведомства или компании. Пересказы часто округляют и путают цифры.
3. Откройте ссылку, если нейросеть её дала. Если страница не открывается или там совсем другая тема, ссылка придумана. Нейросети умеют собирать адреса, которые выглядят настоящими, но ведут в никуда.
4. Попросите нейросеть покритиковать саму себя. Напишите: «Найди слабые места в своём ответе. Что из этого может быть неправдой?» Это не гарантия, но нейросеть нередко сама находит сомнительные места.
5. Для фактов включайте поиск в интернете. В большинстве ИИ-чатов (ChatGPT, Gemini, Алиса, DeepSeek) есть режим поиска по сети. С ним нейросеть опирается на реальные страницы и показывает ссылки. Ошибается она так реже, но всё равно бывает, поэтому откройте хотя бы одну ссылку и проверьте, что там написано то же самое.

Чем важнее решение, тем строже проверка. Для поздравления с днём рождения можно не проверять ничего. Для договора, лекарства или налогового вычета проверяйте каждую цифру.

Где этот приём не сработает

Детектор выдумок сильно помогает, но он не волшебный. Вот три случая, когда он подводит.

Пометка [проверено] тоже может ошибаться. Нейросеть оценивает свою уверенность тем же механизмом, которым пишет текст. Иногда она уверена в неправде, особенно если ошибка часто встречается в интернете. Пометка показывает, насколько нейросеть уверена, а не насколько это правда.

Свежие события без поиска. У каждой нейросети есть дата, до которой она «читала» интернет. Про то, что случилось позже, она не знает ничего. Без поиска по сети она либо честно скажет «не знаю», либо, что хуже, достроит новость по старым данным. Про курс валют, цены и законы спрашивайте только с включённым поиском.

Длинный разговор. Если чат тянется уже час, нейросеть может постепенно «забыть» вашу инструкцию из начала и вернуться к привычному уверенному тону. Если пометки пропали из ответов, повторите промпт. А ещё лучше начните новый чат и вставьте его заново.

Частые вопросы

Почему нейросеть врёт, если её делали умные люди?

Она не врёт специально. Нейросеть подбирает правдоподобный текст, а не ищет правду в базе фактов. Разработчики учат её признавать незнание, и с каждым поколением ошибок меньше, но полностью убрать их пока не получилось ни у кого.

Какая нейросеть врёт меньше всех?

Ошибаются все. Многое зависит от задачи: одна лучше считает, другая лучше знает русскую литературу. Заметнее всего помогает не выбор сервиса, а режим поиска в интернете и промпт, который разрешает отвечать «не знаю».

Можно ли полностью отключить выдумки?

Нет. Можно сильно снизить их количество и заранее знать, где нейросеть ошибается чаще всего: цифры, даты, цитаты, ссылки. Эти места проверяйте всегда.

Как понять, что нейросеть выдумала ссылку или источник?

Откройте ссылку. Если страница не существует, выдаёт ошибку 404 или рассказывает о другом, ссылка выдумана. Название книги или исследования вставьте в поиск в кавычках: настоящие работы обычно находятся сразу.

Как вообще писать запросы, чтобы нейросеть понимала вас с первого раза, мы разобрали в статье 7 правил для запросов к нейросетям. А если пользуетесь ИИ для учёбы, загляните в гайд о нейросетях для учёбы: там как раз о том, как не принести преподавателю выдуманный источник.