Правда ли, что нейросеть может выдумать судебное дело?
За последний месяц база судебных дел с выдуманными ИИ-цитатами выросла почти до двух тысяч эпизодов по всему миру — и это не какой-то экзотический баг, а штатное поведение нейросетей, с которым сталкивается каждый, кто просит у ИИ точную ссылку, цифру или цитату. Разбираем на реальных вопросах, почему это происходит и как не попасть в статистику пострадавших.
Правда ли, что нейросеть может выдумать судебное дело или цитату?
Да, и это уже не теория. База судебных дел с выдуманными ИИ-цитатами выросла с примерно 120 эпизодов в мае 2025 года до 1980 к концу августа 2026 года, из них больше тысячи — в США. Счётчик таких случаев растёт на несколько эпизодов в день, а среди пострадавших — не только частные лица, но и профессиональные юристы, которых отстраняют от практики за фальшивые ссылки в документах. Похожая история есть и в России: в мае 2026 года арбитражный суд оштрафовал компанию за кассационную жалобу, которую подготовила нейросеть.
Почему ИИ не говорит «не знаю», а сочиняет уверенный ответ?
Дело в механике обучения. Исследователи объясняют, что тренировка вознаграждает любой ответ и штрафует молчание — модели попросту не выгодно признаваться в незнании. Когда ИИ узнаёт в вопросе знакомое имя или тему, активируется сигнал «известная сущность», который подавляет отказ отвечать — даже если реальных знаний по теме у модели нет. В результате получается уверенный, гладкий, но полностью придуманный ответ.
Можно ли доверять ссылкам, которые даёт нейросеть?
Не автоматически. Даже если ссылка открывается и ведёт на реальную статью, это не гарантия, что цифры или выводы в ответе ИИ действительно там есть. Исследование 2026 года о работе ИИ-агентов с источниками показало: даже действующие и тематически подходящие страницы нередко не подтверждали приписанные им цифры или выводы. Проверять нужно не факт существования ссылки, а конкретное содержание — открывать первоисточник и искать именно то утверждение, которое ИИ приписал ему.
Отдельная история — склонность моделей соглашаться с пользователем. Исследование, охватившее 11 моделей, зафиксировало выраженный эффект подхалимства: ИИ чаще поддакивает, чем спорит, даже когда пользователь явно ошибается.
Это проблема только юристов и копирайтеров, или касается любого бизнеса?
Касается всех, кто использует тексты от ИИ без проверки. Бизнесы уже сталкивались с ситуациями, когда нейросети приписывали им несуществующие акции, скидки или цитаты из отзывов — и это расходилось в сети как факт. Разница между обычной ошибкой и галлюцинацией в том, что ошибку можно отследить и исправить, а галлюцинацию — только выявить постфактум, когда текст уже где-то опубликован или использован в документе.
Как на практике проверять ответы нейросети перед использованием?
Несколько рабочих привычек, которые реально снижают риск:
- Любую цифру, цитату, название дела или исследования — проверять по первоисточнику, а не по тому, что ИИ пересказал «своими словами».
- Для важных текстов (юридических, финансовых, медицинских) задавать один и тот же вопрос в двух-трёх разных моделях и сравнивать ответы.
- Прямо просить модель указать, насколько она уверена в ответе, и где данных может не хватать — это снижает вероятность бездумного «придумывания».
- Не верить ссылке только потому, что она открывается — читать именно тот абзац, на который ссылается ИИ.
Есть ли модели, которые галлюцинируют заметно меньше, и стоит ли на это рассчитывать?
Разброс между моделями большой, но он не решает проблему полностью. Показатели ошибок зависят не только от бренда модели, но и от типа задачи: риск галлюцинаций сохраняется у всех языковых моделей, включая самые новые, а частота ошибок зависит от конкретной задачи, формулировки запроса и доступа к поиску. За последние пару лет ситуация объективно улучшилась — ещё в 2023 году ChatGPT ошибался в фактологических вопросах в районе 20% случаев, сейчас этот показатель заметно ниже. Но выбор «самой умной» модели не заменяет привычку проверять факты — особенно в задачах с юридическими прецедентами, медициной и узкой статистикой.
Что в итоге
Галлюцинации — не признак плохой модели, а встроенное свойство того, как языковые ИИ работают сегодня. Относиться к любому ответу нейросети как к черновику, который нужно сверить с источником, — не паранойя, а базовая гигиена работы с ИИ в 2026 году.
Если хочется на практике сравнить, как по-разному GPT, Claude и Gemini отвечают на один и тот же сложный вопрос и где каждая модель уверена, а где начинает фантазировать — удобно держать их все под рукой в одном месте. В GEMERA AI можно переключаться между моделями в чате или боте и проверять ответы друг другом без лишних подписок и установок.