Почему «рассуждения» ИИ на самом деле не мышление, а трюк с токенами

Каждый, кто хоть раз включал режим «размышления» в ChatGPT, Claude или свежем GigaChat 3.5 Reasoning, видел одну и ту же картину: модель выдаёт длинный поток текста перед финальным ответом, и выглядит это убедительно — почти как человек, который взвешивает варианты. Проблема в том, что один из создателей AlphaGo недавно публично объяснил, почему это ощущение обманчиво. Разбираем вопросами, которые обычно задают новички, без мистики и без хайпа.

Что вообще происходит, когда ИИ «думает» перед ответом?

Модель генерирует промежуточный текст — те самые «размышления» — до того, как выдать финальный ответ. Технически это просто дополнительная последовательность токенов, которую модель производит тем же способом, что и обычный ответ: предсказывая следующее слово на основе предыдущих. Никакого отдельного «модуля логики» внутри нет — это тот же механизм генерации текста, просто развёрнутый в несколько шагов.

Значит, модель правда рассуждает, как человек?

Нет, и это не фигура речи.. Это мнение одного из авторов AlphaGo, который ушёл из Google DeepMind ради разработки принципиально другой архитектуры рассуждения — потому что текущий подход его не устроил. Разница в том, что AlphaGo сочетала «интуицию» нейросети с настоящим поиском по дереву вариантов, а у языковой модели есть только первая часть — правдоподобный текст без проверки.

Если это не настоящая логика, почему ответы становятся точнее?

Потому что больше токенов — это больше вычислений, а не больше ума. Свежее исследование на эту тему прямо указывает на ограничение механизма:. Иными словами, длинная цепочка рассуждений не гарантия правильности — одна ошибка в начале может утянуть за собой весь ответ, просто модель не заметит.

Можно ли доверять тому, что показывается в блоке «размышления»?

Осторожно. OpenAI сама протестировала управляемость цепочки рассуждений у 13 моделей и получила результат, который стоит знать каждому:. Хуже того,. То есть текст в блоке «мыслей» — это не протокол реального процесса принятия решения, а ещё один слой сгенерированного текста, который может расходиться с тем, что модель делает на самом деле.

Чем тогда агент отличается от обычного режима рассуждений?

Агент — это та же механика генерации токенов, только с доступом к внешним инструментам и дополнительным циклом самопроверки. Например, свежая российская reasoning-модель умеет. Звучит как настоящее планирование — но по сути это тот же процесс предсказания токенов, просто с дополнительными шагами вызова инструментов и повторной генерации на основе их результатов. Больше шагов — больше шансов словить ошибку, но и больше шансов её заметить и исправить до того, как она попадёт в финальный ответ.

Стоит ли вообще переплачивать за reasoning-режим?

Не всегда. У режима рассуждений есть разумная логика использования:. То есть включать «мышление» имеет смысл для многошаговых задач с проверяемым результатом — сложной логики, многоэтапного кода, планирования с ограничениями. Для простого запроса типа «перефразируй абзац» это лишние токены и время без прироста качества.

Если резюмировать: цепочка рассуждений — полезный инженерный трюк, который реально повышает точность на сложных задачах за счёт большего объёма вычислений и самопроверки. Но это не мышление в человеческом смысле, и верить показанному тексту «размышлений» как честному отчёту о внутренней логике не стоит — сам производитель моделей признаёт, что контролировать содержимое этих рассуждений пока толком не получается.

Если хочется не читать про reasoning-режимы, а просто сравнить, как они работают на практике — GPT, Claude и Gemini с их вариантами «размышлений» доступны в GEMERA AI через Telegram-бота и веб-кабинет, можно переключаться между моделями и агентными режимами в одном окне и смотреть на разницу своими глазами.