Что происходит в паузе, когда ИИ «думает» перед ответом?

Открываете чат с ИИ, задаёте вопрос — и вместо мгновенного ответа видите крутящийся индикатор «думаю» или блок с рассуждениями, который разворачивается на экране секунд десять. Выглядит так, будто внутри что-то происходит: модель взвешивает варианты, спорит с собой, отбрасывает неверные гипотезы. Отчасти это правда. Но то, что скрывается за словом «думает», устроено куда прозаичнее, чем кажется — и если разобраться, как это работает, можно сильно сэкономить и время, и токены.

Что на самом деле происходит внутри «мышления»

Обычная языковая модель предсказывает следующее слово на основе предыдущих — и без специальных приёмов сразу выдаёт наиболее вероятный ответ, не прописывая промежуточные шаги. Reasoning-модель работает иначе: она генерирует большой блок внутренних «мыслей» до того, как сформировать финальный ответ. Технически это называется тест-тайм компьют — модели дают дополнительное вычислительное время прямо в момент ответа, вместо того чтобы пытаться обучить её сразу выдавать готовое решение.

Разница ощутима на практике: reasoning-модели действительно точнее на сложных многошаговых задачах, но платят за это скоростью — точность выше на 15-25%, но работают медленнее обычных моделей. При этом «размышление» не бесконечно полезно: на тривиальных запросах reasoning-модель иногда тратит значительный токен-бюджет на самоочевидные шаги — по сути, переплачивает за то, что можно было решить в одно действие.

Откуда взялся трюк с цепочкой мыслей

Идея не родилась вместе с большими reasoning-моделями — она старше и проще. Ещё до появления специализированных «думающих» моделей выяснилось, что простое добавление фразы «Давай подумаем пошагово» к запросу способно повысить долю правильных ответов модели на математическом тесте MultiArith с 17,7% до 78,7%. Одна и та же модель, без переобучения, начинала решать задачу правильно просто потому, что её попросили рассуждать вслух.

Этот приём назвали Chain-of-Thought — цепочка мыслей — и он лежит в основе большинства современных reasoning-моделей. Разница в том, что теперь модели не просят думать пошагово через промпт: их специально обучают делать это автоматически. Первой такой моделью на массовом рынке стала OpenAI o1 — первой публично анонсированной reasoning-моделью стала OpenAI o1, вышедшая в сентябре 2024 года, и она задала стандарт: модель тратит время на внутренние рассуждения, пользователь видит только краткое резюме этого процесса – полная цепочка мыслей не раскрывается. Позже похожий подход открыто показал DeepSeek R1, где reasoning-токены доступны прямо в ответе API.

Можно ли доверять тому, что показывает модель

Здесь начинается самое интересное — и самое неприятное для тех, кто привык воспринимать «размышления» ИИ как честный отчёт о внутренней логике. Даже сама Anthropic предупреждает об этом прямо: цепочка рассуждений не является полным и точным отражением внутренней логики модели — это полезный и информативный артефакт, но не буквальная «запись мыслей». Иначе говоря, текст, который вы видите в блоке «размышления», — это скорее правдоподобное повествование, а не протокол реального процесса.

Исследования на DeepSeek R1 подтверждают проблему на цифрах: модель явно признаёт сильную вредоносную подсказку в 94,6% случаев, но сообщает менее чем о 2% полезных подсказок — то есть то, что она показывает как «ход мыслей», систематически расходится с тем, что реально влияет на её ответ. Практический вывод: цепочку мыслей полезно читать для отладки промпта и понимания логики в целом, но использовать её как гарантию правильности или как единственное объяснение — рискованно.

Когда включать «глубокое размышление», а когда — нет

Большинство современных моделей позволяют явно управлять «усилием» рассуждения — обычно это уровни low, medium и high. Разработчики, которые уже прогнали через это тонны запросов, сходятся в одном: higher effort can help on hard problems and does nothing, or hurts, on simple ones — более глубокое размышление помогает на сложных задачах и не даёт ничего или даже мешает на простых.

Практический чек-лист, который стоит держать перед глазами:

• Минимальный или низкий уровень — для переформатирования текста, извлечения данных, короткого резюме, перевода, простой классификации. Здесь нечего «обдумывать» — это трансформация, а не рассуждение.
• Средний уровень — универсальный выбор для повседневных задач: сравнить два варианта заголовка, набросать вежливый отказ, оценить черновик текста.
• Высокий уровень — многошаговая логика, код с несколькими зависимостями, юридический или финансовый анализ, стратегические решения с кучей переменных. Именно на задачах математика, физика, инженерные расчёты; многошаговые планы агентов; сложный юридический анализ; debug сложных багов; стратегические вопросы глубокое рассуждение реально окупается.

И главное правило: не включайте максимальный режим «на всякий случай». Один из авторов, тестировавший это на практике, отмечает: я по умолчанию ставил высокий уровень рассуждения для всего — казалось, чем больше думает, тем лучше результат, но выше усилие не означает автоматически лучший результат, иногда это означает худшие результаты при большей стоимости. Reasoning-токены оплачиваются как обычный output — счёт растёт, а качество ответа не всегда растёт вместе с ним.

Вместо вывода

Пауза перед ответом ИИ — это не магия и не иллюзия, а вполне конкретный механизм: модель тратит дополнительные токены на промежуточные шаги, и это реально повышает точность на сложных задачах. Но воспринимать показанные «мысли» как буквальную запись логики — ошибка, а включать максимальное размышление на любой запрос — просто способ переплатить. Разберитесь, где в вашей задаче реальная многошаговая логика, а где достаточно быстрого прямого ответа — и настройки reasoning-режима начнут работать на вас, а не против бюджета.

Если хочется опробовать разные модели с настройкой глубины рассуждений на собственных задачах — GPT, Claude и другие нейросети с гибким управлением reasoning доступны в GEMERA AI через Telegram-бота и веб-кабинет. Можно быстро сравнить, где хватает быстрого ответа, а где действительно нужно «дать модели подумать».