Chain-of-thought
Цепочка рассуждений: когда просить модель показать ход мысли.
Покажи решение, а не только ответ
Базовый CoT — «думай шаг за шагом» — ты уже знаешь. На продвинутом уровне вопрос другой: что делать, когда один прогон рассуждения ненадёжен. Три ответа: self-consistency (голосование по нескольким прогонам), встроенное рассуждение у reasoning-моделей и структурированный вывод рассуждения для прода.
Self-consistency: голосование ответов
Self-consistency — test-time compute без reasoning-модели: один и тот же CoT-промпт запускают N раз при temperature > 0, извлекают финальные ответы и берут majority vote. Отдельные прогоны могут ошибиться, голосование сглаживает шум. Цена: N × стоимость одного CoT-ответа. Используй, когда точность важнее скорости.
Reasoning-модели
OpenAI o1/o3/o4-mini и extended thinking у Claude тратят дополнительные токены на внутреннее рассуждение до видимого ответа. На простых задачах это лишняя трата; на сложной математике и коде — выигрыш. Ручной CoT нужен, когда встроенное рассуждение выключено или недоступно.
Структурированный CoT: теги thinking и answer
В проде сырое рассуждение мешает пользователю. Разделяй: «Запиши рассуждение в <thinking>, финальный ответ в <answer>». Приложение парсит только <answer>, а <thinking> остаётся в логах. Self-refine — ещё один уровень: черновик → критика → переработка; одна итерация часто улучшает точность.
?Проверь себя
Собери структурированный CoT-промпт: расставь шаги в правильном порядке
Варианты снизу — перетащи в слот или нажми. Нажми на ответ — вернуть вниз.
Твой ответ
1
2
3
4
Варианты
Парсить из ответа только содержимое <answer>
Попросить рассуждение в теге <thinking>
Попросить финальный ответ в теге <answer>
Описать задачу и дать данные
- Включай CoT: расчёты, юридический анализ, сравнение вариантов
- Не включай: перевод слова, простая классификация, «да/нет»
- Self-consistency — когда один прогон ненадёжен, а бюджет позволяет N запусков
CoT — не гарантия истины
Модель может красиво рассуждать и прийти к неверному выводу. CoT снижает ошибки, но не отменяет evals — о них в уроке про тестирование промптов.
?Проверь себя
