Словарь ИИ
Что такое цепочка рассуждений
Коротко
Цепочка рассуждений (chain of thought) это пошаговое решение, которое языковая модель пишет перед ответом, чтобы точнее справиться со сложной задачей.
Языковые модели · chain of thought
Редакция ММООЗЗГГ.ruПроверено: 1 минута чтения
Ребенку
На уроке математики учитель просит не просто написать ответ, а показать решение: сначала одно действие, потом второе, потом третье. Так легче не запутаться и найти, где ошибся. Если нейросеть попросить решать по шагам, она тоже ошибается реже. Записанные друг за другом шаги и называют цепочкой.
Простыми словами
Языковая модельбольшая языковая модель. Большая языковая модель (LLM) это нейросеть, обученная на огромном объеме текстов, которая пишет, пересказывает и разбирает текст по запросу. пишет текст слово за словом. Если сразу требовать ответ на сложную задачу, ей негде подумать, и она часто ошибается. Когда модель сначала расписывает промежуточные шаги, каждый следующий опирается на уже записанные, и итог выходит точнее. Добиться этого можно примерами решений в запросе или простой просьбой рассуждать по шагам. Это как считать сдачу в магазине: в уме легко сбиться, а на бумажке столбиком все сходится.
Для бизнеса
Пошаговое решение повышает точность там, где ошибка стоит денег: расчет скидки по сложным условиям, проверка заявки на соответствие правилам, разбор претензии. Есть плюс и для контроля: по записанным шагам видно, на чем модель споткнулась, это удобно при разборе спорных случаев. Минусы: ответ длиннее, а значит дороже и медленнее, и правдоподобные шаги не доказывают верный вывод. Модель может уверенно расписать неверную логику. Поэтому в важных процессах шаги не показывают клиенту как обоснование, а итог проверяют правилами или человеком. Типичные ошибки ИИ и то, кто за них отвечает, стоит разобрать до запуска.
Для специалиста
Цепочка рассуждений (chain-of-thought, CoT) это последовательность промежуточных шагов на естественном языке, которую модель генерирует до финального ответа. Wei и др. (2022) показали, что восемь примеров с пошаговыми решениями в промпте (few-shot CoT) заметно повышают качество модели на 540 млрд параметров в арифметике, задачах на здравый смысл и символьных задачах. Kojima и др. (2022) получили эффект без примеров (zero-shot CoT): одна фраза-триггер «Let's think step by step» подняла точность на MultiArith с 17,7% до 78,7%. Развитие метода: самосогласованностьсамосогласованность. Самосогласованность (self-consistency) это прием, при котором языковая модель решает одну задачу несколько раз разными путями, а итоговым считают ответ, к которому пришло большинство решений. (self-consistency) с голосованием по нескольким цепочкам, дерево мыслей (tree of thoughts), а в рассуждающих моделях такие цепочки формирует обучение с подкреплением. Открытый вопрос: насколько текст рассуждения отражает реальные вычисления модели (faithfulnessобоснованность ответа. Обоснованность ответа это свойство ответа ИИ, при котором каждое его утверждение подтверждается документами, переданными модели для ответа.).
Пример
Менеджер просит ИИ посчитать итоговую цену заказа с тремя скидками и доставкой. При пошаговом решении модель применяет каждую скидку по порядку, затем добавляет доставку, и по шагам видно, где правило сработало неверно.
Связанные термины
Вопросы и ответы
Можно ли доверять рассуждениям модели?
Источники
Где это применяют в компании
Не уверены, нужно ли это вашей компании?
Карта ИИ-решений