Словарь ИИ

Что такое цитирование источников

Коротко

Цитирование источников это способность ИИ-системы указывать в ответе, из какого документа и какого места взято каждое утверждение, чтобы его можно было проверить.

Поиск и RAG · citations

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Когда ты пишешь доклад, учитель просит указать, из какой книги ты взял факты. Тогда любой может открыть книгу и проверить. Хороший помощник-компьютер тоже должен говорить: «Это я прочитал вот здесь». Цитирование источников и есть такие честные пометки, откуда взялся каждый кусочек ответа.

Простыми словами

Ответ ИИ, даже правильный, трудно проверить, если неизвестно, откуда он взялся. Поэтому системы, которые отвечают по документам, добавляют к фразам ссылки: название документа, страницу, точный кусок текста. Пользователь нажимает на ссылку и видит исходный абзац. Но ссылка сама по себе не доказывает правоту: модель может сослаться на документ, где сказано другое. Например, сотрудник спрашивает про лимит командировочных, получает ответ со ссылкой на приказ, открывает приказ и за несколько секунд убеждается, что сумма совпадает.

Для бизнеса

Ссылки на источник нужны везде, где ответ ассистента влияет на деньги или обязательства: справки для юристов, ответы клиентам об условиях договора, внутренние регламенты. Они сокращают время проверки и позволяют сотрудникам доверять системе осознанно. Но качество ссылок надо измерять. Аудит генеративных поисковых систем 2023 года показал, что в среднем лишь 51,5% сгенерированных предложений полностью подтверждены своими ссылками, а 74,5% ссылок подтверждают свое предложение. Часть провайдеров моделей предлагает встроенный режим цитат, который возвращает точный фрагмент документа. До внедрения выборочно сверьте ответы с документами: совпадает ли текст ссылки с утверждением. Ассистент по документам компании без такой проверки не запускают.

Для специалиста

Цитирование (citation, attribution) в генерации с извлечением связывает части ответа с конкретными пассажами контекста. Подходы: инструкция модели ставить номера фрагментов после утверждений; обучение модели генерировать цитаты, как в Self-RAG; атрибуция постфактум, когда каждое утверждение сопоставляют с источником отдельной моделью логического следования (NLI). Бенчмарк ALCE (Gao, Yen, Yu, Chen, 2023) оценивает беглость, правильность и качество цитат; по данным авторов, на наборе ELI5 даже у сильных моделей полная поддержка цитатами отсутствует в 50% случаев. Liu, Zhang, Liang (2023) проверили Bing Chat, NeevaAI, Perplexity и YouChat: в среднем 51,5% предложений полностью подтверждены цитатами, 74,5% цитат подтверждают свое предложение. На уровне API встречается структурное цитирование: в Claude API текст и PDF делятся на предложения, а ответ возвращает cited_text и указатель на место (индексы символов, номера страниц PDF или индексы блоков). По документации, такие цитаты всегда содержат корректные указатели на переданные документы, а cited_text не учитывается в выходных токенах. Метрики: полнота и точность цитат (citation recall, precision).

Пример

Юрист спрашивает ассистента о сроке исковой давности по договору подряда. В ответе каждое утверждение помечено ссылкой, и по клику открывается нужная статья кодекса и абзац из внутренней памятки.

Связанные термины

Вопросы и ответы

Значит ли ссылка на источник, что ответ верный?

Нет. Модель может сослаться на документ, где сказано другое, или на правильный документ с неверным пересказом. Ссылка лишь позволяет быстро это проверить.

Как ИИ понимает, на что ссылаться?

Документы заранее делят на фрагменты с номерами, и модель указывает номера тех, на которые опирается. Некоторые API делают это сами и возвращают точный процитированный кусок текста.

Источники

Где это применяют в компании

ИИ-ассистент со ссылками на документы компании

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений