Как собрать ИИ-агента в Dify

Dify это платформа для ИИ-приложений с открытым кодом. В одном интерфейсе в ней собирают агентов, чат-ботовчат-бот Чат-бот это программа, которая переписывается с человеком в окне чата: на сайте, в мессенджере или в приложении. Подробнее в словаре и рабочие процессы, подключают документы и смотрят журнал ответов.

Рабочий процесс здесь значит цепочку шагов, которую вы задаете заранее. Агент работает иначе: модель сама решает, какой шаг сделать и какой инструмент вызвать.

При создании приложения Dify предлагает тип. Два основных типа, «Workflowворкфлоу и агент Воркфлоу и агент это два способа построить ИИ-систему: в воркфлоу шаги заранее заданы кодом, а агент сам выбирает следующий шаг и инструменты по ходу работы. Подробнее в словаре» и «Chatflow», рисуются на схеме из блоков. Еще три простых типа, «Chatbot», «Agent» и «Text Generator», настраиваются формой без схемы.

Приложение типа «Agent» это чат, где модель рассуждает и сама вызывает инструменты: поиск в интернете, запросы к сервисам и базам данных. Схему шагов для него рисовать не нужно, достаточно инструкции и списка инструментов.

Рядом в том же интерфейсе база знанийбаза знаний для ИИ База знаний для ИИ это отобранные и подготовленные документы компании, по которым ИИ-ассистент ищет ответы: регламенты, инструкции, каталог, ответы на частые вопросы. Подробнее в словаре, журнал разговоров и аннотации. База знаний работает по принципу RAG: перед ответом модель ищет фрагменты в ваших документах и отвечает по ним, без дообучениядообучение Дообучение это настройка уже обученной модели на ваших примерах, чтобы она точнее выполняла конкретную задачу или писала в нужном стиле. Подробнее в словаре модели.

В бета-версии у Dify появился агент нового типа со своей песочницейпесочница Песочница это изолированная среда, в которой ИИ-агент запускает код и выполняет действия, не имея доступа к остальной системе, файлам и сети компании. Подробнее в словаре: он сам запускает команды и работает с файлами. В инструкции ниже мы собираем стабильное приложение «Agent», к которому база знаний подключается напрямую. Похожий визуальный конструктор, Flowise, разобран отдельно.

Dify ставится на ваш компьютер или сервер через Docker. Docker это программа, которая запускает приложение в готовых контейнерах со всеми зависимостями, поэтому вручную ничего настраивать не придется.

Требования по документации: не меньше 2 ядер процессора и 4 ГиБ оперативной памяти, Docker и Docker Compose свежих версий. На Mac в настройках Docker Desktop выделите виртуальной машине не меньше 2 процессоров и 8 ГиБ памяти. Для первой команды нужны программы git, curl и jq.

1. Скачайте код последней версии Dify командой из документации: git clone --branch "$(curl -s https://api.github.com/repos/langgenius/dify/releases/latest | jq -r .tag_name)" https://github.com/langgenius/dify.git. Если она выдает ошибку «Remote branch null not found», укажите номер версии со страницы релизов: git clone --branch <версия> https://github.com/langgenius/dify.git.

2. Перейдите в папку с настройками запуска: cd dify/docker.

3. Создайте файл настроек из образца: cp .env.example .env.

4. Запустите контейнеры: docker compose up -d.

5. Проверьте, что все запустилось: docker compose ps. У каждого контейнера статус «Up» или «healthy», у контейнера init_permissions статус «Exited», так и должно быть.

6. Откройте в браузере http://localhost/install (на сервере http://адрес_сервера/install) и создайте учетную запись администратора. Дальше вход в Dify по адресу http://localhost.

7. Подключите модель: «Integrations» > «Model Provider» (поставщики моделей). Установите поставщика, нажмите «Setup» на его карточке и введите ключ. Без хотя бы одного поставщика приложения Dify не работают.

Чтобы данные не уходили во внешние сервисы, в маркетплейсе Dify есть проверенный плагин Ollama. Он подключает открытые модели, запущенные на вашем компьютере или сервере. В поле «Model Name» укажите модель, в «Base URL» адрес Ollama, доступный из контейнера Dify; ключ для локальной установки не нужен.

Сначала собирают базу знаний, потом агента. Порядок по документации Dify:

1. Откройте «Knowledge» > «Create» > «Create a ready-to-use knowledge base» (готовая база знаний) и загрузите файлы: регламенты, прайс, ответы на частые вопросы.

2. Настройте нарезку на фрагменты («chunk settings»): разделитель и максимальную длину фрагмента. Режим нарезки после создания базы поменять нельзя, разделитель и длину можно.

3. Выберите способ индексации. «High Quality» превращает фрагменты в векторы, то есть в числовые описания смысла, и ищет по смыслу. «Economical» берет 10 ключевых слов на фрагмент, не тратит токены, но ищет менее точно.

4. Дождитесь окончания обработки и проверьте поиск: значок «Retrieval Testing» в левой панели базы. Задайте вопросы, которые зададут клиенты, и посмотрите, какие фрагменты находятся.

5. В разделе «Studio» создайте приложение и выберите тип «Agent».

6. Напишите инструкцию (prompt): кто агент, в каком формате отвечает, чего не делает и в каком случае вызывает каждый инструмент. Инструменты называйте в тексте по именам.

7. Добавьте инструменты Dify и базу знаний. Опишите базу подробно: по описанию модель решает, искать ли в ней ответ на вопрос.

8. В «Agent Settings» задайте «Maximum Iterations»: сколько раз агент может повторить цикл «подумать, вызвать инструмент, прочитать результат» на один запрос. Там же видно режим: «Function Callingвызов функций Вызов функций (function calling) это способ, которым языковая модель просит программу выполнить действие: модель выбирает функцию и заполняет ее параметры, а код приложения выполняет запрос и возвращает результат. Подробнее в словаре», если модель сама умеет вызывать инструменты, или «ReAct», если Dify ведет ее подсказками.

9. Проверьте агента в панели предпросмотра справа и нажмите «Publish». Опубликованное приложение работает как веб-страница, через API или как окно на вашем сайте.

Если в базу знаний или в разговоры попадают данные клиентов, действует 152-ФЗ: сбор и хранение данных граждан России ведутся в базах на территории России, а для передачи за рубеж нужно уведомление в Роскомнадзор. Поэтому Dify с такими данными ставят на сервер в России и берут локальную модельлокальная модель Локальная модель это нейросеть, которая работает на вашем компьютере или сервере, а не в облаке поставщика, поэтому данные никуда не уходят. Подробнее в словаре. Как мы это устраиваем, описано на странице о безопасности данных.

Каждое приложение Dify пишет журнал на вкладке «Logs»: что спрашивали, что ответил агент и как ответ оценили. В журнал попадают разговоры из веб-страницы, через API и из списка приложений на главной.

Колонка «User Rate» считает лайки и дизлайки пользователей, «Op. Rate» оценки вашей команды. Откройте разговор и наведите курсор на ответ: видны расход токеновтокен Токен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель. Подробнее в словаре, время ответа и шаги агента с вызовами инструментов. Токен это кусочек текста, за который поставщик модели берет оплату.

Неверный ответ отметьте дизлайком с комментарием или сразу исправьте через аннотацию. Аннотация это одобренный вами ответ: когда новый вопрос похож на сохраненный сильнее заданного порога, Dify возвращает ваш ответ вместо ответа модели.

Аннотации включаются в «Orchestrate» > «Add Features», там же задается порог сходства. Готовые пары «вопрос и ответ» можно загрузить списком по шаблону, а статистика покажет, какие из них срабатывают.

Журнал по умолчанию хранится бессрочно, и в нем полные разговоры. Документация Dify предупреждает об этом прямо: нужна политика обработки данных и согласие пользователей там, где этого требует закон. Очистку старых записей включают переменными окружения, срок хранения по умолчанию 30 дней.

Журнал показывает ошибки после запуска. Как проверить агента до запуска на наборе вопросов, мы разобрали в статье о тестировании агента.

Dify распространяется по измененной лицензии Apache 2.0. Сама Apache 2.0 открытая: код можно ставить, менять и использовать в бизнесе. Dify прямо разрешает коммерческое использование, в том числе как основу для ваших сервисов и как платформу разработки внутри компании.

Первое условие: без письменного разрешения Dify нельзя запускать на его коде многопользовательскую среду. Один арендатор (tenant) в терминах лицензии это одно рабочее пространство Dify. Если вы хотите дать нескольким клиентам по своему пространству в одной установке, как в облачном сервисе, нужна коммерческая лицензия.

Второе условие: в интерфейсе Dify нельзя убирать или менять логотип и сведения об авторских правахавторское право и ИИ Авторское право и ИИ это вопросы о том, кому принадлежат тексты и картинки, созданные нейросетью, и можно ли обучать модели на чужих произведениях. Подробнее в словаре в консоли и приложениях. Условие не касается случаев, когда вы используете Dify без его интерфейса, например только через API.

Для агента внутри своей компании оба условия обычно не мешают: одно рабочее пространство, логотип на месте. Если агент станет продуктом для ваших клиентов, проверьте схему с юристом до запуска, а не после.