Словарь ИИ
Что такое Ollama
Коротко
Ollama это бесплатная программа с открытым кодом для запуска языковых моделей на своем компьютере или сервере.
Модели и сервисы · Ollama
Михаил МозгПроверено: 1 минута чтения
Ребенку
Представь проигрыватель, в который можно вставить любую пластинку. Пластинка лежит у тебя дома, и музыка играет, даже когда интернет выключен. Есть программа, похожая на такой проигрыватель, только вместо пластинок у нее умные помощники, которые отвечают на вопросы. Скачал помощника один раз, и он работает прямо на твоем компьютере.
Простыми словами
Это программа, которая скачивает открытую языковую модель и запускает ее прямо на вашем компьютере. Дальше с моделью можно переписываться в терминале или подключать ее к другим приложениям, как будто это облачный сервис. Программа работает на macOS, Windows и Linux, есть и образ для Docker. Модели выбирают из каталога на сайте проекта. Например, сотрудник пересказывает внутренний отчет с помощью модели, которая работает на его ноутбуке и не отправляет текст в интернет.
Для бизнеса
Код распространяется под лицензией MIT, поэтому программу бесплатно ставят на рабочие машины и серверы, включая закрытый контур. Запросы к локальной модели не требуют ключа и обрабатываются на вашем оборудовании, а это упрощает работу с персональными данными по 152-ФЗ. Отдельно есть облачные модели Ollama по ключу API: там текст уходит на серверы компании, а в условиях от мая 2026 года списка стран нет. Затраты определяет железо: размер модели и скорость ответа упираются в видеопамять. Когда моделью пользуется много сотрудников сразу, программу для запуска выбирают по замерам нагрузки, а не по удобству установки.
Для специалиста
Ollama поднимает локальный REST API на порту 11434: собственные методы по адресу /api, совместимый с OpenAI интерфейс по /v1 и путь /v1/messages для клиента Anthropic. Поэтому приложение, написанное под облачный API, переключают на локальную модель сменой базового адреса. Среди поддерживаемых движков (backends) README называет llama.cpp, где реализована целочисленная квантизация весов от 1,5 до 8 бит; так модель занимает меньше памяти и работает на видеокартах NVIDIA через CUDA и на Apple Silicon через Metal. Параметры модели и системный промпт задают в файле Modelfile. Облачные модели вызываются по тем же путям на ollama.com, уже с ключом API. Сам проект распространяется под лицензией MIT.
Пример
Аналитик ставит программу на рабочий ноутбук, скачивает небольшую открытую модель и подключает к ней скрипт, который пересказывает выгрузки из CRM. Клиентские данные при этом не уходят в облако.
Связанные термины
Вопросы и ответы
Что такое Ollama простыми словами?
Ollama бесплатная?
Источники
Где это применяют в компании
Не уверены, нужно ли это вашей компании?
Карта ИИ-решений