# Запустите локальный инференс моделей в More AI через Ollama и LM Studio

> Запускайте запросы к модели на своём железе без счёта за API и интернета для инференса. Когда выключены синхронизация, онлайн-инструменты, основная телеметрия и AI observability с replay, запросы и ответы остаются на вашей машине.

https://more-ai.net/ru/guides/local-models · Обновлено 14 сентября 2026 г.

## Зачем запускать модель локально

Локальный адрес исключает обращение к облачному провайдеру только когда выбранная модель действительно работает на вашей машине. Даже localhost может направлять запрос к облачной модели — проверьте выбор модели и настройки runtime.

За локальный инференс нет счёта провайдера за токены. Но остаются расходы на оборудование, электричество, хранение и ваше время. Результат зависит от конкретной модели, квантизации, контекста и памяти; сначала проверьте небольшую задачу.

## Ollama: самый быстрый путь

Сначала запустите локальный сервер. Ollama по умолчанию доступна по http://localhost:11434/v1. В LM Studio загрузите модель и включите сервер, обычно http://localhost:1234/v1; укажите токен, если включили авторизацию сервера. Это локальные адреса, отдельные от облачных сервисов провайдеров.

## LM Studio: дружелюбный менеджер моделей

Ollama по умолчанию использует http://localhost:11434/v1, LM Studio — http://localhost:1234/v1. Перед подключением запустите сервер и загрузите модель. Локальной Ollama ключ не нужен; LM Studio может требовать токен при включённой авторизации сервера. Для своего сервера отдельно проверяйте протокол и поддержку инструментов.

## Любой другой сервер: кастомные эндпоинты

Используете vLLM, llama.cpp или прокси LiteLLM? Добавьте кастомного провайдера и направьте его на любой эндпоинт, говорящий на OpenAI-совместимом Chat Completions API (базовый URL обычно заканчивается на /v1), — или на Anthropic-совместимый эндпоинт Messages. Это покрывает практически любой self-hosted сервер моделей — на вашей машине или на компьютере в вашей локальной сети.

![Селектор моделей со списком локальных моделей рядом с облачными провайдерами](https://more-ai.net/screenshots/ru/models.png)

## Смешивайте локальное и облачное

Выбирать раз и навсегда не нужно. Ключи и локальные провайдеры живут бок о бок, и каждая переписка выбирает модель: локальная — для черновиков и быстрых вопросов, флагманская — для более сложных задач. Переключение занимает два клика.

Главная и Code работают с локальными моделями через один движок; прежние переписки Chat тоже можно продолжать с ними. Выбирайте самую способную модель, которую потянет ваше железо: планирование и инструменты особенно выигрывают от более сильной модели.

## Сначала проверьте сервер, затем агента

Ollama и LM Studio предоставляют OpenAI-совместимые интерфейсы, но совместимость API не гарантирует надёжные инструменты у каждой модели. Выберите модель с поддержкой tool calling в её актуальной документации и runtime, затем проверьте маленькую файловую задачу. Ответ в чате — лишь первая проверка.

1. Установите runtime и скачайте модель под своё оборудование. Запишите версию, ID модели, квантизацию, контекст и доступную RAM/VRAM.
2. Запустите сервер: обычно http://localhost:11434/v1 для Ollama или http://localhost:1234/v1 для LM Studio. Без необходимости не открывайте его в сеть.
3. Включите соответствующего провайдера в «Настройки → Провайдеры». Если в LM Studio включена авторизация, укажите токен. Обновите список и выберите скачанную модель.
4. Сначала отправьте короткий текстовый запрос, затем выполните файловую задачу ниже. Записывайте ошибки инструментов и останавливайте зацикливание.

- [Ollama: совместимость API](https://docs.ollama.com/api/openai-compatibility)
- [Ollama: вызов инструментов](https://docs.ollama.com/capabilities/tool-calling)
- [LM Studio: совместимый API](https://lmstudio.ai/docs/developer/openai-compat)

## Небольшая локальная задача с файлами

В архиве вымышленные заметки о проектах, промпты на трёх языках и ожидаемый ответ. Попросите прочитать заметки и создать output/summary.txt с названиями трёх проектов и незавершённой задачей T03. Для упражнения не разрешайте менять исходники или обращаться в интернет.

Откройте результат: все три проекта должны присутствовать, T03 остаётся pending, исходники не изменены. Запишите версии, модель, время, ошибки инструментов и ручные исправления. Это инструкция для теста, а не опубликованный замер More AI.

- [Локальный тестовый набор (.zip)](https://more-ai.net/examples/local-task-kit.zip)
- [Более сложная задача с Word и Excel](https://more-ai.net/ru/guides/free-ai-for-documents)

## Проверяйте передачу данных отдельно от расположения модели

Адрес localhost показывает адрес сервера инференса, но не направления передачи данных каждой функции. Без входа в аккаунт десктопная работа не синхронизируется. После входа поддерживаемые категории синхронизации включены по умолчанию, если вы их не выключили; облачное выполнение управляется отдельно. E2E для файлов проектов опционально и изначально выключено.

Для локального упражнения заранее подготовьте модель и зависимости, выключите синхронизацию и облачное выполнение, онлайн-инструменты и удалённые коннекторы, общую телеметрию и AI observability, включая replay. Затем отключите сеть и повторите маленькую задачу. Успех проверяет только эту задачу с такими настройками, а не заменяет аудит приватности и не обещает офлайн-работу всех функций.

- [Синхронизация и облачное выполнение](https://more-ai.net/ru/guides/sync-and-web-app)
- [Политика конфиденциальности](https://more-ai.net/ru/privacy)

## Частые вопросы

### Действительно ли локальная модель бесплатна?

За локальный инференс нет счёта провайдера за токены. Но остаются расходы на оборудование, электричество, хранение и ваше время. Результат зависит от конкретной модели, квантизации, контекста и памяти; сначала проверьте небольшую задачу.

### Что работает офлайн?

Офлайн можно проверить самодостаточную задачу, если модель, зависимости и исходные файлы уже находятся на компьютере. Синхронизации, облачному запуску, веб-поиску и удалённым коннекторам нужен интернет. Телеметрию и AI observability/replay проверяйте отдельно: тест с отключённой сетью не заменяет аудит приватности.

### Какое железо мне нужно?

Требования зависят от размера модели, квантизации, контекста и параллельных задач. Сверьтесь с требованиями модели и runtime, оставьте память для системы и измерьте расход памяти и задержку на маленькой задаче. Одно число гигабайт не гарантирует качество работы агента.

### Какие локальные серверы поддерживает More AI?

Ollama по умолчанию использует http://localhost:11434/v1, LM Studio — http://localhost:1234/v1. Перед подключением запустите сервер и загрузите модель. Локальной Ollama ключ не нужен; LM Studio может требовать токен при включённой авторизации сервера. Для своего сервера отдельно проверяйте протокол и поддержку инструментов.

### Может ли кодовый агент использовать локальную модель?

Да — режим Code работает через тот же движок, так что локальная модель тоже умеет планировать и вносить правки. Агентная работа вознаграждает модели посильнее, поэтому берите самую способную локальную модель, которую потянет ваше железо, или переключите конкретную сессию на облачный ключ.

## Ещё гайды

- [Первые шаги с More AI: от установки до первой задачи](https://more-ai.net/ru/guides/getting-started.md): Установите бесплатное приложение, добавьте ключ провайдера и запустите первую задачу на Главной примерно за пять минут. Без входа работа не синхронизируется; после входа настроенные категории синхронизации включены по умолчанию, а облачный запуск подключается отдельно.
- [Свой API-ключ: расходы, лимиты и таблица для проверки стоимости](https://more-ai.net/ru/guides/bring-your-own-key.md): Разберитесь в оплате токенов, повторных попыток и отдельного облака. Скачайте таблицу и измерьте стоимость принятого результата: BYOK не всегда дешевле подписки.
- [Управляйте тем, что может агент: инструменты и разрешения](https://more-ai.net/ru/guides/agent-tools.md): Агент More AI умеет читать и записывать файлы, выполнять команды, искать в вебе, планировать рутины и подключаться к приложениям. Любую возможность можно отключить; подтверждения команд зависят от выбранного режима доступа.
- [Бесплатный ИИ для кода: настоящий агент на моделях, которые ничего не стоят](https://more-ai.net/ru/guides/free-ai-coding.md): Бесплатное настольное приложение запускает Code на бесплатных тарифах провайдеров или локальных моделях. Разбираем локальный запуск, подходящие для кода модели, их лимиты и отличие облачной оплаты.

---

More AI — Один ИИ-агент для документов, исследований и кода — на компьютере, в браузере, в терминале и на телефоне, с вашим API-ключом по цене провайдера.

- Скачать: https://more-ai.net/ru#download
- Документация: https://more-ai.net/ru/docs.md
- Гайды: https://more-ai.net/ru/guides
- llms.txt: https://more-ai.net/ru/llms.txt