Нейросеть офлайн: как запустить локально?

Может ли нейросеть работать без интернета?

Да, если модель скачана заранее и запускается на вашем устройстве. Вычисления идут на процессоре, видеокарте или чипе телефона, а веса лежат файлом на диске. Сеть нужна ровно один раз — чтобы этот файл получить.

Разработчики говорят об этом прямым текстом. Страница Offline Operation в документации LM Studio формулирует так: приложение в целом не требует интернета, включая чат с моделями, работу с документами и локальный сервер. И отдельно уточняет, что ничего из введённого в чат не покидает устройство.

Дальше начинаются нюансы, которых в подборках «лучшие офлайн-нейросети» обычно нет. Офлайн работает не приложение целиком, а его часть; какая именно — разберём ниже по пунктам.

Что нужно скачать, чтобы нейросеть работала офлайн?

Скачать нужно две вещи: программу-оболочку и файл модели. Оболочка занимает сотни мегабайт, модель — единицы гигабайт.

Оболочек три с половиной. Ollama ставится одной командой и работает через терминал. LM Studio выглядит как обычное приложение с окном чата и кнопкой загрузки. llama.cpp — движок, на котором держатся обе. Для телефона есть отдельное приложение от Google, о нём чуть ниже.

Модели берутся с Hugging Face в формате GGUF, а на компьютерах Apple ещё и в MLX. Один и тот же файл подходит разным оболочкам, поэтому скачанную модель можно переносить между ними и хранить на внешнем диске.

Порядок действий не меняется от инструмента: поставить оболочку, выбрать модель по размеру, дождаться загрузки, отключить сеть и проверить. Подробный разбор с командами у нас в гайде по Ollama, а сравнение оболочек между собой — в обзоре способов локального запуска.

Какие модели работают офлайн на компьютере?

Офлайн работают открытые модели с выложенными весами: семейства Gemma от Google, Llama от Meta, Qwen от Alibaba, DeepSeek. Закрытые флагманы вроде GPT или Claude скачать нельзя, они существуют только на серверах создателей.

Выбор упирается в размер. Модель на 2–4 миллиарда параметров пойдёт на любом свежем ноутбуке, отвечает быстро, но путается в длинных рассуждениях. От 12 миллиардов нужна дискретная видеокарта. По нашим наблюдениям, на русском языке открытые модели среднего размера заметно слабее английского: страдают падежи, проскакивают кальки.

Что такая модель делает нормально без сети: отвечает на вопросы, переписывает и сокращает текст, переводит, разбирает ваши документы, пишет код. Последнее особенно востребовано, потому что закрытый репозиторий не всегда можно показывать облаку.

Картинки локально рисует другой стек, не языковые модели. Про него у нас отдельный разбор запуска Stable Diffusion локально.

Есть ли офлайн-нейросеть на телефон?

Есть, и у Google оно официальное. AI Edge Gallery на GitHub открыт по лицензии Apache 2.0, версия 1.0.17 выпущена 3 августа 2026 года, репозиторий собрал около 24 тысяч звёзд.

Требования из README короткие: Android 12 и выше либо iOS 17 и выше. Модели качаются с Hugging Face прямо в приложение и выполняются рантаймом LiteRT. Про приватность там сказано без оговорок: весь инференс идёт на железе устройства, интернет не нужен, промпты и картинки никуда не отправляются.

Умеет приложение больше, чем просто чат. Есть вопросы по фотографии с камеры, расшифровка и перевод голосовых записей, площадка для проверки промптов с настройкой температуры и бенчмарк, который меряет скорость модели на вашем конкретном телефоне.

Мобильные размеры отдельные. В документации Gemma есть колонка Mobile: версия E2B укладывается примерно в 1,1 ГБ, E4B — в 2,5 ГБ. Что ещё умеет телефон с нейросетью, разбираем в материале про нейросети на смартфоне.

Что в офлайн-нейросети всё равно требует интернета?

Требует интернета больше, чем принято писать. Разработчики LM Studio опубликовали честный список на странице Offline Operation, и в нём пять пунктов: поиск моделей во вкладке Discover, загрузка новых моделей, показ статистики и вариантов в каталоге, загрузка рантаймов и проверка обновлений приложения. Всё остальное живёт без сети.

Ловушка похитрее прячется в самих моделях. В документации Ollama об облачных моделях описан отдельный тип с суффиксом -cloud: имя вида gpt-oss:120b-cloud запускается на серверах Ollama, а не у вас, и требует аккаунта с командой ollama signin. Команда запуска при этом выглядит точно так же, как у локальной модели.

Третий источник трафика — инструменты модели. Поиск по интернету у Ollama устроен как обычный сетевой вызов: по описанию Web search API это запрос POST на ollama.com/api/web_search, для которого нужен ключ и бесплатный аккаунт. Модель локальная, а поиск через неё — нет.

Проверяется всё это одним движением. Выключите Wi-Fi и мобильную сеть, задайте пару вопросов, попробуйте открыть каталог моделей. Что ответило — работает офлайн; что показало ошибку — ходило в сеть.

Сколько места на диске и памяти займёт офлайн-модель?

Место считается по весам, а память — по весам плюс контекст. Готовые цифры есть в документации Gemma: при 4-битной квантизации Q4_0 версия E2B требует около 2,9 ГБ, E4B — 4,5 ГБ, модель на 12 миллиардов параметров — 6,7 ГБ, на 31 миллиард — 17,5 ГБ. В оценку заложен запас 20%, контекстное окно в неё не входит.

Контекст добирает сверху. По FAQ Ollama режим квантизации KV-кэша q8_0 занимает примерно половину памяти от стандартного f16 и обычно не сказывается на качестве ответов, а q4_0 укладывается в четверть с заметной просадкой на длинном контексте. На слабой видеокарте это выигрывает пару гигабайт.

Диск забивается незаметно. Тот же FAQ называет пути хранения: ~/.ollama/models на macOS, /usr/share/ollama/.ollama/models на Linux и C:\Users\%username%\.ollama\models на Windows. Каталог переносится переменной OLLAMA_MODELS на любой другой диск, и это стоит сделать до, а не после того, как системный раздел кончится.

Что офлайн-нейросеть точно не сделает

Не сделает она четыре вещи, и подборки «лучших офлайн-нейросетей» об этом молчат.

Не расскажет о свежих событиях. Знания модели заморожены на дате обучения, а дотянуться до сети она не может по определению.

Не сгенерирует видео и не озвучит текст живым голосом. Локальные текстовые движки этим не занимаются, а видеомодели требуют серверных карт.

Не догонит облачные флагманы по качеству. Разрыв заметнее всего на длинных рассуждениях, сложном коде и русском тексте.

Не заработает мгновенно. Скачать оболочку, выбрать модель, дождаться нескольких гигабайт и разобраться с настройками — это вечер, а не пять минут.

Офлайн против облака: где что выигрывает

Выигрывают они в разном, и таблица показывает это нагляднее слов.

Что важно	Офлайн на своём устройстве	Облачный доступ
Приватность	данные не покидают диск	запрос уходит на сервер
Лимиты	ограничены только железом	зависят от тарифа
Работа без связи	полная	невозможна
Качество моделей	ограничено объёмом памяти	флагманы доступны сразу
Модальности	текст, разбор картинок, речь в текст	плюс видео и озвучка
Время до первого ответа	вечер на настройку	минуты

Офлайн берут ради двух вещей: секретности и независимости от связи. Договор, медицинская выписка, закрытый код, работа в самолёте или в поле без сети — здесь у локальной модели конкурентов нет.

Облако берут, когда нужно лучшее качество прямо сейчас, когда задача разовая и когда подходящего железа просто нет. У нас все модели собраны в одном окне: каталог нейросетей с оплатой в рублях и без VPN. Один запрос в чате стоит 20 токенов, а приветственный бонус даёт попробовать бесплатно.

Источники

• LM Studio, Offline Operation — что работает без сети и что требует подключения; проверено 2026-08-07
• Ollama, Cloud — модели с суффиксом -cloud и вход по аккаунту; проверено 2026-08-07
• Ollama, Web search — поиск как сетевой вызов с ключом; проверено 2026-08-07
• Ollama, FAQ — пути хранения моделей, OLLAMA_MODELS, квантизация KV-кэша; проверено 2026-08-07
• Google AI Edge Gallery на GitHub — лицензия Apache 2.0, версия 1.0.17, требования Android 12+ и iOS 17+, рантайм LiteRT; проверено 2026-08-07
• Gemma, документация Google — требования к памяти по размерам модели и мобильная колонка; проверено 2026-08-07