Запуск нейросетей на своём компьютере через Jan, Ollama или LM Studio кажется безопасным: переписка и документы не уходят на чужие серверы. Это так лишь отчасти. Вы отказываетесь от многомиллионной инфраструктуры безопасности OpenAI или Anthropic и отвечаете за защиту сами. В январе SentinelOne и Censys нашли 175 000 открытых в интернет серверов Ollama, через которые злоумышленники могли выполнять код и использовать учётные данные владельцев.

1. Держите сервер на localhost

По умолчанию раннеры работают на адресе 127.0.0.1 и недоступны извне. Если переключить их на 0.0.0.0, к модели получат доступ все устройства в сети — в том числе в общем Wi-Fi. Некоторые инструкции советуют так сделать для доступа с телефона, но это опасно. Как вернуть:

  • Ollama — переменная OLLAMA_HOST = 127.0.0.1;
  • LM Studio — выключите Serve on Local Network;
  • Jan — в настройках Local API Server задайте API-ключ.

2. Никакого проброса портов

Проброс портов на роутере в связке с 0.0.0.0 открывает модель всему интернету: боты постоянно сканируют домашние IP-адреса в поисках открытых портов. Для удалённого доступа используйте зашифрованный туннель — mesh-VPN вроде Tailscale или Cloudflare Zero Trust Tunnel.

3. Обновляйтесь сразу

В мае 2026 года Cyera нашла в Ollama уязвимость Bleeding Llama с оценкой 9,3 из 10: она позволяла красть данные и учётные данные через API без авторизации. Под угрозой были около 300 000 открытых серверов, пока не вышла версия 0.17.1. Раннеры всё ещё экспериментальные, поэтому ставьте обновления с официальных сайтов или GitHub сразу.

4. Только safetensors и GGUF

Файлы моделей в формате pickle (.bin, .pt, .pkl) могут выполнять вредоносный код при загрузке. В 2025 году ReversingLabs нашла на Hugging Face две такие модели, прошедшие автоматическую проверку. Скачивайте только .safetensors и .gguf — они хранят данные в числовом виде.

5. Проверенные издатели

Берите модели только с официальных аккаунтов разработчиков со значком верификации — например, Google, Mistral, Meta или Qwen на Hugging Face.

6. Приложения — только с официальных сайтов

Злоумышленники создают поддельные сайты популярных ИИ-сервисов и распространяют через них вредоносные программы вроде Redline, Lumma и Odyssey для Mac, а также подделки в Google Play. Атаки становятся сложнее и уже нацелены на малоизвестные локальные платформы и пакеты Python.

Какие open-source инструменты можно использовать вместо платных ИИ-сервисов — в нашем сравнении.

Источники: Lifehacker.