Проверка «локального» ИИ: что утекает с вашего Mac

Что в ролике
Если вы пользуетесь локальными моделями, чтобы промпты не уходили наружу, этот разбор покажет, что приватность ломается не на самой модели, а вокруг неё. Автор прогнал Ollama, LM Studio, Jan и llama-cpp на Mac mini с 16 ГБ, отправив в каждую фальшивый пароль и номер соцстрахования, и собрал 3,5 ГБ трафика. Во время обычного чата с Qwen 3,5 локально из машины не ушло ни одного пакета, так что само ядро приватно. Но при запуске сервер Ollama сразу связывается с сайтом Ollama за списком облачных моделей и рекомендациями, а десктопное приложение проверяет обновления каждый час, и отключить эту проверку нельзя. LM Studio при первом открытии выкачала 170 МБ до первого клика, а при скачивании модели через её прокси LM Studio узнаёт, какие модели вам интересны. Самое опасное — если в Ollama включить прослушивание на всех сетевых интерфейсах, тогда другое устройство в той же сети может запускать модели на вашем GPU и даже облачные модели на вашем аккаунте, а запрос к API/me отдаёт имя, почту и тариф без пароля. На диске промпты оказались в двух местах: Ollama хранит историю интерактивных сессий в скрытой папке, а LM Studio пишет полные промпты, включая тестовый номер соцстрахования, в лог, который читают все пользователи. Автор советует выключить прослушивание на всех интерфейсах, почистить логи LM Studio, добавить API-ключ к llama-cpp и включить брандмауэр Mac, а надёжнее всего — не логиниться в Ollama, если облачные модели не нужны.
Практика
- Что получишь
- Понять, какие из четырёх локальных AI-приложений реально отправляют данные, куда и как закрыть дыры в конфигурации Ollama, LM Studio и llama-cpp.
- Первый шаг
- Проверьте, не задан ли у вас OLLAMA_HOST в значениях 0.0.0.0 или подобных, и выполните ollama list, чтобы найти облачные модели в списке.
- Цифры
- —3,5 ГБ — объём захваченного трафика за примерно полчаса тестов четырёх приложений
- —170 МБ — столько скачала LM Studio при первом открытии, до любого клика
- —175 000 — столько открытых в интернет Ollama-серверов насчитали Sentinel Labs и Censys по 130 странам
- —около 1700 долларов — максимальные неожиданные списания у некоторых пользователей после атаки на облачную консоль Open Code
- Честно
- Автор в конце рекламирует свой канал и платное членство с приоритетными ответами. Трафик зашифрован, поэтому выводы о содержимом запросов основаны на чтении исходного кода, а не на расшифровке пакетов; тесты простоя шли минуты на одном Mac, так что фоновых передач в долгих сценариях могло быть больше. Проверка поиска Jan не проводилась, хотя исходный код, по словам автора, включает его по умолчанию и отправляет запросы в Exa.
Если слова незнакомы — 3 терминов
- промпттекст-задание, которое отправляют модели
- APIинтерфейс, через который одна программа обращается к другой или к модели
- проксипосредник, через который идут запросы на скачивание моделей
Связки из этого ролика
2 шт.- Ollama + Open Code
- Ollama + Docker
Компоненты
10 шт.Формат: обзор · для практикующих · уверенность разметки 0.9 · источник