К содержимому
Дайджест

Локальный AI-агент на Python за восемь минут

Tech With Tim·11 сентября 2026·8:08
нужен экран можно повторить промо пошагово
Открыть на YouTube
Короткий практический урок по сборке агента, который работает на своём компьютере без облачных сервисов, для тех, кто уже немного знает Python.

Что в ролике

Если не хочется отправлять данные в облако и платить за API, агента можно собрать целиком на своём компьютере: локальная модель плюс несколько десятков строк Python. Модель автор ставит через Ollama и советует выбирать её по объёму доступной памяти: на Windows ориентир — видеопамять, на современных Mac — унифицированная память от 16 до 128 гигабайт, а для повторения хватит небольшой модели на 0,8, 2 или 4 миллиарда параметров. Проверка занимает три команды: одна скачивает модель, вторая показывает установленные, третья открывает чат в терминале — это и есть тест на скорость. Дальше в файле агента подключается библиотека Pydantic AI, которая обращается к локальному inference-серверу Ollama по адресу localhost на порту 11434. Инструментами агента становятся обычные функции Python: узнать текущее время, посчитать выражение, сохранить и прочитать заметку в файле — библиотека сама определяет их типы и разрешает модели их вызывать. Сам агент собирается из трёх частей: модель, список инструментов и системная инструкция, а запускает его простой цикл, который хранит историю сообщений и выходит по команде quit. В финале агент здоровается, записывает заметку про hello world, читает её, называет дату и время и отвечает заметно быстрее облачных моделей, потому что всё считается на месте. Компромисс автор тоже называет: чем крупнее модель, тем лучше ответы и тем медленнее работа, поэтому при тормозах надо брать вариант с меньшим числом параметров.

Практика

Что получишь
Сможешь поднять локальную модель и превратить её в агента с инструментами, который читает и пишет файлы у тебя на диске и не зависит от облака.
Первый шаг
Поставить Ollama, скачать командой pull небольшую модель вроде Qwen 3.5 на 2 или 4 миллиарда параметров и проверить её, запустив чат в терминале.
Цифры
  • —24 гигабайта — столько видеопамяти на его видеокарте 4090, по этому объёму он и подбирает модель
  • —порт 11434 — локальный адрес сервера Ollama, к которому обращается код
  • —от 16 до 128 гигабайт — столько унифицированной памяти бывает на современных Mac, это верхняя граница для модели
  • —6,6 тысячи участников — столько набрало его бесплатное сообщество за последний месяц, закрыть его планируют ближе к 10 тысячам
Честно
Часть ролика — продвижение бесплатного сообщества автора: полный код лежит там, а закрыть доступ планируют, когда участников станет около 10 тысяч. Фрагменты кода он вставляет из буфера и разбирает по строкам, поэтому готовый файл агента придётся либо смотреть на экране, либо забирать в сообществе. Точные строки кода в речи не проговариваются.
Если слова незнакомы — 8 терминов

Понадобится экран

Часть информации есть только на экране (код в терминале). Открыть на YouTube с 4:31.

Связки из этого ролика

5 шт.

Компоненты

8 шт.

Цитаты-доказательства

дословно из субтитров

Формат: пошаговый урок · для практикующих · уверенность разметки 0.9 · источник