Turnstone: агенты на двух локальных AI-машинах

Что в ролике
Если вы вложились в локальную AI-машину и хотите занять её реальной разработкой, этот ролик показывает, как Алекс Зискинд и Венделл гоняют агентный харнесс Turnstone на двух рабочих станциях: ASUS Camino Grando с восемью RTX Pro 6000 и NVIDIA DGX Station. Они подключают локальные модели через base URL, настраивают персоны вроде инженера, менеджера и аудитора, и выдают Turnstone два настоящих проекта: создать ARM-ветку для Windows-репозитория и починить баг в инструменте Code Needle. Харнесс запускает задачи в Docker-узлах, сам распределяет нагрузку и отчитывается по каждой подзадаче, причём одна из задач обошлась всего в 15 000 токенов. Чтобы сравнить машины, они повторяют одно и то же задание: DGX Station справилась за 21 минуту, а Camino Grando — за 37 минут, при этом первая потратила 26 миллионов входных токенов против 23 миллионов. Разница в скорости объясняется памятью: у DGX Station 252 ГБ HBM3e с пропускной способностью 7 ТБ/с, тогда как восемь RTX Pro 6000 общаются по PCIe Gen 5 на 64 ГБ/с. На DGX Station также быстрее идёт генерация видео моделью H3 — один 5-секундный клип занимает 2 минуты. В конце они считают облачную стоимость той же ARM-задачи: от 5 до 36 долларов с промпт-кэшированием и от 24 до 240 долларов без него.
Практика
- Что получишь
- Увидите, как один харнесс управляет несколькими задачами, моделями и машинами, и поймёте, чем DGX Station отличается от Camino Grando по скорости и памяти.
- Первый шаг
- Установите Turnstone на свою машину с GPU, добавьте локальную модель через её base URL и создайте workspace, затем дайте ему реальную задачу.
- Цифры
- —21 минута против 37 минут — время выполнения одного и того же задания по созданию ARM-ветки на DGX Station и Camino Grando
- —5–36 долларов с промпт-кэшированием и 24–240 без него — оценка стоимости той же задачи в облаке вместо локального запуска
- —252 ГБ HBM3e и 7 ТБ/с — объём и пропускная способность быстрой памяти в DGX Station
- —614 ГБ — размер модели DeepSeek V4.1 Flash, которая целиком помещается на восьми RTX Pro 6000 в Camino Grando
- Честно
- Ролик содержит рекламную вставку Abacus AI, автор зачитывает её целиком. Turnstone — инструмент гостя Венделла, и в видео нет инструкции по его установке или доступу, только демонстрация интерфейса на экране. Оборудование взято на время: DGX Station нужно вернуть ASUS, а Camino Grando уезжает к Венделлу для дальнейших тестов.
Если слова незнакомы — 5 терминов
- MCPпротокол, который позволяет ассистенту подключать внешние инструменты и данные
- токенминимальная единица текста, которую обрабатывает и за которую считает деньги облачная модель
- HBM3eбыстрая память, расположенная рядом с GPU, с очень высокой пропускной способностью
- Dockerизолированная среда для запуска программ на узлах без влияния на основную систему
- промпт-кэшированиекеш повторяющихся частей запроса, чтобы платить за API меньше
Связки из этого ролика
4 шт.- Turnstone + Docker + local LLM
- NVIDIA DGX Station + HBM
- RTX Pro 6000 + GDDR7
- DGX Spark + Docker
Компоненты
25 шт.Формат: сборка на живом примере · для практикующих · уверенность разметки 0.85 · источник