Как включить скрытую скорость GeForce RTX 30

Что в ролике
Если у вас GeForce RTX 30 и вы гоняете FP16/BF16-модели, карта может считать часть матричной математики вдвое медленнее, чем позволяет чип: Nvidia в white paper указывает для 3090 142 и 71 терафлопс — медленная строка для FP32-накопления включена по умолчанию. Автор на своей MSI 3060 замерил 47 терафлопс при FP16-накоплении и 27 при FP32-накоплении, после разблокировки стало чуть меньше 50, то есть плюс 81 процент, при том же лимите мощности 170 Вт. Разблокировку делает модуль GPU Unlock: через переполнение буфера в подписанном коде SEC2 он одной четырёхбайтовой записью включает скрытые регистры скорости, ничего не прошивает и сбрасывается после выключения. На реальных задачах результат зависит от того, какая математика главная: в llama.cpp с квантованной Q8_0 GGUF префилл длинного промпта ускорился только на 4,6 процента, а декод вообще не сдвинулся, потому что int8-вычисления не ускоряются. Там, где движок распаковывает веса в FP16/BF16, приросты заметнее: Strata на Qwen 3.8 Flash дала 17 процентов на префилле 32 000 токенов. ComfyUI ускорила SDXL-генерацию примерно на 35 процентов, а в тестах VLM на 3090 префилл ускорился до 50 процентов на 4-битной модели. Поддержка зрелая только у RTX 30, у RTX 20 и 40 это исследовательские сборки, RTX 50 и GTX не поддерживаются, а Windows-пользователям готового бинарника нет. Перед запуском стоит проверить device ID и VBIOS в issue-трекере: автору пришлось собирать модуль с патчем PR35 и подписывать его под Secure Boot, а неудачная попытка может оставить карту нерабочей до холодной перезагрузки.
Практика
- Что получишь
- Понять, на каких задачах разблокировка даёт прирост (длинный префилл, FP16/BF16-инференс, генерация изображений), а на каких нет (квантованные GGUF в llama.cpp и декод), и какие риски.
- Первый шаг
- На Linux проверьте device ID карты в списке модуля GPU Unlock и свою версию VBIOS в issue-трекере, а затем соберите модуль из исходников с нужным патчем.
- Цифры
- —142 и 71 терафлопс — две строки для RTX 3090 в white paper Nvidia, GeForce по умолчанию получает медленную 71
- —81 % — прирост FP32-накопления в матричном тесте автора на 3060: с 27 до 49 терафлопс
- —17 % — ускорение префилла в Strata на промпте из 32 000 токенов на одной 3060
- —35 % — ускорение генерации SDXL-изображений в ComfyUI на 3060 после разблокировки
- Честно
- Платного продукта или партнёрских ссылок в ролике нет, но в описании лежат исходники GPU Unlock и патча PR35 — готового установщика нет, особенно для Windows. Команды сборки, список совместимых device ID и значения VBIOS показаны на экране, поэтому для повторения их придётся смотреть в видео или issue-трекере. Код на момент теста был новым (поддержка 3060 — около двух дней), неудачная попытка может оставить карту нерабочей до холодной перезагрузки, а Nvidia не сказала, сможет ли заблокировать метод на уже купленных картах.
Если слова незнакомы — 8 терминов
- FP16/BF1616-битные числовые форматы для быстрых вычислений на видеокарте
- FP32-накоплениеведение промежуточной суммы в 32-битной точности, чтобы меньше округлять
- GGUFформат файла для квантованных моделей в llama.cpp
- префиллэтап, когда модель читает ваш промпт перед генерацией ответа
- декодэтап генерации ответа по одному токену
- int88-битный целочисленный формат, в котором хранятся веса квантованных моделей
- VBIOSпрошивка видеокарты
- VLMмодель, работающая с изображениями и текстом
Связки из этого ролика
3 шт.- Linux
- Proxmox
- UEFI
Компоненты
12 шт.Формат: разбор · для практикующих · уверенность разметки 0.85 · источник