RTX 3090
ядро
2
авторов
4
видео
3
выпусков
2026-09-18
первое упоминание
понять, как устроено · 3 выбрать инструмент · 1
Кто использует
2 авторов- The Stack3 видео
- Kai1 видео
Ставят рядом
частота совместных упоминанийСвязки с этим компонентом
4 шт.Qwen 3.5 4B + чтение логитов напрямую на RTX 3090 — открытый клон Jev: 1,023 с против 5,332 с при записи ответа JSON-массивом дают ускорение 5,21×
Qwen 177B + одна RTX 3090 на 24 ГБ — рабочими на каждом слове оказываются только 6 млрд параметров, поэтому карте не нужно держать весь файл целиком
Qwen 8B в 4 битах + RTX 3090 — 115 ток/с на контексте 4 000 против 28 ток/с на 128 000 при неизменном железе и полностью загруженной модели
Четыре RTX 3090 (96 ГБ) + файл на 93,7 ГБ — 28–29 ток/с, просадка в низкие 20-е, нестабильность после 80 000 токенов и вынесение эмбеддингов в системную память
Где упоминается
- Meet Jev: The Schema-Safe AI Built to Make DecisionsKai · 19 сентября 2026
- Unfortunately, A $20 Plan Beats A Free Local AI SetupThe Stack · 20 сентября 2026
- Do You Need A $10,000 PC To Run A Huge Qwen Model?The Stack · 18 сентября 2026
- A Tiny Graphics Card Runs A Giant AI ModelThe Stack · 18 сентября 2026