vLLM
ядро
14
авторов
58
видео
38
выпусков
2026-09-13
первое упоминание
выбрать инструмент · 26 понять, как устроено · 22 можно повторить · 7 мнение · 2 узнать, что существует · 1
Кто использует
12 авторов- The Stack14 видео
- Kai11 видео
- AI Engineer7 видео
- RepoChad6 видео
- Sam Witteveen5 видео
- Alex Ziskind4 видео
- Codacus2 видео
- IBM Technology2 видео
- NeuralNine2 видео
- David Ondrej1 видео
- Caleb Writes Code1 видео
- Better Stack1 видео
Ставят рядом
частота совместных упоминанийСвязки с этим компонентом
10 шт.vLLM + Tensor Parallel 4 — разбиение 510-гигабайтной MoE-модели по четырём узлам
vLLM + SGLang
vLLM + ROCm
Kaggle TPU + vLLM + Kaggle TPU Lab
NVIDIA Sync + DGX Spark / Dell Pro Max GB10 — терминал, Ollama, vLLM и Open WebUI на устройстве из любой сети
vLLM + NVFP4 on RTX Pro 6000
vLLM + speculative decoding
Серверный маршрут: 4-битная сборка NVIDIA + paged attention и 8-битное квантование — H100 на 80 ГБ обслужил сборку чуть больше 61 ГБ, рядом документированы H200
vLLM tensor parallel on dual DGX Spark
CUDA + vLLM
Где упоминается
- Double Your AI Speed: The Secret NVIDIA Won't Tell YouCodacus · 26 октября 2026
- What It Actually Costs to Run DeepSeek V4.1 Flash Locally?Kai · 13 сентября 2026
- What It Costs To Run DeepSeek V4.1 Flash LocallyThe Stack · 19 сентября 2026
- NVIDIA's Dory: The 4B Model That Re-Runs Its Own LayersThe Stack · 9 ноября 2026
- Which is The Best Qwen3.8-27B?Sam Witteveen · 4 октября 2026
- Your Local AI Is Not as Private as You ThinkKai · 21 октября 2026
- The AI Memory Wall: Why LLMs & AI Accelerators Hit a BottleneckIBM Technology · 18 октября 2026
- What Is LLM Inference? How AI Models Generate ResponsesIBM Technology · 22 октября 2026
- Taming the AI Hardware Cambrian Explosion — Abdul Dakkak, ModularAI Engineer · 11 октября 2026
- The End of AI Hallucinations? Meta's New Fix (CLM's)Kai · 6 октября 2026
- This DeepSeek v4.1 is powerful and uncensored, let's run itDavid Ondrej · 2 ноября 2026
- Is Microsoft’s $6,000 Surface RTX Spark Worth It?The Stack · 17 октября 2026
- Pi vs OpenCode vs Hermes: Which Works Best With a Local Model?The Stack · 22 октября 2026
- Flint - The First RSI Coding Model?Sam Witteveen · 23 октября 2026
- What A 128GB Mini PC Can Actually RunThe Stack · 21 сентября 2026
- The Local AI Hardware Mistake Almost Everyone MakesKai · 7 ноября 2026
- Lessons from Generating 12 Trillion Synthetic Tokens — Bogdan Gaza, DatologyAIAI Engineer · 2 октября 2026
- NVIDIA’s $4,999 AI PC: Who Is This Actually For?The Stack · 9 октября 2026
- Don't Buy a GPU Instead Build This 32GB Free AI Server InsteadKai · 12 октября 2026
- Every Way to Get 256 GB of VRAM for Local AI at Full ContextKai · 29 октября 2026
(показаны последние 20 из 58)