Startups
Edit

docs.vllm.ai

http://docs.vllm.ai/
Last activity: 22.10.2026
Probably Closed
Mentions
9

Mentions in press and media 9

DateTitleDescription
Sign up to seeSign up to seeSign up to see
Oct 2, 2026LLM работает не на одной видеокарте: анатомия AI‑инфраструктуры 2026«Сколько нужно видеокарт, чтобы запустить 70B?» Кажется, что это задачка на деление: просто взять размер модели, разделить на память одной карты и округлить вверх. Сервис, собранный по такому расчёту, прекрасно отвечает одному тестировщику....
Mar 27, 2026vLLM Production Stack. Часть 1: Базовые возможности vLLMОглавлениеДля удобства навигации Вступление Тестовое окружение Как устроены примеры в статье Что такое vLLM vLLM Production Stack Какие модели можно запустить Запуск моделей в разных режимах Скачивание модели Запуск Qwen3-8B Включение вызов...
Feb 16, 2026Бенчмарк DGX Spark с LLM Qwen3: кому подойдет, почему 128 ГБ не серебряная пуля и о чем умолчал маркетинг NVIDIAИсточник Всем привет! Меня зовут Валерий Гречин, я руковожу компанией ML-интегратором для бизнеса и промышленности Palatine Vision, облачным API-провайдером речевых нейросетей Palatine Speech и несколькими стартапами. У всех, кто работает с...
Dec 29, 2025Meeting-LLM: Транскрипция + ИИ-анализ совещаний в одном окне своими руками (T-One + GPT-OSS-20B)В интернете огромное количество гайдов на тему транскрибации аудио и анализа совещаний через ИИ. Но все они описывают разрозненные решения: отдельно транскрибируй аудио, затем отправь в ChatGPT, и так далее. Я решил комплексно подойти к это...
Dec 10, 2025Как квантовать LLM. Практическое руководство для начинающихВсем привет! Меня зовут Максим, я NLP‑инженер в red_mad_robot и автор Telegram‑канала Максим Максимов // IT, AI. Рост числа параметров в LLM и других нейронных сетях создает проблему того, что запускать их может все меньшее количество людей...
Jan 23, 2025Внедряем AI Code Assistant в разработку бесплатно и без вендорлока — ИнструкцияВ последнее время я много занимаюсь вопросами внедрения ИИ-ассистентов для написания кода на основе в процессы разработки ПО. По разным данным, code assistant'ы позволяют ускорить процесс написания кода до 25% (источник), а это очень сущест...
Sep 18, 2024Как справиться с нагрузкой в черную пятницу? Автоскейлинг инференса в KubernetesУ многих наступление осени вызывает разные чувства и эмоции: от ностальгии во время просмотра Гарри Поттера под теплым пледом до депрессивных мыслей у дождливого окна в кофейне. Именно в этот период компании проводят масштабные мероприятия,...
How Google’s TPUs are reshaping the economics of large-scale AIFor more than a decade, Nvidia’s GPUs have underpinned nearly every major advance in modern AI. That position is now being challenged. Frontier models such as Google’s Gemini 3 and Anthropic’s Claude 4.5 Opus were trained not on Nvidia hard...

Reviews 0

Sign up to leave a review

Sign up Log In

FAQ about docs.vllm.ai

What has the press written about docs.vllm.ai?

Parsers VC has collected 9 articles mentioning docs.vllm.ai, among them “LLM работает не на одной видеокарте: анатомия AI‑инфраструктуры 2026” (Oct 2, 2026) and “vLLM Production Stack. Часть 1: Базовые возможности vLLM” (Mar 27, 2026).

Is docs.vllm.ai still active?

docs.vllm.ai is probably closed: its latest activity on Parsers VC dates from Oct 22, 2026.