AI / LLM-инференс
Запускайте Llama 3.1 70B в одной Blackwell-VM или модели уровня 8B/13B на кусочке 4500. vLLM, llama.cpp, TGI — нативная CUDA прямо внутри VM.
KVM-виртуалки с полным PCI-проксированием на NVIDIA RTX PRO 4500 и RTX PRO 6000 Blackwell. Вся GPU отдаётся вашей VM — никакого vGPU-нарезания, никаких shared CUDA-ядер. Загрузка за минуты. Фиксированная месячная цена. Никаких сюрпризов с почасовкой.
Профессиональные GPU отдаются вашей VM через PCIe Gen 5 passthrough. ECC VRAM, настоящее ДЦ-охлаждение. Не игровой кремний, не потребительские драйверы, никакого vGPU-нарезания.
Поколение: Blackwell · 10 496 CUDA-ядер
Поколение: Blackwell · 24 064 CUDA-ядра
Нужно несколько GPU? Можем пробросить 2× / 4× карты в одну VM или собрать выделенный bare-metal риг — обращайтесь к инженерам.
Если у вашей задачи есть CUDA, энкодер или рендер-ферма — мы уже поставили нужное железо в стойку.
Запускайте Llama 3.1 70B в одной Blackwell-VM или модели уровня 8B/13B на кусочке 4500. vLLM, llama.cpp, TGI — нативная CUDA прямо внутри VM.
Flux, SD3, AnimateDiff, апскейлинг видео. 96 ГБ VRAM позволяют держать большие чекпоинты и ControlNet'ы резидентно — без свопа на каждый запрос.
Blender · Cycles, Octane, Redshift, V-Ray RT. Pro-драйверы значит, что сцены, падающие на потребительских картах, просто работают. Длинные рендеры — фикс-цена, никакого поминутного счётчика.
AV1-энкодинг в реальном времени (NVENC), апскейлинг, интерполяция кадров, автосубтитры (Whisper). В связке с нашими нодами 100/400 G — для дистрибуции.
Тренируйте свои 7B–13B LoRA за несколько часов на 6000. Полноценный PCIe Gen 5 + 1,79 ТБ/с памяти — меньше эпох теряется из-за полосы.
Полный passthrough в VM. ECC VRAM. Никаких соседей по GPU. Запускайте свои MPI-задачи, OptiX-трассировку, CFD-солверы — root-доступ, а не песочница.
Готовые образы избавят от того, чтобы первый день драться с драйверами. Или принесите свой — bare-metal означает root.
Ещё? Пишите в Telegram или связывайтесь с NOC по адресу noc@hostfory.com.
Именно. KVM-виртуалка для уровня ОС, но вся GPU прокинута через PCIe-шину прямо в вашу VM. Каждое CUDA-ядро, вся VRAM, никакого vGPU-нарезания, никакого общего драйвера. CPU и RAM — выделенные куски EPYC-хоста, никакого овербукинга на GPU-тарифах.
$550 за 32 ГБ RTX PRO 4500. $1200 за 96 ГБ Blackwell. Фиксированная цена в месяц. Полный passthrough GPU, безлимитная сеть 10G, настоящие инженеры в Telegram.