Свой AI — на вашем GPU, с вашими данными
Разверните LLM или готовую AI-платформу на облачном GPU за час: корпоративный чат-бот, RAG по внутренним документам, AI-фичи в вашем продукте. Данные не покидают ваш сервер, а счёт — почасовой и предсказуемый.
Зачем свой AI, когда есть ChatGPT
Два мотива, с которыми не спорят: приватность данных и экономика на масштабе.
-
Приватность
Внутренние документы, клиентские данные, код, договоры — то, что нельзя отправлять во внешние API. Self-hosted LLM работает в изолированном контуре: ваш GPU, ваша сеть, ваш Firewall. Никаких «данные могут использоваться для обучения».
-
Экономика на масштабе
API-биллинг растёт с каждым запросом; свой GPU стоит фиксированно: от ≈$80.96/мес в режиме рабочего дня (8×5) до ≈$331.20/мес круглосуточно (GPU от $0.46/час). На стабильном потоке запросов это в разы дешевле API, а для неравномерной нагрузки — почасовая оплата: включили на день, выключили на ночь.
Готовые образы — AI за один клик
Образы из Marketplace поднимают рабочий AI-стек за минуты, без борьбы с драйверами.
-
Dify Premium
Low-code платформа для AI-приложений: визуальные workflow, RAG-пайплайны по вашим документам, API для интеграций, подключение любых моделей. Фактически — конструктор корпоративного AI-ассистента.
-
Qwen3-VL-32B
Мощная открытая мультимодальная модель: текст + изображения, OCR, reasoning. Распознавание документов, анализ изображений, чат-бот — без лицензионных платежей за модель.
-
Ollama + открытые модели
Простейший способ запустить Llama, DeepSeek или любую открытую модель: образы Ollama, DeepSeek, Llama уже в Marketplace — GPU-инстанс с готовым inference за минуты.
-
Планируете другое?
vLLM (продакшен-inference), ComfyUI (генерация изображений), Whisper (распознавание речи) — разворачиваются на чистом GPU-инстансе; CUDA и драйверы предустановлены.
Какой GPU под какую модель
Практическая шпаргалка — ответ на топ-запрос «какая видеокарта нужна для LLM».
| Задача | Модель (примеры) | Рекомендуемый GPU | Цена |
|---|---|---|---|
| Старт: чат-бот / RAG для команды | 7–8B (Llama 3.1 8B, Qwen 8B) | RTX PRO 4500 Blackwell (32 GB) | $0.69/час · 8×5 ≈$121.44/мес |
| Ассистент, анализ документов | 30–70B квантованные | A100 80 GB / RTX PRO 6000 Blackwell (96 GB) | от $1.30/час |
| Мультимодальность (текст + изображения) | Qwen3-VL-32B | A100 80 GB | $1.30/час |
| Fine-tuning / дообучение | LoRA / QLoRA на 7–70B | H100 | $2.40/час |
| Большие модели без квантования | 70B+ fp16 (Llama 3.1 70B) | Multi-GPU: 2–4× A100 / H100 | индивидуально |
| Генерация изображений | SDXL, Flux | RTX PRO 4500 Blackwell / L40S | от $0.69/час |
Не уверены — начните с меньшего GPU на час (от $0.46) и замерьте скорость на своей задаче. Это дешевле любой консультации. Полный прайс всех карт — Cloud GPU
Типовая архитектура корпоративного AI
Всё — в одной приватной сети (VPC), наружу только интерфейс. Firewall бесплатный.
-
Сотрудники / ваше приложение
-
Dify на Cloud Instance — оркестрация, RAG, права доступа
-
LLM на GPU-инстансе — Qwen / Llama, vLLM
-
Object Storage (S3) — документы для RAG, веса моделей, датасеты
Запросы не выходят за пределы вашей инфраструктуры — это главное отличие от API OpenAI, Google или Anthropic.
Частые вопросы
Посоветоваться по конфигурацииВаш AI-ассистент может работать уже сегодня
Образ из Marketplace + GPU почасово = рабочий прототип за час. Понравится — масштабируете, нет — выключите, заплатив за часы теста.
Новые публикации
Всё необходимое для создания стабильной, безопасной и масштабируемой среды
Чек-лист передачи on-call смены в cloud: как обеспечить надежную поддержку 24/7 и быстрее закрывать инциденты
Практичный чек-лист передачи on-call смены в cloud, который снижает потери контекста, помогает не пропускать критичные сигналы и ускоряет решение инцидентов.
План change freeze и rollback для безопасных релизов в production: как снизить риск сбоев при критичных обновлениях
Практичный подход к change freeze и rollback, который помогает сохранить стабильность production, доступность клиентских сервисов и быстро восстановиться при неудачном обновлении.
Плейбук планирования cloud maintenance window для стабильных обновлений сервиса: меньше сбоев и стабильная работа клиентов
Практичный плейбук cloud maintenance window: как безопасно планировать обновления, снижать риск сбоев и сохранять предсказуемость клиентских операций.
Плейбук тестирования disaster recovery для cloud instance: подтвердите готовность к восстановлению до реального сбоя
Практичный плейбук тестирования cloud disaster recovery, который помогает подтвердить готовность к восстановлению, снизить риски и сохранить доступность клиентских сервисов при критических сбоях.
Runbook реагирования на cloud-инциденты для быстрого восстановления сервиса: меньше простоя и стабильный клиентский опыт
Практичный runbook реагирования на cloud-инциденты, который сокращает простой, ускоряет восстановление и помогает удерживать стабильную работу клиентских сервисов.
Календарь capacity planning для cloud instance: как удерживать быстрые сервисы в пиковые периоды роста
Практичный ежемесячный календарь planning мощностей cloud instance для стабильной скорости сервисов в периоды пикового спроса и контролируемых расходов.
Плейбук по rightsizing cloud instance и контролю затрат: как удержать производительность и снизить ежемесячные расходы
Практичный плейбук по rightsizing cloud instance для снижения ежемесячных расходов при стабильной производительности сервисов.
Чеклист multi-region failover для OpenStack + Kubernetes: стабильность клиентских сервисов
Практичный чеклист multi-region failover для OpenStack и Kubernetes с фокусом на стабильность клиентских сервисов.
Чеклист multi-region failover для OpenStack + Kubernetes: стабильность клиентских сервисов
Практичный чеклист multi-region failover для OpenStack и Kubernetes с фокусом на стабильность клиентских сервисов.
Базовый мониторинг и алертинг для cloud instances: как предотвратить «тихие» сбои до влияния на клиентов
Практичный базовый контур мониторинга и алертинга cloud instances для раннего обнаружения сбоев и снижения времени простоя.