Ollama

Опис
Ollama у OneCloudPlanet — найпростіший спосіб запустити власну LLM: одна команда — і модель працює на вашому GPU-сервері. У комплекті Open WebUI — чат-інтерфейс у браузері для всієї команди.

Що таке Ollama?
Ollama — найпопулярніший інструмент для локального запуску відкритих моделей: Llama, Qwen, DeepSeek, Mistral, Gemma. Одна команда ollama run завантажує та запускає модель; API сумісне з OpenAI — інтегруйте в застосунки без переписування коду.

Чому Ollama у OneCloudPlanet?
Приватність: запити й дані не виходять за межі вашого інстанса.
Рекомендована конфігурація: GPU 48 GB (L40S/RTX 6000 Ada) для моделей 7–14B; A100 80 GB — для 32B+. Тарифи — на сторінці Cloud GPU.
Погодинна оплата: експеримент на вечір — пара доларів.
Open WebUI в комплекті: чат для команди без додаткових налаштувань.

Як запустити в OneCloudPlanet
1) Увійдіть у console.ocplanet.cloud
2) Відкрийте Marketplace і оберіть Ollama
3) Оберіть конфігурацію та локацію (Україна, Польща, Нідерланди)
4) Дочекайтеся деплою та відкрийте вебінтерфейс
5) Змініть стандартні облікові дані

Чеклист після деплою
• Завантажте першу модель: ollama pull llama3.1
• Закрийте порти через безкоштовний Firewall — доступ лише вашій команді
• Підключіть застосунки через OpenAI-сумісний API
• Для RAG по документах додайте Dify з Marketplace

Часті питання
Які моделі можна запускати? Будь-які з каталогу Ollama: Llama, Qwen, DeepSeek, Mistral, Gemma та сотні інших.
Чи потрібен GPU? Малі моделі (1–3B) працюють і на CPU-інстансі, але для комфортної швидкості рекомендуємо GPU.