AI-инфраструктура промышленного уровня
Векторные базы данных и GPU-серверы — два столпа современных AI-стеков, и у нас есть и то, и другое. Qdrant или ChromaDB — для эмбеддингов, RAG и семантического поиска; GPU-серверы — для обучения, дообучения и инференса ваших собственных моделей. Ваши данные остаются в ЕС, в счетах указывается НДС ЕС с механизмом reverse charge для B2B, а соответствие GDPR обеспечено с первой минуты.
Векторные базы данных — RAG, эмбеддинги, поиск
Векторные базы данных — основа приложений на базе LLM. Они хранят эмбеддинги документов и находят похожие за миллисекунды. Выберите нужную базу — мы размещаем все в ЕС и выставляем счета с НДС ЕС. В каждой предустановлен клиент для Python и примеры ноутбуков Jupyter.
Qdrant
Написана на Rust, высокая производительность, готова к продакшену. Идеальна для RAG-приложений с миллионами эмбеддингов. Индекс HNSW, фильтрация по метаданным, снапшоты.
ChromaDB
Самая простая в использовании векторная база. Отлично подходит для прототипов и небольших AI-приложений. Ориентирована на Python, автоматические эмбеддинги от OpenAI или Sentence Transformers.
Weaviate
Схема данных с метаданными. Гибридный поиск (вектор + фильтр по тегам). Встроенные модули генеративного AI, API GraphQL.
pgvector
Расширение для PostgreSQL. Если вы уже используете Postgres, добавьте векторы без новой базы данных. Полная интеграция с существующими таблицами и транзакциями SQL.
GPU-серверы — RTX PRO 4000 и RTX PRO 6000
Профессиональные карты NVIDIA с готовой средой CUDA. Для дообучения, инференса LLM, компьютерного зрения и 3D-рендеринга. Оплата помесячно или за год, каждый месяц включено 10 часов DevOps. На всех GPU предустановлены CUDA 12.4, cuDNN 9, PyTorch 2.4, TensorFlow 2.18, JAX, Hugging Face Transformers.
Стоимость типичных AI-нагрузок
Примеры сценариев и их месячная стоимость на нашей инфраструктуре. Цены берутся в реальном времени из актуальных тарифов, без НДС. По сравнению с тарифами OpenAI / AWS Bedrock / Anthropic — во многих случаях собственная инфраструктура окупается при 50–100 тыс. запросов в месяц.
| AI-нагрузка | Конфигурация | Стоимость/мес. |
|---|---|---|
| RAG для 1 млн документов (чат по документам) | VPS 32G + Qdrant + OpenAI API | от 240 EUR |
| Семантический поиск для магазина (50 тыс. SKU) | VPS 16G + pgvector + Sentence Transformers | от 100 EUR |
| Инференс Llama 3 70B (~5 тыс. запросов/день) | GPU-сервер RTX PRO 6000 + vLLM | от 4 000 EUR |
| Обучение собственной модели OCR (CV) | GPU-сервер RTX PRO 4000 (помесячно) | от 800 EUR |
| Продакшен-LLM 70B с балансировкой нагрузки | 2× GPU-сервер RTX PRO 6000 + Kubernetes | от 8 000 EUR |
AI-конвейер в продакшене — 5 этапов
Вот как выглядит типичный AI-проект в продакшене — от идеи до работающего приложения. Для каждого этапа у нас есть готовая инфраструктура и отработанные решения, которые не придётся изобретать с нуля.
Подготовка данных
Индексация документов, очистка текста, нормализация. Скрипты Python на VPS, результат — в MinIO (совместим с S3) или PostgreSQL.
Генерация эмбеддингов
OpenAI text-embedding-3-large, Cohere или локальная модель (Sentence Transformers, BGE-M3). Эмбеддинги записываются в Qdrant или pgvector.
Поиск + RAG
Приложение на FastAPI/Next.js отправляет вопрос, векторная база возвращает top-K документов, контекст добавляется в промпт LLM.
Инференс LLM
На выбор: Claude/GPT через API (самый быстрый старт) или локальная LLM на GPU (полный контроль, ниже стоимость при больших объёмах).
Мониторинг и оценка
Логи запросов — в Loki, задержки — в Prometheus, расходы на OpenAI — в Grafana. Оценка качества через LangSmith или ваш собственный бенчмарк.
Что можно построить
Корпоративный ассистент (RAG)
Проиндексируйте документы компании в Qdrant, подключите Claude или GPT через API и получайте ответы с учётом контекста. Низкая задержка ответа. Многоязычные эмбеддинги, токенизатор настроен под ваш язык.
Семантический поиск
Вместо поиска по ключевым словам — поиск по смыслу. Покупатели интернет-магазинов дают рост конверсии на 30 % и более. Хорошо справляется с языками со сложной морфологией.
Собственная LLM (Llama, Mistral)
Ваша собственная модель на GPU-сервере. Никакие данные не отправляются в OpenAI/Anthropic. Полный контроль, соответствие GDPR. vLLM или Ollama для удобного инференса.
Компьютерное зрение в продакшене
Обнаружение дефектов, OCR, распознавание объектов. Обучение на вашем собственном датасете на RTX PRO 6000. YOLO, Detectron2, Segment Anything Model.
Соответствие GDPR для AI-приложений
AI — чувствительная область с точки зрения GDPR: обучающие данные, эмбеддинги, логи запросов. Наше решение минимизирует риски: все данные остаются в ЕС, а вы полностью контролируете обработку.
- Все данные (документы, эмбеддинги, логи) — в ЦОД ЕС, без передачи в США, Великобританию или Азию
- Возможность использовать локальные LLM (Llama, Mistral) вместо OpenAI/Anthropic — без передачи данных в США
- Логи запросов хранятся не дольше 90 дней, с досрочным удалением по запросу
- Эмбеддинги — производные данные: полное удаление возможно повторной индексацией после анонимизации источника
- Журнал аудита каждого обращения к векторной базе (кто, когда, какой запрос)
- Бесплатное Соглашение об обработке данных (DPA) в соответствии со статьёй 28 GDPR
Часто задаваемые вопросы
Можно ли использовать OpenAI / Anthropic с векторной базой в ЕС?
Да. Векторная база (Qdrant/ChromaDB) остаётся у нас в ЕС. В LLM вы отправляете только top-K контекст и вопрос пользователя. В наших примерах показано, как свести передачу данных к минимуму.
Модель какого размера можно запустить на ваших GPU?
Llama 3 8B / Mistral 7B уверенно работают на RTX PRO 4000 (24 GB), которая подходит для моделей до примерно 14B параметров. Для Llama 3 70B нужна RTX PRO 6000 (96 GB). Mixtral 8x22B и крупнее — несколько GPU-серверов. Мы поможем с выбором.
Сколько времени занимает настройка AI-среды?
Среда предустановлена — CUDA, PyTorch, TF, vLLM, Ollama. Первый инференс — через 5 минут. Для нестандартных конфигураций (конкретная модель, дообучение) обычно 1–3 часа с нашей помощью.
Поддерживаете ли вы дообучение собственных моделей?
Да. RTX PRO 6000 (96 GB VRAM) справляется с дообучением моделей до 70B методами LoRA/QLoRA. RTX PRO 4000 (24 GB) подходит для лёгкого дообучения малых моделей. Полное обучение моделей класса GPT на одном GPU-сервере не помещается.
Можно ли использовать Pinecone, если Qdrant размещён у вас?
Да. Pinecone — внешний сервис с оплатой по использованию; Qdrant работает на вашем собственном VPS в ЕС, данные не покидают ваш сервер, а стоимость равна фиксированной месячной цене VPS. Миграцию с Pinecone на Qdrant мы выполняем за счёт включённых часов DevOps.
Выберите GPU или VPS с векторной базой данных
GPU-серверы с RTX PRO 4000 или RTX PRO 6000 и VPS с предустановленным Qdrant; актуальные цены — на странице тарифов. GPU оплачиваются помесячно или за год, включено 10 часов DevOps в месяц.
Смотреть тарифы GPU →