VectorRAG.Net: высокопроизводительная встраиваемая RAG-библиотека и векторный поиск для .NET

Нативная in-process векторная база данных для семантического поиска и RAG

VectorRAG.Net — это коммерческая библиотека для .NET, предоставляющая встраиваемую (in-process) векторную базу данных и инструменты семантического поиска, специально спроектированные для сценариев Retrieval-Augmented Generation (RAG).

Библиотека работает полностью внутри процесса приложения, без внешних сервисов, сетевых вызовов и сторонних баз данных, обеспечивая низкую задержку, предсказуемую производительность и полный контроль над памятью.

Архитектура и принципы проектирования

Встраиваемое ядро (embedded-first design)

В отличие от облачных векторных баз данных и отдельных сервисов, VectorRAG.Net работает внутри вашего приложения.

Это означает:

  • отсутствие сетевых вызовов
  • отсутствие JSON/HTTP сериализации
  • отсутствие внешней инфраструктуры
  • детерминированная латентность
  • нулевые зависимости от сторонних сервисов

Такая архитектура особенно эффективна для low-latency систем и локальных RAG-пайплайнов.

RAG-ориентированный дизайн

Библиотека изначально проектировалась для RAG-сценариев и включает:

  • встроенный chunking документов
  • метаданные и фильтрацию
  • гибридный поиск (vector + BM25)
  • сборку контекста для LLM
  • группировку результатов по документам

Ключевые возможности

1. Векторный поиск высокой производительности

  • ANN-поиск (Approximate Nearest Neighbors)
    LSH на основе случайных гиперплоскостей с настраиваемым балансом точности и скорости.
  • Точный reranking
    Косинусное и dot-product сравнение с SIMD-оптимизациями.
  • Гибридный поиск
    Комбинация:
    • векторного сходства
    • BM25 (лексического поиска)
  • Фильтрация по метаданным
    Предварительная фильтрация кандидатов до вычисления сходства.

2. RAG-специфичные функции

  • автоматический chunking документов (символьный и гибридный)
  • overlap между чанками
  • группировка результатов по исходным документам
  • генерация контекста для LLM (prompt assembly)
  • абстракция над embedding-провайдерами

3. Операционные возможности

  • snapshot-персистентность (сохранение/загрузка состояния)
  • runtime-метрики (latency, throughput, memory)
  • кеширование запросов
  • batch-upsert операций
  • потокобезопасные структуры данных

4. Производительность уровня production

  • стабильная latency под нагрузкой
  • параллельные операции без внешних блокировок
  • эффективное использование памяти (ArrayPool, минимальные аллокации в hot path)
  • масштабирование до миллионов векторов на одном узле

Производительность (ориентиры)

Векторный поиск (TopK=5, dim=64)

  • ~66,000 запросов/сек

Гибридный поиск (vector + BM25)

  • ~8,000–10,000 запросов/сек

Индексация

  • до ~50,000 документов/мин (в зависимости от embedding pipeline)

Память

  • ~несколько КБ на 1000 векторов (64D, без метаданных)

Важно: реальные значения зависят от размерности эмбеддингов (768–1536D) и нагрузки.

Масштабирование и поведение

  • линейная деградация latency при росте кандидатов
  • оптимизация под SIMD-инструкции
  • эффективная batch-обработка
  • отсутствие сетевых bottleneck’ов

Технические характеристики

Платформа

  • .NET 8+
  • Windows / Linux / macOS
  • x64 / ARM64

Эмбеддинги

  • любая размерность: 64–2048
  • OpenAI / ONNX / custom models / локальные LLM

Архитектура

  • полностью in-process
  • без внешних сервисов
  • файловая персистентность (snapshots)

Интеграция

  • NuGet пакет без зависимостей
  • DI-friendly дизайн
  • ASP.NET Core / Worker Services / Desktop apps
  • контейнеры и edge-сценарии

Опыт разработки

  • простой API, ориентированный на RAG-пайплайны
  • встроенные метрики и диагностика
  • расширяемые стратегии chunking и scoring
  • production-ready архитектура

Лицензирование

VectorRAG.Net — коммерческое ПО

Бесплатное использование

Разрешено бесплатно для:

  • оценки
  • тестирования
  • разработки
  • исследований
  • обучения
  • прототипирования (PoC)

✔ без ограничений по времени
✔ без функциональных ограничений
✔ без лимитов по объёму данных

Использование в production

Использование в продуктивной среде требует коммерческой лицензии.

Стоимость:

$1,000 USD / месяц за одну организацию

Сценарии применения

Финансы

  • семантический поиск по регуляторным документам
  • AML / KYC системы
  • аналитические базы знаний

E-commerce

  • semantic product search
  • recommendation systems
  • интеллектуальные каталоги

Enterprise

  • корпоративные knowledge bases
  • CRM/Support AI
  • поиск по внутренним документам

Healthcare / Legal

  • поиск по медицинским и юридическим текстам
  • анализ кейсов и документов
  • compliance systems

Преимущества

Технические

  • полностью in-process execution
  • отсутствие network latency
  • SIMD-оптимизация
  • предсказуемая производительность

Архитектурные

  • отсутствие внешних сервисов
  • простая интеграция
  • единый компонент вместо distributed stack

Бизнес

  • фиксированная стоимость лицензии
  • отсутствие pay-per-request модели
  • контроль данных внутри системы

Ресурсы

Поддержка и контакты

По вопросам лицензирования, интеграции или технической поддержки:

Telegram: @vipvodu

Итог

VectorRAG.Net — это in-process векторная база данных и RAG-движок для .NET, созданный для сценариев, где критичны:

  • низкая задержка
  • автономность
  • контроль памяти
  • отсутствие внешней инфраструктуры

Он не заменяет облачные векторные базы — он закрывает сценарии, где они избыточны.