Caz de utilizare cloud

Găzduire pipeline RAG și baze de date vectoriale

Găzduiți pipeline-uri de retrieval-augmented generation cu pgvector, Weaviate, Qdrant sau ChromaDB pe servere cloud dedicate. Pregătit pentru LangChain și LlamaIndex.

$4/mo

Preț de pornire

Centre de date globale

99.9%

SLA de uptime

24/7

Suport uman

De ce să găzduiți RAG pe OMC Cloud

RAG (Retrieval-Augmented Generation) combină datele voastre proprietare cu inteligența LLM. Necesită o bază de date vectorială pentru embedding-uri, putere de calcul pentru pipeline-ul de retrieval și, opțional, un GPU pentru stratul de inferență LLM. Serviciile RAG gestionate vă leagă de ele și taxează per interogare.

Găzduiți local întreaga stivă RAG pe OMC Cloud: PostgreSQL + pgvector pentru embedding-uri, LangChain sau LlamaIndex pentru orchestrare și, opțional, o instanță GPU pentru inferență LLM locală. Control complet asupra datelor, pipeline-ului și costurilor voastre.

Beneficii cheie

Control complet asupra stivei

Dețineți întregul pipeline RAG - embedding-uri, retrieval, generare.

pgvector și Weaviate

Rulați orice bază de date vectorială: pgvector, Weaviate, Qdrant, ChromaDB, Milvus.

Pregătit pentru LangChain

Instalați LangChain, LlamaIndex, Haystack sau orchestrare personalizată.

Confidențialitatea datelor

Documentele și embedding-urile voastre rămân pe serverul vostru. Fără acces din partea terților.

Performanță NVMe

Căutare rapidă de similaritate vectorială pe stocare bazată pe NVMe.

GPU opțional

Adăugați un GPU pentru inferență LLM locală alături de pipeline-ul RAG.

Backup-uri automate

14 puncte de restaurare zilnice pentru baza de date de embedding-uri.

Scalare la cerere

Începeți la scară mică, adăugați resurse pe măsură ce baza voastră de cunoștințe crește.

Cum funcționează

Alegeți

Selectați centrul de date, GPU/CPU, RAM, stocarea și sistemul de operare.

Implementați

Server gata în mai puțin de 60 de secunde prin consolă sau API.

Treceți live

Instalați-vă stiva, configurați, lansați cu suport 24/7.

Cloud vs. On-Premise vs. Partajat

Caracteristică	OMC Cloud	On-Premise	Partajat
Cost inițial	Niciunul - de la $4/mo	$5,000-50,000+	$5-20/mo
Performanță	NVMe dedicat	Dedicat, dar fix	Partajat
Scalare	Instant	Săptămâni	Limitat
Control	Acces root complet	Complet	Foarte limitat
Uptime	99.9% SLA	Depinde de tine	95-99%
Backup-uri	Automatizat, 14 puncte	Pe cont propriu	De bază
Acoperire globală	24 de centre de date	O singură locație	Partajat

Configurații recomandate

Niveluri reale din lista de prețuri. Scalați în sus sau în jos oricând.

Starter

/mo

2A.4GB · pe lună

• 2 vCPU (Intel Xeon)
• 4 GB RAM
• 40 GB NVMe
• 5,000 GB transfer

Implementați acum

Standard

/mo

4A.8GB · pe lună

• 4 vCPU (Intel Xeon)
• 8 GB RAM
• 80 GB NVMe
• 5,000 GB transfer

Implementați acum

Performanță

/mo

8A.16GB · pe lună

• 8 vCPU (Intel Xeon)
• 16 GB RAM
• 150 GB NVMe
• 5,000 GB transfer

Implementați acum

Specificații tehnice

Baze de date vectoriale: pgvector, Weaviate, Qdrant, ChromaDB, Milvus

Orchestrare: LangChain, LlamaIndex, Haystack

Embedding-uri: OpenAI, Cohere sau găzduit local (e5, BGE)

LLM: GPU opțional pentru Llama/Mistral local

Stocare: NVMe pentru căutare vectorială rapidă

CPU: Până la 104 vCPU

RAM: Până la 512 GB (important pentru indici mari)

Backup: 14 puncte de restaurare zilnice

Întrebări frecvente

Ce baze de date vectoriale pot rula?+

Oricare: pgvector (extensie PostgreSQL), Weaviate, Qdrant, ChromaDB, Milvus, alternativă la Pinecone. Acces root complet.

Am nevoie de un GPU pentru RAG?+

Nu neapărat. Pipeline-ul de retrieval rulează pe CPU. Aveți nevoie de GPU doar dacă doriți inferență LLM locală în locul unui API extern.

Câte date pot indexa?+

Depinde de RAM și de stocare. 4 GB RAM gestionează ~1M de vectori. 32 GB gestionează ~10M+. Stocarea NVMe se scalează până la terabytes.

Pot folosi LangChain?+

Da. Instalați LangChain, LlamaIndex, Haystack sau orice framework Python. Acces root complet.

Datele mele sunt private?+

Complet. RAG găzduit local înseamnă că documentele și embedding-urile voastre nu părăsesc niciodată serverul.

Cum se compară acest lucru cu serviciile RAG gestionate?+

Fără taxe per interogare, fără dependență de furnizor, confidențialitate completă a datelor. Controlați întreaga stivă.

Cazuri de utilizare conexe

Inferență LLM

LLM local pentru pipeline-ul RAG

Găzduire baze de date

PostgreSQL + pgvector

Agenți AI

Agenți AI alimentați de RAG

Începeți perioada de probă gratuită de 30 de zile

Implementați în mai puțin de 60 de secunde. Nu este necesar card de credit.

Începeți gratuit Vedeți prețurile