Δικηγορικό γραφείο από την Αθήνα
Ένα γραφείο κάνει indexing σε συμβόλαια και υποθέσεις, με φιλτράρισμα ανά πελάτη και επίπεδο εμπιστευτικότητας, ώστε ένας δικηγόρος να μην παίρνει αποσπάσματα από φακέλους άλλου τμήματος.
Vector database Qdrant και ChromaDB Ελλάδα
Υπηρεσίες DevOps · AI και RAG · Ελλάδα
Τα έγγραφα μένουν στην ΕΕ, στο δικό σας server
Μια vector database κρατά τις αριθμητικές αναπαραστάσεις των εγγράφων σας και βρίσκει τα σχετικά αποσπάσματα για μια ερώτηση. Εγκαθιστούμε και λειτουργούμε Qdrant, ChromaDB ή pgvector στους servers σας στη Φρανκφούρτη, μαζί με το pipeline embeddings και την υβριδική αναζήτηση. Τα έγγραφα δεν φεύγουν από την υποδομή σας, και τα μοντέλα embeddings μπορούν να τρέχουν τοπικά, σε GPU servers.
- Τοπικά embeddings, προαιρετικά σε GPU server
- Υβριδική αναζήτηση και φιλτράρισμα σε metadata
- VPS 1–8 ώρες/μήνα· dedicated 5–10 ώρες/μήνα ανάλογα με το πλάνο· GPU 10 ώρες/μήναΏρες που περιλαμβάνονται
- Φρανκφούρτη, δεδομένα στην ΕΕDatacenters
- NVIDIA RTX PRO 4000, RTX PRO 6000GPU διαθέσιμα
- GDPR, σύμβαση επεξεργασίας άρθρο 28, SCC για μεταφορέςΣυμμόρφωση
Τι χτίζουμε για ένα RAG που δουλεύει
Ένα chatbot που απαντά από τα έγγραφα της εταιρείας χρειάζεται περισσότερα από μια vector database. Χτίζουμε ολόκληρη την αλυσίδα: εξαγωγή από PDF, συμβόλαια ή εσωτερικές σελίδες, τεμαχισμό με ελεγχόμενη επικάλυψη, δημιουργία embeddings, indexing στο Qdrant και υβριδική αναζήτηση, που συνδυάζει σημασιολογική εγγύτητα με ακριβή λεξιλογική αντιστοίχιση. Προσθέτουμε φιλτράρισμα σε metadata, ώστε ένας χρήστης να μην παίρνει αποσπάσματα από έγγραφα στα οποία δεν έχει δικαίωμα πρόσβασης.
- Επαναλαμβανόμενο pipeline ingestion, με re-indexing σε κάθε ενημέρωση εγγράφων
- Υβριδική αναζήτηση: vectors συν λεξιλογική αντιστοίχιση για ακριβείς όρους
- Φιλτράρισμα σε metadata: τμήμα, πελάτης, επίπεδο εμπιστευτικότητας
- Αξιολόγηση ποιότητας απαντήσεων σε σύνολο πραγματικών ερωτήσεων
Βέλτιστες πρακτικές που εφαρμόζουμε στο RAG
Τα έργα RAG αποτυγχάνουν σπάνια λόγω του μοντέλου· αποτυγχάνουν λόγω δεδομένων και πρόσβασης. Η λίστα που ακολουθεί εφαρμόζεται σε κάθε παράδοση και γράφεται στη δική σας τεκμηρίωση, μαζί με το σύνολο ερωτήσεων που μετράμε την ποιότητα απαντήσεων. Χωρίς μια σταθερή μέτρηση από την αρχή, κάθε αλλαγή σε μοντέλο, τεμαχισμό ή παραμέτρους αναζήτησης μοιάζει βελτίωση, αλλά κανείς στην ομάδα δεν μπορεί να το αποδείξει.
- Πρόσβαση μόνο σε ιδιωτικό δίκτυο ή VPN, με API keys ανά καταναλωτή
- Περιοδικά snapshots των collections, με δοκιμασμένη επαναφορά
- Quantization των vectors όπου μειώνει τη μνήμη χωρίς απώλεια σχετικότητας
- Υποχρεωτικό φιλτράρισμα metadata, ώστε οι απαντήσεις να σέβονται τα δικαιώματα πρόσβασης
- Ανωνυμοποίηση προσωπικών δεδομένων πριν το indexing, όταν ο σκοπός δεν τα απαιτεί
Δεδομένα στην ΕΕ, AI Act και GDPR
Ο κύριος λόγος που ελληνικές ομάδες φέρνουν το RAG τους σε δική τους υποδομή είναι ο έλεγχος των δεδομένων. Τα έγγραφα μένουν στη Φρανκφούρτη, τα embeddings μπορούν να παράγονται τοπικά σε GPU server, και αν παρόλα αυτά χρησιμοποιήσετε εξωτερικό μοντέλο, σας δείχνουμε ακριβώς ποια αποσπάσματα φεύγουν. Παίρνετε σύμβαση επεξεργασίας κατά το άρθρο 28 και SCC για μεταφορές, και η λειτουργία μας είναι ευθυγραμμισμένη με το πλαίσιο ISO 27001. Για τη συζήτηση περί AI Act, μετράει ότι μπορείτε να τεκμηριώσετε τη διαδρομή των δεδομένων.
Οι ώρες που περιλαμβάνονται και οι GPU servers
Η εγκατάσταση, το αρχικό indexing και το tuning μπαίνουν στις μηνιαίες ώρες της συνδρομής: 1–8 ώρες σε VPS, 5–10 ώρες σε dedicated servers ανάλογα με το πλάνο και 10 ώρες σε GPU servers. Τις ζητάτε από τον πίνακα πελάτη, στις Υπηρεσίες DevOps, με προθεσμία που προτείνετε. Για μοντέλα embeddings που τρέχουν τοπικά, προτείνουμε GPU server, όπου η ποσόστωση των 10 ωρών καλύπτει συνήθως τη ρύθμιση και τα re-indexing. Οι ώρες δεν μεταφέρονται· ό,τι ξεπερνά την ποσόστωση τιμολογείται ξεχωριστά.
Κάθε συνδρομή περιλαμβάνει μηνιαίες ώρες DevOps, Κυβερνοασφάλειας και Προγραμματισμού: 1 ώρα από το πακέτο cPanel Advanced και πάνω, 1–8 ώρες σε VPS και 5–10 ώρες σε αποκλειστικούς διακομιστές ανάλογα με το πλάνο και 10 ώρες σε GPU. Οι ώρες ζητούνται από τον πίνακα πελάτη, δεν μεταφέρονται στον επόμενο μήνα, και ό,τι ξεπερνά το όριο γίνεται δεκτό και χρεώνεται ξεχωριστά.
Περιπτώσεις χρήσης
AI εταιρεία από τη Θεσσαλονίκη
Μια ομάδα που παραδίδει chatbots για πελάτες τρέχει ξεχωριστό collection ανά πελάτη πάνω στο ίδιο Qdrant, με διακριτά API keys και ημερήσια snapshots.
Βιομηχανία με τεχνική τεκμηρίωση
Μια βιομηχανική μονάδα βάζει τα εγχειρίδια και τα φύλλα ανταλλακτικών σε vector index, ώστε το τμήμα service να βρίσκει τη σωστή διαδικασία χωρίς να ψάχνει στο αρχείο PDF.
Πώς δουλεύουμε
Ζητάτε το έργο από τον πίνακα
Μας λέτε ποια έγγραφα θέλετε να ερωτάτε, σε τι όγκο και ποιος πρέπει να έχει πρόσβαση, και προτείνετε προθεσμία από τον πίνακα πελάτη.
Ορίζουμε πεδίο και προθεσμία
Επιλέγουμε vector database και μοντέλο embeddings κατάλληλα για τον όγκο σας, ορίζουμε το σύνολο αξιολόγησης και εκτιμάμε τις ώρες.
Παραδίδουμε και μετράμε τη σχετικότητα
Κάνουμε indexing στα έγγραφα, στήνουμε υβριδική αναζήτηση και φιλτράρισμα metadata, τρέχουμε την αξιολόγηση και ρυθμίζουμε τον τεμαχισμό μέχρι σταθερά αποτελέσματα.
Παραδίδουμε με τεκμηρίωση
Παίρνετε το pipeline στο δικό σας repository, το schema των collections, τους κανόνες πρόσβασης, τη διαδικασία re-indexing και την αναφορά αξιολόγησης.
Τεχνολογίες
- Qdrant
- ChromaDB
- pgvector
- PostgreSQL
- Ollama
- vLLM
- LiteLLM
- Prometheus
- Grafana
Συχνές ερωτήσεις
Qdrant ή Chroma: ποιο είναι καλύτερο για RAG;
Το Chroma είναι βολικό για prototypes και μικρούς όγκους, εγκαθίσταται σε λίγα λεπτά. Το Qdrant αντέχει καλύτερα σε παραγωγή: γρήγορο φιλτράρισμα metadata, quantization, snapshots, replication. Αν το έργο περνά τη φάση επίδειξης, ξεκινάμε απευθείας με Qdrant.
Τι είναι μια vector database;
Είναι μια βάση που αποθηκεύει vectors, δηλαδή αριθμητικές αναπαραστάσεις κειμένων ή εικόνων, και βρίσκει γρήγορα τα στοιχεία πιο κοντά σε ένα ερώτημα. Αυτό επιτρέπει αναζήτηση με βάση το νόημα, όχι μόνο ταυτόσημες λέξεις, και είναι το θεμέλιο κάθε συστήματος RAG.
Πώς φιλοξενώ δικό μου RAG σύστημα;
Χρειάζεστε ένα VPS ή server με αρκετή RAM για τη vector database, ένα pipeline εξαγωγής και τεμαχισμού εγγράφων, ένα μοντέλο embeddings και, προαιρετικά, GPU αν θέλετε τα embeddings ή το τελικό μοντέλο να τρέχουν τοπικά. Τα στήνουμε όλα στους servers σας στη Φρανκφούρτη.
Χρειάζομαι GPU για vector database;
Όχι πάντα. Για σπάνια re-indexing, ένα VPS αρκεί. Το GPU δικαιολογείται σε συχνά re-indexing, μεγάλους όγκους εγγράφων ή όταν θέλετε να τρέχετε τοπικά και το μοντέλο που παράγει την απάντηση, ώστε τίποτα να μη βγαίνει από τη δική σας υποδομή.
pgvector ή Qdrant;
Το pgvector ταιριάζει αν έχετε ήδη PostgreSQL και μερικές δεκάδες χιλιάδες αποσπάσματα: ένα μόνο σύστημα προς διαχείριση, κοινό backup. Το Qdrant γίνεται καλύτερο σε μεγάλους όγκους, πολύπλοκο φιλτράρισμα metadata και σταθερή κίνηση αναζητήσεων, γιατί είναι σχεδιασμένο ακριβώς γι' αυτό.
Πώς ξέρω αν οι απαντήσεις είναι σωστές;
Ορίζουμε από την αρχή ένα σύνολο ερωτήσεων με αναμενόμενες απαντήσεις και μετράμε πάνω σε αυτό, πριν και μετά από κάθε αλλαγή τεμαχισμού, μοντέλου ή παραμέτρων αναζήτησης. Χωρίς μέτρηση, κάθε ρύθμιση μοιάζει βελτίωση και κανείς δεν μπορεί να αποδείξει το αντίθετο.
Θέλετε ένα RAG που δεν βγάζει τα έγγραφά σας από την εταιρεία;
Μας λέτε τι θέλετε να ερωτάτε και προτείνουμε τη vector database, το μοντέλο embeddings και το πλάνο αξιολόγησης, με τις ώρες που περιλαμβάνει η συνδρομή σας.