Chatbot εξυπηρέτησης πελατών σε eshop
Ένα κατάστημα με chatbot που απαντά για παραγγελίες χρειάζεται προστασία από prompt injection μέσω μηνυμάτων πελατών, ώστε να μην αποκαλύπτει στοιχεία άλλων παραγγελιών.
Ασφάλεια εφαρμογών LLM και AI
CyberSecurity · Ελλάδα
Έλεγχος βάσει OWASP Top 10 για εφαρμογές LLM
Η ασφάλεια εφαρμογών LLM αφορά προϊόντα που χρησιμοποιούν ένα μοντέλο γλώσσας στο runtime τους — chatbot, βοηθός, σύστημα RAG — όχι τον κώδικα που τα χτίζει. Ελέγχουμε βάσει του OWASP Top 10 για εφαρμογές LLM: prompt injection, ανασφαλή χειρισμό εξόδου, διαρροή ευαίσθητων δεδομένων, υπερβολική αυτονομία agent, και θέτουμε guardrails, έλεγχο πρόσβασης σε RAG και όρια χρήσης.
- Guardrails και redaction προσωπικών δεδομένων στην έξοδο
- AI red teaming με promptfoo και garak πριν την κυκλοφορία
- VPS 1–8 ώρες· dedicated 5–10 ώρες ανάλογα με το πλάνο· GPU 10 ώρεςΏρες CyberSecurity/μήνα
- Φρανκφούρτη, εντός ΕΕDatacenters
- σε EUR, με ΦΠΑ 24% διαχωρισμένο στο τιμολόγιοΧρέωση
- 10 ώρες CyberSecurity/μήνα, για workloads AIGPU servers
Τι είναι διαφορετικό στις απειλές μιας εφαρμογής LLM
Μια εφαρμογή που χρησιμοποιεί μοντέλο γλώσσας δέχεται είσοδο σε φυσική γλώσσα που το ίδιο το μοντέλο ερμηνεύει, κι αυτό ανοίγει κατηγορίες επίθεσης που δεν υπάρχουν σε κλασικό λογισμικό: prompt injection, όπου κρυμμένες οδηγίες μέσα στο περιεχόμενο κάνουν το μοντέλο να αγνοήσει τους αρχικούς κανόνες του, ανασφαλής χειρισμός εξόδου όταν η απάντηση του μοντέλου εκτελείται ή εμφανίζεται χωρίς επικύρωση, και υπερβολική αυτονομία όταν ένας agent έχει πρόσβαση σε ενέργειες πέρα από όσο πραγματικά χρειάζεται.
- Prompt injection: άμεσο και έμμεσο, μέσω περιεχομένου τρίτων
- Ανασφαλής χειρισμός εξόδου: output που εκτελείται χωρίς έλεγχο
- Excessive agency: agent με περισσότερα δικαιώματα από όσα χρειάζεται
Έλεγχος πρόσβασης σε συστήματα RAG
Σε ένα σύστημα RAG (Retrieval-Augmented Generation), το μοντέλο απαντά με βάση έγγραφα που ανακτά από τη βάση γνώσης σου — αν αυτή η ανάκτηση δεν σέβεται τα δικαιώματα πρόσβασης του χρήστη, το μοντέλο μπορεί να αποκαλύψει περιεχόμενο που ο χρήστης δεν έπρεπε να δει. Ρυθμίζουμε τον έλεγχο πρόσβασης στο επίπεδο ανάκτησης, όχι μόνο στο επίπεδο εφαρμογής, ώστε η βάση γνώσης να φιλτράρει έγγραφα πριν καν φτάσουν στο context του μοντέλου.
Guardrails, redaction και AI red teaming
Θέτουμε guardrails που ελέγχουν τόσο την είσοδο όσο και την έξοδο του μοντέλου — φιλτράρισμα προσπαθειών prompt injection, redaction προσωπικών δεδομένων πριν την απάντηση, και όρια ρυθμού για να αποφευχθεί κατάχρηση ή υπερβολικό κόστος. Πριν την κυκλοφορία, τρέχουμε AI red teaming με εργαλεία όπως promptfoo και garak, που δοκιμάζουν συστηματικά γνωστές τεχνικές επίθεσης πάνω στην εφαρμογή σου, ώστε να βρεις τις αδυναμίες πριν τις βρει κάποιος άλλος.
Καταγραφή, κλειδιά και ενημέρωση EU AI Act
Κρατάμε καταγραφή (logging) των prompts και των απαντήσεων, με προσοχή στο τι από αυτά περιέχει προσωπικά δεδομένα, ώστε να μπορείς να διερευνήσεις ένα περιστατικό ή να αποδείξεις συμμόρφωση. Προστατεύουμε τα κλειδιά API και τα μοντέλα από μη εξουσιοδοτημένη πρόσβαση όπως κάθε άλλο κρίσιμο μυστικό. Καθώς ο EU AI Act εφαρμόζεται σταδιακά, σε ενημερώνουμε ποιες υποχρεώσεις διαφάνειας ή τεκμηρίωσης αφορούν την κατηγορία της εφαρμογής σου, χωρίς να υποκαθιστούμε νομική συμβουλή.
Κάθε συνδρομή περιλαμβάνει μηνιαίες ώρες DevOps, Κυβερνοασφάλειας και Προγραμματισμού: 1 ώρα από το πακέτο cPanel Advanced και πάνω, 1–8 ώρες σε VPS και 5–10 ώρες σε αποκλειστικούς διακομιστές ανάλογα με το πλάνο και 10 ώρες σε GPU. Οι ώρες ζητούνται από τον πίνακα πελάτη, δεν μεταφέρονται στον επόμενο μήνα, και ό,τι ξεπερνά το όριο γίνεται δεκτό και χρεώνεται ξεχωριστά.
Περιπτώσεις χρήσης
Σύστημα RAG πάνω σε εσωτερικά έγγραφα
Μια εταιρεία συμβούλων στην Αθήνα με βοηθό RAG πάνω σε εσωτερικά έγγραφα πελατών χρειάζεται έλεγχο πρόσβασης ώστε κάθε χρήστης να βλέπει μόνο έγγραφα του δικού του πελάτη.
Agent αυτοματισμού με πρόσβαση σε ενέργειες
Μια πλατφόρμα που δίνει σε AI agent δικαίωμα να στέλνει emails ή να τροποποιεί εγγραφές περιορίζει τις ενέργειές του στο ελάχιστο απαραίτητο, ώστε μια επιτυχημένη επίθεση να έχει περιορισμένη ζημιά.
Πώς δουλεύουμε
Ζητάς τον έλεγχο από το πάνελ
Ανοίγεις αίτημα στην ενότητα Υπηρεσίες CyberSecurity και μας περιγράφεις την εφαρμογή LLM σου: chatbot, RAG, agent ή συνδυασμό.
Χαρτογραφούμε τις ροές δεδομένων
Καταγράφουμε πού μπαίνει είσοδος χρήστη, τι ανακτά το σύστημα RAG και ποιες ενέργειες μπορεί να εκτελέσει ένας agent, ως βάση για τον έλεγχο.
Εφαρμόζουμε guardrails και AI red teaming
Ρυθμίζουμε φιλτράρισμα εισόδου/εξόδου, έλεγχο πρόσβασης RAG και τρέχουμε δοκιμές prompt injection με promptfoo και garak.
Παραδίδουμε report και παρακολουθούμε
Λαμβάνεις report με ευρήματα και διορθώσεις, και συνεχίζουμε να παρακολουθούμε logging και όρια χρήσης μετά την κυκλοφορία.
Τεχνολογίες
- OWASP LLM Top 10
- promptfoo
- garak
- RAG access control
- PII redaction
- Prompt logging
- Rate limiting
- EU AI Act awareness
Συχνές ερωτήσεις
Τι είναι το prompt injection;
Είναι μια τεχνική όπου κρυμμένες οδηγίες μέσα στην είσοδο χρήστη ή σε περιεχόμενο που ανακτά το σύστημα κάνουν το μοντέλο να αγνοήσει τους αρχικούς κανόνες του και να εκτελέσει διαφορετική ενέργεια — άμεσα, μέσα στο μήνυμα του χρήστη, ή έμμεσα, μέσα σε ένα έγγραφο που το μοντέλο διαβάζει.
Πώς προστατεύω ένα σύστημα RAG από διαρροή δεδομένων;
Ο έλεγχος πρόσβασης πρέπει να εφαρμόζεται στο επίπεδο ανάκτησης, όχι μόνο στην απάντηση: το σύστημα δεν πρέπει καν να ανακτά έγγραφα που ο συγκεκριμένος χρήστης δεν έχει δικαίωμα να δει, ώστε να μη φτάνουν ποτέ στο context του μοντέλου.
Τι είναι το AI red teaming;
Είναι συστηματική δοκιμή της εφαρμογής LLM με γνωστές τεχνικές επίθεσης — prompt injection, jailbreak προσπάθειες, εξαγωγή ευαίσθητων δεδομένων — χρησιμοποιώντας εργαλεία όπως promptfoo και garak, πριν την εφαρμογή φτάσει σε πραγματικούς χρήστες.
Χρειάζεται η εφαρμογή μου συμμόρφωση με τον EU AI Act;
Εξαρτάται από την κατηγορία ρίσκου της εφαρμογής σου, που καθορίζεται από τη χρήση της, όχι μόνο από την τεχνολογία. Σε ενημερώνουμε ποιες υποχρεώσεις διαφάνειας ή τεκμηρίωσης φαίνεται να αφορούν το προϊόν σου, αλλά για δεσμευτική νομική εκτίμηση χρειάζεσαι νομικό σύμβουλο.
Τι είναι το guardrail σε μια εφαρμογή LLM;
Είναι ένας έλεγχος που τρέχει πριν ή μετά την κλήση στο μοντέλο: φιλτράρισμα εισόδου για γνωστά μοτίβα επίθεσης, έλεγχος εξόδου για διαρροή ευαίσθητων δεδομένων ή απαγορευμένο περιεχόμενο, και όρια στο τι μπορεί να εκτελέσει ένας agent χωρίς ανθρώπινη επιβεβαίωση.
Πώς διαφέρει αυτό από την ασφάλεια κώδικα AI;
Η ασφάλεια κώδικα AI αφορά τον δικό σου κώδικα και την εφοδιαστική αλυσίδα του — τι γράφεις ή τι εξαρτήσεις χρησιμοποιείς. Η ασφάλεια εφαρμογών LLM αφορά το runtime μιας εφαρμογής που ήδη χρησιμοποιεί μοντέλο γλώσσας: πώς χειρίζεται είσοδο χρηστών, ανάκτηση δεδομένων και ενέργειες agent. Μπορείς να χρειάζεσαι και τα δύο ταυτόχρονα.
Χτίζεις εφαρμογή με LLM ή RAG;
Περίγραψέ μας τη ροή δεδομένων της εφαρμογής σου και ρυθμίζουμε guardrails, έλεγχο πρόσβασης και AI red teaming πριν την κυκλοφορία, με τις ώρες CyberSecurity που έχεις ήδη στο πλάνο.