You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
Copy file name to clipboardExpand all lines: 2_0_vulns/translations/el-GR/LLM00_Preface.md
+4-1Lines changed: 4 additions & 1 deletion
Display the source diff
Display the rich diff
Original file line number
Diff line number
Diff line change
@@ -12,7 +12,7 @@
12
12
13
13
Προσθέσαμε επίσης την απειλή **Διαρροή Προτροπής Συστήματος (System Prompt Leakage)** για να καλύψουμε μια περιοχή που έχει διαπιστωθεί εκμετάλευση αδυναμιών και ζητήθηκε έντονα από την κοινότητα. Πολλές εφαρμογές υπέθεσαν ότι οι προτροπές ήταν ασφαλώς απομονωμένες, αλλά πρόσφατα περιστατικά έδειξαν ότι οι προγραμματιστές δεν μπορούν να υποθέσουν με ασφάλεια ότι οι πληροφορίες σε αυτές τις προτροπές παραμένουν μυστικές.
14
14
15
-
Η απειλή **Υπερβολική Εξουσιοδότηση (Excessive Agency)** έχει επεκταθεί, δεδομένης της αυξημένης χρήσης της αρχιτεκτονικής πρακτόρων που μπορεί να δώσει στα LLM μεγαλύτερη αυτονομία. Με τα LLM που ενεργούν ως πράκτορες ή σε περιβάλλοντα plug-in, τα μη ελεγχόμενα δικαιώματα μπορούν να οδηγήσουν σε ακούσιες ή επικίνδυνες ενέργειες, καθιστώντας αυτή την απειλή πιο κρίσιμη από ποτέ.
15
+
Η απειλή **Υπερβολική Αυτενέργεια (Excessive Agency)** έχει επεκταθεί, δεδομένης της αυξημένης χρήσης της αρχιτεκτονικής πρακτόρων που μπορεί να δώσει στα LLM μεγαλύτερη αυτονομία. Με τα LLM που ενεργούν ως πράκτορες ή σε περιβάλλοντα plug-in, τα μη ελεγχόμενα δικαιώματα μπορούν να οδηγήσουν σε ακούσιες ή επικίνδυνες ενέργειες, καθιστώντας αυτή την απειλή πιο κρίσιμη από ποτέ.
Αναγνωρίζοντας τον τεχνικό και κρίσιμο χαρακτήρα του OWASP Top 10 for Large Language Model Applications, επιλέξαμε συνειδητά να χρησιμοποιήσουμε μόνο φυσικούς μεταφραστές για τη δημιουργία αυτής της μετάφρασης. Οι μεταφραστές που αναφέρονται παραπάνω δεν έχουν μόνο βαθιά τεχνική γνώση του αρχικού περιεχομένου, αλλά και την ευχέρεια που απαιτείται για να επιτύχει αυτή η μετάφραση.
Σε ένα σύστημα που βασίζεται σε LLM παρέχεται συχνά από τον προγραμματιστή του ένας βαθμός εξουσιοδότησης - η δυνατότητα κλήσης λειτουργιών ή διασύνδεσης με άλλα συστήματα μέσω επεκτάσεων (μερικές φορές αναφέρονται ως εργαλεία, δεξιότητες ή πρόσθετα από διάφορους προμηθευτές) για την ανάληψη ενεργειών σε απάντηση σε μια προτροπή. Η απόφαση σχετικά με το ποια επέκταση θα κληθεί μπορεί επίσης να ανατεθεί σε έναν «πράκτορα» του LLM για να καθοριστεί δυναμικά με βάση την προτροπή εισόδου ή την έξοδο του LLM. Τα συστήματα που βασίζονται σε πράκτορες συνήθως πραγματοποιούν επαναλαμβανόμενες κλήσεις σε ένα LLM χρησιμοποιώντας την έξοδο από προηγούμενες κλήσεις για να θεμελιώσουν και να κατευθύνουν τις επόμενες κλήσεις.
6
6
7
-
H υπέρμετρη εξουσιοδότηση είναι η ευπάθεια που επιτρέπει την εκτέλεση ζημιογόνων ενεργειών σε απάντηση σε απροσδόκητες, διφορούμενες ή χειραγωγημένες εξόδους από ένα LLM, ανεξάρτητα από το τι προκαλεί τη δυσλειτουργία του LLM. Οι συνήθεις αιτίες περιλαμβάνουν:
7
+
H υπερβολική αυτενέργεια είναι η ευπάθεια που επιτρέπει την εκτέλεση ζημιογόνων ενεργειών σε απάντηση σε απροσδόκητες, διφορούμενες ή χειραγωγημένες εξόδους από ένα LLM, ανεξάρτητα από το τι προκαλεί τη δυσλειτουργία του LLM. Οι συνήθεις αιτίες περιλαμβάνουν:
8
8
* ψευδαίσθηση/παραποίηση που προκαλείται από κακοσχεδιασμένες καλοπροαίρετες προτροπές ή απλώς από ένα μοντέλο με κακή απόδοση,
9
9
* άμεση/έμμεση έγχυση προτροπής από κακόβουλο χρήστη, προηγούμενη κλήση κακόβουλης/παραβιασμένης επέκτασης ή (σε συστήματα πολλαπλών πρακτόρων/συνεργατικών συστημάτων) από κακόβουλο/παραβιασμένο ομότιμο πράκτορα..
10
10
11
-
Η βασική αιτία της υπέρμετρης εξουσιοδότησης είναι συνήθως ένα ή περισσότερα από τα εξής:
12
-
*υπέρμετρη λειτουργικότητα,
13
-
*υπέρμετρα δικαιώματα,
14
-
*υπέρμετρη αυτονομία.
11
+
Η βασική αιτία της υπερβολικής αυτενέργειας είναι συνήθως ένα ή περισσότερα από τα εξής:
12
+
*υπερβολική λειτουργικότητα,
13
+
*υπερβολικά δικαιώματα,
14
+
*υπερβολική αυτονομία.
15
15
16
-
Η υπέρμετρη εξουσιοδότηση μπορεί να οδηγήσει σε ένα ευρύ πεδίο επιπτώσεων σε όλο το φάσμα της εμπιστευτικότητας, της ακεραιότητας και της διαθεσιμότητας και εξαρτάται από τα συστήματα με τα οποία μπορεί να αλληλεπιδράσει μια εφαρμογή που βασίζεται σε LLM.
16
+
Η υπερβολική αυτενέργεια μπορεί να οδηγήσει σε ένα ευρύ πεδίο επιπτώσεων σε όλο το φάσμα της εμπιστευτικότητας, της ακεραιότητας και της διαθεσιμότητας και εξαρτάται από τα συστήματα με τα οποία μπορεί να αλληλεπιδράσει μια εφαρμογή που βασίζεται σε LLM.
17
17
18
-
Σημείωση: Η υπέρμετρη εξουσιοδότηση διαφέρει από τον επισφαλή χειρισμό των εκροών, ο οποίος αφορά τον ανεπαρκή έλεγχο των εκροών των LLM.
18
+
Σημείωση: Η υπερβολική αυτενέργεια διαφέρει από τον επισφαλή χειρισμό των εκροών, ο οποίος αφορά τον ανεπαρκή έλεγχο των εκροών των LLM.
19
19
20
20
### Συνήθη Παραδείγματα Κινδύνων
21
21
22
-
#### 1. Υπέρμετρη Λειτουργικότητα
22
+
#### 1. Υπερβολική Λειτουργικότητα
23
23
Ένας πράκτορας LLM έχει πρόσβαση σε επεκτάσεις οι οποίες περιλαμβάνουν λειτουργίες που δεν είναι απαραίτητες για την προβλεπόμενη λειτουργία του συστήματος. Για παράδειγμα, ένας προγραμματιστής πρέπει να παραχωρήσει σε έναν πράκτορα LLM τη δυνατότητα ανάγνωσης εγγράφων από ένα αποθετήριο, αλλά η επέκταση τρίτου μέρους που επιλέγει να χρησιμοποιήσει περιλαμβάνει επίσης τη δυνατότητα τροποποίησης και διαγραφής εγγράφων.
24
-
#### 2. Υπέρμετρη Λειτουργικότητα
24
+
#### 2. Υπερβολική Λειτουργικότητα
25
25
Μια επέκταση μπορεί να δοκιμάστηκε κατά τη διάρκεια μιας φάσης ανάπτυξης και να εγκαταλείφθηκε υπέρ μιας καλύτερης εναλλακτικής λύσης, αλλά η αρχική επέκταση παραμένει διαθέσιμη στον πράκτορα LLM.
26
-
#### 3. Υπέρμετρη Λειτουργικότητα
26
+
#### 3. Υπερβολική Λειτουργικότητα
27
27
Ένα πρόσθετο LLM με ανοιχτή λειτουργικότητα δεν φιλτράρει σωστά τις οδηγίες εισόδου για εντολές που δεν είναι απαραίτητες για την προβλεπόμενη λειτουργία της εφαρμογής. Π.χ., μια επέκταση για την εκτέλεση μιας συγκεκριμένης εντολής κελύφους αποτυγχάνει να αποτρέψει σωστά την εκτέλεση άλλων εντολών κελύφους.
28
-
#### 4. Υπέρμετρα Δικαιώματα
28
+
#### 4. Υπερβολικά Δικαιώματα
29
29
Μια επέκταση LLM έχει δικαιώματα σε κατώτερα συστήματα που δεν είναι απαραίτητα για την προβλεπόμενη λειτουργία της εφαρμογής. Π.χ., μια επέκταση που προορίζεται να διαβάζει δεδομένα συνδέεται με έναν διακομιστή βάσης δεδομένων χρησιμοποιώντας μια ταυτότητα που έχει όχι μόνο δικαιώματα SELECT, αλλά και δικαιώματα UPDATE, INSERT και DELETE.
30
-
#### 5. Υπέρμετρα Δικαιώματα
30
+
#### 5. Υπερβολικά Δικαιώματα
31
31
Μια επέκταση LLM που έχει σχεδιαστεί για να εκτελεί λειτουργίες στο πλαίσιο ενός μεμονωμένου χρήστη που έχει πρόσβαση σε κατώτερα συστήματα με μια γενική ταυτότητα υψηλών προνομίων. Π.χ., μια επέκταση για την ανάγνωση της βιβλιοθήκης εγγράφων του τρέχοντος χρήστη συνδέεται στο αποθετήριο εγγράφων με έναν προνομιακό λογαριασμό που έχει πρόσβαση σε αρχεία που ανήκουν σε όλους τους χρήστες.
32
-
#### 6. Υπέρμετρη Αυτονομία
32
+
#### 6. Υπερβολική Αυτονομία
33
33
Μια εφαρμογή ή επέκταση που βασίζεται σε LLM αποτυγχάνει να επαληθεύσει και να εγκρίνει ανεξάρτητα δράσεις υψηλού αντίκτυπου. Π.χ., μια επέκταση που επιτρέπει τη διαγραφή εγγράφων ενός χρήστη εκτελεί διαγραφές χωρίς καμία επιβεβαίωση από τον χρήστη.
34
34
35
35
### Στρατηγικές Πρόληψης και Αντιμετώπισης
36
36
37
-
Οι ακόλουθες ενέργειες μπορούν να αποτρέψουν την υπέρμετρη εξουσιοδότηση:
37
+
Οι ακόλουθες ενέργειες μπορούν να αποτρέψουν την υπερβολική αυτενέργεια:
38
38
39
39
#### 1. Ελαχιστοποίηση επεκτάσεων
40
40
Περιορίστε τις επεκτάσεις που επιτρέπεται να καλούν οι πράκτορες LLM μόνο στο απολύτως αναγκαίο. Για παράδειγμα, εάν ένα σύστημα που βασίζεται σε LLM δεν απαιτεί τη δυνατότητα να αντλεί τα περιεχόμενα μιας διεύθυνσης URL, τότε μια τέτοια επέκταση δεν θα πρέπει να προσφέρεται στον πράκτορα LLM.
@@ -53,17 +53,17 @@ H υπέρμετρη εξουσιοδότηση είναι η ευπάθεια
53
53
#### 8. Εξυγίανση εισόδων και εξόδων LLM
54
54
Ακολουθήστε τις βέλτιστες πρακτικές ασφαλούς προγραμματισμού, όπως η εφαρμογή των συστάσεων του OWASP στο ASVS (Application Security Verification Standard), με ιδιαίτερη έμφαση στον καθαρισμό των εισόδων. Χρησιμοποιήστε στατικές δοκιμές ασφάλειας εφαρμογών (SAST) και δυναμικές και διαδραστικές δοκιμές εφαρμογών (DAST, IAST) στις γραμμές ανάπτυξης.
55
55
56
-
Οι ακόλουθες επιλογές δεν θα αποτρέψουν την υπέρμετρη εξουσιοδότηση, αλλά μπορούν να περιορίσουν το επίπεδο της ζημιάς που προκαλείται:
56
+
Οι ακόλουθες επιλογές δεν θα αποτρέψουν την υπερβολική αυτενέργεια, αλλά μπορούν να περιορίσουν το επίπεδο της ζημιάς που προκαλείται:
57
57
58
58
- Καταγραφή και παρακολούθηση της δραστηριότητας των επεκτάσεων LLM και των δευτερευόντων συστημάτων για τον εντοπισμό ανεπιθύμητων ενεργειών και ανάλογη αντίδραση.
59
59
- Εφαρμογή περιορισμού του ρυθμού για τη μείωση του αριθμού των ανεπιθύμητων ενεργειών που μπορούν να λάβουν χώρα σε μια δεδομένη χρονική περίοδο, αυξάνοντας την ευκαιρία ανακάλυψης ανεπιθύμητων ενεργειών μέσω της παρακολούθησης πριν από την εμφάνιση σημαντικών ζημιών..
60
60
61
61
### Παραδείγματα Σεναρίων Επίθεσης
62
62
63
63
Μια εφαρμογή προσωπικού βοηθού που βασίζεται σε LLM αποκτά πρόσβαση στο γραμματοκιβώτιο ενός χρήστη μέσω μιας επέκτασης, προκειμένου να συνοψίζει το περιεχόμενο των εισερχόμενων μηνυμάτων ηλεκτρονικού ταχυδρομείου. Για να επιτευχθεί αυτή η λειτουργικότητα, η επέκταση απαιτεί τη δυνατότητα ανάγνωσης μηνυμάτων, ωστόσο το πρόσθετο που επέλεξε να χρησιμοποιήσει ο προγραμματιστής του συστήματος περιέχει επίσης λειτουργίες για την αποστολή μηνυμάτων. Επιπλέον, η εφαρμογή είναι ευάλωτη σε μια έμμεση επίθεση έγχυσης προτροπής, κατά την οποία ένα κακόβουλα διαμορφωμένο εισερχόμενο μήνυμα ηλεκτρονικού ταχυδρομείου ξεγελά το LLM ώστε να δώσει εντολή στον πράκτορα να σαρώσει τα εισερχόμενα του χρήστη για ευαίσθητες πληροφορίες και να τις προωθήσει στη διεύθυνση ηλεκτρονικού ταχυδρομείου του επιτιθέμενου. Αυτό θα μπορούσε να αποφευχθεί με:
64
-
* εξαλείφοντας την υπέρμετρη λειτουργικότητα με τη χρήση μιας επέκτασης που υλοποιεί μόνο δυνατότητες ανάγνωσης αλληλογραφίας,
65
-
* εξαλείφοντας τα υπέρμετρα δικαιώματα με έλεγχο ταυτότητας στην υπηρεσία ηλεκτρονικού ταχυδρομείου του χρήστη μέσω μιας συνόδου OAuth με πεδίο εφαρμογής μόνο για ανάγνωση, ή/και
66
-
* εξάλειψη της υπέρμετρης αυτονομίας, απαιτώντας από τον χρήστη να ελέγχει χειροκίνητα και να πατάει το πλήκτρο «αποστολή» σε κάθε μήνυμα που συντάσσεται από την επέκταση LLM.
64
+
* εξαλείφοντας την υπερβολική λειτουργικότητα με τη χρήση μιας επέκτασης που υλοποιεί μόνο δυνατότητες ανάγνωσης αλληλογραφίας,
65
+
* εξαλείφοντας τα υπερβολικά δικαιώματα με έλεγχο ταυτότητας στην υπηρεσία ηλεκτρονικού ταχυδρομείου του χρήστη μέσω μιας συνόδου OAuth με πεδίο εφαρμογής μόνο για ανάγνωση, ή/και
66
+
* εξάλειψη της υπερβολικής αυτονομίας, απαιτώντας από τον χρήστη να ελέγχει χειροκίνητα και να πατάει το πλήκτρο «αποστολή» σε κάθε μήνυμα που συντάσσεται από την επέκταση LLM.
67
67
68
68
Εναλλακτικά, η ζημία που προκαλείται θα μπορούσε να μειωθεί με την εφαρμογή περιορισμού του ρυθμού στη διεπαφή αποστολής αλληλογραφίας.
0 commit comments