Skip to content

Commit e1b16ae

Browse files
authored
Merge pull request #666 from aristeidisz/translations/el-GR
Translations/el gr
2 parents 82fc22b + 30d6180 commit e1b16ae

File tree

2 files changed

+23
-20
lines changed

2 files changed

+23
-20
lines changed

2_0_vulns/translations/el-GR/LLM00_Preface.md

Lines changed: 4 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -12,7 +12,7 @@
1212

1313
Προσθέσαμε επίσης την απειλή **Διαρροή Προτροπής Συστήματος (System Prompt Leakage)** για να καλύψουμε μια περιοχή που έχει διαπιστωθεί εκμετάλευση αδυναμιών και ζητήθηκε έντονα από την κοινότητα. Πολλές εφαρμογές υπέθεσαν ότι οι προτροπές ήταν ασφαλώς απομονωμένες, αλλά πρόσφατα περιστατικά έδειξαν ότι οι προγραμματιστές δεν μπορούν να υποθέσουν με ασφάλεια ότι οι πληροφορίες σε αυτές τις προτροπές παραμένουν μυστικές.
1414

15-
Η απειλή **Υπερβολική Εξουσιοδότηση (Excessive Agency)** έχει επεκταθεί, δεδομένης της αυξημένης χρήσης της αρχιτεκτονικής πρακτόρων που μπορεί να δώσει στα LLM μεγαλύτερη αυτονομία. Με τα LLM που ενεργούν ως πράκτορες ή σε περιβάλλοντα plug-in, τα μη ελεγχόμενα δικαιώματα μπορούν να οδηγήσουν σε ακούσιες ή επικίνδυνες ενέργειες, καθιστώντας αυτή την απειλή πιο κρίσιμη από ποτέ.
15+
Η απειλή **Υπερβολική Αυτενέργεια (Excessive Agency)** έχει επεκταθεί, δεδομένης της αυξημένης χρήσης της αρχιτεκτονικής πρακτόρων που μπορεί να δώσει στα LLM μεγαλύτερη αυτονομία. Με τα LLM που ενεργούν ως πράκτορες ή σε περιβάλλοντα plug-in, τα μη ελεγχόμενα δικαιώματα μπορούν να οδηγήσουν σε ακούσιες ή επικίνδυνες ενέργειες, καθιστώντας αυτή την απειλή πιο κρίσιμη από ποτέ.
1616

1717
### Προοπτικές
1818

@@ -37,6 +37,9 @@ LinkedIn: https://www.linkedin.com/in/adamdawson0/
3737
Aristeidis Zoumpakis
3838
LinkedIn: https://www.linkedin.com/in/aristeidis-zoumpakis-9652532b/
3939

40+
Georgios Vyzaniaris
41+
LinkedIn: https://www.linkedin.com/in/georgevizaniaris/
42+
4043
### Σχετικά με αυτή τη μετάφραση
4144
Αναγνωρίζοντας τον τεχνικό και κρίσιμο χαρακτήρα του OWASP Top 10 for Large Language Model Applications, επιλέξαμε συνειδητά να χρησιμοποιήσουμε μόνο φυσικούς μεταφραστές για τη δημιουργία αυτής της μετάφρασης. Οι μεταφραστές που αναφέρονται παραπάνω δεν έχουν μόνο βαθιά τεχνική γνώση του αρχικού περιεχομένου, αλλά και την ευχέρεια που απαιτείται για να επιτύχει αυτή η μετάφραση.
4245

2_0_vulns/translations/el-GR/LLM06_ExcessiveAgency.md

Lines changed: 19 additions & 19 deletions
Original file line numberDiff line numberDiff line change
@@ -1,40 +1,40 @@
1-
## LLM06:2025 Υπέρμετρη Εξουσιοδότηση 
 (Excessive Agency)
1+
## LLM06:2025 Υπερβολική Αυτενέργεια 
 (Excessive Agency)
22

33
### Περιγραφή
44

55
Σε ένα σύστημα που βασίζεται σε LLM παρέχεται συχνά από τον προγραμματιστή του ένας βαθμός εξουσιοδότησης - η δυνατότητα κλήσης λειτουργιών ή διασύνδεσης με άλλα συστήματα μέσω επεκτάσεων (μερικές φορές αναφέρονται ως εργαλεία, δεξιότητες ή πρόσθετα από διάφορους προμηθευτές) για την ανάληψη ενεργειών σε απάντηση σε μια προτροπή. Η απόφαση σχετικά με το ποια επέκταση θα κληθεί μπορεί επίσης να ανατεθεί σε έναν «πράκτορα» του LLM για να καθοριστεί δυναμικά με βάση την προτροπή εισόδου ή την έξοδο του LLM. Τα συστήματα που βασίζονται σε πράκτορες συνήθως πραγματοποιούν επαναλαμβανόμενες κλήσεις σε ένα LLM χρησιμοποιώντας την έξοδο από προηγούμενες κλήσεις για να θεμελιώσουν και να κατευθύνουν τις επόμενες κλήσεις.
66

7-
H υπέρμετρη εξουσιοδότηση είναι η ευπάθεια που επιτρέπει την εκτέλεση ζημιογόνων ενεργειών σε απάντηση σε απροσδόκητες, διφορούμενες ή χειραγωγημένες εξόδους από ένα LLM, ανεξάρτητα από το τι προκαλεί τη δυσλειτουργία του LLM. Οι συνήθεις αιτίες περιλαμβάνουν:
7+
H υπερβολική αυτενέργεια είναι η ευπάθεια που επιτρέπει την εκτέλεση ζημιογόνων ενεργειών σε απάντηση σε απροσδόκητες, διφορούμενες ή χειραγωγημένες εξόδους από ένα LLM, ανεξάρτητα από το τι προκαλεί τη δυσλειτουργία του LLM. Οι συνήθεις αιτίες περιλαμβάνουν:
88
* ψευδαίσθηση/παραποίηση που προκαλείται από κακοσχεδιασμένες καλοπροαίρετες προτροπές ή απλώς από ένα μοντέλο με κακή απόδοση,
99
* άμεση/έμμεση έγχυση προτροπής από κακόβουλο χρήστη, προηγούμενη κλήση κακόβουλης/παραβιασμένης επέκτασης ή (σε συστήματα πολλαπλών πρακτόρων/συνεργατικών συστημάτων) από κακόβουλο/παραβιασμένο ομότιμο πράκτορα..
1010

11-
Η βασική αιτία της υπέρμετρης εξουσιοδότησης είναι συνήθως ένα ή περισσότερα από τα εξής:
12-
* υπέρμετρη λειτουργικότητα,
13-
* υπέρμετρα δικαιώματα,
14-
* υπέρμετρη αυτονομία.
11+
Η βασική αιτία της υπερβολικής αυτενέργειας είναι συνήθως ένα ή περισσότερα από τα εξής:
12+
* υπερβολική λειτουργικότητα,
13+
* υπερβολικά δικαιώματα,
14+
* υπερβολική αυτονομία.
1515

16-
Η υπέρμετρη εξουσιοδότηση μπορεί να οδηγήσει σε ένα ευρύ πεδίο επιπτώσεων σε όλο το φάσμα της εμπιστευτικότητας, της ακεραιότητας και της διαθεσιμότητας και εξαρτάται από τα συστήματα με τα οποία μπορεί να αλληλεπιδράσει μια εφαρμογή που βασίζεται σε LLM.
16+
Η υπερβολική αυτενέργεια μπορεί να οδηγήσει σε ένα ευρύ πεδίο επιπτώσεων σε όλο το φάσμα της εμπιστευτικότητας, της ακεραιότητας και της διαθεσιμότητας και εξαρτάται από τα συστήματα με τα οποία μπορεί να αλληλεπιδράσει μια εφαρμογή που βασίζεται σε LLM.
1717

18-
Σημείωση: Η υπέρμετρη εξουσιοδότηση διαφέρει από τον επισφαλή χειρισμό των εκροών, ο οποίος αφορά τον ανεπαρκή έλεγχο των εκροών των LLM.
18+
Σημείωση: Η υπερβολική αυτενέργεια διαφέρει από τον επισφαλή χειρισμό των εκροών, ο οποίος αφορά τον ανεπαρκή έλεγχο των εκροών των LLM.
1919

2020
### Συνήθη Παραδείγματα Κινδύνων
2121

22-
#### 1. Υπέρμετρη Λειτουργικότητα
22+
#### 1. Υπερβολική Λειτουργικότητα
2323
Ένας πράκτορας LLM έχει πρόσβαση σε επεκτάσεις οι οποίες περιλαμβάνουν λειτουργίες που δεν είναι απαραίτητες για την προβλεπόμενη λειτουργία του συστήματος. Για παράδειγμα, ένας προγραμματιστής πρέπει να παραχωρήσει σε έναν πράκτορα LLM τη δυνατότητα ανάγνωσης εγγράφων από ένα αποθετήριο, αλλά η επέκταση τρίτου μέρους που επιλέγει να χρησιμοποιήσει περιλαμβάνει επίσης τη δυνατότητα τροποποίησης και διαγραφής εγγράφων.
24-
#### 2. Υπέρμετρη Λειτουργικότητα
24+
#### 2. Υπερβολική Λειτουργικότητα
2525
Μια επέκταση μπορεί να δοκιμάστηκε κατά τη διάρκεια μιας φάσης ανάπτυξης και να εγκαταλείφθηκε υπέρ μιας καλύτερης εναλλακτικής λύσης, αλλά η αρχική επέκταση παραμένει διαθέσιμη στον πράκτορα LLM.
26-
#### 3. Υπέρμετρη Λειτουργικότητα
26+
#### 3. Υπερβολική Λειτουργικότητα
2727
Ένα πρόσθετο LLM με ανοιχτή λειτουργικότητα δεν φιλτράρει σωστά τις οδηγίες εισόδου για εντολές που δεν είναι απαραίτητες για την προβλεπόμενη λειτουργία της εφαρμογής. Π.χ., μια επέκταση για την εκτέλεση μιας συγκεκριμένης εντολής κελύφους αποτυγχάνει να αποτρέψει σωστά την εκτέλεση άλλων εντολών κελύφους.
28-
#### 4. Υπέρμετρα Δικαιώματα
28+
#### 4. Υπερβολικά Δικαιώματα
2929
Μια επέκταση LLM έχει δικαιώματα σε κατώτερα συστήματα που δεν είναι απαραίτητα για την προβλεπόμενη λειτουργία της εφαρμογής. Π.χ., μια επέκταση που προορίζεται να διαβάζει δεδομένα συνδέεται με έναν διακομιστή βάσης δεδομένων χρησιμοποιώντας μια ταυτότητα που έχει όχι μόνο δικαιώματα SELECT, αλλά και δικαιώματα UPDATE, INSERT και DELETE.
30-
#### 5. Υπέρμετρα Δικαιώματα
30+
#### 5. Υπερβολικά Δικαιώματα
3131
Μια επέκταση LLM που έχει σχεδιαστεί για να εκτελεί λειτουργίες στο πλαίσιο ενός μεμονωμένου χρήστη που έχει πρόσβαση σε κατώτερα συστήματα με μια γενική ταυτότητα υψηλών προνομίων. Π.χ., μια επέκταση για την ανάγνωση της βιβλιοθήκης εγγράφων του τρέχοντος χρήστη συνδέεται στο αποθετήριο εγγράφων με έναν προνομιακό λογαριασμό που έχει πρόσβαση σε αρχεία που ανήκουν σε όλους τους χρήστες.
32-
#### 6. Υπέρμετρη Αυτονομία
32+
#### 6. Υπερβολική Αυτονομία
3333
Μια εφαρμογή ή επέκταση που βασίζεται σε LLM αποτυγχάνει να επαληθεύσει και να εγκρίνει ανεξάρτητα δράσεις υψηλού αντίκτυπου. Π.χ., μια επέκταση που επιτρέπει τη διαγραφή εγγράφων ενός χρήστη εκτελεί διαγραφές χωρίς καμία επιβεβαίωση από τον χρήστη.
3434

3535
### Στρατηγικές Πρόληψης και Αντιμετώπισης
3636

37-
Οι ακόλουθες ενέργειες μπορούν να αποτρέψουν την υπέρμετρη εξουσιοδότηση:
37+
Οι ακόλουθες ενέργειες μπορούν να αποτρέψουν την υπερβολική αυτενέργεια:
3838

3939
#### 1. Ελαχιστοποίηση επεκτάσεων
4040
Περιορίστε τις επεκτάσεις που επιτρέπεται να καλούν οι πράκτορες LLM μόνο στο απολύτως αναγκαίο. Για παράδειγμα, εάν ένα σύστημα που βασίζεται σε LLM δεν απαιτεί τη δυνατότητα να αντλεί τα περιεχόμενα μιας διεύθυνσης URL, τότε μια τέτοια επέκταση δεν θα πρέπει να προσφέρεται στον πράκτορα LLM.
@@ -53,17 +53,17 @@ H υπέρμετρη εξουσιοδότηση είναι η ευπάθεια
5353
#### 8. Εξυγίανση εισόδων και εξόδων LLM
5454
Ακολουθήστε τις βέλτιστες πρακτικές ασφαλούς προγραμματισμού, όπως η εφαρμογή των συστάσεων του OWASP στο ASVS (Application Security Verification Standard), με ιδιαίτερη έμφαση στον καθαρισμό των εισόδων. Χρησιμοποιήστε στατικές δοκιμές ασφάλειας εφαρμογών (SAST) και δυναμικές και διαδραστικές δοκιμές εφαρμογών (DAST, IAST) στις γραμμές ανάπτυξης.
5555

56-
Οι ακόλουθες επιλογές δεν θα αποτρέψουν την υπέρμετρη εξουσιοδότηση, αλλά μπορούν να περιορίσουν το επίπεδο της ζημιάς που προκαλείται:
56+
Οι ακόλουθες επιλογές δεν θα αποτρέψουν την υπερβολική αυτενέργεια, αλλά μπορούν να περιορίσουν το επίπεδο της ζημιάς που προκαλείται:
5757

5858
- Καταγραφή και παρακολούθηση της δραστηριότητας των επεκτάσεων LLM και των δευτερευόντων συστημάτων για τον εντοπισμό ανεπιθύμητων ενεργειών και ανάλογη αντίδραση.
5959
- Εφαρμογή περιορισμού του ρυθμού για τη μείωση του αριθμού των ανεπιθύμητων ενεργειών που μπορούν να λάβουν χώρα σε μια δεδομένη χρονική περίοδο, αυξάνοντας την ευκαιρία ανακάλυψης ανεπιθύμητων ενεργειών μέσω της παρακολούθησης πριν από την εμφάνιση σημαντικών ζημιών..
6060

6161
### Παραδείγματα Σεναρίων Επίθεσης
6262

6363
Μια εφαρμογή προσωπικού βοηθού που βασίζεται σε LLM αποκτά πρόσβαση στο γραμματοκιβώτιο ενός χρήστη μέσω μιας επέκτασης, προκειμένου να συνοψίζει το περιεχόμενο των εισερχόμενων μηνυμάτων ηλεκτρονικού ταχυδρομείου. Για να επιτευχθεί αυτή η λειτουργικότητα, η επέκταση απαιτεί τη δυνατότητα ανάγνωσης μηνυμάτων, ωστόσο το πρόσθετο που επέλεξε να χρησιμοποιήσει ο προγραμματιστής του συστήματος περιέχει επίσης λειτουργίες για την αποστολή μηνυμάτων. Επιπλέον, η εφαρμογή είναι ευάλωτη σε μια έμμεση επίθεση έγχυσης προτροπής, κατά την οποία ένα κακόβουλα διαμορφωμένο εισερχόμενο μήνυμα ηλεκτρονικού ταχυδρομείου ξεγελά το LLM ώστε να δώσει εντολή στον πράκτορα να σαρώσει τα εισερχόμενα του χρήστη για ευαίσθητες πληροφορίες και να τις προωθήσει στη διεύθυνση ηλεκτρονικού ταχυδρομείου του επιτιθέμενου. Αυτό θα μπορούσε να αποφευχθεί με:
64-
* εξαλείφοντας την υπέρμετρη λειτουργικότητα με τη χρήση μιας επέκτασης που υλοποιεί μόνο δυνατότητες ανάγνωσης αλληλογραφίας,
65-
* εξαλείφοντας τα υπέρμετρα δικαιώματα με έλεγχο ταυτότητας στην υπηρεσία ηλεκτρονικού ταχυδρομείου του χρήστη μέσω μιας συνόδου OAuth με πεδίο εφαρμογής μόνο για ανάγνωση, ή/και
66-
* εξάλειψη της υπέρμετρης αυτονομίας, απαιτώντας από τον χρήστη να ελέγχει χειροκίνητα και να πατάει το πλήκτρο «αποστολή» σε κάθε μήνυμα που συντάσσεται από την επέκταση LLM.
64+
* εξαλείφοντας την υπερβολική λειτουργικότητα με τη χρήση μιας επέκτασης που υλοποιεί μόνο δυνατότητες ανάγνωσης αλληλογραφίας,
65+
* εξαλείφοντας τα υπερβολικά δικαιώματα με έλεγχο ταυτότητας στην υπηρεσία ηλεκτρονικού ταχυδρομείου του χρήστη μέσω μιας συνόδου OAuth με πεδίο εφαρμογής μόνο για ανάγνωση, ή/και
66+
* εξάλειψη της υπερβολικής αυτονομίας, απαιτώντας από τον χρήστη να ελέγχει χειροκίνητα και να πατάει το πλήκτρο «αποστολή» σε κάθε μήνυμα που συντάσσεται από την επέκταση LLM.
6767

6868
Εναλλακτικά, η ζημία που προκαλείται θα μπορούσε να μειωθεί με την εφαρμογή περιορισμού του ρυθμού στη διεπαφή αποστολής αλληλογραφίας.
6969

0 commit comments

Comments
 (0)