Merge pull request #650 from OmarV1/patch-22

Update LLM06_ExcessiveAgency.md

Author: talesh

2_0_vulns/translations/ar-SY/LLM06_ExcessiveAgency.md

@@ -2,14 +2,14 @@
 
 ### الوصف 
 
-عادةً ما يتم منح نظام قائم على نموذج لغة كبير (LLM) قدرًا من الاستقلالية من قِبل مطوّره — أي القدرة على استدعاء وظائف أو التفاعل مع أنظمة أخرى عبر الإضافات (Extensions)، والتي يُشار إليها أحيانًا باسم الأدوات (Tools) أو المهارات (Skills) أو المكونات الإضافية (Plugins) حسب المورد. قد يتم أيضًا تفويض القرار بشأن أي إضافة يتم استدعاؤها إلى "وكيل" LLM (LLM Agent) لتحديدها ديناميكيًا بناءً على مدخلات التعليمات أو مخرجات النموذج. غالبًا ما تقوم الأنظمة المعتمدة على الوكلاء بإجراء استدعاءات متكررة للنموذج باستخدام مخرجات الاستدعاءات السابقة كأساس لتوجيه الاستدعاءات اللاحقة.
+عادةً ما يتم منح نظام قائم على نموذج لغة كبير (LLM) قدرًا من الاستقلالية من قِبل مطوّره — أي القدرة على استدعاء وظائف أو التفاعل مع أنظمة أخرى عبر الإضافات (Extensions)، والتي يُشار إليها أحيانًا باسم الأدوات (Tools) أو المهارات (Skills) أو المكونات الإضافية (Plugins) حسب المورد. قد يتم أيضًا تفويض القرار بشأن أي إضافة يتم استدعاؤها إلى "وكيل" (LLM Agent) لتحديدها ديناميكيًا بناءً على مدخلات التعليمات أو مخرجات النموذج. غالبًا ما تقوم الأنظمة المعتمدة على الوكلاء بإجراء استدعاءات متكررة للنموذج باستخدام مخرجات الاستدعاءات السابقة كأساس لتوجيه الاستدعاءات اللاحقة.
 
 
 
 الإفراط في الاستقلالية (Excessive Agency) هو ثغرة تمكّن من تنفيذ إجراءات ضارة استجابةً لمخرجات غير متوقعة أو غامضة أو متلاعب بها من نموذج اللغة الكبير (LLM)، بغض النظر عن السبب الذي أدى إلى خلل في أداء النموذج.
 تشمل المحفزات الشائعة ما يلي:
-الهلاوس/الاختلاقات الناتجة عن تعليمات سليمة ولكن مصممة بشكل سيئ، أو ببساطة عن أداء ضعيف للنموذج؛
-حقن التعليمات المباشر أو غير المباشر من قِبل مستخدم خبيث، أو من خلال استدعاء سابق لإضافة خبيثة أو مخترقة، أو (في الأنظمة متعددة الوكلاء/التعاونية) من وكيل نظير خبيث أو مخترق.
+- الهلاوس/الاختلاقات الناتجة عن تعليمات سليمة ولكن مصممة بشكل سيئ، أو ببساطة عن أداء ضعيف للنموذج؛
+- حقن التعليمات المباشر أو غير المباشر من قِبل المهاجم، أو من خلال استدعاء سابق لإضافة خبيثة أو مخترقة، أو (في الأنظمة متعددة الوكلاء/التعاونية) من وكيل نظير خبيث أو مخترق.
 
 السبب الجذري للإفراط في الاستقلالية (Excessive Agency) يعود عادةً إلى واحد أو أكثر من العوامل التالية:
 * الإفراط في الوظائف (Excessive Functionality)؛
@@ -20,7 +20,7 @@
 
 ملاحظة: يختلف الإفراط في الاستقلالية عن التعامل غير السليم مع المخرجات (Insecure Output Handling)، حيث أن الأخير يتعلق بعدم التدقيق الكافي في مخرجات نموذج اللغة الكبير.
 
-### أمثلة شائعة على المخاطر (Common Examples of Risks)
+### أمثلة شائعة على المخاطر
 
 #### 1. الإفراط في الوظائف (Excessive Functionality)
 يمتلك وكيل نموذج اللغة الكبير (LLM) حق الوصول إلى إضافات تتضمن وظائف لا تُعد ضرورية للتشغيل المقصود للنظام.
@@ -33,7 +33,7 @@
 تفشل إضافة نموذج اللغة الكبير (LLM) ذات الوظائف المفتوحة في تصفية تعليمات الإدخال بشكل صحيح لمنع تنفيذ أوامر تتجاوز ما هو مطلوب للتشغيل المقصود للتطبيق. على سبيل المثال، إضافة مخصصة لتنفيذ أمر واحد في غلاف النظام (Shell) تفشل في منع تنفيذ أوامر أخرى.
 
 #### 4. الإفراط في الصلاحيات (Excessive Permissions)
-تمتلك إضافة نموذج اللغة الكبير (LLM) صلاحيات على الأنظمة الفرعية تتجاوز ما هو ضروري للتشغيل المقصود للتطبيق.
+تمتلك إضافة نموذج اللغة الكبير (LLM) صلاحيات على الأنظمة الفرعية (Downstream Systems) تتجاوز ما هو ضروري للتشغيل المقصود للتطبيق.
 على سبيل المثال، إضافة مخصصة لقراءة البيانات تتصل بخادم قاعدة بيانات باستخدام هوية تملك ليس فقط صلاحيات SELECT بل أيضًا صلاحيات UPDATE وINSERT وDELETE.
 
 #### 5. الإفراط في الصلاحيات (Excessive Permissions)
@@ -44,7 +44,7 @@
   فشل تطبيق أو إضافة قائمة على نموذج اللغة الكبير (LLM) في التحقق والموافقة بشكل مستقل على العمليات ذات التأثير الكبير. على سبيل المثال، إضافة تتيح حذف مستندات المستخدم تقوم بعمليات الحذف دون أي تأكيد من المستخدم.
 
 
-### استراتيجيات الوقاية والتخفيف (Prevention and Mitigation Strategies)
+### استراتيجيات الوقاية والتخفيف
 
 تساعد الإجراءات التالية في منع الإفراط في الاستقلالية (Excessive Agency):
 
@@ -55,15 +55,15 @@
 حدّد الوظائف المنفذة ضمن إضافات نموذج اللغة الكبير (LLM) إلى الحد الأدنى الضروري فقط. على سبيل المثال، قد تتطلب إضافة للوصول إلى صندوق بريد المستخدم بغرض تلخيص الرسائل فقط القدرة على قراءة الرسائل، ولا ينبغي أن تحتوي على وظائف إضافية مثل حذف الرسائل أو إرسالها.
 
 #### 3. تجنب الإضافات المفتوحة (Avoid Open-Ended Extensions)
-تجنب استخدام الإضافات ذات النطاق المفتوح قدر الإمكان (مثل تنفيذ أوامر Shell أو جلب عنوان URL) واستخدم إضافات ذات وظائف أكثر دقة. على سبيل المثال، قد يحتاج تطبيق قائم على نموذج اللغة الكبير (LLM) إلى كتابة مخرجات إلى ملف. إذا تم تنفيذ ذلك عبر إضافة لتنفيذ أمر Shell، فإن مجال تنفيذ أوامر غير مرغوبة يصبح واسعًا جدًا (أي أمر Shell آخر قد يتم تنفيذه). البديل الأكثر أمانًا هو بناء إضافة مخصصة لكتابة الملفات لا تنفذ سوى هذه الوظيفة المحددة.
+تجنب استخدام الإضافات ذات النطاق المفتوح قدر الإمكان (مثل تنفيذ أوامر Shell أو جلب عنوان URL) واستخدم إضافات ذات وظائف أكثر دقة. على سبيل المثال، قد يحتاج تطبيق قائم على نموذج اللغة الكبير (LLM) إلى كتابة مخرجات إلى ملف. إذا تم تنفيذ ذلك عبر إضافة لتنفيذ أمر في غلاف النظام (Shell)، فإن مجال تنفيذ أوامر غير مرغوبة يصبح واسعًا جدًا (أي أمر Shell آخر قد يتم تنفيذه). البديل الأكثر أمانًا هو بناء إضافة مخصصة لكتابة الملفات لا تنفذ سوى هذه الوظيفة المحددة.
 
 #### 4. تقليل صلاحيات الإضافات (Minimize Extension Permissions)
 حد من الصلاحيات التي تُمنح لإضافات نموذج اللغة الكبير (LLM) على الأنظمة الأخرى إلى الحد الأدنى اللازم لتقليل مجال الأفعال غير المرغوبة.
 على سبيل المثال، قد يحتاج وكيل نموذج اللغة الكبير (LLM) يستخدم قاعدة بيانات منتجات لإعطاء توصيات شراء إلى حق الوصول للقراءة فقط إلى جدول "المنتجات"، ويجب ألا يكون لديه حق الوصول إلى جداول أخرى أو القدرة على إدخال أو تعديل أو حذف السجلات.
 ينبغي فرض ذلك من خلال تطبيق صلاحيات قاعدة بيانات مناسبة على الهوية التي تستخدمها الإضافة للاتصال بقاعدة البيانات.
 
 #### 5. تنفيذ الإضافات في سياق المستخدم (Execute Extensions in User's Context)
-تتبع تفويض المستخدم ونطاق الأمان لضمان أن جميع العمليات التي تتم بالنيابة عن المستخدم تُنفذ في الأنظمة الفرعية ضمن سياق هذا المستخدم المحدد ومع أقل امتيازات ممكنة. على سبيل المثال، يجب أن تتطلب إضافة نموذج اللغة الكبير (LLM) التي تقرأ مستودع كود المستخدم أن يصادق المستخدم عبر OAuth مع أقل نطاق صلاحيات مطلوب.
+تتبع تفويض المستخدم ونطاق الأمان لضمان أن جميع العمليات التي تتم بالنيابة عن المستخدم تُنفذ في الأنظمة الفرعية (Downstream Systems) ضمن سياق هذا المستخدم المحدد ومع أقل امتيازات ممكنة. على سبيل المثال، يجب أن تتطلب إضافة نموذج اللغة الكبير (LLM) التي تقرأ مستودع كود المستخدم أن يصادق المستخدم عبر OAuth مع أقل نطاق صلاحيات مطلوب.
 
 #### 6. اشتراط موافقة المستخدم (Require User Approval)
 استخدم آلية "الإنسان في الحلقة" (Human-in-the-Loop) لطلب موافقة بشرية على العمليات ذات التأثير الكبير قبل تنفيذها.
@@ -80,7 +80,7 @@
 - سجل وراقب نشاط إضافات LLM والأنظمة الفرعية المرتبطة بها لتحديد أماكن حدوث الأفعال غير المرغوبة، والاستجابة لها بشكل مناسب.
 - نفّذ قيودًا على معدل الطلبات (Rate-Limiting) لتقليل عدد الأفعال غير المرغوبة التي يمكن أن تحدث خلال فترة زمنية معينة، مما يزيد من فرصة اكتشاف الأفعال غير المرغوبة عبر المراقبة قبل حدوث ضرر كبير.
 
-### سيناريوهات هجوم توضيحية (Example Attack Scenarios)
+### أمثلة على سيناريوهات الهجوم
 
 يُمنح تطبيق مساعد شخصي قائم على نموذج اللغة الكبير (LLM) حق الوصول إلى صندوق بريد فردي عبر إضافة (Extension) بغرض تلخيص محتوى الرسائل الواردة.
 لتنفيذ هذه الوظيفة، تتطلب الإضافة القدرة على قراءة الرسائل، ومع ذلك فإن المكون الإضافي الذي اختاره مطور النظام يحتوي أيضًا على وظائف لإرسال الرسائل.
@@ -91,7 +91,8 @@
 * التخلص من الإفراط في الصلاحيات (Excessive Permissions) عبر المصادقة على خدمة بريد المستخدم باستخدام جلسة OAuth بنطاق قراءة فقط (Read-Only Scope)؛
 * أو التخلص من الإفراط في الاستقلالية (Excessive Autonomy) عبر اشتراط مراجعة المستخدم يدويًا والنقر على "إرسال" لكل رسالة يتم إعدادها بواسطة إضافة نموذج اللغة الكبير (LLM Extension).
 
-بديلًا عن ذلك، يمكن تقليل الضرر الناتج عبر تطبيق قيود على معدل إرسال الرسائل (Rate-Limiting) من خلال واجهة إرسال البريد.
+بديلًا عن ذلك، يمكن تقليل الضرر الناتج عبر تطبيق قيود على معدل إرسال الرسائل (Rate-Limiting) عبر واجهة إرسال البريد الإلكتروني نفسها.
+
 
 
 ### روابط مرجعية