Skip to content

Commit bc8a60b

Browse files
authored
Merge pull request #653 from OmarV1/patch-25
Update LLM09_Misinformation.md
2 parents 2ec20c7 + 7eeb2e4 commit bc8a60b

File tree

1 file changed

+9
-7
lines changed

1 file changed

+9
-7
lines changed

2_0_vulns/translations/ar-SY/LLM09_Misinformation.md

Lines changed: 9 additions & 7 deletions
Original file line numberDiff line numberDiff line change
@@ -14,7 +14,7 @@
1414
قضية ذات صلة هي الاعتماد المفرط (Overreliance)، وهي تحدث عندما يُظهر المستخدمون ثقة مفرطة في محتوى LLM دون التحقق من دقته.
1515
هذا الاعتماد الزائد يُفاقم من أثر المعلومات المضللة، إذ قد يدمج المستخدمون بيانات غير صحيحة في قرارات أو عمليات حساسة دون تدقيق كافٍ.
1616

17-
### أمثلة شائعة على المخاطر (Common Examples of Risk)
17+
### أمثلة شائعة على المخاطر
1818

1919
#### 1. حقائق غير دقيقة (Factual Inaccuracies)
2020

@@ -32,25 +32,26 @@
3232
يقترح النموذج مكتبات برمجية غير آمنة أو غير موجودة، مما يؤدي إلى إدخال ثغرات في أنظمة البرمجيات. على سبيل المثال، اقترحت نماذج LLM استخدام مكتبات خارجية غير آمنة، وعند الاعتماد عليها دون تحقق، أدت إلى مخاطر أمنية.
3333
(Ref. link: [Lasso](https://www.lasso.security/blog/ai-package-hallucinations))
3434

35-
### استراتيجيات الوقاية والتخفيف (Prevention and Mitigation Strategies)
35+
### استراتيجيات الوقاية والتخفيف
3636

3737
#### 1. التوليد المعزز بالاسترجاع (Retrieval-Augmented Generation - RAG)
3838
استخدم تقنية RAG لتحسين موثوقية مخرجات النموذج من خلال جلب معلومات موثوقة من قواعد بيانات خارجية أثناء توليد الردود، مما يقلل من احتمالية الهلاوس والمعلومات المضللة.
39-
#### 2.ضبط النموذج (Model Fine-Tuning)
39+
#### 2. ضبط النموذج (Model Fine-Tuning)
4040
قم بتحسين أداء النموذج من خلال التضمين (Embeddings) أو ضبط المعلمات بكفاءة (Parameter-Efficient Tuning)، واستخدم تقنيات مثل Chain-of-Thought Prompting لتقليل احتمالية ظهور معلومات مضللة.
4141
#### 3. التحقق المتبادل والمراجعة البشرية (Cross-Verification and Human Oversight)
4242
شجع المستخدمين على التحقق من مخرجات النموذج باستخدام مصادر موثوقة. قم بتطبيق عمليات مراجعة بشرية، خاصة في السياقات الحساسة، مع تدريب المراجعين لتجنّب الاعتماد المفرط على المحتوى المُولد.
4343
#### 4. آليات التحقق التلقائي (Automatic Validation Mechanisms)
4444
قم بتطبيق أدوات تتحقق تلقائيًا من مخرجات النموذج، خاصة في البيئات عالية الحساسية.
4545
#### 5. التواصل حول المخاطر (Risk Communication)
4646
حدد المخاطر المرتبطة بالمحتوى المُولد، وأبلغ المستخدمين بشكل واضح عن تلك المخاطر، بما في ذلك احتمال وجود معلومات مضللة.
47-
#### 6. ممارسات البرمجة الآمن (Secure Coding Practices)
47+
#### 6. ممارسات البرمجة الآمنة (Secure Coding Practices)
4848
اعتمد ممارسات برمجية آمنة تمنع دمج تعليمات برمجية غير صحيحة أو تحتوي على ثغرات.
4949
#### 7. تصميم واجهة المستخدم (User Interface Design)
5050
صمم واجهات الاستخدام وواجهات البرمجة (APIs) بحيث تشجع على الاستخدام المسؤول للنموذج، بما في ذلك استخدام فلاتر المحتوى، وضع علامات واضحة على المحتوى المُولد بالذكاء الاصطناعي، وتوضيح حدود الاعتمادية والدقة.
5151
#### 8. التدريب والتثقيف (Training and Education)
5252
وفّر تدريبًا شاملاً للمستخدمين حول حدود قدرات النماذج، وأهمية التحقق من المحتوى المُولد، والتفكير النقدي. في السياقات التخصصية، قدم تدريبًا مخصصًا لضمان قدرة المستخدمين على تقييم المخرجات بفعالية ضمن مجالاتهم.
53-
### سيناريوهات هجوم توضيحية (Example Attack Scenarios)
53+
54+
### أمثلة على سيناريوهات الهجوم
5455

5556
#### السيناريو #1
5657
يقوم المهاجمون باختبار مساعدين برمجيين شائعين لاكتشاف أسماء مكتبات يتم "هلاوستها" بشكل متكرر. وبعد تحديد أسماء المكتبات الوهمية التي تقترحها النماذج، ينشرون حزمًا خبيثة بتلك الأسماء في مستودعات عامة.
@@ -73,8 +74,9 @@
7374
10. [Practical Steps to Reduce Hallucination](https://newsletter.victordibia.com/p/practical-steps-to-reduce-hallucination): **Victor Debia**
7475
11. [A Framework for Exploring the Consequences of AI-Mediated Enterprise Knowledge](https://www.microsoft.com/en-us/research/publication/a-framework-for-exploring-the-consequences-of-ai-mediated-enterprise-knowledge-access-and-identifying-risks-to-workers/): **Microsoft**
7576

76-
### Related Frameworks and Taxonomies
77+
### الأطر والتصنيفات ذات الصلة
78+
79+
راجع هذا القسم للحصول على معلومات شاملة، واستراتيجيات السيناريوهات المتعلقة بنشر البنية التحتية، وضوابط البيئة التطبيقية، وأفضل الممارسات الأخرى.
7780

78-
Refer to this section for comprehensive information, scenarios strategies relating to infrastructure deployment, applied environment controls and other best practices.
7981

8082
- [AML.T0048.002 - Societal Harm](https://atlas.mitre.org/techniques/AML.T0048) **MITRE ATLAS**

0 commit comments

Comments
 (0)