|
11 | 11 | #### 1. Переполнение ввода переменной длины |
12 | 12 | Злоумышленники могут перегрузить LLM многочисленными вводами разной длины, используя некорректную обработку. Это может привести к истощению ресурсов и потенциальному сбою системы, что значительно повлияет на доступность сервиса. |
13 | 13 | #### 2. Denial of Wallet (DoW) |
14 | | - Инициируя большое количество операций, злоумышленники используют модель оплаты за использование облачных ИИ-сервисов, что приводит к непосильным финансовым нагрузкам на поставщика и риску финансового краха. |
| 14 | + Злоумышленники могут инициировать генерацию большого количества токенов, что потребует чрезмерного использования облачных ресурсов и приведёт к непосильным финансовым нагрузкам на поставщика. |
15 | 15 | #### 3. Переполнение непрерывного ввода |
16 | | - Отправка необычно требовательных запросов, включающих сложные последовательности или сложные языковые паттерны, может истощить ресурсы системы, привести к продолжительному времени обработки и потенциальным сбоям системы. |
| 16 | + Постоянная отправка входных данных, выходящих за рамки контекстного окна LLM, может привести к чрезмерному использованию вычислительных ресурсов, что приведет к ухудшению качества обслуживания и сбоям в работе. |
17 | 17 | #### 4. Запросы, требующие много ресурсов |
18 | 18 | Отправка необычно требовательных запросов, включающих сложные последовательности или сложные языковые паттерны, может истощить ресурсы системы, привести к продолжительному времени обработки и потенциальным сбоям системы. |
19 | 19 | #### 5. Извлечение модели через API |
|
66 | 66 | #### Сценарий №3: Запросы, требующие много ресурсов |
67 | 67 | Злоумышленник создает специфические запросы, предназначенные для запуска наиболее ресурсоемких процессов LLM, что приводит к продолжительному использованию процессора и потенциальному сбою системы. |
68 | 68 | #### Сценарий №4: Denial of Wallet (DoW) |
69 | | - Злоумышленник генерирует чрезмерное количество операций, чтобы воспользоваться моделью оплаты за использование облачных ИИ-сервисов, вызывая непосильные расходы для поставщика сервиса. |
| 69 | + Злоумышленник заставляет модель генерировать чрезмерное количество токенов, чтобы израсходовать деньги за использование облачных ИИ-сервисов, вызывая непосильные расходы для поставщика сервиса. |
70 | 70 | #### Сценарий №5: Функциональная репликация модели |
71 | 71 | Злоумышленник использует API LLM для генерации синтетических тренировочных данных и дообучения другой модели, создавая функциональный эквивалент и обходя традиционные ограничения извлечения модели. |
72 | 72 | #### Сценарий №6: Обход фильтрации ввода системы |
|
0 commit comments