Улучен код фильтрации, теперь быстрый выход при первом совпадении события

Author: r3code

README.md

@@ -44,6 +44,36 @@
 ![Граф компонентов vector.dev](docs/vector_topology-v1.2.svg)
 
 
+## Как писать фильтры в metric-catalog.yml правлиьно
+
+* При описании указывайте фильтры по полям с наименьшим количеством значений и сравниваемых через простое сравнение без регулярных выражений - это улучшит производительнсоть обработки.
+* В последнию очередь добавляйте условия с регулярными выржениями re/nre, т.к. чем позже они в выражении, тем больше шанс, что простые условия отсеят событие раньше.
+* Старайтесь всегда сначала обходиться простыми условиями, и лишь при невозможности их применения переходить на условия с регулярными выржениями re/nre.
+
+Пример более тяжелого для вычисления фильтра (плохой пример):
+
+        - selector: Исключаем из метрик логи канарееченого релиза, которые получен для запросов из внутренней сети. Чтобы это не попадало SLO
+          filter:
+            service_name:
+                re: "^.*-canary(-.*)?$"
+            namespace:
+                re: ".*-production"
+            is_internal_traffic:
+                eq: "1"
+
+
+Тот же фильтр с измененным порядокм полей будет вычисляться быстрее (хороший пример):
+
+        - selector: Исключаем из метрик логи канарееченого релиза, которые получен для запросов из внутренней сети. Чтобы это не попадало SLO
+          filter:
+            is_internal_traffic:  # << поставили на первое место простой фильтр
+                eq: "1"
+            namespace:
+                re: ".*-production"
+            service_name:
+                re: "^.*-canary(-.*)?$"
+
+
 ## Контакты
 
 Если вам интересны подробности вы можете писать нам, см. сайт https://vitech.team/ ("По вопросам сотрудничества") или приходите работать к нам.

ansible-playbook/vars/metrics-catalog.testing.yml

@@ -12,12 +12,16 @@ metrics_catalog:
   exclude_events:
     - selector: Исключаем из метрик логи канарееченого релиза, которые получен для запросов из внутренней сети. Чтобы это не попадало SLO
       filter:
-        is_internal_traffic:
-          eq: "1"
         namespace:
           eq: "webshop-production"
+        is_internal_traffic:
+          eq: "1"
         service_name:
           re: "^.*-canary(-.*)?$"
+    - selector: Исключаем /health(z)
+      filter:
+        http_path:
+          re: "/healthz?"
 
   metrics:
     vi_http:
@@ -33,33 +37,33 @@ metrics_catalog:
           ##
           - selector: "Запросы к главной странице интернет магазина"
             filter:
-              http_path: # имя поля в событии лога (входящие данные трансформа vector.dev)
-                # возможные условия отбора: eq -> ==, neq -> !=, re -> match_any(), nre -> !match_any.
-                # Порядок вычисления условий в группе: neq, nre, eq, re, (oneOfRe - не реализован)
-                eq: "/" # оператор и значение для сравнениея
               namespace:
                 eq: "webshop-production"
               service_name:
                 re: "^webshop(?:-canary)?$"
+              http_path: # имя поля в событии лога (входящие данные трансформа vector.dev)
+                # возможные условия отбора: eq -> ==, neq -> !=, re -> match_any(), nre -> !match_any.
+                # Порядок вычисления условий в группе: neq, nre, eq, re, (oneOfRe - не реализован)
+                eq: "/" # оператор и значение для сравнениея
               http_method:
                 eq: "GET"
           - selector: "Запросы на создание заказа в интернет магазине"
             filter:
-              http_path:
-                re: "^/order$|^/order-fast$"
               namespace:
                 eq: "webshop-production"
               service_name:
                 re: "^webshop(?:-canary)?$"
+              http_path:
+                re: "^/order$|^/order-fast$"
           - selector: "Открытие страницы производителя в интернет магазине"
             filter:
-              http_path:
-                re: "^/vendor/(?P<name>([^/]+/)+)$"
-                label_override: "/vendor/:name"
               namespace:
                 eq: "webshop-production"
               service_name:
                 re: "^webshop(?:-canary)?$"
+              http_path:
+                re: "^/vendor/(?P<name>([^/]+/)+)$"
+                label_override: "/vendor/:name"
             testdata: # указывать в ключах имена полей на выходе из transforms.http_accesslog-k8s
               - test:
                 input_values:
@@ -83,12 +87,12 @@ metrics_catalog:
               - test: canary
                 input_values:
                   service_name: "webshop-canary"
+                  namespace: "webshop-production"
                   container_name: "frontend"
                   cluster_name: "test::dc2-old"
                   http_path: "/vendor/gigant-2/"
                   http_method: "GET"
                   http_status_code: "200"
-                  namespace: "webshop-production"
                   duration_sec: "0.3"
                   kubernetes.pod_node_name: "ox2-kub-prod18"
                 expect:
@@ -101,11 +105,11 @@ metrics_catalog:
                     service_name: "webshop-canary"
           - selector: "Все запросы на Webshop Circuit Breaker"
             filter:
+              service_name:
+                eq: "webshop-cb"
               http_path:
                 re: ".*"
                 label_override: ":url_path"
-              service_name:
-                eq: "webshop-cb"
             testdata: # указывать в ключах имена полей на выходе из transforms.http_accesslog-k8s
               - test:
                 input_values:

files/aggregator/tests/logs-to-metrics_gen_tests.toml.j2

@@ -3,6 +3,8 @@
 ###
 {% set _metrics_catalog = metrics_catalog %}
 
+# Metrics selectors tests
+
 {% for namespace, metrics in _metrics_catalog.metrics.items() -%}
   {%- for metric_name, metric_conf in metrics.items() -%}
     {%- for selector_conf in metric_conf.event_selectors -%}
@@ -28,7 +30,6 @@
   {% endif %}
 
     [tests.inputs.log_fields]
-      # сгенерированные строки
       {% for logfield_name, logfield_value in test_conf.input_values.items() -%}
       "{{ logfield_name | replace('"','\\"') | safe }}" = "{{ logfield_value | replace('"','\\"') | safe }}"
       {# newline #}

files/aggregator/transforms/logs-to-metrics.toml.j2

@@ -52,28 +52,22 @@ inputs = ["metrics-http-accesslog-k8s_exclude_filter"]
 #
 drop_on_abort = true
 source = '''
-    is_allowed = false
-
 {% for event_selector in _metric_conf.event_selectors -%}
     {%- set selector_id = loop.index0 | string %}
     {%- set selector_name = event_selector.selector %}
     {%- set source_ref = _metric_full_name + "/selector[" + selector_id + "]: " + selector_name %}
 
     # source_ref: {{ source_ref }}
-    is_selector_match = {{ build_selector_matching_expr(event_selector, source_ref) }}
-    is_allowed = is_allowed || is_selector_match
-
-  {%- for logfield_name, operator in event_selector.filter.items() %}
+    if (   {{ build_selector_matching_expr(event_selector, source_ref) }}   ) {
+{% for logfield_name, operator in event_selector.filter.items() %}
     {%- if operator.re is defined %}
       {%- if operator.re != "" %}
         {%- if operator.label_override is defined and operator.label_override != "" %}
-{{ '' }}
-    # нужно снижение кардинальности значений label_override
-    if ( is_selector_match ) {
+        ## ! нужно снижение кардинальности значений - установлен label_override
 {# logfield_name всегда строка и валидируется через json-schaema в исходных данных #}
         .{{ logfield_name }} = to_string!(.{{ logfield_name }});
         .{{ logfield_name }} = replace(.{{ logfield_name }}, r'{{ operator.re }}', s'{{ operator.label_override }}');
-    }
+        #
         {%- else %}
           {# no label_override #}
         {%- endif %}
@@ -83,12 +77,17 @@ source = '''
 {{ '' }}
     {%- endif %}
   {%- endfor %}
-
+true;
+    }
+    {%- if not loop.last %}
+    else {{' '}}
+    {%- else %}
+    else {
+      abort # совпадений не было найдено, удалить это событие
+    }
+    {%- endif %}
 {% endfor %}
 
-if ( !is_allowed ) {
-    abort # совпадений не было найдено, удалить это событие
-}
 '''
 {# newline #}
 
@@ -122,10 +121,6 @@ inputs = [ "{{ _remap_name }}" ]
 
 ###############################################################################
 
-
-
-
-
 [transforms.metrics-http-accesslog-k8s]
 type = "filter"
 inputs = [{{ _all_collector_inputs | map("to_json") | join(',')}}]