New knowledge base item

Author: jfparie

content/.DS_Store

@@ -0,0 +1,34 @@
+---
+layout: article
+type: knowledgebase_item
+author: The Netherlands Institute for Human Rights
+summary: >-
+  Meta’s ML-driven advertising system indirectly discriminates against women
+facets:
+  - value: type_review
+    label: review
+weight: -14
+title: >-
+  Indirect discrimination in Meta’s ML-driven advertising system
+subtitle: >
+  Meta’s ML-driven advertising system indirectly discriminates against women
+image: /images/knowledge_base/CvRM 2025-17.png
+---
+
+### Meta's algorithm indirectly discriminates against women: what's next?
+
+The Netherlands Institute of Human Rights has ruled that Meta’s machine learning-driven auction-based advertising system indirectly discriminates against women. Here’s a breakdown of the ruling and its implications:  
+
+#### Key takeaways from the ruling  
+   - Human Rights Institutes in one EU member state (e.g., The Netherlands) can take legal action against a social media platform (Meta Inc.) registered in another member state (Ireland).  
+   - Non-governmental organizations (NGOs) established to advocate for specific demographic groups (e.g., women) can represent these groups in legal actions.  
+   - Personalizing job ads on social media is classified as a service, not as employment mediation or recruitment.  
+   - Evidence showed that over 85% of stereotypically female-associated jobs (e.g., receptionist, preschool teacher) were predominantly shown to women, while male-associated jobs (e.g., mechanic, pilot) were mainly shown to men.  
+   - This triggered the reversal of the burden of proof, requiring Meta to demonstrate impartial treatment, which they failed to do.  
+   - The machine learning algorithm used profiling in dynamic ways, sometimes factoring in gender. While this didn’t qualify as direct discrimination, it led to indirect discriminatory outcomes.  
+   - The Netherlands Institute of Human Rights assessed the algorithm against three criteria:  
+     - _Legitimacy_: Differentiating job vacancies is a legitimate aim for Meta to enhance its services.  
+     - _Suitability_: ML-driven differentiation is suitable for achieving this aim.  
+     - _Necessity_: The method was deemed unnecessary, as alternatives like algorithmic differentiation combined with monitoring disparate impacts were available.  
+
+This isn’t a new problem for Meta. In the US, under pressure from the Department of Justice, Meta implemented proper monitoring systems, including the Variance Reduction System (VRS), to improve fairness in personalized ads. While the VRS system could potentially address the issues raised by this ruling, it’s disappointing that Meta hasn’t proactively introduced this solution in European markets.  

content/english/knowledge-platform/knowledge-base/20250219_Meta.md

@@ -0,0 +1,33 @@
+---
+layout: article
+type: knowledgebase_item
+author: College voor de Rechten van de Mens
+summary: >-
+  Indirecte discriminatie door Meta's ML-gebaseerde advertentiesysteem
+facets:
+  - value: type_review
+    label: review
+weight: -14
+title: >-
+  Indirecte discriminatie door Meta's ML-gebaseerde advertentiesysteem
+subtitle: >
+  Advertentiesysteem van Meta gebaseerd op machine learning discrimineert indirect vrouwen: wat nu?
+image: /images/knowledge_base/CvRM 2025-17.png
+---
+### Advertentiesysteem van Meta gebaseerd op machine learning discrimineert indirect vrouwen: wat nu?
+
+Het College voor de Rechten van de Mens heeft geoordeeld dat het machine learning (ML)-gedreven advertentiesysteem van Meta indirect discrimineert tegen vrouwen. Een samenvatting van de uitspraak:  
+
+#### Belangrijkste punten
+   - Mensenrechteninstituten in een EU-lidstaat (bijv. Nederland) kunnen juridische stappen ondernemen tegen een social media platform (Meta Inc.) dat in een andere lidstaat (Ierland) is geregistreerd.  
+   - NGO's die zijn opgericht om de rechten van specifieke demografische groepen (bijv. vrouwen) te behartigen, kunnen deze groepen vertegenwoordigen in juridische procedures.  
+   - Het aanbieden en personaliseren van vacatures op social media wordt geclassificeerd als een dienst, niet als arbeidsbemiddeling of werving en selectie.  
+   - Bewijs toonde aan dat meer dan 85% van de stereotypisch vrouwelijke banen (bijv. receptioniste, basisschooldocent) voornamelijk aan vrouwen werd getoond, terwijl stereotypisch mannelijke banen (bijv. monteur, piloot) voornamelijk aan mannen werden getoond.  
+   - Dit leidde tot de omkering van de bewijslast, waarbij Meta moest aantonen dat er sprake was van gelijke behandeling, wat ze niet konden doen.  
+   - Het ML-algoritme gebruikte profilering op een dynamische manier, waarbij geslacht soms wel en soms niet onderdeel was van profilering. Deze vorm van onderscheid kwalificeert niet als directe discriminatie, maar wel tot indirecte discriminatie.  
+   - Het College beoordeelde het gemaakte onderscheid door het algoritme aan de hand van drie criteria volgens de objectieve rechtvaardigingstoets:  
+     - _Legitimiteit_: Het differentiëren van vacatures is een legitiem doel voor Meta om haar diensten te verlenen.  
+     - _Geschiktheid_: ML-gestuurde differentiatie is geschikt om dit doel te bereiken.  
+     - _Noodzaaklijkheid_: De methode was echter niet noodzakelijk, aangezien alternatieven zoals algoritmische differentiatie gecombineerd met monitoring van ongelijke effecten ook tot de mogelijkheden behoorden, maar Meta hier niet voor gekozen heeft.  
+
+Dit is geen nieuw probleem voor Meta. In de Verenigde Staten, onder druk van het Ministerie van Justitie, heeft Meta monitoringsystemen geïmplementeerd om dergelijke ongelijke behandeling te voorkomen, in het bijzonder het Variance Reduction System (VRS). Het is een realistische mogelijkheid dat het VRS nu ook in Europa wordt ingezet om het advertentiesysteem van Meta te reguleren. Het is echter teleurstellend dat Meta deze oplossing niet proactief heeft geïntroduceerd.