You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
Find here an overview of current job openings at Algorithm Audit
5
5
image: /images/svg-illustrations/about.svg
6
6
form1:
7
-
title: Application form
7
+
title: Sollicitatieformulier
8
8
button_text: Submit
9
9
backend_link: 'https://formspree.io/f/mdoqdpnn'
10
10
id: form
11
11
questions:
12
12
- label: |
13
-
Name
13
+
Naam
14
14
id: name
15
15
required: true
16
16
type: text
17
17
- label: |
18
-
Contact details
18
+
Contactgegevens
19
19
id: contact-details
20
20
required: true
21
21
type: email
22
-
placeholder: Mail address
22
+
placeholder: Emailadres
23
23
- label: |
24
-
Working group preference
25
-
id: wg-preference
26
-
values:
27
-
- label: WG2
28
-
value: WG2
29
-
id: wg2
30
-
- label: WG3
31
-
value: WG3
32
-
id: wg3
33
-
- label: WG4
34
-
value: WG4
35
-
id: wg4
36
-
required: false
37
-
type: checkbox
38
-
- label: |
39
-
Motivation letter (max. 500 words)
24
+
Motivatiebrief (max. 500 woorden)
40
25
id: motivation-letter
41
-
file_upload_text: Choose file
26
+
file_upload_text: Kies bestand
42
27
required: true
43
28
file_type: '.docx, .pdf'
44
29
type: file
45
30
- label: |
46
31
CV
47
32
id: cv
48
-
file_upload_text: Choose file
33
+
file_upload_text: Kies bestand
49
34
required: true
50
35
file_type: '.docx, .pdf'
51
36
type: file
52
37
- label: >
53
-
Terms and conditions <br> <span style="font-size:12px;
54
-
color=#777;">Submitted data will only be processed for the purpose
55
-
described above, kept for the minimum necessary duration, and is
56
-
securely stored in a protected environment</span>
38
+
Opmerking over verwerking van je persoonsgegevens <br> <span style="font-size:12px;
39
+
color=#777;">Ingezonden gegevens zullen alleen verwerkt worden in het kader van het sollicitatieproces. Je gegevens zullen veilig worden opgeslagen en worden verwijderd nadat de procedure is afgerond.</span>
Wil jij concreet bijdragen aan de verantwoorde inzet van AI en algoritmes? En wil jij dat doen vanuit een onafhankelijke en maatschappelijke rol waarbij ieders belangen worden meegenomen? Kom stichting Algorithm Audit versterken als _Projectmedewerker_ en draag bij aan de collectieve kennisopbouw over verantwoorde AI.
57
+
58
+
#### Over stichting Algorithm Audit
59
+
Stichting Algorithm Audit is een Europees kennisplatform voor AI bias testing en AI standaarden. We zijn een technisch onderlegde, sterk interdisciplinaire en maatschappelijk betrokken organisatie die zich inspant voor publieke kennis over verantwoorde AI en algoritmes. Door het verrichten van not-for-profit projectwerk zijn we een alternatief voor commerciële consulting, waarbij we minimaal dezelfde kwaliteitsstandaarden hanteren maar dan zonder winstmaximalisatie. We adviseren voornamelijk publieke sector organisaties en zetten ons actief in om kennisuitwisseling tussen overheidsorganisaties aan te jagen. Recent hebben we projectwerk verricht voor o.a. DUO, het Ministerie van Justitie en Veiligheid, de Gemeente Amsterdam en de Raad van Europa.
60
+
61
+
Voor specifieke vraagstukken bouwen we open source tools waar iedereen iets aan heeft, bijvoorbeeld ten behoeve van synthetische data generatie of implementatie van de AI-verordening. Door casusonderzoek en onafhankelijke oordeelsvorming door diverse adviescommissies dragen we bij aan publieke kennisopbouw en normering van concrete use cases.
62
+
63
+
Wij zijn een jonge, enthousiaste en snelgroeiende organisatie met een klein kernteam maar met een groot netwerk van academici, beleidsmakers en experts in Nederland en Europa waar we mee samenwerken. Ons kantoor is gevestigd in Den Haag.
64
+
65
+
#### Wat zoeken wij?
66
+
Als projectmedewerker bij Algorithm Audit:
67
+
* Verricht je projectwerk met betrekking tot de verantwoorde inzet van algoritmen en AI voor verschillende klanten, voornamelijk in de publieke sector;
68
+
* Houd je je bezig met implementatie van de AI-verordening, het toepassen van standaarden, inhoudelijke evaluatie van AI-systemen en de rapportage hierover;
69
+
* Analyseer je documentatie over algoritmes, toepasselijke wet- en regelgeving en bijbehorende kwantitatieve informatie;
70
+
* Draai je mee in een team met ervaren consultants;
71
+
* Draag je schriftelijk bij aan o.a. technisch en/of juridische analyses, presentaties, beschrijvingen van technische tools;
72
+
* Heb je inzicht in de statistische basis van algoritmen, AI en data-analyse (het zelfstandig kunnen ontwikkelen van Python-code is een pré);
73
+
* Onderzoek je naar eigen inzicht onderwerpen waarvoor in het bedrijfsleven geen tijd is;
74
+
* Doe je veel ervaring op en vind je het leuk expertise te ontwikkelen in verschillende vakgebieden;
75
+
* Ondersteun je het team met praktische aspecten die komen kijken bij het runnen van een jonge organisatie, zoals het hosten van events, PR en communicatie;
76
+
* Licht je door Algorithm Audit opgedane inzichten in begrijpelijke taal toe, zodat deze met de samenleving, beleidsmakers en juristen kunnen worden gedeeld.
77
+
78
+
#### Vaardigheden
79
+
* Relevante universitaire studie afgerond (technisch, juridisch en/of bestuurskundig etc.)
80
+
* Aantoonbare affiniteit met verantwoorde algoritmes en AI, vanuit een juridische, beleidsmatige en/of technische invalshoek;
81
+
* 1-3 jaar werkervaring, bij voorkeur concrete ervaring met het ontwerpen of adviseren over verantwoorde algoritmes en AI;
82
+
* Programmeervaardigheden en inzicht in statistiek zijn een pré;
83
+
* Sterk organisatorisch vermogen;
84
+
* In staat om in klein team in goede afstemming te werken en ook veel zelfstandig op te pakken;
85
+
* Ondernemende en pionierende instelling passend bij een start-up;
86
+
* Representatief naar opdrachtgevers en belanghebbenden;
87
+
* Uitstekende schrijfvaardigheid Engels en Nederlands.
88
+
89
+
#### Wat verwachten wij?
90
+
* Minimaal 3 dagen aanwezigheid op kantoor in Den Haag;
91
+
* Bereidheid om binnenlands te reizen, en incidenteel Europees;
92
+
* Nederlandse nationaliteit of werkvergunning.
93
+
94
+
#### Arbeidsvoorwaarden
95
+
* Bruto maandsalaris van €3.200-€3.800/maand op basis van 1.0 fte, excl. vakantietoeslag, 13e maand, pensioenopbouw, thuiswerkvergoeding. Het salaris kan worden bijgesteld naar boven bij buitengewone werkervaring;
96
+
* 26 vakantiedagen;
97
+
* Hybride werkopstelling, waarbij minimaal 3 dagen aanwezigheid op kantoor wordt verwacht;
98
+
* Arbeidsovereenkomst voor één jaar.
99
+
100
+
#### Praktische opmerkingen
101
+
* Deze vacature staat online t/m 28-03-2025;
102
+
* De eerste ronde sollicitatiegesprekken vinden plaats in de week van 21-25 april in Den Haag;
103
+
* Je ontvang schriftelijk reactie op je aanmelding voor 05-04-2025;
104
+
* Startdatum medio mei-juni (in overleg).
105
+
106
+
107
+
#### Diversiteit en inclusie
108
+
Nadenken over verantwoorde algoritmes kunnen we alleen als we ieders perspectief meenemen. We hechten daarom sterk aan diversiteit en inclusie in al onze werkzaamheden, met name in het betrekken van verschillende belanghebbende groepen. Ook als organisatie willen we diversiteit weerspiegelen m.b.t. bijvoorbeeld gender, culturele en disciplinaire achtergrond.
109
+
110
+
#### 
Contact
111
+
Stuur je sollicitatiebrief en CV uiterlijk voor 28-03-2025 naar [email protected].
112
+
113
+
Bij vragen over de vacature of procedure, stuur een berichtje via het contactforumlier.
Wil jij concreet bijdragen aan de verantwoorde inzet van AI en algoritmes? En wil jij dat doen vanuit een onafhankelijke en maatschappelijke rol waarbij ieders belangen worden meegenomen? Kom stichting Algorithm Audit versterken als _Stagiair_ en draag bij aan de collectieve kennisopbouw over verantwoorde AI.
124
+
125
+
#### Over stichting Algorithm Audit
126
+
Stichting Algorithm Audit is een Europees kennisplatform voor AI bias testing en AI standaarden. We zijn een technisch onderlegde, sterk interdisciplinaire en maatschappelijk betrokken organisatie die zich inspant voor publieke kennis over verantwoorde AI en algoritmes. Door het verrichten van not-for-profit projectwerk zijn we een alternatief voor commerciële consulting, waarbij we minimaal dezelfde kwaliteitsstandaarden hanteren maar dan zonder winstmaximalisatie. We adviseren voornamelijk publieke sector organisaties en zetten ons actief in om kennisuitwisseling tussen overheidsorganisaties aan te jagen. Recent hebben we projectwerk verricht voor o.a. DUO, het Ministerie van Justitie en Veiligheid, de Gemeente Amsterdam en de Raad van Europa.
127
+
128
+
Voor specifieke vraagstukken bouwen we open source tools waar iedereen iets aan heeft, bijvoorbeeld ten behoeve van synthetische data generatie of implementatie van de AI-verordening. Door casusonderzoek en onafhankelijke oordeelsvorming door diverse adviescommissies dragen we bij aan publieke kennisopbouw en normering van concrete use cases.
129
+
130
+
Wij zijn een jonge, enthousiaste en snelgroeiende organisatie met een klein kernteam maar met een groot netwerk van academici, beleidsmakers en experts in Nederland en Europa waar we mee samenwerken. Ons kantoor is gevestigd in Den Haag.
131
+
132
+
#### Wat zoeken wij?
133
+
Als stagiair bij Algorithm Audit:
134
+
- Draai je mee in het team van Algorithm Audit bestaande uit ervaren consultants;
135
+
- Draag je schriftelijk bij aan o.a. technisch en/of juridische analyses, presentaties, beschrijvingen en mogelijk doorontwikkeling van technische tools;
136
+
- Help je bij de praktische aspecten die komen kijken bij het runnen van een jonge organisatie, zoals het organiseren van events, PR en communicatie;
137
+
- Stem je je precieze takenpakket in samenspraak af, afhankelijk van je beschikbaarheid en affiniteit;
138
+
- Doe je veel ervaring op en vind je het leuk expertise te ontwikkelen in verschillende vakgebieden.
139
+
140
+
Het is ook mogelijk om binnen je stage bij Algorithm Audit een masterscriptie te schrijven op het gebied van verantwoorde AI en algoritmes. We stemmen dan samen af hoeveel tijd jij nodig hebt voor je scriptie en hoeveel tijd je hebt om als stagiair mee te draaien in de organisatie.
141
+
142
+
Je scriptie onderwerp sluit zowel aan bij jouw studierichting als bij de algemene focusgebieden van Algorithm Audit. We staan open voor eigen ideeën voor een scriptieonderwerp en we kunnen je ook ondersteunen bij het specifiek definiëren hiervan. Denk bijvoorbeeld aan:
143
+
144
+
- Juridisch: Vraagstukken rondom de AI-verordening, digitaal bestuursrecht, of gelijke behandeling bij algoritmes;
145
+
- Bestuurskundig: Onderzoek naar publieke beleidsvorming rondom algoritmes en AI of naar goed algoritmemanagementbeleid;
146
+
- Technisch: Onderzoek naar bias en fairness of naar evaluatiemethodes voor LLMs. In je onderzoek weet je de brug te leggen naar concrete use cases en de praktijk.
147
+
148
+
#### Vaardigheden
149
+
- Je bent bezig met een relevante masteropleiding;
150
+
- Je vindt het leuk om aan multidisciplinaire thema’s te werken. Je laat je niet afschrikken door jargon van een ander vakgebied;
151
+
- Je hebt aantoonbare affiniteit met verantwoorde inzet van AI en algoritmes (aantoonbare multidisciplinaire ervaring is een pré);
152
+
- Je bent gedreven en op de hoogte van het publieke debat rondom AI en algoritmes;
153
+
- Je bent staat om in een klein team in goede afstemming te werken en ook veel zelfstandig op te pakken;
154
+
- Volledige werkvaardigheid in Nederlands en Engels.
155
+
156
+
#### Wat verwachten wij?
157
+
- Je komt minimaal 1 à 2 dagen in de week naar ons kantoor in Den Haag;
158
+
- Bereidheid om binnenlands te reizen, en incidenteel Europees;
159
+
- Nederlandse nationaliteit of werkvergunning.
160
+
161
+
#### Wat bieden wij?
162
+
- Een kleine enthousiaste organisatie die een pionier is op het gebied van verantwoorde algoritmes en AI in de praktijk, en dit doet vanuit een onafhankelijke en maatschappelijke rol;
163
+
- Begeleiding bij je scriptie: wekelijkse check-in, inhoudelijk meedenken en meelezen bij je tussenproducten en scriptie;
164
+
- Een vergoeding: €750- per maand voor een fulltime stage. Bij minder beschikbaarheid komen we samen tot een redelijke afstemming.
165
+
166
+
#### Praktische opmerkingen
167
+
- Startdatum en looptijd in overleg.
168
+
169
+
#### Diversiteit en inclusie
170
+
Nadenken over verantwoorde algoritmes kunnen we alleen als we ieders perspectief meenemen. We hechten daarom sterk aan diversiteit en inclusie in al onze werkzaamheden, met name in het betrekken van verschillende belanghebbende groepen. Ook als organisatie willen we diversiteit weerspiegelen m.b.t. bijvoorbeeld gender, culturele en disciplinaire achtergrond.
171
+
172
+
#### 
Contact
173
+
Stuur je sollicitatiebrief en CV uiterlijk voor 28-03-2025 naar [email protected].
174
+
175
+
Bij vragen over de vacature of procedure, stuur een berichtje via het contactforumlier.
author: The Netherlands Institute for Human Rights
5
+
summary: >-
6
+
Meta’s ML-driven advertising system indirectly discriminates against women
7
+
facets:
8
+
- value: type_review
9
+
label: review
10
+
weight: -14
11
+
title: >-
12
+
Indirect discrimination in Meta’s ML-driven advertising system
13
+
subtitle: >
14
+
Meta’s ML-driven advertising system indirectly discriminates against women
15
+
image: /images/knowledge_base/CvRM 2025-17.png
16
+
---
17
+
18
+
### Meta's algorithm indirectly discriminates against women: what's next?
19
+
20
+
The Netherlands Institute of Human Rights has ruled that Meta’s machine learning-driven auction-based advertising system indirectly discriminates against women. Here’s a breakdown of the ruling and its implications:
21
+
22
+
#### Key takeaways from the ruling
23
+
- Human Rights Institutes in one EU member state (e.g., The Netherlands) can take legal action against a social media platform (Meta Inc.) registered in another member state (Ireland).
24
+
- Non-governmental organizations (NGOs) established to advocate for specific demographic groups (e.g., women) can represent these groups in legal actions.
25
+
- Personalizing job ads on social media is classified as a service, not as employment mediation or recruitment.
26
+
- Evidence showed that over 85% of stereotypically female-associated jobs (e.g., receptionist, preschool teacher) were predominantly shown to women, while male-associated jobs (e.g., mechanic, pilot) were mainly shown to men.
27
+
- This triggered the reversal of the burden of proof, requiring Meta to demonstrate impartial treatment, which they failed to do.
28
+
- The machine learning algorithm used profiling in dynamic ways, sometimes factoring in gender. While this didn’t qualify as direct discrimination, it led to indirect discriminatory outcomes.
29
+
- The Netherlands Institute of Human Rights assessed the algorithm against three criteria:
30
+
-_Legitimacy_: Differentiating job vacancies is a legitimate aim for Meta to enhance its services.
31
+
-_Suitability_: ML-driven differentiation is suitable for achieving this aim.
32
+
-_Necessity_: The method was deemed unnecessary, as alternatives like algorithmic differentiation combined with monitoring disparate impacts were available.
33
+
34
+
This isn’t a new problem for Meta. In the US, under pressure from the Department of Justice, Meta implemented proper monitoring systems, including the Variance Reduction System (VRS), to improve fairness in personalized ads. While the VRS system could potentially address the issues raised by this ruling, it’s disappointing that Meta hasn’t proactively introduced this solution in European markets.
0 commit comments