Skip to content

Commit 986732c

Browse files
jfpariejfparie
authored
Merge pull request #332 from NGO-Algorithm-Audit/feature/structural_edits
Feature/structural edits
2 parents 13723e1 + 6cea8d8 commit 986732c

File tree

12 files changed

+182
-60
lines changed

12 files changed

+182
-60
lines changed

‎content/.DS_Store‎

0 Bytes
Binary file not shown.

‎content/english/_index.md‎

Lines changed: 14 additions & 14 deletions
Original file line numberDiff line numberDiff line change
@@ -72,20 +72,6 @@ Activity_Feed:
7272
featured_button_link: /knowledge-platform/knowledge-base/
7373
items_title: Upcoming events
7474
activities:
75-
- title: >-
76-
Expert Roundtable II: Capacity Building for Competent Authorities on AI
77-
link: >-
78-
https://unesdoc.unesco.org/ark:/48223/pf0000395086
79-
image: /images/partner logo-cropped/UNESCO.png
80-
date: 30-09-2025
81-
type: panel discussion
82-
- title: >-
83-
Association of Insurers – Data day 2025
84-
link: >-
85-
https://www.verzekeraars.nl/academy/activiteitenoverzicht/data-dag-2025
86-
image: /images/partner logo-cropped/VerbondvanVerzekeraars.svg
87-
date: 02-10-2025
88-
type: presentation
8975
- title: >-
9076
Brussels Privacy Symposium 2025 – A data protection (r)evolution?
9177
link: >-
@@ -108,6 +94,20 @@ Activity_Feed:
10894
image: /images/partner logo-cropped/Vide.png
10995
date: 31-10-2025
11096
type: panel discussion
97+
- title: >-
98+
Course on 'AI Risk Management in the EU', European Institute of Public Administration
99+
link: >-
100+
https://www.eipa.eu/courses/artificial-intelligence/
101+
image: /images/partner logo-cropped/EIPA.png
102+
date: 18-11-2025
103+
type: training
104+
- title: >-
105+
Course on 'GPAI validation framework', Dutch Academy for Legislation
106+
link: >-
107+
https://rechtenoverheid.nl/cursus/leeratelier-generatieve-ai-waar-op-te-letten-bij-verstandig-gebruik-2452
108+
image: /images/partner logo-cropped/acwet.svg
109+
date: 26-02-2026
110+
type: training
111111
items_button_text: More events
112112
items_button_link: /events/activities/
113113
Areas_of_AI_expertise:

‎content/english/algoprudence/cases/aa202501_predicting-irresponsible-driving-behavior.md‎

Lines changed: 9 additions & 2 deletions
Original file line numberDiff line numberDiff line change
@@ -85,7 +85,7 @@ The case originates from an (anonymized) car sharing platform, which has coopera
8585

8686
This case study was published during UNESCO's Expert roundtable II: Capacity building for AI supervisory authorities in Paris on September 30, 2025.
8787

88-
<!-- {{< image id="presentation-minister" image1="/images/algoprudence/AA202302/Algorithm audit presentatie BZK FB-18.jpg" alt1="Presentation advice report to Dutch Minister of Digitalization" caption1="Presentation advice report to Dutch Minister of Digitalization" width_desktop="5" width_mobile="12" >}} -->
88+
{{< image id="presentation-unesco" image1="/images/algoprudence/AA202501/Photo1.jpg" alt1="Presentation advice report during UNESCO Expert roundtable II: capacity building for AI supervisory authorities" caption1="Presentation advice report during UNESCO Expert roundtable II: capacity building for AI supervisory authorities" width_desktop="6" width_mobile="12" image2="/images/algoprudence/AA202501/Photo2.jpeg" alt2="Presentation advice report during UNESCO Expert roundtable II: capacity building for AI supervisory authorities" caption2="Presentation advice report during UNESCO Expert roundtable II: capacity building for AI supervisory authorities" >}}
8989

9090
#### Problem statement and advice document
9191

@@ -98,7 +98,14 @@ This case study was published during UNESCO's Expert roundtable II: Capacity bui
9898
- Joris Krijger, AI & Ethics Officer, De Volksbank
9999
- Maaike Harbers, Professor of Applied Sciences (lector) Artificial Intelligence & Society, Rotterdam University of Applied Sciences
100100
- Monique Steijns, Founder The People’s AI agency
101-
- Anne Rijlaarsdam, user car sharing platform.
101+
- Anne Rijlaarsdam, user car sharing platform
102+
103+
#### Focus group
104+
105+
Algorithm Audit has brought together a focus group to gather user perspectives on data processing, algorithmic predictions and communication by shared mobility platforms. The insights from this focus group are shared in the document below. On the basis of the problem statement (ALGO:AA:2025:01:P) and the focus group results, the normative advice commission issued advice on the identified issues in the advice document (ALGO:AA:2025:01:A).
106+
107+
{{< embed_pdf url="/pdf-files/algoprudence/ALGO_AA202501/EN/Focus group Predicting irresponsible driving behavior.pdf" >}}
108+
102109

103110
{{< tab_content_close >}}
104111

‎content/english/events/activities.md‎

Lines changed: 51 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -25,7 +25,57 @@ facet_groups:
2525
label: Presentation
2626
events:
2727
- title: >-
28-
Interview Binnenlands Bestuur
28+
Association of Insurers – Data day 2025
29+
description: >
30+
Presentation on the AI Act during Data Day 2025 of Dutch Association of Insurers
31+
32+
image: /images/partner logo-cropped/VerbondvanVerzekeraars.svg
33+
date: 02-10-2025
34+
facets:
35+
- value: year_2025
36+
label: '2025'
37+
hide: true
38+
- value: year_q3_2025
39+
label: Q3-2025
40+
hide: true
41+
- value: type_presentation
42+
label: presentation
43+
- title: >-
44+
Panel discussion during 'Expert Roundtable II: Capacity Building for Competent Authorities on AI', UNESCO in Paris
45+
description: >
46+
Panel discussion on 'Tools for Supervising Authorities: Understanding Algorithm Audits'. During the panel discussion we announced publication of Algorithm Audit's case study ['Predicting irresponsible driving'](/algoprudence/cases/aa202501_predicting-irresponsible-driving-behavior/)
47+
48+
49+
![](/images/algoprudence/AA202501/Photo2.jpeg)
50+
image: /images/partner logo-cropped/UNESCO.png
51+
date: 30-09-2025
52+
facets:
53+
- value: year_2025
54+
label: '2025'
55+
hide: true
56+
- value: year_q3_2025
57+
label: Q3-2025
58+
hide: true
59+
- value: type_panel
60+
label: panel discussion
61+
- title: >-
62+
Interview Binnenlands Bestuur with Ylja Remmits about 'high-risk AI systems'
63+
description: >
64+
<a href="https://www.binnenlandsbestuur.nl/digitaal/overheden-worstelen-met-mogelijke-hoog-risico-ai-systemen" target="_blank">Interview</a> with platform for Dutch public governance Binnenlands Bestuur on high-risk classification of AI systems, following Algorithm Audit's <a href="https://algorithmaudit.eu/knowledge-platform/knowledge-base/inventory_high_risk_ai_systems/" target="_blank">inventory of 14 Dutch ministries' registration in the Netherlands' national algorithm registry</a>.
65+
66+
image: /images/partner logo-cropped/BinnenlandsBestuur.svg
67+
date: 22-09-2025
68+
facets:
69+
- value: year_2025
70+
label: '2025'
71+
hide: true
72+
- value: year_q3_2025
73+
label: Q3-2025
74+
hide: true
75+
- value: type_interview
76+
label: interview
77+
- title: >-
78+
Interview Binnenlands Bestuur with Jurriaan Parie about 'AI system definition'
2979
description: >
3080
Interview with platform for Dutch public governance <a href="https://www.binnenlandsbestuur.nl/digitaal/rijk-zegt-nauwelijks-hoog-risico-ai-te-gebruiken" target="_blank">Binnenlands Bestuur </a> relating to Algorithm Audit's <a href="https://algorithmaudit.eu/knowledge-platform/knowledge-base/inventory_high_risk_ai_systems/" target="_blank">inventory of 14 Dutch ministries' registration in the Netherlands' national algorithm registry</a>.
3181

‎content/nederlands/_index.md‎

Lines changed: 14 additions & 12 deletions
Original file line numberDiff line numberDiff line change
@@ -75,18 +75,6 @@ Activity_Feed:
7575
featured_button_link: /nl/knowledge-platform/knowledge-base/
7676
items_title: Aankomende events
7777
activities:
78-
- title: "Expert rondetafel II: Kennisopbouw voor toezichthouder op AI"
79-
link: "https://unesdoc.unesco.org/ark:/48223/pf0000395086"
80-
image: /images/partner logo-cropped/UNESCO.png
81-
date: 30-09-2025
82-
type: paneldiscussie
83-
- title: >-
84-
Verbond van Verzekeraars – Data dag 2025
85-
link: >-
86-
https://www.verzekeraars.nl/academy/activiteitenoverzicht/data-dag-2025
87-
image: /images/partner logo-cropped/VerbondvanVerzekeraars.svg
88-
date: 02-10-2025
89-
type: presentatie
9078
- title: >-
9179
Brussels Privacy Symposium 2025 – A data protection (r)evolution?
9280
link: >-
@@ -109,6 +97,20 @@ Activity_Feed:
10997
image: /images/partner logo-cropped/Vide.png
11098
date: 31-10-2025
11199
type: paneldiscussion
100+
- title: >-
101+
Cursus 'AI risicomanagement in de EU', European Institute of Public Administration
102+
link: >-
103+
https://www.eipa.eu/courses/artificial-intelligence/
104+
image: /images/partner logo-cropped/EIPA.png
105+
date: 18-11-2025
106+
type: training
107+
- title: >-
108+
Leeratelier 'Generatieve AI: waar op te letten bij verstandig gebruik?', Academie voor Wetgeving
109+
link: >-
110+
https://rechtenoverheid.nl/cursus/leeratelier-generatieve-ai-waar-op-te-letten-bij-verstandig-gebruik-2452
111+
image: /images/partner logo-cropped/acwet.svg
112+
date: 26-02-2026
113+
type: training
112114
items_button_text: Meer events
113115
items_button_link: /nl/events/activities/
114116
Areas_of_AI_expertise:

‎content/nederlands/algoprudence/cases/aa202501_predicting-irresponsible-driving-behavior.md‎

Lines changed: 41 additions & 28 deletions
Original file line numberDiff line numberDiff line change
@@ -6,36 +6,43 @@ subtitle: |
66
image: /images/algoprudence/AA202501/Cover_NL.png
77
dynamic_form_engine:
88
- title: Reageer op dit normatieve oordeel
9-
content: >-
10-
Uw reactie wordt verstuurd naar het auditing team. Het team leest de reactie en, indien het verenigbaar is met Algorithm Audit’s richtlijnen voor publicatie, wordt de reactie geplaatst in bovenstaande Discussie & debat sectie.
119
id: case-reaction
1210
icon: fas fa-align-justify
11+
content: >
12+
Uw reactie wordt verstuurd naar het auditing team. Het team leest de
13+
reactie en, indien het verenigbaar is met Algorithm Audit’s richtlijnen
14+
voor publicatie, wordt de reactie geplaatst in bovenstaande Discussie &
15+
debat sectie.
1316
section:
1417
- questions:
15-
- title: |
18+
- identifier: name
19+
title: |
1620
Name
17-
identifier: name
21+
content: ''
1822
required: true
1923
type: text
20-
- title: |
24+
- identifier: affiliated-organization
25+
title: |
2126
Organisatie
22-
identifier: affiliated-organization
27+
content: ''
2328
type: text
24-
- title: |
29+
- identifier: reaction
30+
title: |
2531
Reactie
26-
identifier: reaction
32+
content: ''
2733
required: true
2834
type: textarea
29-
- title: |
35+
- identifier: contact-details
36+
title: |
3037
Contactgegevens
31-
identifier: contact-details
38+
content: ''
3239
required: true
3340
type: text
3441
placeholder: Mail address
3542
complete_form_options:
3643
type: submit
3744
button_text: Verzenden
38-
backend_link: "https://formspree.io/f/xyyrjyzr"
45+
backend_link: 'https://formspree.io/f/xyyrjyzr'
3946
---
4047

4148
{{< tab_header width="4" tab1_id="description" tab1_title="Beschrijving algoprudentie" tab2_id="actions" tab2_title="Acties volgend op algoprudentie" tab3_id="discussion" tab3_title="Discussie & debat" default_tab="description" >}}
@@ -48,18 +55,18 @@ ALGO:AA:2025:01
4855

4956
#### Hoofdpunten normatieve adviescommissie
5057

51-
- <span style="color:#005aa7; font-weight:600;">Modelvaliditeit is essentieel</span>\
58+
* <span style="color:#005aa7; font-weight:600;">Modelvaliditeit is essentieel</span>\
5259
Het algoritme moet worden aangepast om specifiek rijgedrag te voorspellen dat tot schade leidt en niet algemeen misbruik van het platform. Zoals bij elk risicovoorspellingsmodel is het van cruciaal belang dat de trainingsdata aansluiten bij het beoogde doel.
53-
- <span style="color:#005aa7; font-weight:600;">Balans tussen monitoring en gebruikersautonomie</span>\
60+
* <span style="color:#005aa7; font-weight:600;">Balans tussen monitoring en gebruikersautonomie</span>\
5461
Het monitoren van onverantwoord rijgedrag om schade te beperken is een legitiem bedrijfsbelang, maar mag niet ontaarden in buitensporig toezicht of betuttelend advies over rijstijl.
55-
- <span style="color:#005aa7; font-weight:600;">Betekenisvolle transparantie vereist</span>\
62+
* <span style="color:#005aa7; font-weight:600;">Betekenisvolle transparantie vereist</span>\
5663
Gebruikers hebben behoefte aan specifieke uitleg over welk rijgedrag tot een waarschuwing heeft geleid en aan duidelijke handvatten voor verbetering van rijgedrag, niet aan algemene waarschuwingen of verwarrende technische termen die voor de doorsnee platformgebruiker geen betekenis hebben.
57-
- <span style="color:#005aa7; font-weight:600;">Zorgvuldige variabeleselectie</span>\
58-
Een te hoge snelheid heeft duidelijke veiligheidsimplicaties, maar variabelen zoals acceleratie zijn lastiger te beoordelen. Dergelijke kenmerken zijn contextafhankelijk en kunnen persoonlijke rijvoorkeuren weerspiegelen. Voor opname van deze variabelen in het model moet overtuigend bewijs zijn dat ze daadwerkelijk bijdragen aan het inschatten van schade­ risico en niet slechts verschillende rijstijlen of rij- omgevingen representeren.
59-
- <span style="color:#005aa7; font-weight:600;">Menselijke controle blijft essentieel</span>\
60-
Menselijke beslismedewerkers wijken momenteel voor 50–60% af van de aanbevelingen van het
61-
risicotaxatie-algoritme, wat wijst op betekenisvolle menselijke tussenkomst in plaats van conformisme.
62-
Deze betekenisvolle menselijke toetsing moet behouden bestaan.
64+
* <span style="color:#005aa7; font-weight:600;">Zorgvuldige variabeleselectie</span>\
65+
Een te hoge snelheid heeft duidelijke veiligheidsimplicaties, maar variabelen zoals acceleratie zijn lastiger te beoordelen. Dergelijke kenmerken zijn contextafhankelijk en kunnen persoonlijke rijvoorkeuren weerspiegelen. Voor opname van deze variabelen in het model moet overtuigend bewijs zijn dat ze daadwerkelijk bijdragen aan het inschatten van schade­ risico en niet slechts verschillende rijstijlen of rij- omgevingen representeren.
66+
* <span style="color:#005aa7; font-weight:600;">Menselijke controle blijft essentieel</span>\
67+
Menselijke beslismedewerkers wijken momenteel voor 50–60% af van de aanbevelingen van het
68+
risicotaxatie-algoritme, wat wijst op betekenisvolle menselijke tussenkomst in plaats van conformisme.
69+
Deze betekenisvolle menselijke toetsing moet behouden bestaan.
6370

6471
#### Samenvatting advies
6572

@@ -86,22 +93,28 @@ De casus is afkomstig van een (geanonimiseerd) autodeelplatform, dat met Algorit
8693

8794
#### Presentatie
8895

89-
Deze case study is gepubliceerd tijdens UNESCO's Expert roundtable II: Capacity building for AI supervisory authorities in Parijs op 30 september 2025.
96+
Deze case study is gepubliceerd tijdens UNESCO's Expert roundtable II: Capacity building for AI supervisory authorities in Parijs op 30 september 2025.
9097

91-
<!-- {{< image id="presentation-minister" image1="/images/algoprudence/AA202302/Algorithm audit presentatie BZK FB-18.jpg" alt1="Presentation advice report to Dutch Minister of Digitalization" caption1="Presentation advice report to Dutch Minister of Digitalization" width_desktop="5" width_mobile="12" >}} -->
98+
{{< image id="presentation-unesco" image1="/images/algoprudence/AA202501/Photo1.jpg" alt1="Presentation advice report during UNESCO Expert roundtable II: capacity building for AI supervisory authorities" caption1="Presentation advice report during UNESCO Expert roundtable II: capacity building for AI supervisory authorities" width_desktop="6" width_mobile="12" image2="/images/algoprudence/AA202501/Photo2.jpeg" alt2="Presentation advice report during UNESCO Expert roundtable II: capacity building for AI supervisory authorities" caption2="Presentation advice report during UNESCO Expert roundtable II: capacity building for AI supervisory authorities" >}}
9299

93100
#### Problemstelling en adviesdocument
94101

95102
{{< embed_pdf url="/pdf-files/algoprudence/ALGO_AA202501/NL/Probleemstelling Voorspellen van onverantwoord rijgedrag.pdf" url2="/pdf-files/algoprudence/ALGO_AA202501/NL/Advies Voorspellen van ontverantwoord rijgedrag.pdf" >}}
96103

97104
#### Normatieve adviescommissie
98105

99-
- Cynthia Liem, Associate Professor at the Multimedia Computing Group, TU Delft
100-
- Hilde Weerts, Assistant Professor Fair and Explainable Machine Learning, TU Eindhoven
101-
- Joris Krijger, AI & Ethics Officer, De Volksbank
102-
- Maaike Harbers, Professor of Applied Sciences (lector) Artificial Intelligence & Society, Rotterdam University of Applied Sciences
103-
- Monique Steijns, Oprichten van The People’s AI agency
104-
- Anne Rijlaarsdam, gebruiker van autodeelplatform.
106+
* Cynthia Liem, Associate Professor at the Multimedia Computing Group, TU Delft
107+
* Hilde Weerts, Assistant Professor Fair and Explainable Machine Learning, TU Eindhoven
108+
* Joris Krijger, AI & Ethics Officer, De Volksbank
109+
* Maaike Harbers, Professor of Applied Sciences (lector) Artificial Intelligence & Society, Rotterdam University of Applied Sciences
110+
* Monique Steijns, Oprichten van The People’s AI agency
111+
* Anne Rijlaarsdam, gebruiker van autodeelplatform
112+
113+
#### Focus group
114+
115+
Algorithm Audit heeft een focusgroep bijeengebracht om het gebruikersperspectief in kaart te brengen omtrent dataverzameling, data-analyse en de inzet van voorspellende algoritmes, inclusief communicatie hierover bij deelplatformen. De inzichten van deze focusgroep worden gedeeld in het onderstaande document. Op basis van de probleemstelling (ALGO:AA:2025:01:P) en de resultaten van de focusgroep heeft de normatieve adviescommissie advies uitbrengen over de geïdentificeerde vraagstukken in het adviesdocument (ALGO:AA:2025:01:A).
116+
117+
{{< embed_pdf url="/pdf-files/algoprudence/ALGO_AA202501/EN/Focus group Predicting irresponsible driving behavior.pdf" >}}
105118

106119
{{< tab_content_close >}}
107120

0 commit comments

Comments
 (0)