Een feestelijke lancering van de algoritmetoezichthouder. Maar hoe serieus moeten we dit nemen?

Als ik naar het budget kijk dat wordt uitgebouwd tot 3,6 miljoen in 2026, dan vind ik dat de Autoriteit Persoonsgegevens (Dutch DPA) veel te weinig geld krijgt voor het werk dat ze moet gaan verzetten. Wil je serieus toezicht houden, dan moet Nederland hier meer in investeren. Nu kunnen we afvinken dat we een algoritmetoezichthouder hebben, maar verder lijkt het mij meer schijnveiligheid.

Dat er meer transparantie moet komen, daar sta ik helemaal achter. Tegelijk merk ik keer op keer ook hoe lastig organisaties dit nog vinden. Ze zijn vooral nog bezig om “het” voor elkaar te krijgen, en zijn vaak nog helemaal niet bezig met de governance die erbij komt kijken.

En als we het dan hebben over governance, wat komt hier dan bij kijken? Welke overwegingen moeten we vastleggen? Welke informatie over het algoritme gaan we loggen? Dit zijn vragen waar organisaties eigenlijk al een antwoord op moeten hebben, maar in de praktijk blijkt het vaak nog een blackbox.

Ook de algoritmetoezichthouder moet dit nog invullen. Zo zijn ze bijvoorbeeld bezig met een normenkader en welke (transparantie)verplichtingen er komen voor organisaties. Hopelijk komt hier snel meer duidelijkheid in, zodat ze ook daadwerkelijk toezicht kunnen gaan houden en organisaties weten wat er van ze verwacht wordt.

Interessant is het hoe tooling een rol kan gaan spelen in het eenvoudiger maken van het houden van toezicht op algoritmes. Hier lees je nog weinig over, maar ik kan me voorstellen dat organisaties straks een “boekhouding” bij moeten houden op het gebied van data en algoritmes. En dat de toezichthouder straks extern mee kan kijken met een speciaal controller account.

Met AskAnna spelen we hierin graag een rol. Wij streven er bijvoorbeeld naar dat je zowel bij het ontwikkelen van het model, als later bij het gebruiken van het model alle relevante informatie kan loggen. Wij willen zorgen dat je algoritme-administratie compleet is. Ik ben nieuwsgierig hoe dit een rol gaat krijgen in het houden van toezicht op algoritmes.