Compliance heeft toe te zien op het integer gebruik van algoritmes. Algoritmes zijn zelden waardenvrij. In hun implementatie wordt al dan niet bewust stelling genomen in de spanningen tussen meerdere conflicterende waarden. De uitdaging is om te borgen dat deze stellingnames bewust plaatsvinden in de daarvoor gepaste gremia.

De conflicten tussen relevante waarden rondom de implementatie van algoritmes kunnen gezien worden als integriteitsrisico’s. Door gestructureerd waardenconflicten rondom het ontwerp en de inzet van algoritmes te identificeren, analyseren en beoordelen kan een organisatie borgen dat deze maatschappelijk betamelijk zullen zijn. In dit proces kan gebruik gemaakt worden van de methode van Value Sensitive Design. Hiermee kan men niet alleen de waarden van belanghebbenden grondig verkennen maar ook zoeken naar beheersmaatregelen.

Zodoende wordt uiteindelijk bewust besloten of het nettointegriteitsrisico dat voortkomt uit de stellingname acceptabel is. Dit besluit hoort thuis in de gebruikelijke beslisstructuur van de organisatie. Hierin kan compliance op gepaste wijze tegenwicht bieden. Op deze manier wordt de betamelijkheid van algoritmes bestuurlijk geborgd.

Publication
Goudsmit, de Ridder () Bestuurlijke borging van integere algoritmes. Tijdschrift voor Compliance, 2020(3-4):160-166 OpenAccess link