1. Wat is het probleem?
Innovatie vergt een cultuur van openheid en transparantie, waarbij fouten mogen worden
gemaakt, dilemma’s kunnen worden opgebracht en besproken, en gezamenlijk besluiten
worden genomen over inrichting van de nieuwe diensten en de te nemen risico’s.
Toezichthouders als de Nederlandsche Bank hanteren het zogenaamde ‘three-lines-of-defense’-
model als best practice voor risicomanagement en interne controle.2 Dit risicomanagementmodel
is gebaseerd op een strikte scheiding van rollen en verantwoordelijkheden. De commerciele
afdelingen worden geacht te innoveren en te zorgen dat hun nieuwe producten en
diensten compliant zijn (first line). De compliancefunctie controleert op onregelmatigheden
(second line). De interne auditafdeling toetst achteraf na implementatie (third line).
Dit model is niet fit-for-purpose voor digitale innovatie. Bij innovatie zien we dat deze splitsing
van taken remmend werkt. Doordat de nieuwe technologieën nog niet (uitputtend) zijn
gereguleerd is het lastig om een eenduidige compliancecheck te doen. Met name kunstmatige
intelligentie (ook wel artificial intelligence –AI), brengt een geheel nieuw scala aan design issues3
(zie hierna paragraaf 2) en daarmee gemoeide ethische dilemma’s4 (zie voorbeelden en mijn
reflecties daarop aan het eind van deze bijdrage).
‘Information technology has changed? about everything in our lives (…) But while
we have new ethical problems, we don’t have new ethics.’
Lotti 2009/2010