NIP: algoritmes toetsen op ethische waarden

Zijn algoritmen eerlijk en betrouwbaar? En wie kan of moet dat beoordelen? Wat is ‘eerlijk’ artificial intelligence?

De VVD stelt in een nota voor om deze controle door accountants te laten uitvoeren, zoals vandaag in het FD is te lezen. Dat lijkt een goed idee. Echter, als we het over algoritmes hebben die keuzegedrag van mensen beïnvloeden of zelfstandig keuzes maken die grote invloed op de maatschappij kunnen hebben, zijn psychologen hiervoor beter uitgerust qua kennis en expertise.

We deden navraag bij twee NIP psychologen.

‘Toetsing vooraf op ethische waarden en menselijk welzijn is essentieel’, zegt Paul Kop, voorzitter sectie Arbeid en Organisatie van het Nederlands Instituut van Psychologen.

‘Veel algoritmen worden gemaakt met alleen het economisch belang in het achterhoofd. Terwijl de invloed van deze algoritmen veel groter is,’ vult Bart Schutz, voorzitter sectie Sociale en Economische Psychologie van het Nederlands Instituut van Psychologen, aan.

‘In onze opdrachten bij bedrijven nemen wij altijd het menselijk belang en welzijn mee. Alleen dan zijn de effecten inzichtelijk te krijgen en kunnen algoritmes zelfs bijdragen aan ethiek en menselijk welzijn.’ Psychologen in bedrijven kunnen zorgen dat welzijn wordt gemeten. ‘Dat is core business voor onze NIP psychologen’, aldus Schutz.

‘Bij een toezichthouder zouden psychologen algoritmes moeten toetsen op de ethische waarden en het menselijk welzijn.’ Zowel Schutz als Kop zijn hierover namens het NIP in gesprek met diverse overheidsorganisaties, bijvoorbeeld over non-discriminerende testen.