Hoe kunstmatige intelligentie en het algoritme mensen in de verdrukking kan brengen

Is de massale toepassing van kunstmatige intelligentie een zegen of een vloek voor onze samenleving? Zij kan in ieder geval ons leven aangenamer maken, maar er liggen ook grote gevaren op de loer.

Hoe bevooroordeeld zijn systemen met kunstmatige intelligentie. Doen ze wel recht recht aan de specifieke situatie van burgers?

Hoe bevooroordeeld zijn systemen met kunstmatige intelligentie. Doen ze wel recht recht aan de specifieke situatie van burgers? Foto: ANP

Robots nemen steeds meer taken van ons over. Door de nieuwe technologieën van kunstmatige intelligentie zullen veel banen verdwijnen, zo wordt gezegd. Maar volgens de conclusies van een proefschrift van Jannes ten Berge, die onlangs promoveerde aan de Universiteit Utrecht, hoeven we ons niet al te veel zorgen te maken. Hij ontdekte in zijn promotieonderzoek dat er juist nieuwe banen bijkomen.

Maar hier is wel een grote disclaimer bij. De weinige zorgen gelden vooral voor de banen van mensen met een hbo- of wetenschappelijke opleiding. Voor ongeschoold werk en voor mensen met een niet-westerse achtergrond is de grote vlucht van kunstmatige intelligentie slecht nieuws. Grootschalige toepassing vergroot de kloof tussen arm en rijk, en hoog en laag opgeleid verder dan die nu al is.

Kritisch

Het Wetenschappelijk Instituut van de ChristenUnie is in het laatste nummer van het tijdschrift Groen gedoken op het thema van kunstmatige intelligentie. De meeste bijdragen van deskundigen in de bundel hebben een kritisch karakter. Er zijn natuurlijk legio toepassingen waar we heel blij mee kunnen zijn en dat daarover ook maar weinig discussie is, zo wordt gesteld. Tegelijkertijd zijn er manieren waarop systemen ons kunnen ‘overnemen’. Dat gebeurt wanneer we als mensen zelf stoppen te nadenken en systemen worden ingezet die afdoen aan onze menselijkheid.

Tegelijkertijd kun je de psalm als een milde waarschuwing lezen: ‘Mens je bent niet almachtig en ook geen slaaf, maar onderkoning’

Eindredacteur Mirjam Kosten van Groen wijst in dit verband naar de achtste psalm. Hierin krijgt de mens een glansrol als onderkoning onder God. ‘Als je met die ogen naar de ontwikkelingen kijkt, kun je vooral enorm onder de indruk zijn van wat mensen via techniek voor elkaar krijgen. Tegelijkertijd kun je die psalm als een milde waarschuwing lezen: ‘Mens je bent niet almachtig en ook geen slaaf, maar onderkoning.’

Lees ook: Analyse: Win controle terug over persoonlijke internetdata die techreuzen hebben gekregen

Dat is mooi gezegd. Maar hoe moet je de ontwikkeling van kunstmatige intelligentie en de gevolgen ervan in de dagelijkse werkelijkheid dan beoordelen? Met andere woorden, wanneer staat het in dienst van mens en samenleving en wanneer kan kunstmatige intelligentie schadelijk uitpakken?

Prekenserie

Prof. dr. Maarten Verkerk, lid van de Eerste Kamer (CU, emeritus Christelijke Wijsbegeerte), en theologe Maaike Harmsen die werkt aan een prekenserie over technologie en geloof bieden handvatten voor de omgang met kunstmatige intelligentie.

Lees ook: Opinie: Big tech: gebruikers zijn niet de consumenten, maar het product

De eerste leidraad is ‘vooruitgang’. De toepassing van nieuwe technologieën kan bijdragen aan het beter vervullen van het rentmeesterschap. Technologische toepassingen kunnen met andere woorden dienstbaar zijn aan de samenleving, gericht op het welzijn van burgers en de bloei van de samenleving als geheel.

Politici hebben de ingewikkeldheid van dit soort systemen niet altijd goed door. Er wordt vaak onvoldoende gedacht aan de rechtspositie van burgers

De tweede leidraad is ‘voorzichtigheid’. Hoe bevooroordeeld zijn dit soort systemen met hun algoritmes (zelflerende computersystemen om gegevens te analyseren). Doen ze wel recht aan de specifieke situatie van burgers? Het gaat om het gevaar dat het systeem in de handen van ambtenaren gewoon over burgers heen walst en dat die machteloos staan, zoals tijdens de toeslagenaffaire is gebleken.

Lees ook: Commentaar: VS ziet nu ook gevaar van techreuzen

De derde en laatste leidraad is ‘verzet’. Politici en ambtenaren moeten zich verzetten tegen technologie die bijdraagt aan onrecht. Politici hebben de ingewikkeldheid van dit soort systemen niet altijd goed door. Er wordt vaak onvoldoende gedacht aan de rechtspositie van burgers. ‘Er moet verzet aangetekend worden tegen de ontwikkeling van een cultuur waarin het systeem voorop staat en ambtenaren en politici zich achter het systeem verschuilen.’

Groen. Kunstmatige intelligentie: Computer says no. Wetenschappelijk Instituut van de ChristenUnie. Jaargang 5, nummer 1