Ξ Gastcolumn
De toekomst is al begonnen
“De toekomst is al begonnen”, zo reageerde mijn voorganger André Knottnerus onlangs in een mailbericht. Hij schreef het bericht naar aanleiding van de verwijzing, door Jaap van Dissel, in een interview met de NOS naar het WRR-KNAW-advies over coronascenario’s.
Begin september presenteerden wij in deze gezamenlijke scenariostudie, Navigeren en anticiperen in onzekere tijden, een vijftal scenario’s om handvatten te bieden bij het ontwikkelen van een samenhangende beleidsstrategie. Ons vertrekpunt was de overtuiging dat het cruciaal is dat onze overheid is voorbereid op verschillende toekomstscenario’s voor het verloop van de COVID-19-pandemie. Dit om te voorkomen dat zowel overheid als samenleving worden overvallen door de ontwikkelingen. Zo moet ons land zich voorbereiden op de mogelijkheid dat we nog jaren hebben te leven met het virus en de grote gevolgen daarvan voor niet alleen gezondheidzorg, maar ook samenleving en economie. Ook een worstcasescenario moet onder ogen worden gezien. Op 6 november j.l. liet Van Dissel door de NOS optekenen: de WRR en KNAW schetsen verschillende scenario's voor de lange termijn. “Ik denk het scenario van een 'griep+' met introducties van nieuwe varianten door globalisering het meest aannemelijk is. Hoe erg het wordt zal te maken hebben met welke varianten we krijgen."
Dat de toekomst al is begonnen, toont ook de thematiek van het rapport over kunstmatige intelligentie en publieke waarden dat we als WRR afgelopen 11 november aan minister Blok aanboden. In dit rapport, getiteld Opgave AI. De nieuwe systeemtechnologie beargumenteren we dat kunstmatige of artificiële intelligentie, kortweg ‘AI’, alles behalve een alledaagse technologie is. Eigenlijk is deze technologie potentieel zo alledaags dat ze heel bijzonder is. Overal om ons heen, in ons dagelijks leven, komen we in aanraking met AI-toepassingen. Denk aan vertaalapps en zoekmachines, de aanbevelingssystemen van Netflix en Spotify, en de spamfilters van onze mailbox. AI kan ook de politie, artsen, ambtenaren, leerkrachten, boeren, weginspecteurs en kunstrestaurators ondersteunen. Maar de technologie vormt ook de kern van toepassingen als autonome wapens, zelfrijdende auto’s en deepfakevideo’s. Door haar generieke karakter kan AI oneindig veel vormen aannemen en daarmee allerlei aspecten van ons dagelijks leven beïnvloeden.
AI doet daarmee denken aan die andere technologieën die onze samenleving ingrijpend hebben veranderd: de stoommachine, elektriciteit, de verbrandingsmotor en de computer. Wij hanteren in ons rapport voor dit soort technologieën de term ‘systeemtechnologie’. Dat zijn technologieën die over de hele breedte van de samenleving innovaties teweegbrengen, en daardoor een systemische impact hebben. Daar gaat direct ook het belang van uit: een systeemtechnologie als AI zal allerlei sectoren fundamenteel veranderen en daarbij ook centrale waarden in deze sectoren uitdagen. Dat is een grillig en onvoorspelbaar proces. Denk aan de manier waarop elektriciteit langere werkdagen mogelijk maakte door kunstmatig licht, maar ook huishoudelijk werk ‘verlichtte’. Of aan de manier waarop de auto de inrichting van steden heeft veranderd en woon-werkverkeer mobiliseerde.
Er staat met een systeemtechnologie kortom veel op het spel. En dat wringt met de onvoorspelbaarheid ervan. We moeten ons voorbereiden op een toekomst die we niet kennen. Dat geldt voor de samenleving als geheel, maar in het bijzonder voor de overheid en de politiek. De thematiek van digitalisering en AI staat inmiddels op de agenda in ‘Den Haag’. Het werk van verschillende onderzoeks- en adviesraden heeft daarbij een rol gespeeld. Zo drong de AWTI aan op gerichte investeringen in sleuteltechnologieën, agendeerde de AIV de kwestie van autonome wapensystemen, bracht de RVS een verkennend advies uit over de vraagstukken die AI oplevert in de zorg, onderzocht de ROB de legitimiteit van sturen met data, bekeek de SER de effecten van AI op het werk, wees de Rli op het verband tussen AI en duurzaamheid, deed het College voor de Rechten van de Mens onderzoek naar de inzet van algoritmen door gemeenten en is ook de Onderwijsraad een onderzoek gestart naar de implicaties van AI.
Toch staat AI nu vooral op verschillende agenda’s. De adviesaanvraag die wij als WRR van de regering ontvingen, werd ondertekend door maar liefst dertien bewindspersonen van negen verschillende ministeries. Dat is illustratief voor de diversiteit aan vraagstukken die AI meebrengt: VWS onderzoekt de betekenis van AI voor innovatie binnen de zorg, IenW buigt zich over een slimme infrastructuur, en LNV bekijkt de rol van AI voor precisielandbouw. Aan ons werd gevraagd om een overkoepelend perspectief, een gezamenlijke ‘AI-agenda’. In een notendop behelst het advies dat – als we datgene dat we in Nederland belangrijk vinden, willen borgen in een samenleving waarin AI in toenemende mate een rol zal spelen – we vijf opgaven ter hand zullen moeten nemen.
Allereerst is het voor de kwaliteit van het maatschappelijk debat en het kritisch vermogen van de samenleving nodig om onrealistische beelden over wat AI is en kan tegen te gaan (demystificatie). Om AI in de praktijk goed te laten functioneren is daarnaast niet alleen goede AI nodig, maar ook een gunstig technisch en sociaal ecosysteem (contextualisering). Ook is het zaak dat verschillende, niet-technische partijen betrokken zijn bij de ontwikkeling en toepassing van AI, om hun belangen in te brengen (engagement). Vervolgens zijn er regulerende kaders nodig om nu en naar de toekomst toe waarden en rechten te beschermen (regulering). En tot slot is het van belang dat Nederland zich op een strategische manier gaat verhouden ten opzichte van internationale spelers (positionering). De aanbevelingen van de WRR zijn het startpunt voor de regering om met deze opgave aan de slag te gaan.
Uit onze ervaring met eerdere systeemtechnologieën weten we dat dit proces van maatschappelijke inbedding een voortdurende maar vooral ook gezamenlijke inspanning is. Alle partijen zijn betrokken, vanuit alle domeinen. AI is veel meer dan een ‘ICT-dingetje’. Met effecten op onder andere veiligheid en gezondheid, de fysieke en digitale leefomgeving, burgerrechten en de rechtsstaat, is ons er allemaal veel aan gelegen dat we deze jongste systeemtechnologie goed begeleiden. Daarvoor is domeinkennis onmisbaar. Juist bij AI geeft de context een toepassing namelijk haar specifieke karakter: gezichtsherkenning kan gebruikt worden om een telefoon te ontgrendelen, of om een doelwit te lokaliseren. Microtargeting van webwinkels is anders dan van politieke partijen. Adviesraden fungeren als voelsprieten voor de overheid – in eerste instantie om AI op de kaart te zetten, en nu in een volgende fase van de discussie om de soms sluimerende effecten ervan in beeld te brengen. Wellicht zelfs in samenwerking: ook toezichthouders en departementen zoeken elkaar gelukkig inmiddels op rond het thema van digitalisering, precies omdat het zich niet straffeloos laat inkaderen. Een AI-coördinatiecentrum moet er, zo bepleiten we als WRR, voor zorgen dat onze adviezen bij elkaar komen om op een vooruitziende manier verstandige keuzes te maken over een toekomst met slimme systemen. De toekomst is begonnen!
