De Wereld Verandert. Één van de belangrijkste zaken die maakt dat dat steeds sneller en ingrijpender zal gaan, is kunstmatige intelligentie. Een begrip dat veel mensen kennen, maar slechts weinig mensen begrijpen. Ik zag een TED-Talk van Margaret Mitchell en besefte me dat het hoog tijd wordt voor de gemiddelde beleidsmedewerker of politicus om op zijn minst basiskennis te verwerven van wat het is. Net zoals zij ruim twee decennia geleden nog kennis moesten opdoen over het internet.
Eerst: wat is kunstmatige intelligentie? Ook wel artificiële intelligentie (AI) of machine intelligence (MI) genoemd. Het is een term uit de informatica en gaat over computersystemen die taken kunnen uitvoeren die voorheen alleen mensen konden, zoals visuele perceptie, spraakherkenning, het nemen van beslissingen of vertalen. Het zijn veelal computerprogramma’s of algoritmes die zelflerend zijn en die op basis van input (via data die ingevoerd wordt of zelfstandig door sensoren) tot conclusies kunnen komen. Een voorbeeld is het kunnen herkennen van een kat op een foto: wanneer je en computerprogramma eerst een grote hoeveelheid foto’s van katten toont, leert het zelf wat de eigenschappen van een kat zijn en zal het leren om een kat te herkennen op een foto die het nog nooit heeft gezien. Een ander bekend voorbeeld is de IBM-computer Deep Blue die op 10 februari 1996 wereldkampioen Kasparov versloeg in een potje schaken. Of Watson (ook van IBM) die in 2011 het Amerikaanse spelprogramma Jeopadry won. In 2016 werd weer een stap gezet toen het door Alphabet (u weet wel, van Google) gemaakte programma AlphaGo het complexe spel Go won van een groot Go-kampioen.
AI is dus in staat tot complexe dingen. Het is ver voorbij het If-This-Than-That principe, dat de basis van traditionele vormen van programmaren vormde. De algoritmes en systemen zijn werkelijk zelflerend en kunnen keuzes maken op basis van onwaarschijnlijk grote hoeveelheden data. Omdat computerrekencapaciteit steeds sneller en goedkoper wordt, wordt het gebruiken va AI in alledaagse situaties steeds gewoner. Denk bijvoorbeeld aan zelfrijdende auto’s, die al vele miljoenen kilometers hebben gereden in gewoon verkeer. Of aan de gezichtsherkenning die Facebook en andere apps gebruiken om te suggereren wie je kan ‘taggen’ in een foto. IBM’s Watson was in staat om een behandeling voor een kankerpatiënt voor te stellen waar de menselijke artsen niet op konden komen, inclusief voorspelling van de kans dat de behandeling succesvol zou zijn.
Maar het blijft zo dat AI werkt op basis van de input die er door mensen aan is gegeven. En dat is waar Margaret Mitchell in haar TED-talk voor waarschuwt. Ze geeft het voorbeeld van een algoritme dat voorspelt welke menselijke emotie bij een foto hoort. Het gaf bij een foto van een koala aan dat het een interessant dier zou zijn. Dat vinden de meeste mensen ook. Maar bij foto’s van een huis dat afbrandt gaf het aan dat dat een prachtig en spectaculair zicht was. De reden: de meeste foto’s die het algoritme had gebruikt om te leren waren positieve beelden en de kleuren van de brand werden nu als iets positiefs gezien door het algoritme. Ze geeft vervolgens meer voorbeelden hoe de input van AI systemen een grote invloed heeft op de uitkomst en dat de systemen wel eens heel erg gekleurd kunnen zijn.
Is Mitchell de enige die waarschuwt voor AI? Nee, ze noemt zelf namen als Bill Gates en Stephen Hawking die ook hebben gewaarschuwd. Google-bedrijf Youtube geeft aan dat ze moeten oppassen met algoritmes en heeft naar verluid besloten om op hun Youtube Kids kanaal alleen nog filmpjes te plaatsen die door mensen zijn beoordeeld, waar nu nog algoritmes de filmpjes kiezen. Met als nadeel dat het omzeild werd door grappenmakers en pedofielen, die filmpjes hadden geplaatst die zeker niet geschikt zijn voor kinderen. Dichter bij huis waarschuwt ook Melanie Peters, directeur van het Rathenau Insitituut: “De volgende vraag is hoe we omgaan met zelflerende algoritmes. Hebben we voldoende zicht op welke gegevens we erin stoppen en wat er vervolgens uitkomt? Algoritmes nemen beslissingen voor ons op basis van analyses die niet transparant zijn. Als zij bijvoorbeeld berekenen dat een bepaalde groep – bijvoorbeeld alle middelbare witte mannen, of alle Marokkaanse jongeren – iets wel of niet kunnen, dan is dit pure discriminatie.”
Het betekent dat AI zaken kan gaan bedreigen die traditioneel in de wet werden beschermd. Dat roept wel de vraag op of de ambtenaren en politici die die wetten maken wel voldoende begrijpen van wat AI is en kan om daar adequaat op te reageren. Zeker in een tijd waarin er over de verkiezingen waarin die politici gekozen worden wordt gefluisterd dat die door krachten van buiten beïnvloed kunnen worden zoals lijkt te zijn gebeurd in de kwestie rond Facebook en Cambridge Analytica, iets wat overigens niet op zich zelf stond. Het maakt dat beleidsmakers en politici niet langer kunnen buigen op experts om zich te laten adviseren wat de dreiging en invloed van AI kan zijn, maar dat ze ervoor zullen moeten zorgen dat ze een basiskennis krijgen van zaken als AI. Net zoals ze twee decennia geleden zelf kennis moesten gaan krijgen van zaken als internet en e-mail, overigens.