We praten veel te weinig over hoe AI echt werkt
Soms vraag ik me af wat groter is: het daadwerkelijk gebruik van AI, óf het aantal artikelen, posts en meningen dat we over AI produceren. We zitten niet alleen in een technologische hype, maar ook zeker in een AI-mediahype. Daar is op zichzelf natuurlijk niet zoveel mis mee: AI is de laatste jaren met sneltreinvaart onze maatschappij binnengekomen, met kansen en risico’s, en daar moeten we bij stilstaan.
Toch gaat er wat mij betreft iets mis in het publieke debat. Dat richt zich namelijk hoofdzakelijk op de toepassing, niet zelden vanuit een bewonderend perspectief. ‘Ik heb met dit AI-model deze gave video gemaakt.’ ‘Moet je horen wat dit bedrijf voor volgend jaar heeft beloofd.’ ‘AI gaat alles overnemen!’ Of het narratief slaat juist de andere kant op. ‘Door AI worden we dom.’ ‘AI gaat ons vernietigen!’
Als AI-onderzoeker doet dit soms pijn aan mijn ogen. Allereerst mist vaak de nuance: AI is een technologie met zowel belangrijke mogelijkheden als risico’s, en beide kunnen naast elkaar bestaan. Maar dat is niet het grootste probleem. Als we eerlijk kijken wordt het publieke debat gedomineerd door mensen zonder een daadwerkelijke AI-achtergrond. Doorgaans merk je vrij snel dat iemand zelf nog nooit een AI-paper heeft gelezen of een regel programmeercode heeft geschreven. Wat daardoor systematisch mist in het publieke AI-debat is inhoud. We praten zo ongelooflijk veel over AI, maar zo ongelooflijk weinig over hoe zij echt werkt.
Samengevat moeten we deze technologie allemaal (tot op zekere hoogte) gaan begrijpen – en dat is ook heel goed mogelijk. Dit was een belangrijke motivatie voor het schrijven van mijn boek Van IQ Naar AI. Het zal echter ook vragen om een structurele verandering van het publieke debat. Dat hebben we momenteel laten gijzelen door mensen die de technologie alleen gebruiken, en niet noodzakelijk begrijpen. Dat kunnen we ons echt niet veroorloven – AI brengt op zichzelf al genoeg uitdagingen met zich mee. Het is de hoogste tijd dat het AI-debat zich gaat richten op de inhoud.
Toch gaat er wat mij betreft iets mis in het publieke debat. Dat richt zich namelijk hoofdzakelijk op de toepassing, niet zelden vanuit een bewonderend perspectief. ‘Ik heb met dit AI-model deze gave video gemaakt.’ ‘Moet je horen wat dit bedrijf voor volgend jaar heeft beloofd.’ ‘AI gaat alles overnemen!’ Of het narratief slaat juist de andere kant op. ‘Door AI worden we dom.’ ‘AI gaat ons vernietigen!’
Als AI-onderzoeker doet dit soms pijn aan mijn ogen. Allereerst mist vaak de nuance: AI is een technologie met zowel belangrijke mogelijkheden als risico’s, en beide kunnen naast elkaar bestaan. Maar dat is niet het grootste probleem. Als we eerlijk kijken wordt het publieke debat gedomineerd door mensen zonder een daadwerkelijke AI-achtergrond. Doorgaans merk je vrij snel dat iemand zelf nog nooit een AI-paper heeft gelezen of een regel programmeercode heeft geschreven. Wat daardoor systematisch mist in het publieke AI-debat is inhoud. We praten zo ongelooflijk veel over AI, maar zo ongelooflijk weinig over hoe zij echt werkt.
Begrip
Dat moet veranderen. Deze technologie is de laatste jaren immers onze maatschappij in geslingerd: we zijn het plotseling allemaal gaan gebruiken. In zekere zin leven we in de 'AI-cowboytijd': veel onontgonnen gebied, nog weinig regelgeving. Maar om AI veilig en nuttig te kunnen gebruiken, moet je wel eerst snappen hoe zij van binnen werkt. Zo zie ik mensen voortdurend verkeerde verwachtingen hebben van wat AI kan (het als een soort orakel beschouwen), de uitkomst van een AI blindelings vertrouwen (terwijl het onverwachte fouten kan maken), of gefrustreerd zijn dat AI-onderzoekers de fouten er niet uithalen (terwijl dat nu juist niet volledig kan).En dat is een groot probleem. Een beroemde theorie over het ontwerp van producten komt van Don Norman, schrijver van het boek The Design of Everyday Things. Norman beschrijft de vereisten waaraan een product moet voldoen om effectief en veilig gebruikt te kunnen worden. Een van die vereisten is 'conceptueel begrip': de gebruiker moet in grote lijnen snappen hoe het product van binnen werkt. Dat gaat natuurlijk ook op voor AI: we moeten allemaal (tot op zekere hoogte) gaan begrijpen hoe zij ontstaat, en wat AI daardoor wel én niet kan.
We missen dus breed begrip van AI, en ik snap uiteraard waar dat probleem vandaan komt: AI klinkt intimiderend. Tot mijn grote verbazing zie ik allerlei slimme mensen uit mijn omgeving soms uit het niets verklaren: ‘AI zal wel te ingewikkeld voor mij zijn.’ Dat is echter niet waar: AI is juist heel goed uit te leggen – we proberen het als AI-onderzoekers alleen veel te weinig. Alle moderne AI draait namelijk onderliggend op hetzelfde recept: een mechanisme om te leren van data. Dat leerrecept bestaat uit slechts een paar ingrediënten, en wordt vervolgens elke keer weer benut – op allerlei typen data en taken. De antwoorden van een taalmodel draaien onderliggend dus op dezelfde principes als een gegenereerd plaatje of de bewegingen van een robot. Je hoeft voor begrip van AI helemaal niet te begrijpen hoe taal of redeneren werkt – dat doen AI-onderzoekers eigenlijk ook niet. Je moet alleen snappen hoe we kunnen leren van ervaring – dat blijkt de sleutel naar (kunstmatige) intelligentie.
Samengevat moeten we deze technologie allemaal (tot op zekere hoogte) gaan begrijpen – en dat is ook heel goed mogelijk. Dit was een belangrijke motivatie voor het schrijven van mijn boek Van IQ Naar AI. Het zal echter ook vragen om een structurele verandering van het publieke debat. Dat hebben we momenteel laten gijzelen door mensen die de technologie alleen gebruiken, en niet noodzakelijk begrijpen. Dat kunnen we ons echt niet veroorloven – AI brengt op zichzelf al genoeg uitdagingen met zich mee. Het is de hoogste tijd dat het AI-debat zich gaat richten op de inhoud.