Interview: hoogleraar Stef Joosten: 'AI, het zou kunnen dat de wereld erdoor vergaat'
In dit artikel:
Hoogleraar Informatica Stef Joosten nam vrijdag afscheid van de Open Universiteit en gebruikte zijn afscheidsrede om te waarschuwen voor twee urgente ontwikkelingen: de explosieve opkomst van kunstmatige intelligentie (AI) en de digitale kwetsbaarheid van de overheid. Volgens Joosten heeft AI de informatica in de afgelopen twee jaar fundamenteel veranderd; hij noemt de technologie tegelijk angstaanjagend en onontkoombaar. Stoppen met AI is volgens hem geen optie — wie niets doet raakt achterop — maar dat neemt niet weg dat de techniek vaak foutieve of misleidende uitkomsten produceert en grote onzekerheden met zich meebrengt.
Joosten werkt zelf met AI om zijn mentale capaciteiten te versterken, maar benadrukt dat gebruik gepaard moet gaan met experimentele kennis en kritisch begrip. Hij waarschuwt dat verzorgd ogende, door AI gegenereerde teksten de schijn van deskundigheid wekken, terwijl de inhoud soms “domme” fouten bevat. Daarom is het volgens hem essentieel dat mensen weten wat AI doet en hoe het werkt.
Daarnaast scherpte Joosten aan dat een goed functionerende digitale overheid cruciaal is voor de democratische rechtsstaat. Hij signaleert structurele problemen: datalekken, vastlopende dossiers en ontspoorde ICT-projecten zijn in zijn ogen vaak het gevolg van ondeugdelijke software en onvoldoende investering in kwaliteit. Waar hardwarebedrijven wel in betrouwbaarheid investeren, blijft softwareontwikkeling volgens hem te veel behelpen; systemen kosten miljoenen en blijven achter bij de benodigde standaarden. Dit leidt tot praktische problemen: ambtenaren moeten continu “brandjes blussen” en raken niet toe aan hun kerntaken.
Als concrete voorbeelden noemt hij de toeslagenaffaire, die volgens Joosten het vertrouwen van burgers in de overheid heeft verwoest en zelfs tot rechtstaat-ondermijnend gedrag heeft geleid, en het mogelijke externe eigenaarschap van DigiD door een Amerikaans bedrijf. DigiD is de digitale inlogmethode voor overheidsdiensten; uitbesteden van zo’n sleutelvoorziening aan buitenlandse partijen noemt hij onaanvaardbaar omdat een enkele fout levens kan verwoesten en slachtoffers van identiteitsfraude machteloos maakt. Ook het lek bij telefoonbedrijf Odido laat zien dat menselijke fouten en een te groot aanvalsoppervlak door social engineering grote schade kunnen veroorzaken.
Als oplossing pleit Joosten voor een nieuwe, universitaire opleiding tot digitaal architect met een beschermde titel — analoog aan een bouwkundig architect. Digitaal ontwerp is volgens hem een vak dat diepgaande, technische kennis vereist: digitale systemen moeten zodanig ontworpen worden dat ontwerpfouten en onnodige kwetsbaarheden worden voorkomen. Joosten stelt dat veel beslissingen over ICT gemaakt worden door managers met weinig informatica-achtergrond, en dat daardoor belangrijke vragen — zoals welke gegevens in systemen zitten — onvoldoende aan bod komen.
Samengevat: Joosten roept op tot meer investering in softwarekwaliteit, kritisch gebruik en kennisontwikkeling rond AI, en het formeel opleiden van deskundigen die betrouwbare, veilige digitale systemen kunnen ontwerpen. Zonder die versterking van digitale kennis loopt niet alleen efficiëntie schade op, maar komt ook het vertrouwen van burgers in de overheid in gevaar.