Universiteit Utrecht rekent af met mythes over big data en ai

Dr. Gerko Vink, Associate Professor en dark data scientist en Dr. Mirko Schäfer, Associate Professor Data, AI & Society geven advies en trainingen aan bedrijven en overheden over data science en AI (artificial intelligence). Dit is een overkoepelend onderwerp binnen de universiteit waar meerdere faculteiten bij betrokken zijn, zoals bèta-, sociale wetenschappen en geesteswetenschappen. ‘Je ziet in de praktijk dat bedrijven investeren in oplossingen waarvan de gevolgen niet goed te overzien zijn. Daardoor komen veiligheid en privacy van klanten en medewerkers in het geding’, vertelt Gerko. De software ‘mice’ die aan de Universiteit Utrecht wordt ontwikkeld voor incomplete data analyse is openbaar en gratis toegankelijk voor ieder bedrijf dat daar iets mee wil. ‘We willen als ontwikkelteam graag kennis delen en casussen uit de praktijk zijn voor ons juist leerzaam.’

Het gevaar van “techno-optimisme”

Gerko en Mirko geven trainingen aan managers van bedrijven en overheden. ‘We zien dat beslissingen over data science en AI vaak top-down genomen worden’, aldus Gerko.  ‘Daarom vinden we het belangrijk om bewustwording te creëren bij de managementlaag. We helpen ze om de volle breedte van een implementatie te overzien, inclusief alle risico’s en valkuilen.’

Mirko vult aan: ‘Er bestaan veel mythes over dit onderwerp. Het is een soort “techno-optimisme”. Veel rationeel denkende ondernemers geloven gek genoeg in de mooie verhalen omtrent dit onderwerp of gaan klakkeloos mee in wat een commerciële adviseur ze vertelt. Dit is een serieus probleem aan het worden. Mijn advies is om je onafhankelijk te laten informeren, want wat is bij voorbeeld ChatGPT precies? Het is niets meer en minder dan een statistisch voorspelmodel. AI is niet intelligent, het doet berekeningen op basis van data en een model. Eén van onze studenten heeft recent een artikel gepubliceerd over de boeken die geschreven zijn door AI en goedkoop worden aangeboden op de website van onder andere Bol. Denk aan boeken met medisch advies. Het wordt gekocht, omdat de boeken compact en betaalbaar zijn, maar vaak zijn ze enorm slecht geschreven en de inhoud hoeft helemaal niet te kloppen.’

Een ander voorbeeld is de hype in Amerika waar gebruik werd gemaakt van “predictive policing”. ‘Daar is veel publiek geld aan besteed. Uiteindelijk werd het een voorspelling van een locatie waar de politie naar toe gaat, maar niet waar de criminaliteit plaatsvond. Groepen en wijken werden onnodig gestigmatiseerd.’ Gerko: ‘Hoe complexer het vraagstuk, hoe belangrijker het is om jezelf vooraf de juiste vragen te stellen, zoals: wat wil ik bereiken met informatie? Is de informatie wel geschikt voor het doel wat ik voor ogen heb? Zo is het in opkomst om gebruik te maken van zogenoemde synthetische data. Dat is gecreëerde data die zodanig wordt ingezet zodat het lijkt op echte data, maar dat niet is. Als deze data vervolgens “voor waar” wordt geanalyseerd, kan dat leiden tot grote fouten in het antwoord op een vraag.’

De grenzen van technologie

Zowel Gerko als Mirko horen terug van hun studenten die in het bedrijfsleven starten, dat ze worden gezien als “data-tovenaars” en dat er veel druk op hen wordt uitgeoefend als kenniseigenaar op dit vlak. Daarom wordt er tijdens de opleiding veel aandacht besteed aan het communiceren over grenzen van technologie. Wat kun je wel en wat kun je niet met informatie doen?

‘In Nederland geven we snel gegevens en privacy weg in ruil voor gemak’, vertelt Gerko. ‘Vanuit onze pc en telefoon hebben we bijvoorbeeld interactie met een AI-tool, zoals ChatGPT of een computerserver. Daarmee geven we al snel veel gegevens prijs zonder dat we het weten. Zo is het in veel landen ondenkbaar om een vooraf ingevulde belastingaangifte online te accorderen.’

Mirko: ‘Eén van mijn adviezen is om te investeren in bedrijven die zich committeren aan Europese waarden en normen. Samen hebben we afspraken gemaakt over privacy en veiligheid, de welbekende AVG. Met verbazing kijk ik soms naar bedrijven die bij gevoelige infrastructuren gebruik maken van Chinese technologieën of bijvoorbeeld hun data uploaden naar Amerikaanse servers.’

Interactieve kennisontwikkeling met partners

‘We zitten in een transitieperiode waarin we in onze maatschappij op een andere manier met nieuwe technologieën leren omgaan. Bewustwording is van essentieel belang om verder te groeien. Experimenteren is de manier waarop we als samenleving en wetenschap vooruit komen. Laten we dit als collectief oppakken’, aldus Gerko. Universiteit Utrecht zet in op interactieve kennisontwikkeling met partners buiten de universiteit. Kennisoverdracht staat daarbij centraal. Dit kan op meerdere manieren. Je kunt als bedrijf een adviesvraag indienen of een samenwerking aangaan. Een andere manier is een cursus, training of opleiding. Mirko: ‘We leven in een complexe kenniseconomie. Laat je medewerkers regelmatig scholen, zodat ze beter begrijpen wat de uitkomst is van de geavanceerde technologie die we gebruiken. Het in huis hebben van betere kennismedewerkers loont.’

De drempel om samen te werken met Universiteit Utrecht is lager dan veel mensen denken. Je kunt je bijvoorbeeld inschrijven bij één van de jaarlijks terugkerende summer schools die eraan komen. Het aanbod vind je op deze website:

Voor meer informatie kun je mailen naar
professionals@uu.nl

Universiteit Utrecht biedt een master aan op het gebied van Applied Data Science. De studenten werken voor hun afstudeerproject tien weken lang aan een project binnen een bedrijf. Heb je interesse om van deze kennis gebruik te maken?

Neem contact op met coördinator
Dr. Daan Kolkman via thesis.ads@uu.nl

De Data School aan de Universiteit Utrecht biedt in-house trainingen aan voor verantwoorde AI en datapraktijken. Deelnemers leren onder andere het toepassen van impact assessments voor AI, iets dat in het kader van de AI Act verplicht gesteld wordt.

Meer informatie op dataschool.nl