Het volgende artikel komt van Voxweb.nl van 24 januari 2023 en is geschreven door Ken Lambeets (https://www.voxweb.nl/nieuws/wat-moet-de-radboud-universiteit-met-tekstrobot-chatgpt). There is also an English version available (https://www.voxweb.nl/english/how-should-radboud-university-handle-chatgpt).

Betekent ChatGPT een doorbraak voor het hoger onderwijs of moeten we de chatbot zoveel mogelijk negeren? Drie wetenschappers van de Radboud Universiteit schijnen hun licht over de software die gebruikmaakt van kunstmatige intelligentie. ‘ChatGPT negeren kan niet, maar we moeten er kritisch mee omgaan.’

Disclaimer: dit artikel is niet geschreven door ChatGPT. Het had gekund, want de chatbot bestaat uit miljoenen teksten en is getraind deze met elkaar te verbinden. Daardoor kan het programma antwoorden geven op eenvoudige vragen en verzoeken zoals ‘Schrijf een tekst over de kansen en bedreigingen van ChatGPT voor het hoger onderwijs’ of ‘Maak een liedtekst over liefde in de stijl van André Hazes’. Op die manier worden nieuwe teksten gegenereerd die sterk lijken op teksten die door mensen zijn geproduceerd.

Sinds de lancering eind november van de laatste versie, GPT-3.5, is de chatbot niet uit de media weg te slaan. Directeur van het Nationaal Onderwijslab Artificiële Intelligentie (AI) Inge Molenaar, tevens universitair hoofddocent aan het Behaviourial Science Institute, snapt wel hoe dat komt. ‘Af en toe beweert iemand dat AI de wereld gaat veranderen, maar voor veel mensen was het tot voor kort een ver-van-mijn-bedshow. ChatGPT is een van de eerste voorbeelden van AI die dingen overneemt die de mens zelf uitvoert. Dat is voor veel mensen wel even schrikken.’

Filosoof en cognitiewetenschapper Anco Peeters moet even nadenken over de vraag of de chatbot een hype is. ‘Een hype komt even op en gaat weer weg’, zegt hij. ‘Ik denk niet dat dit weer weggaat.’ En toch, zegt Peeters, zijn de functies van het chatprogramma niet per se vernieuwend. ‘Studenten Informatica maken al langer gebruik van dit soort software. Maar door de nieuwe interface, met name door het chatgedeelte, is het plots ook toegankelijk voor mensen zonder technische kennis.’

Gebruikmaken in colleges

De gevolgen van de nieuwe chatbot voor het hoger onderwijs zouden immens kunnen zijn. Leerlingen geven aan hun huiswerk te laten maken door het chatprogramma en er niet op gepakt te worden, docenten zitten dan weer met de handen in het haar. Aan acht toonaangevende universiteiten in Australië moeten studenten wegens de nieuwe software opnieuw tentamens met pen en papier maken. Ook Nijmeegse studenten maken al gebruik van de tekstrobot.

Het roept de vraag op wat docenten op de universiteit ermee moeten. Volgens Molenaar behoren tools zoals ChatGPT tot de werkelijkheid, waardoor je ze niet meer kunt negeren – ook niet in de collegezaal. ‘Bij de opkomst van rekenmachines waren er ook jarenlange discussies, en die zijn ondertussen gewoon onderdeel van ons leven,’ zegt ze.

‘Bij de opkomst van rekenmachines waren er ook jarenlange discussies’

Met name in het schrijfonderwijs ziet Molenaar mogelijkheden voor de chatbot. ‘Je zou aan de software kunnen vragen om een betoog te schrijven over AI in het hoger onderwijs en welke structuur ChatGPT voor een betoog gebruikt. Vervolgens kan je de chatbot de opdracht geven om een bepaalde gedachte in de tekst centraal te stellen. Zo kan je interactief leren hoe je een goed betoog schrijft en hoe dit soort teksten tot stand komt.’

Ook volgens Peeters, die onder andere het vak wetenschapsfilosofie doceert aan studenten Artificial Intelligence, is de geest uit de fles. ‘Studenten maken sowieso gebruik van ChatGPT’, zegt hij. Hoe hij de software precies in de les wil integreren, weet hij nog niet. ‘Ik wil studenten graag iets bijbrengen over het systeem, maar wil hen tegelijk een kritische houding bijbrengen. Negeren is geen optie, maar volledige vrijheid zou ik de studenten ook niet willen geven.’

Molenaar heeft iets minder voorbehoud: volgens haar zou je bijvoorbeeld aan studenten kunnen vragen om ChatGPT een inleiding te laten schrijven voor een scriptie. ‘Daar komt nog geen goede inleiding uit, maar wel een aardige eerste versie waar ze op kunnen reflecteren’, zegt ze. Volgens Molenaar zullen studenten door de opkomst van nieuwe software in de toekomst misschien wel op een heel andere manier aan scripties werken. ‘Daarmee bedoel ik niet dat scripties door GPT worden geschreven, maar het kan wel een handig hulpmiddel worden.’

Papegaai

Om echt voor een revolutie te zorgen in het hoger onderwijs heeft de chatbot op dit moment nog te veel tekortkomingen volgens Molenaar. Zo kan ChatGPT nog geen literatuurverwijzingen geven. Ook de kwaliteit van geproduceerde teksten kan volgens haar nog beter. ‘Teksten klinken vaak aannemelijk maar zijn lang niet altijd correct’, zegt ze.

‘ChatGPT is die oom op een verjaardagsfeest die heel overtuigend kan bullshitten’

De paradox, zegt ook Peeters, is dat je eigenlijk al expert moet zijn in het onderwerp waarvoor je ChatGPT gebruikt voor je kan inschatten wat je eraan hebt. ‘Ik vergelijk het graag met die oom op een verjaardagsfeest die heel overtuigend kan bullshitten over een onderwerp dat jou interesseert, maar er feitelijk geen verstand van heeft. Emily Bender (Amerikaanse taalkundige, red.) en Iris van Rooij (hoogleraar Artificiële Intelligentie aan de Radboud Universiteit, red.) noemen het daarom een papegaai: op basis van kansberekening combineert ChatGPT wat ‘ie elders al heeft gehoord en presenteert een reactie waarvan het voorspelt dat je hem wilt horen. Daarbij maakt het ChatGPT totaal niet uit of het antwoord feitelijke onjuistheden bevat.’

Plagiaat of niet?

Scholen en universiteiten wereldwijd worstelen ermee dat teksten van ChatGPT uniek zijn, waardoor ze vooralsnog ontsnappen aan plagiaatdetectie – al heeft een student van Princeton inmiddels een programma ontwikkeld dat voorspelt hoe groot de kans is dat een tekst door de AI-software is geschreven.

Toch zal het volgens Peeters in de toekomst moeilijk en misschien zelfs onmogelijk worden om te controleren of studenten gebruik hebben gemaakt van AI. ‘En dan nog hoeft het niet meteen plagiaat te zijn’, zegt hij. ‘Misschien hebben studenten gewoon gebrainstormd met ChatGPT in plaats van met medestudenten. Dat is niet te achterhalen.’ Peeters meent daarom dat eerlijkheid tussen docenten en studenten in de toekomst nog belangrijker wordt dan het al is.

Volgens onderwijsfilosoof en academisch leider van het Radboud Teaching & Learning Centre Jan Bransen moeten docenten en studenten vooral vermijden in een wapenwedloop terecht te komen waarin nieuwe versies van software worden opgevolgd door nieuwe vormen van plagiaatdetectie. ‘Hoe komt het dat iemand die naar een universiteit gaat om zijn kritische denkvermogen te ontwikkelen zichzelf herdefinieert als iemand die het best vooruitkomt in zijn leven door met ChatGPT de boel te bedonderen?’, vraagt hij zich af.

Toch wil Bransen even nadenken over de manier waarop de chatbot zou kunnen ingezet worden bij toetsen. ‘Geef de tentamenvragen aan studenten en laat ChatGPT antwoord geven. In een mondeling tentamen kan je vervolgens vragen stellen over de kwaliteit van de antwoorden van de chat.’

Paywall

Los van de beperkingen in het hoger onderwijs vallen er volgens de wetenschappers heel wat kritische vragen bij de chatbot te stellen. Molenaar wijst erop dat OpenAI, het bedrijf dat eigenaar is van ChatGPT, een commercieel bedrijf is en geen open source-platform zoals veel mensen denken. ‘Ze zullen op termijn vast geld vragen voor het gebruik van de chatbot’, zegt ze. ‘Wellicht blijft een basismodule voor iedereen toegankelijk en komt er daarnaast een versie met meer mogelijkheden waarvoor je moet betalen.’

Ook Peeters acht de kans reëel dat de chatbot binnenkort achter een paywall belandt. ‘Zodra een bedrijf een groot aantal gebruikers heeft, gaat het verkennen of ze er geld uit kunnen halen’, zegt hij. ‘In Nederland zijn we rijk en kunnen instellingen dat geld betalen, in andere landen misschien niet. Dat vergroot ongelijkheid.’

‘Alle vooroordelen die je op het internet tegenkomt, komen ook voor in de output van het programma’

Ook belangrijk: de volledige dataset van ChatGPT is afkomstig van het internet. ‘Dat betekent dat alle vooroordelen die je op het internet tegenkomt ook voorkomen in de output van het programma’, zegt Peeters. ‘Als je het vraagt om de beschrijving van een arts, dan is dat waarschijnlijk een witte man van een bepaalde leeftijd. Vraag naar typische taken voor het huishouden en je krijgt wellicht meer voorbeelden van vrouwen.’

Laatste punt van kritiek: de ecologische voetafdruk die de software veroorzaakt. ‘De Amerikaanse taalkundige Emily Bender heeft een paper geschreven over de hoeveelheid energie die verloren gaat door ChatGPT’, zegt Peeters. ‘Dit soort digitale tools vraagt steeds meer rekenkracht en die data moeten ergens worden opgeslagen. Als steeds meer mensen hiervan gebruikmaken, dan moeten er ook datacenters bijkomen. Hoe gaan we dat bolwerken in tijden waarin duurzaamheid steeds belangrijker is?’