Het volgende artikel komt van NEMO Kennislink van 3 februari 2023 en is geschreven door Roeland Segeren (https://www.nemokennislink.nl/publicaties/chatgpt-kan-goed-papegaaien/).
Kunstmatige intelligentie sloop ons leven al binnen via virtuele assistenten, chatbots en allerhande algoritmes. Eind vorig jaar kwam daar ChatGPT bij, dat op commando elke denkbare tekst voor je schrijft. Is dat een kans of een bedreiging?
Tot zijn eigen verbazing werd Arnoud Kuijpers, docent Nederlands aan het Coornhert Gymnasium in Gouda, bron van onderzoek naar ChatGPT. Proefkonijn eigenlijk: “Mijn leerlingen moesten een beschouwing inleveren, een tekst met als doel de lezer te laten denken. Een van de leerlingen schrijft voor de website scholieren.com en had met de redactie het plan bedacht om zijn opdracht door ChatGPT te laten maken. Om eens te testen hoe goed het werkt.” De leerling voerde de eisen voor de tekst aan de AI-tool en kreeg daarop in luttele seconden een automatisch gegenereerde beschouwing terug. “Ik heb ‘m een 8,3 gegeven.”
Een dikke voldoende dus. Maar een simpele druk op de knop was dat niet. De leerling heeft er zelf een aantal citaten bij gezocht en handmatig meerdere alinea’s herschreven. Hij heeft er uiteindelijk dus toch nog wat tijd in gestopt. Dat is misschien ook wel de manier waarop het onderwijs hiermee om moet gaan, denkt Kuijpers. “Ik denk dat we het niet moeten verbieden. Het lijkt me beter om leerlingen te leren hoe ze het kunnen gebruiken, zodat hun schrijfopdrachten beter worden. Sommige docenten willen terug naar handgeschreven opdrachten. Dat zie ik niet als de juiste manier.”
Lees hier meer over de techniek achter ChatGPT:
Gebruiken in het onderwijs
Maak het leuk, adviseert ook expert onderwijsinnovatie Inge Molenaar van de Radboud Universiteit. Zelf bombardeert ze ChatGPT tot onderwerp van onderzoek voor haar studenten. “Laat het maar een eerste versie van een essay schrijven. Hoe zit zo’n tekst van ChatGPT nou precies in elkaar? Wat gaat goed en waar maakt het fouten? Kun je het bewust dingen laten maken die niet kloppen? Dat zijn interessante experimenten. Volgens mij is dit prachtig om te gebruiken in het onderwijs. Laten we kijken of het de schrijfvaardigheid van leerlingen beter kan maken.”
Het heeft volgens Molenaar geen zin om in de verdediging te schieten. Ingewikkelde maatregelen, zoals de terugkeer van pen en papier op universiteiten in Australië, zijn volgens haar ouderwets. “Dit is gewoon de consequentie van automatiseren. Er verdwenen in het verleden al veel banen door de komst van robots. Die namen werk van ons over dat we niet meer willen doen: herhalende taken, reproduceren. De menselijke meerwaarde zit vooral in hogere cognitieve vaardigheden: controleren, beoordelen en verbinden met gevoel. Daar moeten we ons in het onderwijs ook op richten, en minder op het reproduceren van kennis.”
Etniciteit en gender
Helemaal nieuw is ChatGPT niet, zo leggen we hier uit. Het computerprogramma is namelijk een doorontwikkeld taalmodel dat enorm veel door mensen geschreven teksten heeft gezien. Het heeft van al die teksten geleerd welke woorden bij elkaar horen en kan op basis daarvan telkens opnieuw voorspellen wat het beste volgende woord is. ChatGPT is hierdoor in staat om taalkundig kloppende zinnen te vormen en antwoorden te bedenken die juist zijn – of in elk geval juist lijken.
Voor wetenschappers als computationeel linguïst Raquel Fernández (Universiteit van Amsterdam) is ChatGPT vooral een volgende stap in de jarenlange ontwikkeling van dit soort taalmodellen. “Maar ook wij zijn onder de indruk van de kwaliteit van ChatGPT. Wat het kan en vooral de hoge kwaliteit van de teksten die het maakt. Het is echt wel meer dan gewoon een leuk speeltje. Toch denk ik niet dat dit ons leven radicaal gaat veranderen. Ik vind het vooral vanuit wetenschappelijk oogpunt interessant; dat we als mensen zoiets kunnen bouwen. Het kan ons ook weer helpen om meer te leren over taal en techniek.”
ChatGPT is zo geprogrammeerd dat het geen discriminerende of racistische uitingen mag doen. Ondanks die beperkingen ligt daar volgens Fernández nog wel een probleem. De taalrobot ziet die gevoeligheid zelf namelijk niet – het blijft een machine. “Als je het bijvoorbeeld vraagt om een programma te schrijven dat sollicitanten selecteert op basis van etniciteit of gender, dan doet het dat.” Daar komt bij dat teksten van ChatGPT klinken alsof het de onweerlegbare waarheid is. “De teksten die het formuleert zijn zo overtuigend, zo menselijk, dat mensen mogelijk snel geloven wat er staat.”
Dat gevaar is vergelijkbaar met andere online toepassingen. Mensen laten zich immers altijd al van alles wijs maken op het internet. “Het verschil is dat je niet ziet wat de bron is.” Als je zelf iets vindt op een website, kan je in elk geval zelf beoordelen of het betrouwbaar is. Fernández: “Het is een grote beperking dat ChatGPT zijn bronnen niet vrijgeeft en dat de ontwikkelaars de techniek erachter niet vrij geven.”
Morele risico’s
Volgens cognitie-filosoof Anco Peeters (Radboud Universiteit) is ChatGPT nu vooral zo populair omdat het AI toegankelijk maakt. Iedereen kan ermee praten en zijn eigen ding doen. Dat kan impact hebben op ons werk, zoals e-mail, streepjescodes en zoekmachines ons werk ook hebben veranderd. Misschien verdwijnen er zelfs schrijvende beroepen door de komst van ChatGPT en zijn opvolgers. “Maar hoe erg is dat? Er zijn mensen die nu handmatig de beschrijvingen maken van winkelartikelen op webshops. Dat soort beroepen worden misschien wel overbodig.”
Bij de meer inhoudelijke schrijvende beroepen zal het zo’n vaart niet lopen, denkt hij. Bij het schrijven van een goede roman, filmscenario, wetenschappelijk of journalistiek artikel komt immers meer kijken dan het opdreunen van woorden. “ChatGPT kan goed papegaaien, zoals een collega het mooi uitdrukte. Het voorspelt welk antwoord jij zou willen horen, het begrijpt niet echt. Als je vraagt naar een verband tussen twee gebeurtenissen, dan zoekt hij dat verband, waar of niet waar. Hij kan goed verzinnen, en dat heel overtuigend brengen. Dat is een paradox, want je moet wel een expert zijn om te weten of het klopt.”
ChatGPT kan bovendien bepaalde machtsverhoudingen versterken, zo waarschuwt hij. “De traditionele verhouding tussen mannen en vrouwen, arm en rijk, dat spuugt hij nu gewoon in zijn teksten uit. Bovendien is deze techniek typisch iets waar mensen die makkelijk toegang hebben tot nieuwe technieken voordeel uit halen. Met een slechte internetverbinding – in ontwikkelingslanden bijvoorbeeld – kan je er minder mee.”
Van rekenmachine tot schrijfmachine
Docent Kuijpers vergelijkt ChatGPT in het onderwijs met de rekenmachine: in het begin verboden, nu verplicht. “Er valt veel af te dingen op de kwaliteit van de teksten die ChatGPT maakt, maar dat is niet zo relevant. Dit gaat natuurlijk alleen maar beter worden. We kunnen deze teksten ook niet checken op plagiaat, daar zijn ze te uniek voor.”
Daarom is het volgens de docent beter om het te accepteren en te omarmen, zoals rekenmachines, Wikipedia en internet in het algemeen. Want in zekere zin is het grootste risico van ChatGPT vergelijkbaar met de risico’s van internet. “Het past bij het bredere gevaar van onbetrouwbaarheid van het internet. ChatGPT kan ook onzin uitkramen en complotten verzinnen. Maar het klinkt vaak wel betrouwbaar. We moeten een goede manier vinden om hier in het onderwijs mee om te gaan.”
