Rector De Sutter: "We hebben geen AI-politie of zo nodig"

Wat is momenteel de belangrijkste ethische richtlijn voor professoren en studenten bij het gebruik van generatieve AI? En hoe zorgt de UGent ervoor dat het gebruik van AI de kritische denkvaardigheid van studenten niet ondermijnt? 

P: "AI is zonder twijfel één van de meest disruptieve technologieën die momenteel op ons afkomt. Ze beïnvloedt niet alleen onderwijs en onderzoek, maar ook de arbeidsmarkt en de manier waarop we allemaal leven. Het beleid van de UGent, dat al twee à drie jaar geleden is goedgekeurd, is duidelijk: we omarmen AI, maar altijd op een verantwoorde manier. 

Dit beleid geldt voor iedereen aan de universiteit en betekent dat AI gebruikt mag worden, maar altijd met de juiste kritische houding. Het is onze verantwoordelijkheid om te voorkomen dat AI het kritisch denken van studenten uitholt. Daarvoor moeten onze lesgevers zorgvuldig nadenken over hoe ze AI integreren in onderwijs en toetsing, zodat studenten hun vermogen tot redeneren en kritisch denken kunnen bewijzen. 

Een voorbeeld hiervan is de masterthesis: het volstaat niet om een thesis volledig door AI te laten schrijven. Studenten moeten kunnen aantonen dat ze de materie begrijpen en er kritisch over kunnen nadenken, bijvoorbeeld tijdens de mondelinge verdediging. Het is eigenlijk vergelijkbaar met de opkomst van het  internet, voor het eerst werd ook toen zeer veel informatie zeer makkelijk toegankelijk gemaakt. Dezelfde uitdagingen doen zich nu voor, maar dan op een hoger technologisch niveau. 

Tegelijkertijd erkennen we dat AI, vooral in onderzoek, een enorme meerwaarde heeft. Onderzoekers moeten ermee leren werken bij het formuleren van hypothesen, het verwerken van data en het testen van resultaten. Het potentieel van AI kan niet genegeerd worden, maar de mens blijft eindverantwoordelijk en kritisch denken blijft essentieel. En we moeten nadenken over de impact die AI heeft op jongere generaties die al op zeer jonge leeftijd in aanraking komen met deze technologie.  

Binnen het universitaire landschap zien we AI vooral als een nieuw middel waarmee studenten en onderzoekers moeten leren omgaan. We moeten hen voorbereiden op toekomstige banen en rekening houden met jobs die zullen verdwijnen. Generieke competenties zoals kritisch denken en levenslang leren blijven dus zeer belangrijk en staan centraal." 

Aan welke studierichtingen of soorten banen denken jullie dan specifiek? 

P: "Neem bijvoorbeeld de job van een tolk: met technologie zoals oortjes die automatisch vertalen, verandert de manier waarop deze functies worden ingevuld. Mogelijk zullen mensen in die rollen zich in de toekomst minder richten op het puur technische vertalen van teksten, en meer op internationale, politieke of diplomatieke contexten."  

Als de belangrijkste ethische richtlijn voor AI neerkomt op individueel verantwoordelijk gebruik, hoe wordt er dan toezicht gehouden op mogelijk misbruik?

P: "Of dat nu gebeurt door de resultaten van een onderzoek als de jouwe voor te stellen, of dat te doen door AI te gebruiken, fraude zal bestraft worden. Plagiaat is een voorbeeld van onverantwoordelijk gebruik. Maar plagiaat werd ook voor de komst van AI al bestempeld als fraude tegen de wetenschappelijke integriteit. In dat opzicht verandert er dus niet zoveel: we sanctioneren als we misbruik vaststellen.   

"Maar AI kan en mag aan de UGent op een verantwoorde en kritische manier gebruikt worden, hè." - Rector De Sutter

We gebruiken de mogelijkheden die bestaan om dergelijke fraude te detecteren. Een concreet voorbeeld was het ingangsexamen geneeskunde. Het wordt dit jaar een ingangsexamen  met pen en papier. Vermoedelijk wordt het examen in de toekomst opnieuw georganiseerd op de computer, maar dan  op zo’n manier dat het gebruik van AI onmogelijk wordt."

Hoe wordt er toezicht gehouden op AI-gebruik, vooral omdat AI meer is dan plagiaat en steeds vaker gebruikt wordt, ook buiten examens? 

P: "Maar AI kan en mag aan de UGent op een verantwoorde en kritische manier gebruikt worden, hè. Het hangt ervan af met welk doel je het inzet en de manier waarop je het bewust en verantwoord gebruikt. We zeggen niet dat AI niet gebruikt kan worden. Enkele jaren geleden werd aan de UGent beslist om verantwoord gebruik toe te laten en zelfs te omarmen - je kan discussiëren of dat niet een beetje zeer enthousiast geformuleerd is- maar AI is er om te blijven. 

Hoe toets je dat? Een docent toetst dat door een student te evalueren en bijvoorbeeld mondeling te examineren.  We hebben geen AI-politie of zo nodig. Als dat jullie vraag zou zijn: moet er een AI-politie komen aan de UGent? Neen, uiteraard niet, zeker en vast niet." 

H: "We hebben op de website van de UGent ook duidelijke richtlijnen en ondersteuning, zowel voor de lesgevers als voor de studenten. Het zijn richtlijnen die zullen blijven evolueren, misschien wel aan de snelheid waarmee AI nu aan het evolueren is."

"Want het is niet alleen voor studenten een nieuw gegeven, het is ook voor lesgevers iets nieuws. Eigenlijk denk ik dat vooral het vak Historische Kritiek meer dan ooit van toepassing blijft. We moeten heel kritisch blijven omgaan met de informatie die we te lezen krijgen én willen gebruiken."

We hebben het gehad over richtlijnen voor AI-gebruik in het onderwijs, maar bestaan er ook richtlijnen binnen de centrale administratie van het universiteitsbestuur zelf? 

H: "Onze richtlijnen rond AI zijn momenteel nog hoofdzakelijk toegespitst op het onderwijs. Maar ook in de administratie wordt dit  een belangrijk middel, al zal ook daar een kritische blik belangrijk blijven." 

P: "Een werkgroep binnen de centrale administratie bekijkt hoe AI ingezet kan worden voor beleidsvorming. Binnen ons financieel- en ICT-beheer bijvoorbeeld. AI is een bijzonder krachtig middel dat we kunnen inzetten om plannen te vergelijken, te simuleren en de goedkoopste of beste oplossing voor een probleem te vinden. Onze experten onderzoeken de mogelijkheden maar ook de beperkingen.   

"Een afgeklopt kader voor de centrale administratie is er nog niet" - Rector De Sutter

Bij HR-beleid bijvoorbeeld moeten we voorzichtig zijn. Er zijn al veel voorbeelden waar AI-tools gebruikt worden bij de kandidaatselectie. Als in die modellen, op basis van de data waarmee ze getraind zijn, bias en impliciete discriminatie zit, wordt dat een zeer gevaarlijke tool. Dus als we beleidsmatige keuzes moeten maken zullen we die ook kritisch boordelen. . We gaan nooit AI gebruiken om van het begin tot het einde van een selectie de juiste kandidaten te selecteren voor een job, dat zou niet ethisch zijn. Uiteraard blijf je, als HR-verantwoordelijke, op het einde van de rit altijd degene die de beslissing moet nemen.

Nog een voorbeeld: welke AI-tools laten ons toe om onze gebouwen beter te beheren. Wat kan efficiënter?  Om samen te vatten: een afgeklopt kader voor de centrale administratie is er nog niet, we brengen in kaart waar we op zullen focussen de komende jaren."