ChatGPT presser danske uddannelser: »Det kan ende i et våbenkapløb«

»Ællingen symboliserer en person, der føler sig udstødt, mens de andre ællinger symboliserer samfundet, der foragter dem, der er anderledes. Transformationen fra ælling til svane symboliserer den person, der finder sin sande identitet og accepterer sig selv, selvom samfundet ikke accepterer dem.«

Er dette afsnit skrevet af en træt skoleelev eller af en maskine af 0’er og 1-taller? Sådan skal lærere og undervisere over hele verden nu spørge sig selv, for hver opgave der lander i deres indbakke.

I det her tilfælde er afsnittet skrevet af tekstrobotten ChatGPT, der med kunstig intelligens evner at svare på alverdens spørgsmål og skrive tekster om alt fra litteratur til matematik. Robotten er hurtigt blevet populær blandt studerende på skoler, gymnasier og universiteter og bliver forbudt flere og flere steder – bl.a. i hele det danske uddannelsessystem.

Teksten i eksemplet virker måske kluntet og mekanisk, men i sidste ende kan læreren ikke bevise, at den er skrevet af en robot.

»Der findes programmer, der kan detektere tekster, som er genereret af chatbots. De kan vurdere det med en eller anden sandsynlighed. Man vil kunne fange nogen, men man vil sikkert også ramme forkert, og det vil være noget værre rod,« forklarer Anders Søgaard, der er professor i kunstig intelligens og sprogteknologi på Københavns Universitet.

Firmaet bag ChatGPT, OpenAI, har skabt et program, der angivelig kan fange hver fjerde robotskrevne tekst som »sandsynligvis skrevet af en robot«. Den slår bare også falsk alarm ved hver tiende menneskeskrevne tekst. Og ifølge Anders Søgaard vil teknologien aldrig kunne fange alle:

»Det kan ende i et våbenkapløb, hvor der kommer nye sprogmodeller, der kan omgå detekterings­softwaren. Det har man set andre steder, bl.a. med falske anmeldelser på Trustpilot, hvor det ender i et evigt spil katten efter musen.«

Alt skal tænkes forfra

Uddannelsesinstitutionerne har erkendt problemet, og derfor sparker chatbotternes indtog gang i en debat, der stikker langt dybere, end hvordan man opdager snyd.

»Vi bliver nødt til at have en større, bredere diskussion af, hvad det egentlig er, man skal kunne som elev i fremtiden, hvad man skal lære, og hvordan vi underviser,« siger Henrik Nevers, formand for Danske Gymnasier og rektor på Roskilde Gymnasium.

På gymnasierne er det især i hjemmeopgaverne, man frygter en eksplosion af AI-assisteret snyd. En undersøgelse fra mediet Gymnasieskolen tyder på, at omkring hver sjette gymnasieelev havde brugt ChatGPT blot to uger efter lanceringen.

Henrik Nevers fortæller, at gymnasierne orienterer sig i detekteringsprogrammerne. Men det frustrerer ikke at kunne vide sig sikker.

»Det er jo tudetosset, hvis vi har lærere, der skal sidde og rette noget, som er genereret i en computer.«

Sponseret indhold

Mange virksomheder har en farlig tilgang til NIS2

ISO 27001

Derfor er både gymnasier og universiteter nu enige om, at udviklingen inden for kunstig intelligens gør det tvingende nødvendigt at ændre den måde, man uddanner unge mennesker på. Alle valgmuligheder virker som en omvæltning: Skal de studerende skrive flere opgaver under overvågning? Skal de høres i alt, de producerer? Eller skal de simpelthen bare have lov til at bruge chatbotten som et hjælpemiddel på linje med en lommeregner og en lærebog?

»Vi taler for, at man laver et forsøgsprogram med nye eksamensformer og undervisningsformer,« siger Henrik Nevers og understreger, at det haster med at få politisk godkendelse til at begynde undersøgelserne.

»Kontrol kan vi få sat i værk relativt hurtigt, men selve opgaverne og eksamensformerne tager noget længere tid at lave om.«

Død over den skriftlige opgave?

I sin nuværende form er ChatGPT særligt god til at skrive redegørende tekst – at sammenfatte og fremstille viden, den har læst andetsteds. Og selvom den sommetider viderebringer forkerte informationer, kan de studerende altid tilpasse teksten og finpudse instrukserne til robotten.

Derfor spreder panikken sig i skolesystemer verden over, for alle steder er udfordringerne præcis de samme som i Danmark. Generelt er reaktionen at forbyde den, men samtidig foregår diskussionen i på institutionerne såvel som i medierne om, hvordan man skal tilpasse sig den nye virkelighed.

For eksempel har den canadiske kulturkommentator Stephen ­Marche simpelthen erklæret den skriftlige skoleaflevering død:

»Ingen er forberedt på, hvordan AI vil transformere akademia,« skriver han i tidsskriftet The Atlantic.

Helt så langt er Henrik Nevers ikke klar til at gå. Men han vil heller ikke afvise, at der er forandring på vej.

Sponseret indhold

V2 Briefing | GENERATIV AI: Sådan bruger du det professionelt

Kunstig Intelligens

»Vi skal omlægge nogle af vores rutiner. Om de skriftlige afleveringer ligefrem er fuldstændig døde, det er svært at sige lige nu. Men der bliver talt om det alle steder rundt på skolerne lige nu: Hvordan kan man stille opgaver på en måde, så det ikke er til at snyde med.«

Det minder ham om dengang, oversættelsesprogrammer blev allemandseje, og sproglærere måtte finde på nye løsninger.

»I dag lægger vi mindre vægt på opgaver, hvor de skal oversætte hjemmefra.«

I resten af fagene kommer eleverne nok også til at skulle præstere mere i lærerens påhør, forestiller han sig.

Sponseret indhold

Microsoft rykker forretningssoftware op i ny liga med AI – og det sker fra Lyngby

AI

Spørger man Tomas Kepler, formand for Gymnasieskolernes Lærerforening, kan der dog også være problemer ved mere mundtlig undervisning og eksaminer.

»Skriftlighed er med til at udvikle den enkeltes faglige standpunkt og almendannelse. Det værktøj tror jeg, vi får svært ved at undvære. Og det er ikke alle, der fungerer bedst med mundtlige eksaminer,« siger han.

AI som redskab

Også på universiteterne markerer chatbots et vendepunkt. Hanne Leth Andersen er rektor på Roskilde Universitet og formand for Danske Universiteters uddannelsespolitiske udvalg, der i januar holdt møde og drøftede, hvordan de skal forholde sig til den nye teknologi.

Hun fortæller, at det er op til den enkelte uddannelse at afgøre, hvordan de vil håndtere det, men at man er blevet enig om grundvilkårene: Som udgangspunkt er det snyd at skrive af, og ligesom på gymnasierne kan problemet bl.a. løses ved et større fokus på det mundtlige og at stille opgaver på et højt niveau.

Men en mulighed er også at tillade chatbotten som hjælpemiddel i udvalgte opgaver, og det kommer flere uddannelsesinstitutioner til at gøre på sigt.

På CBS skal det allerede ske til sommerens eksaminer. Derfor arbejder man på højtryk for at omformulere opgaverne, så de med sikkerhed er for svære for en chatbot, og på at vejlede de studerende i, hvordan teknologien kan bruges meningsfuldt.

»Vi havde nogle eksamensspørgsmål, der er blevet relativt meningsløse nu,« siger leder for undervisning og læring Jakob Ravn.

Et eksempel er inden for it, hvor ChatGPT har vist sig både at kunne hjælpe med at skrive kode og finde fejl i kode.

»De studerende skal selvfølgelig stadig lære at kode selv. Men man kan også sagtens tillade chatbotten i eksaminer med hjælpemidler, hvor man for eksempel lader chatbotten hjælpe med at opstille koden, og så skal vi spørge den studerende om noget andet. ‘Er det den bedste måde at kode på? Burde man ændre noget eller gøre det anderledes?’«

Samme idé gælder i andre fag, eksempelvis marketing. Her kan chatbotten hjælpe med at finde på marketingplaner, mens de studerende så skal vise, at de kan forholde sig til alternativer og overvejelser bag det, fortæller Jakob Ravn.

»Det er vigtigt, at vi gør det, for sådan ser virkeligheden ud nu. En dag tror jeg, der vil være opgaver, som føles lige så meningsløse som at vaske tøj i hånden.«

Også i de gymnasiale uddannelser skal eleverne lære at bruge chatbots i en vis udstrækning, lyder det fra Henrik Nevers.

Kend begrænsningerne

Men skal tekstrobotter som ChatGPT tillades som hjælpemiddel, skal de studerende være i stand til at forholde sig kritisk til dem, lyder det fra ikke bare CBS, men også alle andre sider.

For der er masser, ChatGPT ikke kan og muligvis aldrig vil kunne, som professor Anders Søgaard forklarer:

»Den er dårlig til at markere, hvornår den er usikker på noget, så det er let at generere tekster med fejl. Den markerer heller ikke referencer til, hvor den har informationen fra. Og så er den meget begrænset, når det kommer til alt, der ikke allerede er ræsonneret om. Nye sammenhænge – for eksempel at bestemme en ny væskes kogepunkt eller betydningen af en ny metafor – kan den stort set ikke være behjælpelig med.«

De to første svagheder kan den sandsynligvis blive bedre til med tiden, forklarer Anders Søgaard. Men den sidste er en anden sag.

»Grundlæggende er det ligesom Google og Wikipedia en teknologi, der gør information tilgængelig. Det nye er dels evnen til at føre samtale og til at skrive information sammen til en sammenhængende tekst. Men ud over det er det ikke så verdensomvæltende, for der er meget andet, der gælder ude i det virkelige liv.«

At elever og studerende skal lære teknologiernes muligheder og begrænsninger at kende, har længe været på den politiske dagsordenen. I 2021 sluttede en forsøgsordning med det i folkeskolen, men siden har politikerne stadig ikke taget stilling til, hvordan det skal implementeres. Og teknologiforståelse er lige så relevant på de højere uddannelsestrin, lyder det fra flere sider.

Med noget kritisk tænkning i rygsækken kan ChatGPT blive et udmærket redskab på universitetet, mener Hanne Leth Andersen, som derfor er overbevist om, at den vil blive anvendt i en del af undervisningen på RUC.

Hvad skal vi så kunne?

Den nye situation lægger op til et grundlæggende spørgsmål, som skoleledere og undervisere verden over nu stiller sig selv: Hvis en robot kan formulere vores tekster, hvad skal vi så kunne selv?

»Mennesket har jo altid drømt om at kunne genskabe et menneske, og nu er vi utrolig tæt på at skabe noget, der minder om vores intelligens. Men der er fortsat væsentlige forskelle. Den bor ikke i en krop og har ikke relationer som mennesker. Og den har svært ved at komme op på de højeste kognitive niveauer, innovation, kreativitet, originalitet, som mennesket fortsat er overlegent på,« siger Hanne Leth Andersen.

Det betyder dog ikke, man bare kan skrotte de ‘lavere’ niveauer som at skrive redegørende tekster, mener hun.

»Den nye udvikling tvinger os til igen at gøre os klart, hvad målet er med uddannelsen i den nye kontekst. Er det at kunne bruge en chatbot til alle slags opgaver og risikere ikke at lære at tænke selv? Det mener jeg ikke. Det er ligesom, da vi fik internettet eller lommeregneren, det er stadig smart og praktisk eksempelvis at kunne hovedregning selv.«

Men ChatGPT kan overhovedet ikke sammenlignes med en lommeregner, mener gymnasielærernes formand. Han mener ikke, kunstig intelligens skal forbydes i skolen, men er samtidig skeptisk over for det nye teknologiske vidunder:

»Hele lommeregnerens univers befinder sig i lommeregneren selv, og vi kan sådan set forstå helt ned i detaljen, hvorfor den gør, som den gør. Når ChatGPT skriver et afsnit for dig, så trækker den ikke bare på viden, men nogle gange også nogle moralske og etiske afvejninger, som vi ikke kan kontrollere, hvor kommer fra,« siger Tomas Kepler.

Et eksempel kunne være, hvis chatbotten skal skrive en tekst, der frembringer en følelse hos læseren, eller skal vurdere en moralsk problemstilling.

»Så kan det godt være, at den kan komme med et bud, men hvis bud er det egentlig? Er det dansk, amerikansk eller kinesisk etik? Det er jo meget mere en black box, vi har med at gøre her, som på et helt andet plan end en lommeregner tilbyder at erstatte menneskelig tankeaktivitet og kritisk tænkning.«

Lader vi AI erstatte for meget af det hårde benarbejde, kan det gå ud over selve den almene dannelse, frygter Tomas Kepler:

»Jeg vil påstå, at man ikke bare kan springe de lavere niveauer over, de redegørende niveauer og så lege frit på de høje niveauer, kun være kreativ eller analyserende. Det ville svare til at fjerne alle de bærende søjler i et hus – så ramler taget ned.«

Det er ikke helt ved siden af, hvis man spørger Lene Tanggaard, professor i pædagogisk ­psykologi på Aalborg Universitet. Derfor ligger der en enormt vigtig opgave i at håndtere AI i skolen på den mest pædagogiske måde, slår hun fast.

»Jeg bliver bekymret, hvis vi  holder op med at tale om det og  bare forbyder tingene. Men jeg  mener også, det kan være pædagogisk relevant at forbyde det. Lidt ligesom man nu snakker om med skærme i de små klasser. Det er et ansvar, som samfundet skal tage, og som politikerne også skal forholde sig til.«

Hverken undervisningsminister Mattias Tesfaye (S) eller uddannelses- og forskningsminister Christina Egelund (M) har haft mulighed for at stille op til interview.