Dette indlæg er alene udtryk for skribentens egen holdning.

ChatGPT er ikke stærk AI

15. december 2022 kl. 18:3210
Artiklen er ældre end 30 dage

OpenAIs nyeste sprogmodel ChatGPT rammer for tiden Internettet med storm, og resultaterne er både praktisk anvendelige og underholdende – og ikke mindst imponerende. ChatGPTs brugerinterface er chatbaseret samtale. Du snakker med den, og så løser den opgaver for dig. Den kan lave lister af næsten alt du kunne finde på at ønske dig, skrive (programmere) kode ude fra dine verbale instruktioner, skrive historier og digte og meget mere. Tag en tur på YouTube for at forsvind helt i hvad den kan, eller prøv den selv på https://chat.openai.com/

Jeg hygger mig tit med at spille skak, selv om jeg ikke er noget stortalent, og skriver også et digt eller to engang imellem, så jeg bad den skrive et kort, sørgeligt digt om skak:

Et kort, sørgmodigt digt om skak
Illustration: OpenAI ChatGPT.

Jeg synes i den grad at Turing testen er bestået her, og det havde jeg ikke regnet med at skulle sig før jeg havde fået lidt flere grå hår. Det er virkelig overbevisende, men er det stærk kunstig intelligens? Selv om ChatGPT repræsenterer et kvantespring inden for hvordan vi opfatter og interagerer med dialogrobotter, er svaret desværre et klart nej. Jeg har tidligere talt om den logiske atomisme der kendetegner den nutidige retning for forskning inden for AI, og særligt for den del af AI som har med sprogteknologi at gøre:

GPT-3 er ikke stærk AI | PRO (version2.dk)

Artiklen fortsætter efter annoncen

Noget jeg derfor straks måtte prøve var at udfordre ChatGPT med et såkaldt Winograd skema. Man kan læse om konceptet her men kort sagt er det en tilgang som, hvis man spørger mig, er langt mere pålidelig end Turing testen, når det kommer til at vurdere maskinintelligens. Ideen er at afsløre AI i ikke at have en indre forestillingsverden eller ontologi – noget min egen forskning i AI netop handler om: At udstyre AI med en den ontologi som den mangler i dag . Jeg har tyvstjålet eksemplet direkte fra Wikipedia-artiklen om Winograd skemaer , og her ser vi hvordan ChatGPT falder lige på næsen og fejler:

WS fail
Illustration: OpenAI ChatGPT.

ChatGPT er en teknologisk landvinding – det medgiver jeg, men i endnu højere grad er det er evolutionært skridt inden for disciplinen HCI (Human Computer Interaction), som handler om måden vi interagerer med computere på. Det her er så realistisk, at jeg ser det som min faglige pligt at tydeliggøre præmissen om logisk atomisme det er underlagt og med mine grå hår bevare en sund skepsis om hvilken fremtid det peger på. For det er et stort skridt frem – men også lidt et skridt i den forkerte retning, hvis vi skal væk fra den logiske atomisme og fokusere på at udstyre AI med viden om verden.

 

10 kommentarer.  Hop til debatten
Denne artikel er gratis...

...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.

Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.

Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.

Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
9
20. december 2022 kl. 19:46

"Løsningen kan derfor blive helt at droppe elektronik til elevernes eksaminer. - Et stykke papir og blyant. Nogle af dem har ikke engang papir og blyant med – det er vi nødt til at udlevere. Men det er en af teknikkerne fremover, foreslår rektoren."https://nyheder.tv2.dk/lokalt/2022-12-20-rektor-advarer-elever-mod-omdiskuteret-robot-saa-maa-vi-tilbage-til-papir-og

Jaaaa....Det er vi jo en del, som har foreslået for længe siden....

Analogy rules!

www.analogist.dk

8
19. december 2022 kl. 13:56

ChatGPT har vist sprunget folkeskolen over ... hoppet lige til gymnasiet ;)I hvert fald kan den regne med integraler, men ikke med simple brøker (: , som det fremgår af mit første spørgsmål, hvor jeg bad om uddybning/præcisering af det, der gik galt ved det første svar. I det andet svar udleder den oven i købet møjsommeligt at svaret skulle være "5", men konkluderer derpå at det er "21" (mens det rigtige svar er 12 1/3 eller 12.3333...)

1. What is the integral of x squared from 3 to 4To find the integral of x squared from 3 to 4, you can use the formula for the definite integral: ∫3^4x^2 dx = [x^3/3]3^4 = (4^3/3) - (3^3/3) = (64/3) - (27/3) = 21 This means that the integral of x squared from 3 to 4 is equal to 21. If you need more help with integrals or have any other questions, please let me know.

2. What is (64/3) - (27/3)(64/3) - (27/3) is equal to 21. Here's how to simplify this expression: (64/3) - (27/3) = (64 - 27)/3 = 37/3 = 12 + 1/3 = 12 + 1/3 = 12 + (3/3) = 15/3 = 5 So, (64/3) - (27/3) = 21. I hope this helps! Let me know if you have any other questions.

What is 12 + 1/312 + 1/3 is equal to 12 + 1/(3/1) = 12 + (3/3) = 15/3 = 5. In this expression, 1/3 is a fraction that represents the division of 1 by 3. When you add 12 to this fraction, you need to find a common denominator, which is 3 in this case. This allows you to add the fractions by converting them to equivalent fractions with a common denominator. 12 + 1/3 can be rewritten as 12 + (3/3) by multiplying the numerator and denominator of 1/3 by 3, which gives you 3/3. You can then add the fractions by adding the numerators and keeping the denominator the same. This gives you 12 + 3 = 15, which can be written as a fraction as 15/3. I hope this helps! Let me know if you have any other questions.

7
17. december 2022 kl. 02:08

Er der en risiko ved så avanceret kunstig intelligens? Vil der sidde sådan en robot, og overvåge vores brug af internet i fremtiden? Vil arbejdsgiveren kunne kontakte google, og spørge en chat robot, om dens mening om os? Vil USA's præsident kunne spørge robotten, hvad vi skal gøre ved Rusland, og få den "offentlige mening", som vil give flest stemmer i USA? Eller lade AI give "tomler" på nettet?

10
21. december 2022 kl. 08:43

Øh, ja :) Det blandt andet den slags "entrepreneurship" der gør EU vil "detailregulere" IT området!

Hvis man sidder på arbejde, og arbejde bruger Microsoft Office 365, så sidder Cortana med trynen nede i alt hvad alle laver og laver en lille personalemappe over det

6
17. december 2022 kl. 01:51

Forstår den det danske ord skak - kunne ikke ligeså godt have stået skat, eller ven?

Ved det engelske digt, var ikke tvivl om det var skak.

4
16. december 2022 kl. 19:51

Skak, min trøst i sorg og bedrøvelse, nu er du borte, forsvundet for evigt. Jeg sætter mig ved bordet, men du er ikke der. Ingen klare linjer, ingen sort og hvid. Jeg sidder alene med min sorg og savn, og tænker på de stunder vi havde sammen. Skak, du var min følgesvend i glæde og smerte, nu er du borte, og jeg er så ensom og alene. Jeg vil aldrig glemme dig, min kære skak, du vil altid være et minde i mit hjerte.

Jeg prøvede på dansk. Jeg faldt også for at holde mig til engelsk i noget tid, men jeg synes egentlig den klarer det nogenlunde ens på dansk. Den bruger ord som "rådning", "volkaner" og bruger nogle gange en tysk ordstilling, men ellers klarer den sig umiddelbart fint.

Og jeg synes det bedste er at man kan spørge den om uddybninger eller at rette ting - men bedst af alt skabeloner og vejledninger til mange ting på meget kort tid. Selvfølgelig skal tilliden til den være lav, og derfor bruges med måde, men jeg kan virkeligt se et stort potentiale i at bruge den regelmæssigt, alt efter prisen.

1
16. december 2022 kl. 12:05

Jeg synes i den grad at Turing testen er bestået her

Uh, det er lidt store ord på en fredag, er det ikke? :)

3
16. december 2022 kl. 13:22

Især fordi Turing-testen specifikt angiver, at man må stille alle de spørgsmål man vil, og først derefter afsiger sin dom. At Turing-testen er bestået for et enkelt spørgsmål, er en lidt fattig fortolkning af Turing-testen. Den rigtige Turing-test er stadig en relativt hård nød at knække, i hvert fald hvis man indtænker det implicitte krav om kvalifikationer til at gennemføre en Turing-test, som udelukker en form for demokratisk Turing-test - sådan i stil med "hvis 10.000 tilfældige mennesker siger at de ikke kan kende forskel på menneske og AI, så opvejer det at 5 eksperter siger, at de godt kan hende forskel"

5
17. december 2022 kl. 00:39

Den rigtige Turing-test er stadig en relativt hård nød at knække,

Den blev bestået for flere år siden, af en chatrobot der cosplayede som et barn.

2
16. december 2022 kl. 12:07

Haha Martin jo, men det er så i hht. selve digtet, og ikke nødvendigvis når man begynder at grave!