Sprogmodellerne får/har adgang til internettet, og internettet er mere eller mindre forbundet til stort set alle systemer efterhånden. Derfra er der frit løb - og vi opdager det ikke nødvendigvis, før det er for sent.
Det er jo noget vrøvl, fordi man har adgang til internetet kan man jo ikke alt muligt farligt.
Det er simpelthen Erasmus Motanus-logik. Er atombomber også ufarlige, fordi de ikke kan tænke? Er arsenik ufarlig, fordi arsenik ikke kan tænke? Er et kæmpe meteornedslag også ufarligt, fordi det ikke kan tænke? Sikke noget vrøvl. Der er millioner af ting, der er dødsensfarlige, selv om de ikke kan tænke
Øhh det forstår jeg ikke, det eneste "farlige" AI beskyldes for er vel netop at kunne tænke, arsenik er farligt fordi det er giftigt.
Og igen synes jeg du henter dine argumenter fra dommedagsprofeterne som Yudkowsky
I øvrigt var Hinton stadig positiv overfor AI
Som jeg hører det, kommer disse botter til at få adgang til selv at styre den slags - de beder ikke nødvendigvis om lov, men handler uden om mennesker. Hvis altså vi ikke stopper dem.
Hvor har du dog den ide fra? Hvordan skulle de dog kunne det? Et klasse eksempel på, hvad jeg mener med usandsynlige præmisser.
Det er jo bare et håb - baseret på at AI skulle tænke på samme måde som mennesker. Det gør AI ikke.
Nej, en AI kan faktisk slet ikke tænke, derfor er den generelt ufarlig. Jeg ser at Hinton faktisk tror at AI kan "tænke" og at de "ved" ting, som jeg også hører det, har han fået den opfattelse fordi "en AI kunne forstå hans vittigheder" og at en ChatBOT "troede" han var en teenager. Hvorfor han mener at det udgør tankevirksomhed, synes jeg er temmelig besynderligt.
Det er jo et af de tænkte eksempler, som kunne gå helt galt: At man beder AI om at løse det problem, og AI mener så, at det bedst kan gøres ved at udslette menneskeheden
Ja, og det vil jo utvivlsomt være korrekt, men det råd er der jo ingen, som vil følge, altså igen en præmis som ikke holder.
Og jeg synes, din fantasi svigter mht. de ulykker, den enorme risiko for misinformation indebærer, og som vel - i hvert fald i teorien, og der er vi jo nødt til at starte - f.eks. kunne forlede en kemisk fabrik til a fremstille stoffer, som på overfladen ser gavnlige ud, men som faktisk er dødelige big scale? Ingen kan jo gennemskue, hvad der sker i algoritmen/sprogmodellen?
Så altså et uheld, på samme måde som en forsker i dag kan "forlede" sin kemiske arbejdsplads til at fremstille stoffer som ser gavnlige ud, men ikke er det, og det er jo faktisk tit sket, så altså ingen ny situation. "Ingen kan jo gennemskue, hvad der sker inde i en forskers hjerne". En AI derimod har muligvis så stor viden at den netop kan gennemskue langtids effekter og dermed mindsker den slags uheld.
Pessimisterne har forklaret, hvorfor de er så pessimistiske. De har argumenteret. Jeg synes ikke, at du har forklaret, hvorfor duer optimist på området.
Som sagt, synes jeg ikke, de er kommet med valide begrundelser for deres pessimisme. Kun at man kan forestille sig alt muligt, det hører jo under fiktion. Jeg kan forestille mig alt muligt positivt, som måske heller ikke kommer til at ske.
Ja, ligesom de også bare kommer med tomme argumenter.
Jeg har endnu til gode at se et validt argument for at meneskeheden vil blive udslettet af en AI, det er noget der sker på film.
Jeg kan ikke se, hvordan det skal kunne lade sig gøre, derfor har jeg vanskeligt ved at argumentere for det. Til gengæld er det uhyre nemt at stille dommedagsscenarier op, hvor man lige tilføjer en eller anden usandsynlig præmis (at en AI pludselig skaffer sig affyringskoder til A-våben og kan dreje to nøgler samtidigt)
Hvis vi fx. siger at argumentet for en udslettelse er, at en AI designer et altødelæggende virus. Så er det at kæden hopper af for mig, ved at den skal kunne sende data til en produktionsenhed, der fremstiller virus (uden at nogen gør noget, eller tjekker), og hvordan vil den i øvrigt betale for den produktion. Det er altså temmeligt langt ude, og de andre scenarier med at kunne stjæle affyringskoder og starte atomkrige er da endnu længere fra virkeligheden.
at disse mennesker "vil udslette menneskeheden", den præmis er falsk! og derfor giver det ikke rigtigt mening at finde på et "ord" for dem i den kontekst.
I den mere sandsynlige kontekst at AI kommer til at redde menneskeheden, vil de blive kendt som "fremsynede" eller "helte"
Jo, det har jeg til dels, og derfor kan jeg måske netop se, at der ikke er noget at være bange for.
Der er efter min mening alt for mange dommedagsprædikanter ude, som ikke har ret meget viden om emnet, fuldstændig på linje med flat-earthers.
At de selv advarer om deres teknologi er IMO et politisk spil for at få stormen til forhåbentlig snart at lægge sig.
Der er er som sådan ikke noget fremsynet ved "at udslette menneskeheden" (det skulle da lige være en effektiv måde at stoppe den globale opvarmning på), men problemet med denne diskussion er, at præmissen er falsk, så disse mennesker vil nok snarere blive hyldet i stil med Alexander Fleming, derfor prædikatet "fremsynede"
Fremsynede!
Helt ærligt, det kommer ikke til at ske! Alt den modstand mod AI er det samme som modstanden mod den mekaniske væv i 1800 tallet. Snævertsynede folk, der ikke kan se det store perspektiv, er i mod udviklingen, præcist samme situation, og vi klarede den (også) dengang.
Godt skrevet af ChatGPT, bedre end Mette selv kunne have gjort det!
Har du prøvet ChatGPT? Du skal prøve den, indenfor noget du ved noget om. Du vil blive overrasket over hvor meget at ChatGPT ved. ChatGPT kender dog ikke den nyeste viden, da den er optrænet med viden, indtil 2021. OpenAI's ChatGPT har heller ikke adgang til internettet, så den kan ikke få adgang til seneste viden.
Ja jeg bruger den tit! og ja det er en imponerende sprogmodel, selvom forskere i sprogmodeller ikke er imponerede (kan ikke lige finde den reference).
Der, hvor jeg måske er mest nervøs ved kunstig intelligens, er når den bruges til at rådgive den amerikanske præsident. Jeg kunne fint forestille mig, at en AI vil kunne anbefale USA at bombe Nordstream gasledningerne, fordi den ikke forstår problematikken. Samtidigt, så er USA et land, hvor præsidenten nok bliver en af de første, der får adgang til at blive rådgivet af AI.
Det kunne man måske forestille sig, men så er det jo os mennesker, der er dumme og ikke en AI der har super-intelligens og overtaget verden. Jeg finder det dog et ret usandsynligt scenarie, der er næppe nogen (ikke engang Trump) som vil starte en krig udelukkende på baggrund af hvad en sprog-model har sagt. Det er IMO ude a proportion.
Jeg vil sætte mig ind i Peter Norvig. men jeg tvivler på, at han vil virke mere overbevisende på mig end Yudkowsky.
Det er jeg oprigtigt ked af at høre. Da jeg som nævnt synes at Yudkowsky ubegrundet gør folk bange.
Og den diskussion springer du over. Du er ikke enig - men det er jo ikke i sig selv et argument. Det er for mig at se bare en holdning eller en opfattelse.
Det er korrekt, ligesom Yudowsky's bare lufter sin holdning/opfattelse og heller ikke kommer med argumenter der IMO er gangbare. Andre forskere er således uenig fx Peter Norvig et. al (som jeg har en del mere respekt for)
Fra wiki siden om Yudowsky:
In Artificial Intelligence: A Modern Approach, authors Stuart Russell and Peter Norvig raise the objection that there are known limits to intelligent problem-solving from computational complexity theory; if there are strong limits on how efficiently algorithms can solve various computer science tasks, then intelligence explosion may not be possible.[3]
Du har sendt samme link 2 gange. I Forbes artiklen står bla.
Even GPT-4, the most powerful language model, is still just that – a language model – limited to generating text. It can’t build a robot army to physically fight us or launch nuclear missiles. That doesn’t stop it from having ideas, of course
Og det er jo nonsens, det stopper den jo netop fra at få ideer.
Jeg mener virkelig at rygterne om vores snarlige (ud)død er stærkt overdrevne, nærmest ikke eksisterende.
Fra wikipedia:
Yudkowsky is an autodidact[19] and did not attend high school or college.[20] He was raised as a Modern Orthodox Jew.[21]
Enough said! Jeg anser ham i hvert fald ikke som ekspert i noget, andet end måske populisme og frygt mageri. ChatGPT er trænet til at kunne fuldføre sætninger ikke andet, det er ikke en egenskab, jeg frygter kan overtage noget som helst!
at der ikke var en eneste Star Trek reference: En af topkandidaterne i NIST’s konkurrence hedder Dilithium og er fra CRYSTALS projektet.
Pffft, Star Trek. Næh, deres anden entry hedder Kyber med reference til Star Wars, se det havde været værd at nævne 😉
Du har fuldstændig ret, det giver ingen mening
Det er vist kun ulovligt, hvis du gør det inde fra din egen grund, altså har et kamera på din grund, som overvåger offentlig vej.
Dejligt med noget civil ulydighed, når lovgivningen nu er helt hen i vejret.
Så børn, der har glemt deres chromebook, ikke har opladt den, eller lign, kan ikke undervises? Eller følge med i undervisningen?
Nej, ligesom i gamle dage, hvis man havde glemt sin bog eller penalhus eller andet der var nødvendigt i undervisningen.
Jeg kan nu godt forstå at matematiklæreren blev udfordret når hun skulle undervise efter gamle støvede tyskbøger :-)
Du skal ved genindlæsning af backup køre en GDPR verificering som fjerner data som er i strid med GDPR.
Ja, det er korrekt, men det havde de ikke tænkt ind fra starten, det er mere øhh hovsa, det havde vi ikke overvejet.
Og i praksis betyder det, at du er nødsaget til at gemme, hvem der skal slettes ved genindlæsning af backup. Kræver det ikke en registrering af en person, som ønsker at være slettet? Jo, det vil det ofte gøre, så tingene hænger bare ikke sammen.
Søren Hilmer