Forklart: Anbefaling: Blir maskiner bevisste? Åpen episode av Dypdykk
Aftenposten 5/18/23 - 39m - PDF Transcript
Forklart er tilbake med vanlige episoder i morgen, men nå får du en smakebit av vår nye poddkast Deepdyk.
Mens vi forklager nyehetene som skjer her og nå, så går Deepdyk skikkelig inn i de store spørsmålene bak nyehetene,
som ikke så enkelt kan googles.
Deepdyk er egetlig for de som abonnerer på aftenposten eller podd med,
men i dag får du som forklart litter en episode fra oss helt gratis.
Se for at du er ute og går i jongeren i Kongo, så kommer det 15 hylne skjempanse og drar deg opp i toppen av etter jeg,
hvor du sitter på en liten vagret, altså får du det forelagt etter han så,
i litt innfløppet blir det jeg som har med nødt til å gjøre.
Nå godt har det du gjort det på den testen.
Jeg hadde ikke gjort litt minst bra, for det er ikke skjempanse, jeg er ikke flink til å være skjempanse.
Vi anter ofte at hvis man er intelligent eller bevisst eller hva som er, så har man den hele og fulle pakka med trekk,
men det øker nedvendelig sikkert.
Bevisstet er ikke noe vi gjør, det er noe vi er, så det er en kategorisk forskjell her.
Nå tror jeg at det trenger så kalt paradigmeskift i vitenskapet,
at man må se ting fra en helt ny sinnsynkel.
Nå tror jeg at det her konsekvens er ikke bare for gjerne og visstigheten,
og så for ordene å se på helt natur.
Og derfor turer jeg heller ikke vi kommer til å klare å skjønne at vi ser det når vi snubler over det,
fordi vi kun har den her verdagslige menneskelig sentriske definisjoner.
Trikkelig ikke jeg er på en episode om kunstig-intelligens, kan det jo hende du tenker noe?
Jo, det gjorde du jo også.
Og jeg kan lov det at vi skal pusle sammen alle de her puslespillbrikken etter hvert.
For spørsmålet vi har stilt oss den her gangen, er det koi av hopper etter koi av hopper advarmot,
at kunstig-intelligens snart blir smartere nå, og kanskje til og med bevist.
Så kan det være jeg har rett.
Er kunstig-intelligens i ferd med å bli bevist som andre levende vesen?
Og vil vi det helt at klare å skjønne det om det skjer?
I denne her episoden har vi snuset rundt på en koi-lab, en gjerne-lab og et naturhistorisk museum på jakt etter svar.
Du er på Dyptik, en poddkast fra Aftonposten.
Jeg mariterer ikkestater Gjellan, og den her gangen ser det kollegaen min, Hannan Olin Berg.
Ja, skal jeg si noe nå?
Som har gjort dykke.
Ja, og der nede, fant det masse simpanser.
Nei da, jeg tror også vi må starte på starten.
Det har jo skjedd veldig mye spennende de siste 20-30-åre innover kunstig-intelligens.
Det kom blandt annet et stort og ganske kjent gjennombrudd i 1997,
da maskinen Deep Blue slod verdensmesteren Gary Kasparov i sjakk.
Og det kom et nytt stort gjennombrudd i 2015, da Alpha Go begynte å slå mennesker i Go,
som et annet bretsspil som tydeligvis er veldig imponerende at maskinen er fete.
Og så kom året 2022, ikke sant? Da alt bare virkelig eksploderte.
Hva er helvete der som skjer nå?
Hva er egentlig kunstig-intelligens?
Jeg har drott til Norges svar på silken veldig, nemlig Thuronheim,
for å få en svar fra en AI-forsker eller K-i da, som det heter på norsk.
Jeg heter Inga Strumke. Jeg er forsker på kunstig-intelligens ved AI-labben på NTNU.
Og det er inne på denne her AI-labben på NTNU og sitt nå.
Og det må bare stoppe opp litt, for den er bare akkurat som jeg såg for meg at den skulle være.
Den er fries og lys til masse sitterplasser og så følger jeg noen fancy datamaskiner.
Og i vinduet står det fem store blå bokstaver som staver ordet brain.
Her jobber altså da Norges smarteste studenter på feltet og plantanna Inga Strumke,
som for uøvrig også hører en doktor grad i partikelforsikk, for de kan frikke.
Men nå forsko altså på kunstig-intelligens, og jeg skal la ho få siddet litt mer spesifikt selv.
Helt spesifikt, så det jeg prøver å finne ut da, er når vi har en maskin som har lært seg å løse et eller annet problem,
hva den maskinen har skjønt, hvilke antakelser den gjør.
Så jeg snakker med Elens da.
Du snakker med Elens.
Ja, maskinen har jo en helt annen måte å være intelligent på å tilengne seg intelligent, enn vi mennesker har.
Så hvis man prøver å finne ut hva et mennesker har skjønt, så er det jo bare å stille spørsmål.
Men maskinen har vi jo nærmest ikke noe å felle språk med.
Vi bruker matematiske metoder og programmering for å bli klok på dem.
Så derfor tenker jeg det er litt som å snakke med Elens, for at den maskin er helt fremmed for oss.
Jeg hadde fått med meg at Inge har kjemmet meg i bok Denna Warn, som heter Maskiner som tenker.
Så jeg måtte jo på en måte spørre da om hvordan faktisk mener at maskiner tenker.
Ja, valg av titel til bok er fantastiske vanskelig, særlig på norsk.
Jeg har også en favoritt kranglig partner inn er du enger bøn, han er filosof.
Og han sa bare basert på titel på denne boket Inge, så skal jeg slakt den.
Maskinen kan ikke tenke.
Det filosofiske spørsmålet som jeg kan maskinen å tenke er vanskelig å besvare,
fordi at vi ikke er noe om hva det vil si å tenke.
Men da tenker jeg jo da at når du proseserer informasjonen og tar intelligente beslutninger,
da er vi farlig nær tenking.
Ok, også farlig nær tenking.
Og det er kanskje en greie definisjon på kunstig-intelligens, eller?
Hvor ligger det egentlig i dette begreppet?
Først med å si at kunstig-intelligens, det er jo et ord som begynner å bli litt ut- og vaska,
så vi bruker det i dag i talen.
Kunstig-intelligens er primært et fag ført.
Jeg grunnlagte i 1956, og innholdet alle tildelningen vi bruker for å få maskinet å løse problemet på en intelligent måte.
I dag vi tar den, så sier vi jo at man kan ha n.a.
Altså man sier at chatgpet er n.a.
Det er å misbruke et herminologi en litt.
Det er det som må si at en hun er en biologi.
For det er et stammet fra det fag første.
Det frykter lige præcis begreppensbruk.
Men ok, det språker en leven organism og så videre.
Og det er enda en ting som irriterer inga.
Og det er at begreppet, kunstig-intelligens, det er så svolste.
Og det lover så mye at jeg tenkte at det går ikke annet å leve opp til det.
Og de som var med på den konferensen, den sommeren i 1956, der fag første begrund lag,
de har også sagt at ingen av dem likte egentlig det navnet,
men de trengte etter annet for å skille seg fra kubberne til.
Så da beder det.
Hva tenkte jeg? Kanskje det hadde vært bedre om det hadde bedet noe annet?
Jeg tror, hvis vi hadde kalt avansert informasjonsprosessering,
det hadde forkortelsen fremdeles hvert.
Æ, jeg tror ingen hadde bryt seg.
Men selv om det er vanskelig å leve opp til alle de her forventningene,
så er inga ene i at det har skjedd bruset vanlig mye innover avansert informasjonsprosessering det siste året.
Utviklingen av infekunstledningens går så fort at alle sier at det er umulig å følge med på hva alt som skjer,
og det er sant, og det forskere sier også det.
Jeg tror, hvis du finner en av forskere som sier at de har overskjegd over feltet,
da er det bare lygte, da har de bare dårlig seltsikt.
Jeg tenker det er umulig å følge med på alt sammen.
IBMs chess-playing super-computer G. Blue outmanover
den world's highest-ranked human-player, Gary Kasparov.
Utviklingen av såkalt skjeddboots, eller skjeddboots, eller kunstinfligens,
den går i rasende fart.
Skjeddboots, eller skjeddboots.
For å forstå hvordan de her skjeddbootene som har skapt så store overskifter fungerer,
må å snakke litt om maskinlæring.
For her er det lett at det går i sur for mange.
I inga servaring, og i min forsovitt.
Så inn for kunstinfligens har vi mange tilnæringer for å gjøre maskinlæring.
Og en av dem er maskinlæring.
Så alle maskinlæringer er kunstinfligens, men ikke alle kunstinfligens er maskinlæring.
Ikke sant. Men vi skal koncentrere oss om maskinlæring nå da.
For det er jo det skjett KPPT, Bing, Bard, Replica, Siri, Alexa, osv.
Og så videre, osv. er basert på.
Hos hovedengrejen i maskinlæring er data,
altså eksempel av det som skal læres,
og et mål som er formuleret matematisk.
Det er viktig.
Vi kan ikke si til maskin,
at du skal kurere kreft eller lage en bedre verden.
Det må virkelig formulere seg i form av en lengning.
Sånn at maskin kan starte med å prøve seg,
få tilgang til dataen, prøve å løse problemet,
og så i starten gjør det veldig dårlig.
Og så renger de ut ved hjelp av det målet hvor bra det gikk.
Og så prøver på nytt, justerer litt i raren på sin indre tilstand,
eller parametrene som vi sier.
Shetbotten er basert på det som kalles en språkmodell,
som er trent, som man sier, på denne måten her.
Dessa språkmodellen fei kort sagt i oppgave og fullføresetninger
ved å finne det ordet eller den frasen som statistisk sett passe best inn.
Og dataen jeg dømn trenes på er våre data, sjokk.
Ja, og her er det mye til å tak i for all del,
som personverden, og representasjon,
og bla bla bla, masse viktige ting, ikke sant?
Men det trenger ikke du å tanke på akkurat nå.
Du kan heller tenke på at disse læringsprosessen
foregår i et nevralt nettverk,
og den mest imponerende formen for maskinlæring
kalles for dyp læring.
Det må kanskje forklare hva et nevralt nettverk er for noe da,
for at det her sker i meningen.
Ja, i hjernen. Det høres veldig sånn hjernet ut.
Ja, det høres veldig sånn hjernet ut.
Ja, det høres veldig sånn hjernet ut.
Nevralet nettverk er inspirert av hjernen,
altså opprindelig som å måle å lage en kunstig hjernet.
Og vi vet at hjernen består av små noder.
Ja, hvert hos egentlig det.
Og så har sikkert alle lært det i naturfoksteimen,
men jeg måtte ha vært for å sjekke store norske leksagon.
Og en node er altså et punkt i en elektrisk krets,
der to eller flere krets-elementer kobles sammen.
Skjølge for ordet betyr knute eller knutpunkt.
Så, også vet altså at hjernen består av små noder,
som sender informasjon til hverandre,
og at de har forbindelse mellom seg,
som de kan aktivere,
det er måten de sender informasjoner mellom seg på.
Når vi lager kunstig hjernet,
så har vi små informasjonsenigheter,
som kan ta imot informasjon,
og så kan de gjøre en liten operasjon på informasjon,
og så kan de sende informasjon videre.
Så for å lage et nevralt nettverk,
så tar man flere av de her små enheterne,
som heter noder, så setter man dem sammen.
Man kan sette dem sammen akkurat som man vil,
oppover hverandre, etter hverandre,
og hvis man setter dem sammen oppover hverandre,
så har man et lag.
Et nevralt nettverk kan bestå av så mange noder,
organiseret i så mange lag, som man bare vil.
Og hvis man har flere enn to lag, etter hverandre,
med sånne her noder,
så setter man på et dyrt nevralt nettverk.
Det skal ikke mer til.
Slengt sammen litt noder,
legge dem etter hverandre,
og det er et dyrt nevralt nettverk.
Altså, et dyrt nevralt nettverk
er et nevralt nettverk som driver dyplæring,
hvis det var noe tvilder.
Men tilbake til det med at nevralt nettverk
er inspirert på hjernen.
Menneskehjernen er jo både bevisst,
og tenkende, og følene, og alt mulig.
Da skulle vi jo tro at det er rimelig
å tenke at en kopi til menneskehjernen
kan bli det samme tingene.
Men for å i det hele tatt snakke
om bevissthet i kopien, altså maskina,
så mangler det en viktig ting, mener Inga.
Da trenger vi en vitenskapelig definisjon av bevissthet,
og det har vi ikke.
Så parallell, der er vann.
Verdagsdefinisjon av vann er at
det smaker ingen ting, det har ingen farge,
og det er vårt.
Men en vitenskapelig definisjon av vann er
hvilke grundstoffer går inn, hvilke molekyler er det,
hva i fryserpunkter, og så videre.
Definisjonen av syssnemtetype
har vi ikke før bevissthet,
og derfor tror jeg heller ikke vi kommer til å
klare å skjønne at vi ser det når vi snur blåver det.
Fordi vi kun har den her
verdagslige menneskelig-centeriske
definisjonen av det.
Ja, så for å kopiere,
så må oss vite hva det er
å ska kopiere.
Ok, men jeg kan gett at det her
ikke blir så veldig mye mindre
komplisert når det er en
hel gjerne som skal kopieres, eller?
Ja, det er liksom noe med at
gjerne er noe
prøvet veldig, veldig lite om.
Så det var her
jeg bare følte at nå må jeg faktisk snakke
med en gjerneforsker.
Snakker vi i sånn glaskrokka med masse små
gjerne rundt omkring på kontor, eller?
Ja, det var ikke så langt inn da, faktisk.
Jeg tror jeg har en video her,
hvor du kan høre de selektiske
signalene skal jeg se.
Det er gjerneforsker og professor Johan
Fredrik Storm ved Universitetet
i Oslo.
Ja, de sier, de høres ikke normalt,
men de kan måle
det rektiske urstreagen, så det er
et urstreag for å være sånn impuls,
etter en ervinpuls, eller så brukes de
gjerne til å kode alt vi både
føler og tenker å
gjøre, hva jeg bare sier.
I Rom med Os City er det
men det er blant annet annet
forskjellige artige heter
som entrer på forskjøksplasjoner for
å måle hva som foregår inn i gjerneantarer
da. Og da kan den jo for eksempel
finne lydder som egentlig ikke finnes,
sånn som de elektriske signalene
som sendes rundt i gjerne min
og din, og sikkert alle andre sin
også. Men la oss nå bare
ta det helt grunnleggende
først. K. E.
en gjerne.
Ja, det er jo da
en
stor klump med celler
som resten av klumpen så også
celler lever og nyrer alt mulig at celler
ikke er sant, men disse cellene er helt
spesialiserte til å prosessere
informasjon. Gjernen er en fysisk
klump. Det var
kanskje ikke så overraskende,
men bevidstighet
da blir det verre.
Johan Storm har forskat på
gjernen og bevidstighet
siden 1980,
så når han sier at det er komplekst,
da er det komplekst.
For det første, så er det frygtelig
mange definisjoner på bevidstighet
som brukes om hverandre, og som gjør at det
blir enda mer komplisert.
Og i dagligvis har
mange veldig forskjellige begreper
politisk bevidstighet og selvvisstighet
og sånt, men det er ikke det vi snakker om så klart?
Nei, så klart.
Men så vi snakker om bevidstighet i
det første, at man
har evnen til å oppleve
noe som helst, altså det er
subjektiv opplevelse som vi tar for
gitt i daglig livet, det at jeg kan se, høre,
smake, føle, smerte eller velvære
eller sånt noe, og tenk opp
det anlegge og ville ting, og alle
disse tingene er måtte innholde
visslet i den forstande at det er noe vi
opplever, ikke sant?
Ikke sant, og det viktigste her er jo
at du ikke vet helt
hvor bevidstighet er.
Det vil si osv. litt,
men ikke alt.
Hva vi vet, ja.
Det er
veldig mye av veldig mye vi ikke vet.
Og det er mange nivåer
og vinkler og aspekter at det er her
fra de rent filosofisk, ikke sant?
Man kan da tenke til å sitte
til hende storden og spekulere
til disse mer eksperimentelle
tingene som vi snakker om, og det som har
skjedd i siste særlig
20 årne, kanskje 25-30 år,
det er at man har virkelig
tatt fatt på etter problem for alvor
inn i den evrovitenskapen, for å
forsøke å studere det med
naturvinskapen i metoder eksperimentelt.
Og det er fortsatt mye som kan være
litt kontroversielt med det
å forske på bevissthet.
Ja, og det er mange kontroverse
fordi at man ikke kommer så langt
at man er klart å bli enig om et fælles
sånt paradigme, da.
Og noen tror at det trenger så kallt
paradigmeskift i vitenskapen, at man må
se ting fra en helt ny sinnsvinkel.
Og at det er konsekvenser ikke bare
for gjerne og bevisstheten, også for
å se på hele natur.
Altså, vent litt.
Det er så pass, ja.
Det tørs kanskje rett og lett
et paradigmeskifte på like linje
med da Darwin fant ut det med
evolution, eller Einstein fant ut
det med relativtetsteorien,
eller alt det som Copernicus
og Galileo Galilei drev på med.
Altså, bevissthet
er så synligvis
så stort mysterium.
Ja, det er kanskje
det siste store kanskje, fordi at
det er ikke tilfellig, men det har
nok å gjøre med at gjerne er
det mest kompleks som man vet om
i universe, ikke satt.
Man har mange gode metoder
og mye grunnlag derfor man kan ta fått på dette.
Det er altså vanskelig å
si om det er noe å
innne denna fysiske klumpen som
er umule for en maskin å
kopiere.
Det er mye gjerne også
keminsk præceser, ikke bare fysikk
som i kemida, som har
måtte en del andre engelskaper
enn det man...
Kemi er bund og grunn fysikk, men
det har likevel noen særre egenheter
på det nivå som
det er vanskelig å gjenskape
i legaldatamersiden.
Daturen gjennom evolutionen
blir sjekke om, det er vanskelig å forstå.
Det er bare så lenge det vittker, det er prøving og feiling
og når noe vittker, så går det videre
ikke sant, og da kan det være så
intrikkat det bare vil.
Så det er en veldig styrke
i forhold til ting som er lavet
av ingenjøer, siden ingenjøer er veldig smartere
og kan være smart på at de ikke har sånt noe så
er det begrensninger i forstyrningseventen.
Så da har altså to forskere
konkludert med at de ikke truer
på bevisste maskiner enda.
Men hva kan da være grunn til at
hvertfall visse folk da, for at
K-miljøer går ut og advare om
at det kanskje er i ferd med å skje?
Kan det rett og slett
være den eld gamle øvelsen
Beskjeling, de drømmer?
For Beskjeling finnes jo
overalt i kulturen vår,
altså bare å se for det R2D2
eller kanskje Samantha Iher
eller Hell 9000
This mission is too important for me
to allow you to jeopardize it.
Og det å tillegge
menneskelige egenskaper
til slike fantasifigurer,
eller dyr eller jennstander for eksempel
har selvfølgelig også et enda marfansinnan
nemlig
antropomorphisme.
Og Inga hadde et ganske
bra historisk eksempel på
antropomorphisme.
Så jeg tenker i Norge
kan vi ikke føle litt ekstra på at
vi fant opp Troll
Steina
Steina som går rundt
så det ikke mye som skal til
før vi bare er tvæsen
Så altså, han du trønger ikke være
ijerneforsker for å skjønne
at poenget skal fram til her
er at chatbotten kanskje
egentlig er Steiner
som oss gjør om
Troll
nettopp
og jeg fant jo selv sagt
ikke noen som forsker på bevisstighet i stein
veldig overraskende
ja, det har vært veldig overraskert for
men jeg fant noen andre da som har
ganske god peiling på dette tema her
Hei, det er Hanna
Nå står jeg utenfor
Ingangen til Geologisk Museum
For H, er det å
strive å beskjelle mer
enn noe annet
Hvor skal jeg gå?
Kanskje det beste eksempel er
noen som måtte gi en slik
skympanser
Der kom endelig
skympansene ja
eller sagt på en mer generell måte
dyr
Petter Bøkman er solåg
og jobber på Naturhistorisk Museum i Oslo
og hadde dette vært
TV-program, så hadde også sikkert
vandret rundt i de store
flotte utstillingshandene der
med dinosaurer og så videre
men det er jo en podcast så
også sitt på et rom på lofta
Uansett, en ting er jo at
Dome med tilag hun min, masse
menneskelige engelskaper i mitt daglig
virke som hun nager
det er liksom noe annet med forskning
så jeg spør Petter om det er
anthropomorphisme ute og går
når mennesker forsker på dyr
mye brukt testet man har brukt
er at å ta en skympanser
og så setter man på en kontorsdol
og så gi dem en tørtsjerm
og så hopper de sånn små symboler
og ipeloper og bananer rundt på skjermen
og så kan skympansen trykke på et riktig rækkefør
eller en mål på sånne visuelle
kjempeflinket etter
men hva er det vi har gjort her nå
når vi satt skympansen til å løse en
menneskeoppgave
så jeg får at du er ute og går i jongeren
i Kongo, så kommer det
en hyllende skympanser
og drar deg opp i toppen av et tre
hvor du sitter på en liten vagglet
forlagt etter den sånn
i litt innsbrukkproblemen som han må nødtere å gjøre
og godt hadde du gjort det på den testen
jeg hadde ikke gjort det minst bra
fordi jeg er ikke skympanse
jeg er ikke flink til å være skympanse
sånn at der ser du liksom begrensningene
med hvilke oppgaver er du her
og likvis er det en del dyr som er
forbuisende smartere som viser intelligens
men også viser de intelligens på ett område
annet område
vi antar ofte at hvis man er
intelligent eller ved viste eller hva som er
så har man liksom den hele
å fulle pakka med trekk
men det økner vi sikkert
på enge er altså
at oss mennesker har hodet så
langt inn i vår egen avle
at det er vanskelig for oss å fullt ut
måle hva intelligente dyr er
og ikke minst å forstå
bevisstheten dømmes
og det skal være litt forsiktig med å bruke
vår bevissthet
som en måle snur på hva bevissthet
faktisk er for noe
alle som snakker om bevissthet
på litt mer som generelt plan
jeg har vært og kramla med noe
filosofer for eksempel
de pleier å dra frem katt av sin som eksempel
og her har en kund så har filosofer katter
de har ikke bier, det tror jeg sier mest om
filosofer egentlig
og det er typ eksempel
jeg har noe katt selv og den er helt
bevisst den vet godt hvem den er
den vet hvordan er, den vet hvem vi er
den er klar over verden rundt seg
og den er sulten
den er sur, den kjøder seg, den er redd
den vil leke, den koser seg
helt åpenbart på vissestilstander
og ikke bare er den klar over at
den selv er til, den katter ikke sånn
super sosial, de ikke mennesker
men den er helt klar over at
vi er til, den har en theory of mind
som vi gjerne kaller det
en så forskjell på katt av meg
det bevisses meg siden at de har mulighet for de uttryk for det
katt av det ikke
så kosen skal å sta
hvitenskaplig bevisse at katt av det
bedre og andre dyr er bevisste
jo det
finnes jo selvfølgelig en test
for det her også, nemlig speiltesten
ja, åååå, speiltesten
speiltesten er en gammel sjege også
på 60-talet så gjorde man mye rart som man ikke helt gjør
lenger, med dyr og folk
og en av de tingene man
foretog seg, det var for å sjekke
er dyr bevisste, og da tok man dyr
og så klappade det lite sånn, og mens de ikke merket det
så martte man en liten flekk i panna på det
blott, det er naturlig at det var, ofte
brukte speiltesten, og så visste man dyr et speil
og i styret da ble det stående å kikke
speil og pelle seg på flekken, så var det åpenbart
å ha dyr og se at denne flekken sitter på meg
og det jeg ser i speilet er meg
den har et selvbild
men så er du jo ikke
så svartvitt det her, for
de mennesker klare ikke
denne testen før oss er halant
til to år gamle omdrent
og menneskets beste venn
altså hunder, klare ikke testen
og hvordan klare ikke det?
jo, det er fordi de bruker ikke øynene
for å navigere i verden, de bruker
luktesans de
så oss kan gå gulp av
bevisstheten til dyra
fordi testen våre er lagt ut
fra kjenneteinen, osar
på vår bevisstighet
og akkurat den same utfordringen
oppstår når du skal teste
hva som foregår inni maskina
og er du
spesielt interessert, så har du sikkert hørt om
dyringtesten
kort og optimert lager det Alan Turing
du vet han kjenniet
på 50-tallet en test som skulle
vise om maskiner tanke
men den testen
tester jo egentlig bare om
maskiner klare å overbevise
mennesker om at dømtanke
og
jeg tenker at turingtesten som
historisk klinodium
er vaker og nydelig
men jeg tenker ikke at vi kan
bruke den i praksis i dag
for å si at en maskine er tilstrekkelig
intelligent for å løse denne
funnspørsmålet, den er alt
for menneske sentrisk
og jeg tenker at den ikke vil fungere
fordi at maskiner har helt andre
evna og svakheten enn vi mennesker har
det er akkurat det at maskinen
lurs det å tro at de er
intelligente og bevisste
som er det enn kritikere
mennesker nå med historisk
språkmodellen
og dessa kritikeren har faktisk
hent av inspirasjon fra dyrerike
fordi det mener at språkmodellen
bare er stokastiske
pappegøyer
akritikende språkmodeller
sier tilfellige settinger
forstår dem ikke
men de gjør det på en veldig overbevisende måte
vi lager oss overbevise
og vi lager større og større modeller
selv om det er en totalt blind vei
hvis vi har lyst til å lage en modeller som
faktisk forstår språk
og meningsnålige språk
det at det ser veldig overbevisende ut
er bare fordi
det er det som er jobben eller målet
og så smart ut
hvis du lager en stor nok språkmodell
så vil den enda opp med å
virke som den forstår
språk
selv om den
ikke faktisk har en forståelse
og der kommer
å begrepe stokastisk pappegøye
stokastisk
i en fjong måte å si tilfellig
og greia med pappegøyer er at
de bare gjentar settinger uten å forstå dem
så det her vi landet har fortsatt
i dyririke
språkmodellene er som pappegøye
ikke simpansa
yep enkelt og greit
det var i hvert fall sånn jeg tenkte
etter at jeg gjørte intervjuer
med Inga i Trondheim
men men ok
det er jo selvfølgelig et men
fordi etter et intervjuer
så kom det en rapport
fra noe forskere som at testede
aller aller siste
innfor språkmodeller
altså GPT4
hei du Inga?
Inga som for øvrig nå har sørgt ut
hele førstopplaget til å boka si
har selvfølgelig fått med seg denne rapporten
ja denne rapporten
nå er denne rapporten
i greia
Sparks of Artificial General Intelligence
altså
glimt av kunstig generell intelligens
på norsk
og det er det denne rapporten
om GPT4 hæter
og det er ganske spesielt
fordi kunstig generell intelligens
det er på noe navnet
på et foreløpig tenkt scenario
der en maskin kan gjøre alle
oppgaver like godt
som et menneske
og det er altså glimt av
generell intelligens som forskere
mener at de har sett i GPT4
det er jo blikket vi klarer å lage
det er jo blikket vi klarer å lage
generell intelligens
så er det liksom ai som folk selv løser
så
hvis
vi kan si
at GPT
har liksom
antingen Spark
til en fylig
indikasjon
på generell intelligens
så tyder det på at vi er i faktum å løse
liksom det store
problemet i generell intelligens
men stemme det da
du kan jo skjenke å stole på dem
du kommer å gå og læse artikker
ja
så i partikken siden
2020
så bærer
GPT4
å bevise
at det finner
uendelig mange trimtal
å skrive det som et tjekk spyrstikk
det kräver
et
vikt texter av
intelligente av
det er veldig imponerende
men hvis GPT4
begynner å forstå
betyr det at du ser nærmere
bevissthet
nei, bevissthet av intelligent
er ikke det samme
nei, ikke sant
og det er jo kanskje så enkelt
men likevel så føles det faktisk ut
som det er et helt fagfelt
som mangler for å virkelig
forstå alle komponenten
for
hva var det Inga sa igjen
jeg har også en
favoritt kranglig partner
når du enger bøn, han er filosof
og hva var det Petter sa
jeg har vært og kranglet med noe
filosofer for eksempel
de pleier å dra frem kattasis som eksempel
ikke sant, jeg tror
spørre
jeg heter en der du enger bøn
professor i filosofi på universitetet i Agdur
jeg har også blitt professor 2
ved høyskolen Kristiania i Oslo
og han sa bare basert på titel
på den boka Inga så skal jeg slakke den
for det
maskinet kan ikke tenke
nei, jeg sa ikke det
jeg sa, jeg håper den titel
den ikke stemmer med innholdet
jeg håper ikke innholdet, det titel
dem sier er det innholdet for svar
fordi da må jeg anmelde den
da må jeg skrive en anmelding av en boka
denne her er altså som en filosof
bør være opptatt av å
tegge
og grunnen til at den er med i denne
episoder her er jo selvfølgelig at det
har vært ganske nysgjerrig på hvem den har
kranglet vant den var
men enda viktigere er jo hva han
faktisk tenker om bevisthet i
maskiner
altså det er som å tro på magi
det er som å tro på jordenisene
altså det er sånn ja ja det kan godt
tenne dere som en
men du tror det
fordi algoritmer som datamaskin
funker i dag er jo adversbasert
altså det er imitasjon, det er
funksjonelle ting du setter i gang
men
det er ingen grunn til å tro at det bare fordi du
øker fart og spennig
og kvaliteten
på disse datane
så plutselig får Siri en opplevelse av
hvordan det er å være
det er helt absurd å tenke at det hoppet skal
plussysjø
ja og det hoppet som Einar
sikter til her nå, det er kanskje det som
kalles for fremvoksne egenskaper
i maskinesverden
det betyr at en maskin eller
program den har utviklet
noen slags egenskaper som ingen
har programmeret inn, det er liksom
ingen som har planlagt eller
gjort noe for at det her skal skje, det bare skjer
og det er ganske mystisk
men likevel da
så gir ikke så veldig mye
mening for filosofen
at bevidsthet
bare skal vokse fram på en sånn måte
i store språkmodeller
det er bare tur
men det kan jo være i fremtiden
at man får nye metoder
at man finner noen nye måter
å lage kunstintlig ganske på
at det ikke er digital datamaskinen baseret på algoritmer lenger
så mye gjør at
kunstig bevidsthet, det kan være klar
å skape bevidsthet på kunstig måter
da, jeg sier ikke at det i seg selv
er det mulig, jeg baserer til dagens
koi
det er ikke nærheten av å være
på sporengang av å skape bevidsthet
det er bare tur
ja, kanskje har du sett for mye
segens fiksen
og så fort ent og de her
språkmodellerne drar en vits
så bare antropomorphiseres
oss innen i en
koi dystopi
der menneskerne slaver av maskinen
altså singulariteten, hvis du har
ventet på det begreppe
den tenker jo kanskje at maskinen
må være bevisste
for at oss mennesker skal bli
typ slaver
men...
ingen kan slå internetet
kanskje det allerede er sånt
hvis jeg slår internet så er du på ditt
og slår vi alle så er navn
slår nørga så er Sverige i hvert fall kina på internet
altså, det er helt umiddelig
de må alle slå er likt, og det kommer alltid å skje
så på en mange måter
har vi allerede mistet kontrollen til maskinen
så det bekymrer meg mer at
vi mister litt den der selvstendig tenkeevnen
og selvstendig avgjørelsesevnen
og så bare delegerer vi ansvarer
over på systemet som ingen
tar ansvar for
derfor vitterer alt sånn ansvar
og da blir vi bare dummer og dummerere
og det er liksom anti-humanistisk
anti-opplysningstrend
som jeg skremmer meg litt
for opplysning og humanisme var en god ting
det var bra når det skjedde
så det skremmer meg mye mer
at vi blir dumme, ikke at maskinen blir smarta
Deepdick er en podkast
fra Aftonposten, og heldigvis
hva det ekte folk du hørte i den her episoden
Inga Strymke, Johan Fredrik Storm
Einar Duengerbøen
og Petter Bøkman
Hanan Olinberg hadd laga etpisoden
sammen med Kjetil Bjørga
som også har laga musikk
og jeg heter Marit Erikstater Jelland
Karoline Fossland er prosjektleder
og haliredaktør i Aftonposten
er Trine Eilertsen
på grunn av 17. mai
Kjemme ikke neste episode
før om to uka, men da
skal vi inn i noe veldig spennende
nemlig den her fysiske klumpen
vi snakker om den her episoden, Jern
og undersøk
hvorfor noen helt frivillig
pakkesekken
vinker hadde å reise til Ukraina
for å kjempe i krig
og hvis du har noe tilbakemeldinga til oss
eller om du vil at vi skal
undersøke noe for det
send oss en mail til
dyptikkkrøllalfaaftonposten.no
Alt skal talfestes
Top score, ti av ti
en god vurdering for dette
å lys opp i jernvores
og kan få oss
til å prestere bedre
men gjør det samtidig verden
til et litt kipere sted
Vi blir overvokket av enten
kommersjeller eller offentlig
så blir jeg vel nødt til å
selge og selge og selge
Hør ny sesong av dyptikk i podomi
eller Aftonpostenappen
Machine-generated transcript that may contain inaccuracies.
Ingen vet hva bevissthet er. Så hvorfor sier noen forskere at KI er i ferd med å bli bevisst? Og hvor mye forstår de store språkmodellene egentlig? Dypdykk møter KI-forsker Inga Strümke, en hjerneforsker, en filosof og en zoolog i jakten på svar. Dypdykk er en ny podkast fra Aftenposten der vi går dypt inn i spørsmålene bak nyhetene. Nye episoder for abonnenter på ap.no og i Podme hver onsdag.