Vinohradská 12: „Bez regulace AI skončí demokracie“

Tady je Matěj Skalický a tohle je Vinohradská 12.

Jak mocná je umělá inteligence, není hrozbou, neměli bychom jí regulovat,

na to se ptal švícarský veřejnoprámní vysílatel RTS,

známého izraelského filozofa a historika Juvala Noacha Harariho.

Rozhovor jsme získali v rámci partnerství v síti Evropské vysílací Unie

a v překladu ho nabízíme ve Vinohradské 12.

Dnes je neděle 14. května. Tohle je speciální epizoda Vinohradské 12.

Harari působí jako profesor na Hebrejskej univerzitě Vieru Zalémě.

Je to izraelská star mezi intelektuáli.

Je to autor bestselleru jako sapiens, homodeus nebo 1.20 lekcí pro 1.20. století.

V poslední době se o něm mluvilo hlavně jako o muži,

který spolu s Ilonem Maskem nebo s Tývem Wozniakem a dalšími

žádal o pozastavení vývoje umělé inteligence a spodně na půl roku.

Důvody?

Harari v rozhovoru pro švícarskou RTS, který jsme přeložili,

a varuje před ohrožením demokracie.

A připomíná, že co člověk stvořil, si člověk může nalespoň prozatím i sám vyřežit.

Ve svém šlanku v názorové rubryce amerických novin The New York Times,

teře kole, že by lidstvo mohla zahlit opona iluzí,

kterou už možná nikdy neprohlédneme, nebo si dokonce ani nebudeme vědomy.

Co tím máte na mysli?

Hrozí nám, že stratíme kontakt s světem kolem nás?

V podstatě ano.

Musíme pochopit, že umělá inteligence se liší od všech předchodích výdobitku lidstva.

Všechny nástroje, které jsme dosud vynalezli, nám vždycky propůjčovali větší moc.

Proč?

Protože žádný jiný nástroj dřív nedokázal sám rozhodovat nebo aktivně přemýšlet.

Když třeba objevíte atomovou bombu, ona se nemůže sama rozhodnout, jaký cíl má zničit.

Vždycky o tom rozhoduje člověk.

To samé platí pro vynáles rády a takový rozhlasový přímač se ku příkladu nemůže rozhodnout, co bude vysílat.

Rozhlas nemůže přemýšlet, nebo vytvářet novou hudbu, nebo nové příběhy.

Rádio prostě jen šíří myšlenky a kulturní výtvory lidských bitostí.

AI se od atomových bomb rozhlasu a všech těchto vynálezů zásadně liší.

Zaprvé, umí se sama rozhodovat.

Dovede činit rozhodnutí o sobě same, ale i o nás.

Když například žádáme banku o půjčku, tak o tom zdanám banka půjčku poskytne nebo ne, stále častěj rozhoduje umělá inteligence.

Kontrola se tak přesouvá od nás směrem k AI.

Přesně, AI můžete zvukovat největné idei.

Můžete zvukovat největné kulturné produkty.

Můžete vytvětné texty.

Můžete zvukovat muzik.

AI ale výkonější, AI vytvořit umí, a to nabírá na obrátkách.

Je třeba se zamyslet nad jednou věcí.

My žijeme obklopení určitou kulturou.

Nikdy nevnímáme prostou realitu takovou, jaká je realitu vždy,

prožíváme skrzekulturní výtvory, jako jsou míty, zákony, ideologie, hudba a umění.

Až do teď nás obklopovala kultura, kterou vytvořili ostatní lidé.

Co by pro člověka znamenalo žít ve světě,

kde většinu kulturního obsahu vytváří cizí inteligence netalická.

My si ani nedokážeme představit, co by to znamenalo.

Mnoho lidí samozřejmě tvrdí, že AI ve skutečnosti nic nového nevytváří,

že jen přebírá naše výtvory a ty kombinuje, nebo tak něco.

Ale vždyť to same platí i pro lidi.

Představte si, jak skládají hudbu lidé.

Například, jaký skládal bach.

Když člověk vytváří hudbu, tak taky nikdy nezačína odnuly.

Vždycky vychází z předchozí hudební tvorby.

To platí i pro literaturu.

Základ bible také tvoří staré příběhy.

Lidé tedy využívají předchozí kulturní produkty,

něco skombinují, něco pozměnění.

No a to je lidská tvořivost.

Uměla inteligence dokáže to same,

a dokonce může jít ještě dál.

Umítočiš vztřebat celou lidskou kulturu.

To je jedno, co jsme stvořili za tisíce let

a dokáže to vztřebat během velice krátké doby.

Třeba všechno hudbu, kterou jsme kdy nahráli.

Žádný člověk nezvládne na poslouchat veškerou nahranou hudbu.

AI to zvládne a dokáže tu hudbu velmi rychle spracovat.

Potom začne chrelit záplavu nového kulturního obsahu,

který se bude stále víc lišit od původních předloch,

které vytvořili lidé.

Tohle samo o sobě, samozřejmě není problém.

Tuhle schopnost můžeme skvěle využít v oblasti kultury,

v technologích na ítnovou léčbu Rakoviny nebo čehokoliv jiného.

Musíme ale zároveň pochopit, že je to obrovská moc.

Je třeba ji porozumět a je třeba ji regulovat,

protože je také potenciálně velmi nebezpečná.

Existuje tedy způsob, jak omezi třeba ryzyka

a vzít si jen to dobré, jen ty dobré možnosti.

Věříte tomu ještě?

Je to možné, je to sice obtížné, ale jde to.

Vezměte si třeba štěpení jádra.

Od roku 1945 víme,

že jaderná technologie může zničit lidskou civilizaci,

ale může také vyrádať,

velké množství levné energie a různě nám pomáhat.

Abychom omezili nebezpeční nukleární války

a zároveň by užili pozitivního potenciálu jádra,

vybudovali jsme obří mezinárodní systém.

Nevíme, co se stane v budoucnu,

zvlášť teď, když tu máme ruskou invazina Ukraínu

a podobně, ale dosud dosud to fungovalo.

V oblasti umělé inteligence je potřeba udělat podobní krok.

Můžeme využít různých pravidel a předpisů.

Základním pravidlem by mělo být,

že kdykoliv s AI komunikujeme,

musíme vědět, že se o umělou inteligenci jedná.

Zamysleme se nad budoucností demokracie.

Demokracie to je v zásadě dialog.

Je to veřejná diskuse spousty lidí.

Diktatura?

To je diktát.

Jeden člověk řídí všechno.

Demokracie je diskuse.

Mnoha lidí, kteří debatují o ekonomice

o zahraničných vztázích,

o všem možném.

V této robě se ale většina podobných názorových výměn

odehráva na internetu.

Co se stane?

A stáce to může, když se bude umělá inteligence

za člověka vydávat.

Budete s někným online debatovat

třeba o klimatické změně

nebo o ruskou.

V přesvětšení,

že diskutujete s lidskou bytostí,

ale půjde o umělou inteligenci.

To přece nejde?

Je to nesmírně nebezpečné.

Nemá to čiž cenu,

aby se člověk snažil změnit názory

nějakého bota,

který ve skutečnosti

slouží politické straně

nebo cizí vládě.

Čím víc, sní,

s umělou inteligencí, ale budete mluvit,

tím lépe vám rozumí

naše názory.

Dnes už víme,

že poslivních 10 let se na sociálních sítích

bojuje o pozornost lidí

a algoritmy

dokáží pozornost lidí upoutat,

což vede k náru z tu projevu

nenávisti, hňevu

a ke strachu ve společnosti.

Tito algoritmy, sociálních médií

tohle posud neuměli vytvářet obsah.

Vybírali jen to,

která videa, které texty

vytvořené lidmi vám ukáží.

Nová uměla inteligence

dokáže obsah sama generovat.

Umí slidmi dokonce navazovat

osobní vstahy.

Pokud tedy nezavede

nějaká omezení, budete konec demokracie.

Protože na internetu budete

diskutovat z AI,

ale nebudete vědět, že to AI je.

Znamenalo by to konec

v dneskuze ve veřejném prostoru.

Potřebujeme tedy velice jednoduchou,

ale nésnadno zaviditelnou regulaci,

která povede knutnosti oznamovat lidem,

že přichází dostikus umělou inteligenci.

Stejně tak by se Twitter,

Facebook a podobné platformy

měli zbavit botů

vydávajících se za lidi.

Dnes se hodně debatuje

o svobodě projevu na Twitteru a Facebooku,

ale botů by se ta debata týkat

neměla, protože ti svobodu

projevu nemají.

Prvným projevu je

lidské právo,

není to právo umělej inteligence.

Prvným krokem

je tedy donutit Ilona Maska na Twitteru,

Marka Cakerberka na Facebooku

a všechny ostatní,

aby se botů zbavili.

A pokud je na své platformě povolí,

pak musí při jakémkolik kontaktu s člověkem

nejprve přiznat,

že jde o AI,

že se nejedná o člověka.

To vede k otázce,

kdo vlastně jsme, jako lidé.

Stroje v nás teď vyvolávají iluzy,

že dovedou myslet. My to dokážeme taky,

když s vámi teď mluvíme,

procházejí mým Moském Jonte Drasvíku

a elektrické impuzyst,

nějakokdyž strojem a jeho obvody

procházejí elektrické impuzy,

jaký je v tom rozdílu?

Ten rozdíl, jak vidíme,

je v tom, že lidé mají vědomy,

když to nemá. Nejde tu o inteligenci,

lidé si často inteligenci

a vědomí pletou,

při tom jde o dvě rozdílné věci.

Intelligence je schopnost

dřešit problémy, například,

jak napsat text, nebo

jak složit hudbu, jde o řešení

problémů. Vědomí

vytváří pocity, pocity smutku,

nebo štěstí, vnímání bolesti

a radosti. U lidí je inteligence

s vědomím propojená,

často řešíme problémy pro střednictvím

positu, takže si to pleteme,

jině že tyhle dvě kategorie se liší.

Počítače jsou dnes v

mnoho oblastech inteligentnější než

mi, ale nemají ani špetku

vědomí. Co víme, tak nic necítí.

Dokážou nás porazit všahu,

dokonce nás mohou překunat

i ve skládání hudby, to je možné,

ale necítí smutek, necítí

radost, bolest, ani potěšení.

A proto jim nenáleží etická

a politická práva, protože

v etice a politice nejde v důsledku

o inteligenci, jde o utrpení.

Cílem etik je zabránit

trápení, osvobodit lidi a možná

i jiné tvory právě od utrpení.

Proto tu probíhá velká

debata, například o právech

zvířat, protože zvířata

mohou pocitovat utrpení, mohou

pocitovat bolest, mohou

pocitovat smutek, takže by měla

mít nějaká práva.

Umělá inteligence a počítače,

necítí nic, když zničíte

počítač nebo zničíte robota,

je to možná porušení práv

člověka, který je vlastní, ale

vůbec se nedá mluvit o tom,

že by ten počítač trpěl.

To je ten hlavní rozdíl.

Proto nemají počítače

politická a etická práva.

Samozřejmě, že pokud v budoucnosti

počítače získají vědomí, tak

všechno se tím změní, ale tam ještě

nejsme. Něc nenasvědčuje

tomu, že by počítače směrovali

vědomí. Ano, mají inteligenci,

v mnoha oblastek jsou dokonce

inteligentnější než mi,

ale nic necítí.

Pokud si dokážeme představit,

co všechno se může v oblasti AI

zvertnout, není to zároveň důkaz,

že ji ještě dokážeme, ale spolni

nějakou dobu ukočírovat.

Zatím ji máme pod kontrolou,

ale ne na moc dlouho,

proto musíme jednat rychle a rozhodně

a regulovat AI drív,

než začne ona omizovat nás.

Vzpomínám si, jak nám jde

profesor na mezinárodím institutů

pro rozvoj managementu

Lozan říkali, že kvůli AI

by se mohla na celém světě

změnit, nebo dokonce zrušit miliarda

pracovních míst. Nemusíme to,

ale dopustit, máme na výběr.

Můžeme určitou činnost delegovat

ale nemusíme. Máte pocit,

že si uvědomujeme, že tahle možnost

volby nám stále zůstává?

No neuvědomujeme si to dostatečně.

Mnoho vláta politiků, ale ani jejich

voličů o těchto otázkách neprzemíšlí.

Sledují politickou debatu

ve spojiných státech. A vidím

tolik vášnivých a

naštvaných diskuzí oprávech transseksuálů.

Tím myslím debatu o tom,

kdo může chodit na které záchody.

Je to důležité tém a chápu,

proč přitahuje velkou pozornost,

protože cokoliv, co jsou vysí z pohlavím

a gendrem, okamžitě vzbudí emoce.

Ale v porovnání z tématy, jako je

AI a klimatické změny,

ať lidé chodí na záchodky tam,

či o nám lidskou civilizaci

to nezničí, ale AI

lidskou civilizaci zničit může.

Takže pokaždé, když vidím kandidáty,

kteří používají témata, jako

jsou třeba práva transseksuálů,

výzkali politickou moc a odvádějí

veřejnou debatu k těmto věcem

děsímět.

Hlavní politická diskuse by se dnes

měla týkat AI

změn klimatu

a dalších témat, která ohrožují

naši existenci.

Musíme se na tyto otázky zaměřit,

a když to uděláme, budeme mít nadále

možnosti ovlivňovat, například

v oblastech, jako je trh práce.

Dalším nebezpečímý je,

že lidé, kteří stojí v čele revoluce

AI, uvažují v termínech

technologického determinismu.

Tvrdí, že tahle technologie

se bude vyvijet tak,

jako tak, že když se o její

rozvoj nezasadíme mi,

udělá to někdo jiní.

Tychle lidé nechápou, nebo

nechtějí pochopit,

že máme na výběr, že si můžeme

vybrat, jakou technologie vyvineme

a jaký využijeme.

Stačí se podívat na 20. století

na technologie, jako je rádiu,

jako jsou vlaki, jako je elektrina.

Některé země, třeba

nacistické Nemecko,

budovali totalitní režim,

a jiné, podobnými technologijemi,

vybudovali demokraci.

Tak například rozhlas se dál

využít k šíření hitlerových projevů

do každé německé rodiny,

každá taková rodina, který musela

výmač a všichni hitlera museli

slyšet.

To je jedna z možností, jak využít rádiu,

nebo holze využít tak, aby si každý

mohl vybrat, jaké pořady

a jakou hudbu bude poslouchat.

Takže rozhlas může být

nástrojem totalitního režimu,

ale může být taky nástrojem demokracie.

To samé platí i pro umělou inteligenci.

Žádný technologický determinismus

neexistuje.

Obávám se, že některé

země budou chtít využít AI

k vytvoření nejextremějších

totalitních režimů v historii.

Není to však nevyhnutelné.

Rozhodnutí je na lidé.

Vzpomínám si, že k disembil v USA

tehdejší prezident Barack Obama

říká, že jsme se narodili do nejlepší možné doby.

A přesto, pak přišla

pandémie, máme tu AI

a všechny ty problémy, jako je změna

klimatu oslabování liberálních demokrací,

jsou tu fake news a tak dále.

Někteří historici dokonce říkají,

že to dnes vypadá přesně jako v době

před první světovou válkou.

Vyjste historik, proto mě zajímá

váš názor na dobu, vnížte džijeme.

Souhlasím s tím, že v době

před 10 lety, kdy byl Obama prezidentem

jsme si ce, řešeli spoustu problémů

ale i tak to byla

asi nejlepší doba pro lidstvo.

Samozřejmě je velký rozdíl

mezi tím, když se řekne,

že se lidé měli lépe než dřív.

Všude byly obrovské problémy,

ale bylo to lepší,

než jakákoliv předchozí éda

v historii.

Posledních zhruba 10 let

to jde z kopce.

Máme jednu krizi za druhou.

Problemy se vrší a navzájem zesilují.

Máme tu ekologickou krizi,

která se zhorušuje.

Prošli jsme si pandémii,

teď čelíme ruské invazy na Ukraínu,

roste napětí ve východní ázi.

S rozvojem AI

se zrychluje technologická revoluce

a to se promítá do všech ostatních problémů.

Demokracie je ohrožena,

protože nevíme,

jak regulovat sociální média,

AI a všechny tyto

rychle se rozvíjející technologie.

Procházíme těžkou krizi,

ale není to beznadějné.

Všechny tyto problémy spůsobili lidé.

Klimatickou změnu máme na svědomí

sami za ruskou invazí

na Ukraínu, konec konců

i jediný člověk Putin,

který se rozhodl vést

tuhle hroznou válku.

Revolucy umělé inteligence

mají dosud v rukách lidé,

népočítače. Zásadní rozhodnutí

dělají zase jen lidé.

Problémy jsme si spůsobili sami

a můžeme je taky sami vyřešit.

Nebude to snadné,

ale není to jako s dinosauri,

na které jednoho dne

dopadl asteroid s vesmíru

a vyhubili je dinosauri

ve stejné situaci jako dinosauri.

My problémy vytváříme

a my je můžeme

i vyřešit.

Tohle už je všechno z Vinohradské 12.

Podkáztu Českého rozhlasu Dnes

jsme přinesli rozhovor

s Izraelským filozofem

a historikém Juvalem Noachem Hararin.

Natočila ho švícarská RTS

jmenovitě Eric Guevara.

Český rozhlas intervíů získal

na základě partnerství

v síti Evropské vysílací Unie.

Z anglického originálu

ho přeložila Halka Varhaníkova

a s editovala Hozu Zanamarková

spou se mnou

rozhovor načetl Jan Bílek.

Další díl Vinohradské 12

najdete na webu irozhlas.cz

a v podkástových aplikacích

pokud chcete, můžete nám psát

a to na e-mail Vinohradská 12

za vináč rozhlas.cz

Na slyšenou zítra.

www.halkavarhaníkova.cz

Machine-generated transcript that may contain inaccuracies.