5:59: AI v dětských rukou. „Kočka honí myš a naopak.“

Ochutnijte z kvělé nabídky Magenta Moments.

Na menu lidí najdete box pro dva zapoloviční cenu v bageterii Vulvár.

Těšit se můžete na bruselskou, grilled roast beef, patatas a dipy.

Vše podáváme na jeden klik v apce můj tým mobile.

Dobrou chuť!

Překotní vývoj na poli umělé inteligence se snaží dohnat biznis, stravotnictví, média a snovou intensitou i školy.

Důsledky dramatické technologické změny a jejího snadného zneužití pocítili v posledních týdnech nečekanou silou obyvatele jednoho z menších měst výždním španělsku.

Nezletilí studenti tam s pomocí aplikace založené na umělé inteligenci vytvořili falešné fotky na hýj dívek.

Zmanipolované snímky se pak začali šířit po sociální sítích.

Traumatizovali 20 obětí a díj dívek, šokovali školu, rodiče i úřady.

Jak správně vysvětlit dětem a dospívajícím možná rizika a případné dopady zneužití nové technologie?

A jak při vzdělávání naopak co nejlépe využít výhody uměle inteligence?

K čemu a jaký používat a kde zachovat zdrženlivost?

Je vpátek 29. září, tady Jelenka Kabrhellová a 559.

Spravodajský podkást ses nám správ.

Ewa Nečasová je zakladatelkou iniciativy AI-dětem, která pomáhá školám i veřejnosti představitém a uměle inteligence dětem do 12 let.

Dobrý den.

Dobrý den.

Pani Nečasová, vy se už od loňského roku věnujete o světě, ohledně uměle inteligence, ohledně jazikových modelů na českých základních školách.

My jsme na poli AI uměle inteligence světky velmi překotného vývoje. Sme vůbec chopní můžu stačit?

No, já si myslím, že mu nestačí ani lidi, který se tomu vynuho intenzivně nebo aspoň takhle si s ním a v tomhle duchu povídám.

A já samozřejmě mám pocí, že se toho valí tolik, že vůbec nestíhám.

A jaké tema je z vašeho pohledu v tuhle chvíli, co se týče uměle inteligence k řešení na školách nejurgentnější?

No, tak školy v tuhle chvíli vlastně hledá, jak se k tomu postavit nějak systémově.

Nebo takhle, ty školy, který hledá, jak se k tomu postavit systémově, tak dělaj dobře.

Myslím si, že to je celkem bych na dlouhou tráť.

A potom jsou školy, které možná jsou teďko neště ve fázi, že třeba o to úplně nevědí, nebo se třeba rozhodujou,

jestli úplně to budou ignorovat, nebo jaké v způsobě se k tomu postaví.

Umělá inteligence je bezesporu velkou výzvou pro budoucnost. V nohém ide ale i o nebezpečnou zbraně.

Svědčí o tom stále více případů z neužívání fotografii publikovaných na sociálních sítích.

Pachatele je jedno důžše pomocí umělej inteligence mohou by užít na cokoliv výrobu pornografických obrázků, ale i tvorbu falešné identy.

Mátele je zběžené výzvou pro důžše, které se vyskává v té spáníčké hodiny.

Mátele dvětí výzvou pro důžše 11 a 17 výzvou pro výzvou.

Moje třinác tříletáce raza mnou přiběhla a ukázala meto, její obličej s úplně jiným nahím tělem.

Udělal je to pomocí nějaké aplikace. Je to opravdu nebezpečné, co uměla inteligence dokáže.

No nás k tomu rozhovoru dnešnímu částečně inspiroval aktuální případ z jihu španilského městečka Almen Dralejo,

které se potíká z důsledky z neužití nástrujů umělej inteligence mezi dětmi.

Stručně načetnu, na sociálních sítích začali kolovat fotografie na hítívek z místní školy.

Šlo asi od dvě desítky dívek ve věku 11 a 17 let.

Pro ty snímky byly použity jejich fotky ze sociálních sítích, kde ale dívky byly oblečené.

Sprocesovala ty snímky aplikace, která z nich generovala smišlenou fotografii bez oblečení.

A ty snímky vytvořili z pomocí právě aplikace založené na umělej inteligenci místních chlapci,

poslali je dál z krsítě, WhatsApp a telegram. Ten případ zaskočil děti, rodiče, školu, úřady i policii ve Španilsku.

Do jaké míry jsme ani nečaso vás chopní dnes předpokládat, jak můžou být nástrojů umělej inteligence využity

a nebo třeba i z neužity právě v té oblasti dětí nástiletích dospívajících?

Já si myslím, že my máme celkem v jasnou představu toho, jak by mohli byť z tyhle nástroje zneužití.

Ale myslím si, že kolem toho není přílež dobrá komunikace, myslím si, že bychom se měle s dětmi o tom být bavit vlastně jaký důsledky to přináší nám lidem.

A můžeme popsat, možná v tomhle případě, já rozumím to, že jsme od něj dost daleko,

ale do jaké míry můžou být tyhle případy škodlivé, jak proti na jedné straně, tak proti na druhé straně?

No, tady to samozřejmě je hrozný příklad. Myslím si, že určitě to musela být proti aktéry hrozně nepríjemný proti dívky,

a zvlášt tomhle věku. Ale pro mě to je pořád pořád o té komunikaci a o tom, jak se mě lidi jsme schopni domůjit mezi sebou,

protože my se tady možná bavíme, bo umělí inteligenci, protože teď konem toho velkej poprázk,

nicméně takové dle nástroje existovali už předtím, než generativní unělá inteligence,

vstoupla do toho mejstrému zkrát nějaký generativní jazykový modeli nebo obrazový modeli.

Bylo to už třeba ve Photoshopu a bylo možný to udělat.

V tuhle chvíli je to v podstatě jenom jednoduší, než to bylo předtím, ale ta diskuse by měla být pořád stejna

o tom, jaké jsou dusletky toho, když něco takového udělám a co to přináši tím lidem, kterým se to stané.

A co se týčete, generativní uměle inteligence máme vůbec představu o tom,

kolik podobných nástrojů v tuhle chvíli existuje a komu vlastně jsou dostupné,

které třeba můžou používat bez omezení i děti.

Mýrím k tomu, jestli je vůbec možné být ve předu a předpokládat,

co všechno může třeba jim ladá generace, ale obecně co všechno můžou lidé v tuhle chvíli využívat.

No já si myslím, že to není o konkrétních aplikacích, protože stačí někde za Google it a vypadne vám to, co hledá,

a tezpíše toho pravdu o tom principiálně si říct,

a no, je možný udělat něco takové dlho, nebo generovat nějaký revenge pornu,

nebo něco takového, a není to správný, a není to správný proč, protože

píš od těch principech, než od těch aplikacích konkrétních.

No jak to zminujete ty případy z neužití nebo manipulace se,

samozřejmě objevovali i v minulosti, byli tu manipulace s obrazem a tak dále,

ale na druhou stranu experti podotíkají, že charakterystikou těch jazykových modelů

a vlastně na elších nástrů, generativní inteligence, to, že dokáží vyprodukovat

obrovské množství informací v krátkém čase, není to přeci jenom kvalitativní rozdíl?

Je v tom velký rozdíl, a vlastně třeba začátkem letošního roku vyšla zajímavá studia

vodoupenejaj, což je teda společnost, která vytvořila právěče GPT

nebo generativní model dalí. A to se zabývá tím, co přinášejí do toho online prostoru.

Tyhle ty možnosti, ty generativní uměli inteligence je předpokladem,

že to o vlivní způsoby propagandy, je předpokladem, že to z toho online prostoru

může udělat vopravdu něco, v čem nám lidem už nebude úplně dobře,

že budeme museli regulovat hodně internet, takže nikdo vlastně neví, kdy se to bude ubírat.

Ale zároveň je nůvný říct, že tyhle námstroje, které dovolujou generovat teda ten obsah,

tak zároveň dokážou zase potlačovat to jeho šíření.

Typicky když trá něco vygeneru, tak zároveň můžu mít na platformě

i nějakej rozpoznávač, například na sociálních sítích,

který zjistí, že něco bylo vygenerovaný konkrétně uobrazu,

je to možný algorytmický rozpoznávat, o tekstu v tuhle chvíle ještě ne.

Iný myslo vykočká, honí miš a naopak.

Ale iný myslo vy nejsme třeba o 50 kroků zpátky, ale třeba jenom o 5 kroků zpátky,

protože ty nástroje se zakládej na podobném principu, takže se přeci jenom honit můžou.

Můžou se honit, ale je to o tom, že vždycky je rok sedu ten, který škodí živo,

protože máte nápad a hledá ty díry, takhle to bývá třeba i zvěrama,

ale na to jsme zvyklí.

A jak velkým problémem nebo rizikem z vašeho pohledu je právě ta schopnost,

generativní uměle, inteligence generovat obsah, který bezpožití těch dalších technologických nástrojů

sami nejsme schopni rozpoznat.

Zdajde opravé fotografie nebo zdajde o nějakou manipulaci,

nejenom obrazu, možná i hlasu a dalších atributů.

No z mýho pohledu to může být velký problém pokovat, nebudeme vědět,

že tohle je možný.

A proto to my jsme založili i na CTVE a dětem, protože my se snažíme edukovat

a bavit se z madou generací a z učitely a z veřejností o tom,

co tyhle nástrojů můžou přednýst.

A já si myslím, že když budeme měj rozumět tomu, co ta technologie přináší do našeho světa,

tak zároveň budeme měj razilitním učitomu, když budou nějaké negativní dopady.

A můžeme zkusit pomenovat, jaké výzvy tedy to rychle rošíření nástrojů

uměle, inteligence staví před vzdělávací instituce, před učitele, ale i před rodíče.

Možná můžeme začíti, myslíc, samotné děti dokáží rozlyšit

v tuhle chvíli, co je správně, co je špatně, jakým způsobem může být,

uměla inteligence přínozná, jakým způsobem může být zneužitelná.

Když bych to uměla nějakým susem skrátit, tak to, co učitele řeší ve školách,

tak je právě, že děti budou podvádět.

S tím se setkávam v postatě v každý zborovně, na každý konferenci mi to někdo zdílí.

Z mího pohledu je to právě o tom, že bychom se na to měli dívat pozitivně.

Měl bychom vědět, jaký jsou limity ty technologie.

Tak například u těch generativních jazykovéch modelů je to o tom,

že třeba ČGP-T má pouze data do září 2021,

že halucinuje to znamená lidově, že se vymýšlí, že kecá.

A v postatě, když znamená limity ty technologie,

tak nástovete k tomu, abychom začali tu technologie používat

jako další nástroj v radě.

Já si pamatuju, když já jsem byla na střední škole,

tak mě plácali přes prsty za to, když jsem využívala vikipéry jako zdroj.

V tuhle chvíli školy mají tendenci plácať děti přes prsty,

když využívají generativní jazykový modely.

Ale zároveň, já tomu plně rozumím, protože učitele se prostě bojí,

že to povede k tomu, že děti si tam něco vygenerujou,

pak z mášnou kontrolce, kontrole vloží to, a bude vztají to jako úkol.

Z mýho pohledu my by jsme měli v těch školách děti edukovat,

protože tohle není zprávný využití toho nástroje,

a že je potřeba vupravdu vždycky všechno kontrolovat, kriticky posuzovat

a s tím textem ideálně dál pracovat, k tomu vlastně ten nástroj slouží.

Ale je v chvíli, kdy my to budeme v těch školách zakazovat a nebudeme učit,

děti využívat tu technologiej zprávným způsobem, tak se nikam neposuneme.

Myslím si, že tady to je hlavní výzvat, co řeší učitele, co řeší rodiče.

Tam si myslím, že bude v tohle chvíli o tom neví,

nebo třeba s dětma zkoušejí doma nějaké různí aplikaci, tak ono je to pečnou zábavný.

Studenti už využívají umělou inteligenci tak často,

že se z toho pro školy stala nová výzva, a ministerstvo chystá potřebnou metodiku.

Odhalit práci počítače, pokud ty samižáci nepřiznají, je pro učitele mimořádně obtížné.

Na téhle základní škole se tak dohodli, že nově nebudou známkovat domácí úkoly.

Nějaké hodnocení domácích úkolů pomalu strácí smysl, když my prostě nepoznáme,

jestli to vypracoval žák nebo uměla inteligence.

Uměla inteligence stále více proniká i do školo, kde proměňuje dílku.

Serágoval na to také národní peragugický institut,

sřizovaný ministerstvem v školství.

Pro učitele, ředitele žáky rodiče připravil soubor do poručení,

jak AI přivíjůce efektivně využít.

Kdy jste přestali věřit, že nic není nemožné.

Zcela nová čistě elektrická Kona Electric znošovit s vám toho může tolik nabídnout.

Přeba dlouhý dojezd až 514 km, prostorný interiér pro celou vaši rodinu,

startování digitalným klíčem, či funkci napájení V2L, live unlimited.

Na mezi rodičí v tom dočeném španělském městě, když s tám ještě na chvíliňku vrátím,

zaznívala kritiká, že rodiče těch chlapců, kteří ty snímky uměle inteligence vygenerovali,

že neměli dostatečně pod kontrolou to, jak děti používají mobilní telefony.

Je tohle relevantní argument, je to vlastně dnes možné?

No, já si nemyslím, že je možný nebo i zprávný děti kontrolovat na každým jejich kroku

ať už teda v realnym životě nebo v online prostoru.

Spíše toho pravdu o tom, jak se rodiče věnou, tím děteme, jak se baví vo těchlech věcech.

Myslím si, že každej s těch kluků, který to generovali, tak věděli, že nedělají zprávnou věc.

Prostě spíše nam nedojí dopadu toho, co to může vlastně vpůsobit v těch dívkách a tak dále.

Takže spíše toho pravdu podle mě, protože spolu málo komunikujou rodiče, děti,

nezigeneračně, učitele, žáci.

A co se týče té samotné technologie?

Ale tak ta technologie sama osoby vlastně nabízí nějakou možnost skratky

nebo obcházení třeba složitého výdukového procesu, prostě nabízí odpovědi, které nevždy můžou být správne.

Tak jedna věce, samozřejmě edukovat děti o tom, že to není chytrá metoda do života,

to používat ale na druhou stranu, je přece úplně přidozené chtít té skratky využít,

tak děkým způsobem komunikujete s dětmi nebo mluvíte s učitely o tom,

jak by měli komunikovat oni sami s dětmi, aby se jim snažili vysvětlit ten rozdíl v tom.

A snažili se motivovat k tomu, aby si velmi zjednodušeně řečeno neváhali vzít tu další cestu.

Je to o tom, že v školách se stanoví mantinelly, vytvoří se pravidla,

v tuhle chvíli jsou už na to podpůrný materiály Národní Pedagogický Institut vydal do poručení,

můžou vzít vytvořit si vlastní pravidla.

Ve chvíli, kdy jsou vytvořené tyhle pravidla, tak každý ví,

v jakých mantinellach se pohybuje, kdy nesmí využívat AI,

můj tuhle generativní uměno-intelligenci.

A ve chvíli, kdy jsou stanované pravidla,

tak je potřeba přemýšlet právě nad tím, co je výstupem tý žákovské práce.

Protože, jestli to bylo předtím text, tak v tuhle chvíli pravdě porobně.

To je spíš kritický posouzení toho textu,

protože my se musíme vlastně neustále s tím a dětma zamejšlet nad tím, co se generuje,

jestli to je relevantní, jestli to je správně dohledávat zdroje, porovnávat.

A vlastně si jako tříbyc ty názory na to, co v tom online prostoru nacházíme,

ať už je to generovaný v obsách, nebo ať je to no vikipéry,

nebo i kdekoliv na nějakých stránkách.

Takže, já si myslím, že je potřeba určitý mantinelly,

a myslím si, ale že je úplně v pořádku,

si v někdy tu práci zjednodušovat,

nebo to prostě využívat v takovým způsobem, který je přínozné.

Například, mě přijde hezký takový modelový zadání

pro děti osnovu, si nechtě na nějakou práce vygenerovat pomocí četu GPT,

zjednutlivý výbody zpracujte například podle vikipéry nebo podle knížky,

protože dosť často třeba děti nemají úplně ucelaný mentální modely

ohledně nějakých věcí,

a ve chvíli, kdy si to třeba s konzultou, s četem GPT,

tak si rozšířej tu optiku, kterou na to koukají.

Takže mnoho změrech, já si myslím, že je úplně v pořádku

tenhle nástroj využívat,

ale je potřeba vědět, jakým způsobem, kdy

a samozřejmě každý učitel je naprosto relevantní,

že si vytváří ty kryterie a říká,

tady na tenhle úkol nechci, abyste využívali generativní umělou inteligenci,

protože například jeho cílem je zapamatovat si nějakou ládku,

ale tady můžete, protože to bude přínozem.

A z toho, jak se setkáváte s učitely s pedagogickými zdroji,

jsou v tuhle chvíli učitele možná i rodíče dostatečně edukování?

Myslím si, že jsme teď kon na začátku cesty.

Myslím si, že už existuje hodně materiálu,

který můžou učitele, rodíče, vzít, přečísci o to měco.

Takže kdo chce, tak učitě cestu nejde.

Ale zároveň si myslím, že je to tak velký zvrat v tom, jak a co,

na těch školách vyučovat, že tuhle cestu budeme hledat dlouho, kontinuálně pořád.

No, jak se to změňovala, tak v tom případě dětí,

třeba i do 12 let v některých těch tématech,

kde teoreticky by mohli používat umělou inteligenci sami

ještě nemají zpracovanou nějakou mentální mapu

nebo nemají dostatečnou základnu informační

proto, aby třeba byly schopné potom kriticky posovdit také odpovědi,

jim ta uměla inteligence na bízí má za takové situace smysl

umělou inteligenci na školách pro děti do tohoto věku používat?

No, ono stejně, a vlastně podmínky užívání říkají,

že děti můžou používat až od 13 let.

Myslím si, že to má dobrý důvod.

Takže z mího pohledu, ne, my máme materiály

pro děti už od třetých tříd, ale tam nepracujou

s umělou inteligencí. My pouze jim předáváme nějaký

teoretický koncepty o tom, co to e.i. je,

z toho je zdroví učení. Co to znamená, etika umělý inteligence,

tohle všechno se dávout třetí tříd, je dětem předat,

ale z mího pohledu je potřeba ty dovednosti

s umělou inteligencí v to využívání e.i.

Opírat až na tom druhým stupni od těch 13 let vejš ideálně,

ale uvidíme, teď my jsme v takové mezyfázy podle mě,

kdy máme tady takové eksterní služby jako ječe GPT

a další, který jsou otevřený dětem až po 13 let,

ještě musí mít svouhle zákonnýho zástupce,

pokud to chtějí použiat ve školách.

Ale já si myslím, že třeba za rok, nebo možná za pół roku,

tyhle cty eksterní služby se implementujou do všechny

v nich nástrojů, že bude úplně standardní,

takhle vyhledávat na webu a tak dále jo.

Takže já si myslím, že jsme v takové mezyfázy,

kdy přesně nevíme, jakým způsobem a jak,

a bude se to vyvíjet pořád.

Takže budeme potřeba pořád nějakým způsobem

na tím přemýšleta upravovat ty podmínky

a rozvíjet to, co vlastně těm žákům předávám ve školách.

Vyspolečně z odborníky pracujete na něčem,

co doufám spravně nazývám kurykulem,

které by mělo obnášet vlastně základní soubor, informací,

které možné předávat tedy ohledně uměle inteligence,

co by za vás měm hlavně nemělo chybit.

Je to tak, my vodzáří,

teď jsme začeli pracovat na kurykulu

uměli inteligence pro základní školy.

V rámci něž by mělo vzniknout asi 45 metrů,

které pomůžou pedagogům na základních,

ale i někdy na středních školách učit děti tohle oblast.

A my vycházíme z kompetenčního modelu,

který máme ten sedělí nad při takový pilíře.

To první jeznalosti o umělý inteligenci,

tak to jsou skutečně ty teorektické koncepty,

který právě předáváme dětem už od tý třetí trídy.

Ten druhý pilíř jsou dovednosti,

to je rozvíjení právě ty digitalní kompetence,

tam se myslí, že je to,

právě patří až na druhý stupeň.

A ten třetí pilíř je postoj,

kumělý inteligenci nebo postoj,

možná technologím celkově.

A to je spíš taky až druhý stupeň,

protože to už je složtější,

je potřeba provazovat ty prekoncepty a prohlubovat.

Takže tam se bavíme o té etice,

o tom, co nám uměla inteligencem,

může přinít do společnosti nebo nám,

jako jednotlivcům,

jaký jsou dopady té technologie,

jaký jsou limity případně hrozby, řekněme.

A padá to na úrodné prostředí ve školách?

Teď myslím ve smyslu toho,

že se dlouhodobě mluví o tom,

že školy mají poměrně limitovanou

třeba i mediální výchovů

nebo obecně výchovů ke kritickému myšlení.

Né, všichni jsou v tom ohledu ve předu.

Jakým způsobem na to nasedá

vlastně tahle obrovský, rychlá technologie,

která akcentuje všechny tyhle otázky?

No, jestli to padá na úrodnou půdu.

Nám se ozbalou té měř pěcečkol v Čechách,

40. škol na Slovensku.

To jsou ty aktivní školy, který mají zájem.

To dětem předávat a nějakým způsobem

se v tom rozvíje.

Je to vždycky bo aktivních učitelí,

bo aktivních ředitelí, ředitelkách,

který prostě v ty komunitě

něco ji přináše a chtějí to hrnout do předu.

Ty zbylý školy o tom já vlastně nevím.

A slořeně je to tak,

že v tuhle chvíli celí

ten rámcový vzdělavací program,

jak je postavený, tak dává,

se myslím, školám docela velkou volnost

v tom, co mají dětem předávat.

Takže my prostě jsme se rozhodli

jítou cestou, že vytváříme

ty materiály, o kterých si myslíme,

že jsou relevantní.

Zrovna třeba medialní výchovou

určitě chceme pokrít, v tuhle chvíli existujou

tři metodické materiály pro medialní výchovou.

Chceme jich udělat sedům, protože

medialní výchová jako taková

umělou inteligencí nesmírně jsou vysíjí.

Myslím si, že mění celý ten medialní prostor

a já ji. Takže

my vytváříme ty materiály a doufáme,

že školám budou užitku a věřím, že ano.

Když se vrátím v té teori, kterou jsme na kousli

kočka honí mýša, nebo svůj

vlastní odsas, prostě je to uprovsky

rychle tempo, kterým se

ty nástroje, knedativní uměle

inteligence vyvíjejí.

Mnozi eksperti už teď vadují před

erozí důvěry, kterou ten vek

uměle inteligence vlastně ještě zesiluje.

To je asi i to, o čem mluvíte,

že medialní výchov a vůbec výchovake

komunikaci by měla být jedním ze

základních pilířů, abychom vůbec jako

společnost byli schopni spolu komunikovat

do jakého světa děti budou vyrůstat.

Ve chvíli, kdy nejsme vlastně

schopni říct, ve které

fázi toho běhu kočka, za oce sem

zaměší, jsme.

Já myslím, že běha kočka

zaměší neustále a běha ich miliony

zaměší, že to je takový

kohrozně složitý, ten svět

já na to nedokážu vůbec odpovědětiv,

já nemám ráda tady teď do tazy

navěštění skóle, já si samozřejmě

nad tím přemýšlím docela často

a mám různý scéná, že to, jak by ten

svět mohlo vypadat, ale myslím si,

že vždycky, když na tím přemýšlím

tak se vrátím k tomu, že

jsem tady a teď a kolem mi jsou

nějaký lidi, který mám ráda

a to je vlastně důležitý pro život každýho

a myslím si, že

ten online prostor

je prostě možná nějaká nadstavba

ve který možná v různu bude složitý

se třeba orientovat už tuhle chvíle

je to složitý, že jo, tak nevím

A Vy už se to změňovala, ale

dá se tedy říct na co je vlastně

třeba v souvislosti z komunikací

děti, madou generaci

připravovat?

No, určitě je potřeba

dětem říkat, že i v online prostoru

je potřeba komunikovat slušně

zároveň jsou tam nějaké pravidlá

toho chování v online prostoru

bez pečnost a tak dále

a potom si myslím, že je důležitý

říkat dětem, že neustále

potřeba kriticky posuzovat a přemýšlet

nad tím, co na internetu vidím

to si myslím, že je u prvný

největší základ

Evane Časová, zakladatelka

iniciativy EI Dětem

děkujeme, mozdíky

A to je

zpátečního vydání

podcastu 559 Vše

Vraďte se za námi

krikoli i o víkendu

všechny naše epizody

najdete na seznam zprávách

i všechny podcastových aplikacích

i na platformě podcasty CZ

své typy a komentáře

nám posílejte na adresu

za minutu 6

a pokud máte volnou minutu

můžete nás podpořit

v letošním hlasování

cen Českého internetu

křišťáloval upad 2023

podcast 559

se probujoval do kategorie

podcast roku a nezapomeňte,

že v kategorii Spravodajství a publicistika

jsou nominované i celé seznam zprávy

děkujeme za váž hlas

to byla Lenka Kabrhlova

těším se v pondělí

Machine-generated transcript that may contain inaccuracies.