English version
Užívání AI přináší mnoho nového a proto je třeba odborně reagovat na její vývoj – jaká bude její role v žurnalistice, jak se budou řešit autorská práva a je třeba rozvoj těchto nástrojů více regulovat, nebo naopak vzdělávat veřejnost, aby je uměla správně využívat? Přečtěte si rozhovor TA ČR s Václavem Moravcem.
Nedávno jste publikovali sociologický výzkum, který se jmenuje „Ve stínu ChatGPT: umělá inteligence v každodenním životě a v žurnalistice očima české populace.“ Z té studie, která je součástí řešeného projektu TA ČR, mimo jiné vyplývá, že více než polovina české populace si myslí, že technologie mají stejně tak pozitivní jako negativní dopady na naši společnost.
Muži mají častěji pozitivnější pohled na technologie, stejně jako mladí lidé do 34 let. Naopak nejvíce skeptickou skupinou jsou lidé ve věku 35 až 54 let. Přitom ale přes 40 % tuzemské populace se setkává s AI v běžném životě alespoň jednou denně. Jak bys vlastně na otázky té studie odpovídal ty?
Výsledky našeho výzkumu rovněž ukazují, jak velké jsou skupiny techno‑optimistů a techno‑pesimistů, když jsou obě procentuálně podobné, tedy mezi desetinou a pětinou dospělé populace. Za sebe bych volil aristotelovskou zlatou střední cestu. A přiznávám, že mám někdy tendenci přiklánět se k pesimistům, když nevyužíváme adaptační potenciál vstupu umělé inteligence, což se týká i mezioborových propojení vědecké sféry. Přitom zvládnutí výzvy, jakou je umělá inteligence, se bez toho neobejde.
A v tomhle směru jsem vděčný za programy podpory aplikovaného výzkumu jako je ÉTA nebo SIGMA, které vtahují do technologického světa společenské vědy. Jak prokazuje například diskuze kolem ChatGPT, bude vliv umělé inteligence na společnost zásadní. Osobně jsem zaskočen mírou překvapení mnoha oborů, a to včetně žurnalistiky, k jak zásadní transformaci povede nástup generativní umělé inteligence. Prokazuje to, jak málo se o této problematice vědělo, jak podceňujeme širší vzdělávání v oblasti AI.
Naopak pro odborníky, kteří už několik let pracují na velkých jazykových modelech, to rozhodně překvapení nebylo. Pokud nezvládneme nejen diskuzi, ale především adaptaci společnosti na jednotlivé formy umělé inteligence, tak se zařadím mezi techno‑pesimisty. Jako společnost máme jednu z posledních šancí nebýt reaktivní, ale aktivní, co se týče umělé inteligence.
Jako společnost máme jednu z posledních šancí nebýt reaktivní, ale aktivní, co se týče umělé inteligence.
To je docela zásadní otázka, která se obecně týká médií a jejich vlivu. Pamatuji si, když se někdy v půlce minulého století řešilo, zda se mají média regulovat, aby nevytvářela a nešířila závadný obsah, nebo zda se má vychovávat a vzdělávat společnost, aby závadný obsah odhalila a nekonzumovala ho. Bylo rozhodnuto pro vzdělávání a po asi sedmdesáti letech je zřejmé, že ten výsledek je špatný. A co teprve až vstoupí na mediální pódium umělá inteligence?
Myslím, že aplikace umělé inteligence v médiích je multidimenzionálním jevem, proto je zapotřebí multidimenzionálních řešení. Velké jazykové modely se učí na textech novinářů, na které se v analogovém světě vztahovala autorská práva. Nebo si vezměme příklad fotografií. ČTK řeší, co bude s její databankou Profimedia, v níž jsou ilustrativní fotografie, když aplikace generativní umělé inteligence nabídnou redakcím a žurnalistům ilustrační obrázky zdarma či za zlomek ceny zmíněné databanky.
Pro podfinancovanou žurnalistiku je učení se generativní umělé inteligence při nedodržování autorských práv, resp. strhávání obsahů z webu, další ránou. Povrchnost celospolečenské diskuze o míře regulace byla před nástupem ChatGPT nepochopitelná, byť bylo zřejmé, co nastane. Už někdy v 2016 se v USA nebo Británii začalo ukazovat, co umělá inteligence do žurnalistiky přinese.
Jedním z aspektů, který pokročilé užívání AI přináší, je i nový pohled na vzdělávání, a to už na základních a středních školách. Podle mě je zřejmé, že s nástupem umělé inteligence nemůžeme trvat na rigidní dělící linii mezi humanitními nebo společenskovědními obory a mezi obory technickými. Vznik hybridních mezioborových průniků je nezbytný. Nemůžeme na základní škole říkat, že je někdo „blbej na matematiku“, ale popularizací umělé inteligence děti k matematice a statistice přivádět. Zmíněná popularizace nám umožňuje pochopit například zkreslení v datových sadách, ze kterých se neuronové sítě učí.
Opět to budu ilustrovat na příkladu: pokud mají soudci pracovat s umělou inteligencí při psaní rozsudků, tak pro ně bude nezbytné pochopit, jaká byla trénovací data AI. Totéž se týká textů v žurnalistice vytvořených umělou inteligencí.
Pochopitelně vedle vzdělávání musí být dalším nástrojem i regulace. Filosof informatiky Luciano Floridi mluví v této souvislosti o měkké a tvrdé etice, kdy například v USA třeba bedlivě sledují, s jakými regulatorními rámci přijde Evropa, která se snaží hledat rovnováhu mezi oběma uvedenými etickými entitami. Jinými slovy nemůžeme vsadit na jednu kartu, jak k AI přistupovat, a co by mohlo přispět k eliminaci negativních dopadů AI na společnost a současně přispět k existenci společensky odpovědné AI.
Jaké negativní dopady máš konkrétně na mysli?
Například právě zkreslení zakódované v trénovacích sadách, z nichž se AI učí. Umělá inteligence se může posouvat k neutralitě, pokud eliminujeme zkreslení zakódovaná v datových sadách, ze kterých se učí. Pokud datové sady obsahují třeba rozhodování, že při rozvodu se dítě vždy přiřkne matce, nebo, že Afroameričané dostávají vyšší pokuty, když jim je dávají bílí policisté, tak je to problém.
Jiný příklad, ze žurnalistiky: Rizika personalizace zpravodajství. Inovátor v oblasti umělé inteligence, kterým je Český rozhlas, přemýšlí po vzoru švédského veřejnoprávního rozhlasu, kde je hranice personalizace zpravodajství u médií veřejné služby?
Mají algoritmy mikrotargeovat, personalizovat – cílit na každého jednotlivce, třeba čtenáře iRozhlasu? Ano, technologie nám umožňuje, aby každý čtenář iRozhlasu měl svou vlastní homepage, jenže pak jej připravujeme o informační pluralitu. Když uživateli vytvoříme model šitý na míru třeba pouze ekonomického zpravodajství a zpráv o počasí, protože ho zajímají jen tato dvě témata, tak ho vlastně uzavřeme do tematické bubliny. A je to správné? Kde je ta míra monetizace a datafikace žurnalistiky za využití prvků umělé inteligence?
Tady se dostáváme do roviny, která mě osobně trápí, protože jsme se naučili říkat umělá inteligence něčemu, co umělou inteligencí není, protože je to jen neuronová síť. Skutečná umělá inteligence by to totiž rozhodla sama.
Právě dopisuji knížku Žurnalistika 5.0 a její etika, která bude závěrem právě jednoho projektu podpořeného TA ČR, který začal před třemi lety, a vidím, jak ten pojem umělá inteligence je rozkolísaný. A jak samy technické vědy mění pojem umělá inteligence.
V teorii žurnalistiky se s ním pracuje jako se zastřešujícím třeba pro strojové učení a podobně. Pro počítačové vědy je skutečnou umělou inteligencí už jen Obecná umělá inteligence – AGI (Artificial general intelligence), která se bude umět rozhodovat, bude autonomní, kreativní a přiblíží se skutečně člověku. Proto říkají: „… to, o čem vy mluvíte jako o umělé inteligenci, je ‚slabá umělá inteligence‘ a už to umělou inteligencí ani nenazývejte“.
Jenže zároveň v očích veřejnosti a v očích mnoha oborů budeme pojem umělá inteligence stále používat jako buzzword, než si zvykneme na to, že existují různé stupně umělé inteligence jako slabá AI, ale mně se nejvíc pro pochopení laické veřejnosti líbí rozdělení na slabá umělá inteligence a obecná umělá inteligence, jejíž vývoj do podoby, že plně nahradí člověka, je ještě vzdálený.
Takže jak se vlastně máme k AI jako zdroji informací postavit?
Pro správné pochopení a využívání takových nástrojů, jako je ChatGPT, je nutná matematika, statistika, pochopení, na čem je postaveno strojové učení, jak ten produkt vzniká, a uvědomění si, jaké limity má.
Jsem typický případ, který prchal z gymnázia před matematikou, ale odříkaného chleba největší krajíc. Teď potřebuji pravděpodobnost, základní znalosti ze statistiky a pochopení toho, jak algoritmy, resp. neuronové sítě, pracují. Je omyl myslet si, že vědomosti nejsou potřeba, protože všechny informace si dnes můžeme, jak se módně říká – vygooglit. Budeme potřebovat odhalovat, jak nedokonalý a chybující je ChatGPT. Prostě k všeobecnému rozhledu člověka je potřeba mít robustní informační základ, což rozhodně není žádná zbytečná veteš.
Průzkum na téma: „Jak přijímá česká veřejnost umělou inteligenci pro žurnalistiku?“
V rámci projektu „Signál a šum v éře Žurnalistiky 5.0 ‑ komparativní perspektiva novinářských žánrů automatizovaných obsahů“ podpořeného TA ČR, odborníci z Fakulty sociálních věd Univerzity Karlovy v Praze, Českého rozhlasu a z Fakulty elektrotechnické Českého vysokého učení technického v Praze realizovali prostřednictvím společnosti Ipsos dotazníkové šetření zaměřené na zkoumání povědomí české populace o umělé inteligenci. Experiment probíhal v dubnu 2023, u vzorku jeden tisíc čtyřicet jedna respondentů starší osmnácti let. V TA ČR vybrali některé z výsledků, které zjednodušeně představí vztah Čechů k umělé inteligenci.
- Zkušenosti a názory na ChatGPT
Většina dotazovaných s ChatGPT nikdy nepracovala. Nejčastěji mají zkušenosti se systémem mladí lidé. Z průzkumu také vyplývá, že čtyři z deseti lidí si myslí, že rozvoj umělé inteligence jako ChatGPT vytvoří hybridní vztah fungování „robota“ a novináře jako člověka. - Jak česká společnost vnímá technologický pokrok
Více než polovina respondentů si myslí, že technologie mají stejně tak pozitivní jako negativní dopady na naši společnost. Pozitivnější postoj k technologiím mají muži, stejně jako lidé do třiceti čtyř let. Naopak nejvíce skeptickou skupinou jsou lidé ve věku třiceti pěti až padesáti čtyř let. - Zkušenost s umělou inteligencí v každodenním životě
Z výzkumu vyplývá, že 40 % respondentů dle vlastních slov přichází s AI do styku alespoň jednou denně. - Obavy Čechů z vývoje umělé inteligence
Z výsledků průzkumu je patrné, že přibližně polovina lidí je z vývoje umělé inteligence více znepokojena než nadšena. Čtvrtina je vývojem znepokojena a nadšena stejnou měrou a pouze 15 % dotázaných zaujímá kladný postoj k umělé inteligenci a jejímu vývoji. - Porovnání strachu z umělé inteligence u Američanů a Čechů
Obyvatelé Spojených států amerických jsou častěji znepokojeni i nadšeni stejnou měrou, a to dokonce téměř dvakrát tolik ve srovnání s českou populací. Nicméně Češi jsou více polarizováni.
Kdysi mi můj profesor na latinu a dějepis na gymnáziu řekl: „Kolego, podle toho, jak se ptáte, vím, co o tom problému víte.“ Myslím si, že bez informací není možno tvořit otázky, tedy ani dávat umělé inteligenci zadání k řešení.
To je částečně to, co zpopularizoval nástup ChatGPT v žurnalistice i v dalších oborech. Jde o pochopení, že jednou z pracovních pozic budoucnosti je „prompt engineering“. Schopnost navrhování efektivních požadavků umělé inteligenci, čímž odhalujeme její slabá místa, a právě PROMPT může být chráněn autorsky, což se řeší nejen v žurnalistice. Takže prompt engineering je teď nový obor, který je v kurzu.
Nenastane s naším myšlením podobný scénář jako se odehrál snaší schopností pracovat a hýbat se? Když přišly stroje a potom roboty, ubyla monotónní, namáhavá a těžká práce a výsledkem je, že jsme tlustší, nemocnější a lenivější. Tedy samozřejmě jen ta část populace, která výsledky vývoje bere pasivně. Ale to se stane i tady a část populace možná přestane přemýšlet…
Nepochybně, nesmíme přistoupit na to, že nejnovější technologie povedou k většímu rozdělení společnosti a rozšíření různých patologických jevů. Jistě, pokud budeme líní a využijeme technologie pouze pro naše pohodlí, tak to není správná cesta, a to platí i ve vztahu k umělé inteligenci. Ve vztahu k žurnalistice říkám našim studentkám a studentům: podívejte se, jak se od 90. let zúžil slovník zpravodajské žurnalistiky.
Žurnalistika se stala v uplynulých desetiletích tak rutinizovanou činností, a je ‑li něco rutinní, tak to automatizace logicky nahradí. Ale zároveň tvrdím, že když budeme dobře nástroje slabé umělé inteligence používat k tomu, abychom „odbřemenili“ rutinní činnosti a posouvali naši kreativitu a vymýšleli nové formáty, které nám ChatGPT a AI nevymyslí, tak je to příležitost pro nás jako pro kreativní obor.
Rovněž zdůrazňuji studentům, že je důležité, aby se morální autorita v žurnalistice nepřesunula na počítačové vědce, což se děje. A abychom si ji vzali zpátky a uvědomili si a využili nové možnosti, které technologie přináší.
Převzato z magazínu TA.Di vydávaném Technologickou agenturou ČR. Autor: Leoš Kopecký
