Jan Romportl: Na univerzitách by mělo být více excelentního výzkumu a kvalitnějšího vzdělávání

„Máme padesátiprocentní pravděpodobnost, že tu bude obecná umělá inteligence do deseti let. A my zatím bohužel nemáme ani ponětí o tom, jak to udělat, aby byla dobrá,“ dodává.

Letos v létě jste po letech odešel z korporátního prostředí a pustil jste se do vlastního startupového projektu. Můžete ho čtenářům představit?

Částečně ano. Detaily zatím nikde nezveřejňujeme. Celý projekt je na začátku, ale tomu, na čem budeme pracovat, říkáme kognitivní antivirus. Je to v podstatě AI aplikace, která by měla pomoci ochránit naši mysl, respektive její zranitelné části, před online obsahem včetně sociálních sítí.

To zní zajímavě, ale pro laika neuchopitelně…

Náš mozek, naše myšlení se po tisíciletí se vyvíjely v tribální společnosti, kde všichni lidé, kteří na nás působili, byli členy uzavřené skupiny. Šlo o rodinu, kmen, blízké lidi. Všechno chování, emoční reakce, úroveň stresu byly u nás evolučně přizpůsobené životu v takové komunitě. Teď žijeme v době, kdy zpracováváme nekonečné množství vnějších podnětů od mnoha entit, jež jsou diametrálně odlišné, a máme extrémně rozšířené emoční senzorium. To je pro člověka jen těžko zvladatelné. A všechno to pohání šílená dynamika sociálních sítí.

V čem je tedy podle vás primárně škodlivost sociálních sítí?

Sociální sítě jsou ideálním prostorem pro vedení kognitivní války. Jinak řečeno: Jsme v období cognitive warfare, která je založená na erozi poznávacích schopností společnosti. Lidé přestávají rozumět tomu, co se kolem nich skutečně děje. Ti, kteří sociální sítě provozují, samozřejmě nechtějí společnost zničit, ale protože jsou chamtiví a nenasytní, poskytují kognitivním válečníkům ideální prostor. Nové technologie a sociální sítě nabízejí propagandistům široké možnosti. Je to pro ně mana z nebe. A navíc současná sociální interakce mezi mladými lidmi na Facebooku či Instagramu vede ke kolapsu jejich psychického zdraví, a to masově. Je to doslova epidemie.

Můj desetiletý syn si zkoušel naprogramovat jednoduchou hru ve scratchi, ale následně za mnou přišel, že se ji bojí vypublikovat kvůli obavám, že „schytá hejty“. Řekl jsem si: tohle je opravdu špatně. Dnešní generaci dětí a teenagerů to, co se děje na sociálních sítích, devastuje.

A to, čemu říkáte kognitivní antivirus, by tomu mělo bránit?

Úplně zabránit tomu asi nedokáže, ale můžeme se pokusit to poněkud odstínit. Můžeme to přirovnat k antivirovým programům, co máte ve svém počítači. Ty poměrně spolehlivě zabraňují útokům na váš software. Myslím si, že moderní generace antivirů budou nabízet – a už je to za dveřmi – ochranu vaší osoby v online světě. Pokud vám přijde nějaký phishing e-mail (někdo se například pokusí o krádež vašich osobních údajů), moderní antivir vám sdělí: tady pozor, dej si bacha, je to podvod. Úspěšnost už ale logicky nebude tak velká.

A mysl člověka to navíc neochrání…

To je pravda. Zmíněné antiviry nás mají ochránit před nějakou podobou explicitní manipulace, ale kognitivní antivirus má být ještě o úroveň výš. Obecně jde o ochranu našeho mentálního světa, naší psychiky, která je velmi otevřená vůči okolnímu prostředí, a tudíž nesmírně zranitelná. A dezinformátoři v nás permanentně vzbuzují větší a větší obavy. To zvedá hladinu kortizolu v mozku a demontuje to schopnost lidí poznávat reálný svět. Je to rakovina naší kognice a proti tomu chceme bojovat.

Můžeme uvést konkrétní příklad? 

Příkladem mohou být manipulativní zprávy. Software by měl odhalit všechna místa v textu, která útočí na vaše myšlení a kde se vám zvedá hladina stresového hormonu. Představte si, že máte dobrého kamaráda, který vás nikdy nesoudí, myslí to s vámi dobře, zároveň rozumí světu kolem vás, a shodou okolností je ještě dobře školeným psychoterapeutem a je vám neustále po boku, když brouzdáte na internetu. Principem není nikoho přesvědčovat, aby nečetl Sputnik nebo nějaké konkrétní škodlivé zprávy. Ať si každý čte, co chce. Spíše jde o to pomoci lidem vymanit se z toho psychotického stavu, ve kterém se nacházejí, a v němž dochází k distorzi reality a neschopnosti pochopit, jak reálný svět funguje.

V tom psychotickém stavu, který jste zmínil, ale jistě není většina uživatelů sociálních sítí nebo internetu…

Myslím, že to může být až pětina lidí v Česku. Mnohde ve světě možná i víc. Hodně za to může právě inherentní dynamika sociálních sítí. Do tohoto ohně ještě trolové – včetně těch, kteří proti nám vedou hybridní válku – přilévají olej. A já mám obavy, že se to bude v dalších letech ještě zhoršovat. Vývoj tomu bohužel napovídá.

Ruská propaganda a hybridní válka Putinova režimu jsou v tuto chvíli primárním hnacím motorem cognitive warfare. Dřív lidé dostali do schránky jednou denně Rudé právo, dnes na ně propaganda útočí neustále a ze všech stran…

Jste zakladatelem Dataclair.ai, což je inovační centrum pro komerční aplikace umělé inteligence (AI) při PPF a O2 Czech republic. Jaká je před ním největší výzva?

Centrum jsem založil, tři roky jej vedl, ale letos jsem ho opustil. Upřímně říkám, že jsem člověk, kterého baví budovat projekty od nuly až do momentu, kdy jsou soběstačné a žijí vlastním životem. Pak chci vyzkoušet něco úplně nového. Říkal jsem si: mohlo by být prima být u všeho, co Dataclair.ai chystá, ale teď tu máme potřebu zachránit svět. A to byl důvod, proč jsem odešel a rozhodl se rozjet onen startupový projekt.

Čemu se tedy centrum věnuje?

Zabývá se využitím big data a strojového učení v oblastech telekomunikací, financí, dopravy, biotechnologií či medicíny. Slouží k optimalizaci řekněme primárních procesů v těchto oblastech. Například v O2 je má na starosti (Dataclair vyvinutý) systém Prométheus, který hledá nové možnosti, co může operátor zákazníkovi do budoucna nabídnout. A najde jen o to prodávat klientovi nové věci, ale například detekovat, kde a kdy má problémy a jak mu je může umělá inteligence pomoci vyřešit.

Dataclair chce přinášet lepší služby zákazníkům a technologický náskok i konkurenční výhodu pro byznysové partnery.

Představte si, že vám budou neustále vypadávat v okolí vašeho bydliště hovory, protože je permanentně přetížená sít. V jiných firmách se s obtížemi dovoláte na call centrum, kde nikomu logicky nebudete schopni sdělit, co je příčinou problému, konzultant na zákaznické lince vám asi moc neporadí, jen něco zadá do systému a řešení trvá dlouho… Lidí s podobnými problémy je navíc hodně.

Jenže v datech jsou určité vzory, které umíme strojovým učením nacházet, a takových vzorů je spousta, zůstává jakási datová stopa. A právě na tom je založen zmíněný Prométheus. Vyvinuli jsme systém uvnitř O2 a teď je snaha jej rozšířit v rámci PPF Telco. Centrum tak čekají další výzvy.

Týden inovací se blíží. Zaměří se na zvládání krizí a nástrah současného světa

Příští týden se zúčastníte panelové diskuze na tradičním Týdnu inovací. Název panelu je ale poměrně složitý: Etika a inovace – morální implikace vyvíjených technologií a hledání normativního rámce k jejich regulaci. Takže návštěvník neví, o čem bude řeč. Budete tedy řešit otázky etiky umělé inteligence?

Ta diskuze se nejspíše postupně stočí především k aktuálním etickým problémům úzké umělé inteligence (narrow AI), které v dnešním světě máme – tj. o diskriminaci menšin, neférovém přidělování úvěrů, AI nástrojům na sledování lidí a podobně. A také s tím spojené legislativě. To vše jsou totiž důležité věci i v kontextu zákona EU AI Act, který se nyní připravuje a já těm plánovaným změnám fandím. Udělat AI Act dobře je nesmírně důležité.  Očekávám plodnou diskuzi na toto téma, nicméně já se pokusím rozšířit tuto debatu o dlouhodobé otázky v kontextu nástupu AGI (Artificial General Intelligence, Obecná umělá inteligence), což je moje oblíbené téma.

Ví vůbec lidstvo, jak se vypořádat s Obecnou umělou inteligencí, která se dokáže učit a řešit problémy sama. Nehrozí nám nadvláda strojů?

Už teď se samozřejmě musíme zabývat tím, jak vymyslet a udělat Obecnou umělou inteligenci tak, aby její hodnoty nebyly v rozporu s hodnotami lidstva, protože pokud budou, tak je to skutečně ta poslední věc, kterou jsme jako lidstvo vymysleli. A zároveň chceme, aby nám AGI přinášela užitek. Tohle téma je pro mne ještě o řád důležitější než krátkodobé dopady narrow AI. Všechny totiž blednou před tím, co se lidstvu stane, pokud pokazíme AGI.

Ještě loni jsme se chlácholili tím, že tu bude obecná umělá inteligence nejdříve za 25 let, teď to vypadá, že to může být třeba i za deset let. Nebo aspoň máme padesátiprocentní pravděpodobnost, že to bude do 10 let. A my zatím bohužel nemáme ani ponětí o tom, jak to udělat, aby byla dobrá.

Jak vůbec hodnotíte přínos takových akcí jako je Týden inovací pro český byznys?

Pro mne je to důležitý osvětový nástroj pro lidi, kteří mají možnost ovlivnit svět (top decision makers). To, že si přijde na akci poslechnout nějaký šéf firmy nebo její marketingový ředitel zajímavou diskuzi o inovacích a moderních technologiích a řekne si: tohle jsem nevěděl a poučil jsem se, je to super. Myslím, že na Týdnu inovací se daří vytvářet prostor pro hlubší diskuzi nad důležitými tématy. Ta péče, kterou akci organizátoři věnují, si to ostatně vynucuje. Určitě by šlo Týden inovací udělat snadněji a s menším množstvím vynaložené energie, pak by to ale nemělo smysl.

Pořadatel Týdne inovací Lukáš Sedláček (ELAI) si myslí, že by inovace měly být pro Česko prioritou číslo jedna, jenže nejsou. Co Česko potřebuje, abychom se posunuli mezi inovační elitu?

Můj názor na to je poměrně nepopulární, ale já bych uvítal, kdyby bylo menší pokrytectví na akademické půdě, kam se coby zdravá konkurence nepustí nikdo zvenku. Všichni se vzájemně poplácávají po ramenou, že jsme nejlepší, že tu máme excelenci ve vědě. Ale kde je v Česku reálně na univerzitách světově excelentní výzkum, ptám se. Fakt není. Nebo možná někde je, ale opravdu jen na hrstce těch nejlepších pracovišť. Určitě ne v takovém rozsahu, jak o sobě univerzity samy tvrdí.

Jsem přesvědčen, že někdy během dalších dvaceti let předáme kompletně vládu nad lidskými věcmi entitě, která je inteligentnější než my a kterou jsme sami stvořili. A to není dystopický scénář, to se prostě stane

Sám to můžete posoudit, protože stále na vysoké škole přednášíte. Léta jste byl vedoucím výzkumného oddělení na univerzitě.  Skutečně se v současnosti nemají páni akademici čím chlubit?

Ten problém je trošku složitější a není úplně černobílý. České univerzity jsou plné naprosto úžasných lidí, chytrých a nesmírně schopných. Ale jako systém to dohromady moc nefunguje. Já jsem už před lety odešel z vedoucí funkce na univerzitě, protože mě přestalo bavit hrát pokryteckou hru. Něco úplně jiného děláme a něco jiného píšeme do grantů, které si vzájemně recenzujeme. Podle textu už poznám, kdo mi to recenzoval a vím, že s ním musím být zadobře. Vzájemně se podpíráme jako invalidi a ujišťujeme se v rámci kolektivní psychoterapie, že děláme skvělé věci, ale ve skutečnosti to tak není. Znám různá pracoviště, kde byl výzkum fajn před dvaceti lety, ale reálně tam ujel vlak (před deseti lety už definitivně). Lidé navíc nejsou schopni opustit i přes ten překotný vývoj své obory. Schopnost flexibilního uvažování na českých univerzitách chybí.

Co by se tedy mělo změnit?

Univerzity by se měly vykašlat na to, aby nutně a za každou cenu byly vědecko-výzkumnými či vývojovými pracovišti, a spíše by měly investovat všechno do toho, aby se z nich staly vynikající vzdělávací instituce. To nám chybí. My nepotřebujeme na vysokých školách další průměrné výzkumné projekty, zato potřebujeme excelentní vzdělávání.

Jakub Procházka