Prospali jsme 30 let digitalizace! AI se vypnout nenechá, varuje mediální analytik Štěpán Kotrba

Mediální analytik Štepán Kotrba se podílel na vývoji Státní informační politiky, využívání open source ve školství a veřejné správě a poté na změnách mediální legislativy a digitalizaci médií veřejné služby. Přesto, nebo právě proto má specifický názor na »hit« moderní doby – umělou inteligenci. V aktuálním rozhovoru varuje před negativními důsledky AI pro lidstvo: »Od doby vynálezu nože byl používán jak ke krájení masa, tak ke krájení nepřítele. Žádná technologie není zlá ani dobrá. Ale každý vynález, použitelný jako zbraň, bude jako zbraň použit.«

Nedávno jste vystoupil na přednášce nazvané Umělá inteligence na civilizační křižovatce. Co si pod pojmem »civilizační křižovatka« vlastně představit?

Okamžik ve vývoji společnosti, kdy jsou objektivní podmínky pro odbočení. Ať už vpravo nebo vlevo. Třeba volby. Nebo revoluce. Případně technologická revoluce, jakou bylvynález knihtisku, parního stroje, dynamitu či tranzistoru. Na příkladu tranzistoru vidíme, že někdy stačí zrnko písku, aby se do pohybu dala hromada.

Mnoho lidí má ale pocit, že umělá inteligence začala až s ChatGPT. Jak dlouhá je podle vás skutečná historie AI a jaké byly původní cíle?

Čapkovu knihu RUR znáte? Tak tehdy. Pak přišel Lem, Asimov, Bradbury… Nebo ještě lépe…: Alan Turing publikoval v roce 1950 zásadní článek Výpočetní stroje a inteligence, v němž navrhl test strojové inteligence s názvem Imitační hra. Dnes známé jako Turingův test. Počítačový vědec Arthur Samuel vyvinul v roce 1952 program pro hraní dámy, což byl první program, který se naučil hrát hru samostatně. Sovětský matematik Alexej Ivachněnko publikoval v roce 1968 v časopise Avtomatika článek Skupinová metoda zpracování dat, v němž navrhl nový přístup k umělé inteligenci, který se později stal tím, co dnes známe jako »hluboké učení«. IBM Deep Blue porazil v šachu Garry Kasparova až v roce 1997 a ve hře Go zvítězil počítač Google DeepMind’s AlphaGo až v roce 2016. Mezidobí bylo plné dílčích kroků, mezi ty nutné počítám vznik specializovaných GPU procesorů. Zbytek znáte.

Ve své prezentaci připomínáte, že první chatbot ELIZA vznikl už v roce 1966.

To byl ten nejškodlivější kód v dějinách. Horší než první vir. Naučil stroje přesvědčivě lhát.

Kde se podle vás tedy dnes naše civilizace při masivním užívání internetu a AI nachází?

Na informační superdálnici, kde odbočky jsou označeny jako EXIT. Přejeli jsme bez odbočování průsmyk digitální neznalosti většiny seniorů. Přežili to. A blížíme se k hranicím země, nazvané už dávno sociologem Danielem Bellem a teoretikem managementu Peterem Druckerem »Knowledge society«. Znalostní společnost.

Rozvoj internetu a umělé inteligence ale urychluje výzkum a vývoj, nebo ne?

Zažili jsme bouřlivý rozvoj vědy. Prožíváme ale etapu vědecké segmentace, specializace, ve které se ztrácejí kontury celku. Všimněte si, že stále více vědců publikuje stále více vědeckých prací či patentů ve stále více periodicích, ale nikdo je není schopen všechny přečíst a vyhodnotit jejich relevanci či užitečnost pro společnost. A nikdo nepřinesl už dlouho nic převratného, jako byl parní stroj či řiditelná vzducholoď.

Ztrácíme schopnost určovat směr výzkumu a ztrácíme porozumění jazyku vědy. Vzdělání beznadějně zaostává. Já se ještě učil o protonu, neutronu a elektronu jako elementárních částicích. Neustálá inovace vyžaduje celoživotní učení, rozvoj kontextu znalostí a sdílení znalostí. Spojovat informace ve znalosti je úkol pro umělou inteligenci.

Existují modely AI, které měly pozitivní dopad…?

Chcete příklad? IBM vytvořila mezi lety 2008 až 2011 AI expertní model Watson. Bez konverzačních halucinací. Pro profesionály. Říci nevím ve vědě není ostuda, ale povinnost. Jednu část (Watson Health) naplnila autoritativními informacemi, které jsou odborné veřejnosti dostupné v odborných publikacích a databázích léčiv. Představte si návštěvu svého obvodního lékaře, který vám odebere několik zkumavek krve a moči ke kompletnímu testu, změří EKG, tep a tlak, saturaci kyslíku a spirometrickou křivku. A aniž by vás musel odeslat ke specialistovi, zjistí vaše stávající, ale i budoucí diagnózy s 95% pravděpodobností. Dostanete návrh léčby s optimální sadou dalších vyšetření a léků s minimem vedlejších účinků. Systém netápe. Ví. Konsilium 100 specialistů on-line… Úspora pro společnost nesmírná. Do praxe ale uveden nebyl.

Kdybychom měli hledat okamžik, kdy se ještě dalo směr vývoje například u nás v ČR ovlivnit, kde byste onu pomyslnou křižovatku viděl?

Předposlední křižovatkou byla devadesátá léta, nástup modulárních PC. Příležitost pro technickou inteligenci. Zlatá éra hackingu. Tehdy šlo namísto her »stříleček« plně digitalizovat školství. Od základní školy po vysokou. Přestavte si nelineární učebnici s odbočkami a vysvětlivkami pro ty, kteří chtějí vědět víc nebo znát kontext. Jako je dnes wikipedie. Ale tvořená pouze odborníky. V Česku existuje jen jedna – lékařská WikiSkripta. Takto mohlo být už třicet let organizováno celé školství.

Místo sebevzdělávání a digitalizace předchozích »analogových« agend státu většina lidí na počítačích v práci hrála tetris. Přitom chybovost registru obyvatel, základního rejstříku státu, byla tehdy více než 30%. Stát nenakoupil megalicence nástrojů pro elektronickou kancelář, CAD či DTP. Nedigitalizoval archivy ani knihovny. Nevybavil počítači státní správu ani školství. Netvořil zákony tak, aby odpovídaly binární logice. Vytvořil chaos namísto nového řádu. Viník? Klaus, Kočárník a další.

Myslíte si, že jsme tedy mohli digitalizovat už v devadesátkách?

Ano. A poslední křižovatkou byla doba »utrženého sluchátka«, privatizace SPT (Správa pošt a telekomunikací) a – rozvoje mobilní telefonie GSM v roce 1996. Počátek internetu. Mohla to být doba minimalizace státu při zachování jeho plné funkčnosti, doba rozkvětu homeworkingu, kterému se firmy i stát brání dodnes. Doba plné funkčnosti distančního elektronického školství. Místo toho se miliardy člověkohodin dodnes ztrácí cestou do práce a z práce, do škol a ze škol, utrácí se peníze za benzín do aut i autobusů, staví se a vytápí kanceláře a parkoviště místo levných velkých podnikových bytů a luxusních školek.

Za odmítnutím této cesty stojí bohužel levice – zejména ministr školství Eduard Zeman, který namísto open source zvolil tribut Microsoftu, ministr zdravotnictví Ivan David, který odmítl elektronickou lékařskou dokumentaci, a premiér Miloš Zeman, který proti e-governmentu a vnucení ECDL certifikátů upřednostnil zaměstnanost počítačově negramotných úředníků na nátlak předsedkyně odborů Vondrové. Všichni tři zvolili špatně. Přestože projekty ležely na stole a stačilo podepsat. Už před třiceti lety. Kolik pracovníků státu i firem dnes skutečně potřebuje být na pracovišti »u strojů«? Kolik lékařů si vystačí dnes s tím, co se před čtyřiceti lety naučili na fakultě? U kolika pacientů v záchrance, i když jde o život, lékař netuší vůbec nic? Digitální stát jsme přitom mohli již dávno mít. Náš vlastní a jedinečný. Promarnili jsme náskok 15-20 let.

Ale to, o čem mluvíte, zavání i tím, před čím varujete – v důsledku nahrazením lidí umělou inteligencí. Pokud k tak masové digitalizaci a zavádění AI do praxe dojde, nahradí lidi?

AI má potenciál nahradit skoro všechny profese. Co potom, až produktivita většiny lidské práce ztratí hodnotu, ale nikdo neví. Kdo říká opak, lže.

Kolektiv okolo Radovana Richty v knize Civilizace na rozcestí v roce 1967 prognózoval, že prudký rozvoj vědy a techniky zásadně promění charakter práce i života a hlavní výrobní silou se stane vědění, tvořivost a schopnost učit se po celý život. Adaptabilita a kreativita, stejně jako schopnost stále se učit je úžasná, ale může fungovat jen do určitého věku a pouze omezeně. Etika nejspíš fungovat vůbec nikdy nebude. Individuální připojení k síti rozbíjí komunity, život a tužby se individualizují. Dlouhodobá konkurenceschopnost znamená udržet si převahu v hrách s nulovým součtem. Tam jeden musí prohrát, aby jiný mohl vyhrát. Čím větší je investice, tím větší je i riziko.

Upozorňujete i na ekonomickou a geopolitickou stránku. Kdo podle vás bude skutečným vítězem AI revoluce – státy, firmy, lidi nebo nikdo?

Adaptabilní firmy, které stát nedokáže zničit, a tak je bude muset zkorumpovat.

Vítězem kosmických závodů včerejška nebyl SSSR, ale Sergej Koroljov, »člen protisovětské kontrarevoluční organizace a sabotér vojenské techniky«. Vítězem kosmických závodů dneška nejsou USA či NASA, ale levičáky, astronomy, burzovními makléři i NASA nenáviděný Elon Musk. Vítězem AI závodů nebude Čína, ale několik nám doposud neznámých čínských programátorů.

EU prohraje. Je přeregulovaná, předlužená, bez jasné dlouhodobé politiky. S nerealistickými očekáváními občanů i decisní sféry, že blahobyt včerejška bude pokračovat a ještě zachráníme planetu.

K etické stránce věci – říkáte, že žádná armáda dobrovolně nepřijme etické limity technologie, která jí může přinést převahu.

Nikdy v dávné ani moderní historii se tak nestalo. Sovětský svaz byl připraven vynést jaderné zbraně do vesmíru od okamžiku, kdy Sputnik 1 pípal na cestě kolem Země svůj zpěv míru. To byl celosvětově slyšitelný signál neporazitelnosti. Válka modelářů na Ukrajině nyní přinesla do operačního užití laserové »paprsky smrti« řízené umělou inteligencí. Izrael, Rusko, USA či Británie už je mají. Čína je má určitě také. Vývoj mikrovlnných zbraní je už také ve fázi operačního užití. Jen se o tom nemluví. Radar v Brdech byl mikrovlnné dělo na sestřelování ruských satelitů.

Znamená to, že vývoj vojenské umělé inteligence je už dnes v podstatě nezastavitelný?

Samozřejmě. Mír je přestávka na zbrojení mezi dvěma válkami.

Ale za válečným myšlením nestojí stroje, ale lidé. Jejich ziskuchtivé pohnutky. Je dnes větším rizikem samotná technologie, nebo způsob, jakým ji lidé používají a komu dávají moc?

Od doby vynálezu nože byl používán jak ke krájení masa, tak ke krájení nepřítele. Žádná technologie není zlá ani dobrá. Ale každý vynález, použitelný jako zbraň, bude jako zbraň použit. Byť to nemusí být zrovna atomová bomba.

Nemalujete budoucnost až příliš černě? V historii lidstvo přežilo knihtisk, průmyslovou revoluci i internet. Proč by právě umělá inteligence měla představovat zásadnější civilizační zlom než všechny předchozí technologie?

Protože má tendenci být globální, všezahrnující a všeproměňující, multikulturní a multietnická, je multikriteriální a hlavně – je neproniknutelná. Je to black box. Může být zrcadlem všeho – i toho, nač se bojíme i myslet. Kniha se dá nečíst. Stroj se dá rozebrat. Umělá inteligence, pokud to nebude kecátko, se vypnout nenechá. Doporučuji film Vesmírná odysea. Diskuze s Halem je varující.

Helena Kočová

FOTO – iportaL24.cz/Petr Kojzar a archiv Štěpána Kotrby