Prospali jsme 30 let digitalizace! AI se vypnout nenechá, varuje mediální analytik Štěpán Kotrba

Mediální analytik Štepán Kotrba se podílel na vývoji Státní informační politiky, využívání open source ve školství a veřejné správě a poté na změnách mediální legislativy a digitalizaci médií veřejné služby. Přesto, nebo právě proto má specifický názor na »hit« moderní doby – umělou inteligenci. V aktuálním rozhovoru varuje před negativními důsledky AI pro lidstvo: »Od doby vynálezu nože byl používán jak ke krájení masa, tak ke krájení nepřítele. Žádná technologie není zlá ani dobrá. Ale každý vynález, použitelný jako zbraň, bude jako zbraň použit.«

Nedávno jste vystoupil na přednášce nazvané Umělá inteligence na civilizační křižovatce. Co si pod pojmem »civilizační křižovatka« vlastně představit?

Okamžik ve vývoji společnosti, kdy jsou objektivní podmínky pro odbočení. Ať už vpravo nebo vlevo. Třeba volby. Nebo revoluce. Případně technologická revoluce, jakou bylvynález knihtisku, parního stroje, dynamitu či tranzistoru. Na příkladu tranzistoru vidíme, že někdy stačí zrnko písku, aby se do pohybu dala hromada.

Mnoho lidí má ale pocit, že umělá inteligence začala až s ChatGPT. Jak dlouhá je podle vás skutečná historie AI a jaké byly původní cíle?

Čapkovu knihu RUR znáte? Tak tehdy. Pak přišel Lem, Asimov, Bradbury… Nebo ještě lépe…: Alan Turing publikoval v roce 1950 zásadní článek Výpočetní stroje a inteligence, v němž navrhl test strojové inteligence s názvem Imitační hra. Dnes známé jako Turingův test. Počítačový vědec Arthur Samuel vyvinul v roce 1952 program pro hraní dámy, což byl první program, který se naučil hrát hru samostatně. Sovětský matematik Alexej Ivachněnko publikoval v roce 1968 v časopise Avtomatika článek Skupinová metoda zpracování dat, v němž navrhl nový přístup k umělé inteligenci, který se později stal tím, co dnes známe jako »hluboké učení«. IBM Deep Blue porazil v šachu Garry Kasparova až v roce 1997 a ve hře Go zvítězil počítač Google DeepMind’s AlphaGo až v roce 2016. Mezidobí bylo plné dílčích kroků, mezi ty nutné počítám vznik specializovaných GPU procesorů. Zbytek znáte.

Ve své prezentaci připomínáte, že první chatbot ELIZA vznikl už v roce 1966.

To byl ten nejškodlivější kód v dějinách. Horší než první vir. Naučil stroje přesvědčivě lhát.

Kde se podle vás tedy dnes naše civilizace při masivním užívání internetu a AI nachází?

Na informační superdálnici, kde odbočky jsou označeny jako EXIT. Přejeli jsme bez odbočování průsmyk digitální neznalosti většiny seniorů. Přežili to. A blížíme se k hranicím země, nazvané už dávno sociologem Danielem Bellem a teoretikem managementu Peterem Druckerem »Knowledge society«. Znalostní společnost.

Rozvoj internetu a umělé inteligence ale urychluje výzkum a vývoj, nebo ne?

Zažili jsme bouřlivý rozvoj vědy. Prožíváme ale etapu vědecké segmentace, specializace, ve které se ztrácejí kontury celku. Všimněte si, že stále více vědců publikuje stále více vědeckých prací či patentů ve stále více periodicích, ale nikdo je není schopen všechny přečíst a vyhodnotit jejich relevanci či užitečnost pro společnost. A nikdo nepřinesl už dlouho nic převratného, jako byl parní stroj či řiditelná vzducholoď.

Ztrácíme schopnost určovat směr výzkumu a ztrácíme porozumění jazyku vědy. Vzdělání beznadějně zaostává. Já se ještě učil o protonu, neutronu a elektronu jako elementárních částicích. Neustálá inovace vyžaduje celoživotní učení, rozvoj kontextu znalostí a sdílení znalostí. Spojovat informace ve znalosti je úkol pro umělou inteligenci.

Existují modely AI, které měly pozitivní dopad…?

Chcete příklad? IBM vytvořila mezi lety 2008 až 2011 AI expertní model Watson. Bez konverzačních halucinací. Pro profesionály. Říci nevím ve vědě není ostuda, ale povinnost. Jednu část (Watson Health) naplnila autoritativními informacemi, které jsou odborné veřejnosti dostupné v odborných publikacích a databázích léčiv. Představte si návštěvu svého obvodního lékaře, který vám odebere několik zkumavek krve a moči ke kompletnímu testu, změří EKG, tep a tlak, saturaci kyslíku a spirometrickou křivku. A aniž by vás musel odeslat ke specialistovi, zjistí vaše stávající, ale i budoucí diagnózy s 95% pravděpodobností. Dostanete návrh léčby s optimální sadou dalších vyšetření a léků s minimem vedlejších účinků. Systém netápe. Ví. Konsilium 100 specialistů on-line… Úspora pro společnost nesmírná. Do praxe ale uveden nebyl.

Kdybychom měli hledat okamžik, kdy se ještě dalo směr vývoje například u nás v ČR ovlivnit, kde byste onu pomyslnou křižovatku viděl?

Předposlední křižovatkou byla devadesátá léta, nástup modulárních PC. Příležitost pro technickou inteligenci. Zlatá éra hackingu. Tehdy šlo namísto her »stříleček« plně digitalizovat školství. Od základní školy po vysokou. Přestavte si nelineární učebnici s odbočkami a vysvětlivkami pro ty, kteří chtějí vědět víc nebo znát kontext. Jako je dnes wikipedie. Ale tvořená pouze odborníky. V Česku existuje jen jedna – lékařská WikiSkripta. Takto mohlo být už třicet let organizováno celé školství.

image

Místo sebevzdělávání a digitalizace předchozích »analogových« agend státu většina lidí na počítačích v práci hrála tetris. Přitom chybovost registru obyvatel, základního rejstříku státu, byla tehdy více než 30%. Stát nenakoupil megalicence nástrojů pro elektronickou kancelář, CAD či DTP. Nedigitalizoval archivy ani knihovny. Nevybavil počítači státní správu ani školství. Netvořil zákony tak, aby odpovídaly binární logice. Vytvořil chaos namísto nového řádu. Viník? Klaus, Kočárník a další.

Myslíte si, že jsme tedy mohli digitalizovat už v devadesátkách?

Ano. A poslední křižovatkou byla doba »utrženého sluchátka«, privatizace SPT (Správa pošt a telekomunikací) a – rozvoje mobilní telefonie GSM v roce 1996. Počátek internetu. Mohla to být doba minimalizace státu při zachování jeho plné funkčnosti, doba rozkvětu homeworkingu, kterému se firmy i stát brání dodnes. Doba plné funkčnosti distančního elektronického školství. Místo toho se miliardy člověkohodin dodnes ztrácí cestou do práce a z práce, do škol a ze škol, utrácí se peníze za benzín do aut i autobusů, staví se a vytápí kanceláře a parkoviště místo levných velkých podnikových bytů a luxusních školek.

Za odmítnutím této cesty stojí bohužel levice – zejména ministr školství Eduard Zeman, který namísto open source zvolil tribut Microsoftu, ministr zdravotnictví Ivan David, který odmítl elektronickou lékařskou dokumentaci, a premiér Miloš Zeman, který proti e-governmentu a vnucení ECDL certifikátů upřednostnil zaměstnanost počítačově negramotných úředníků na nátlak předsedkyně odborů Vondrové. Všichni tři zvolili špatně. Přestože projekty ležely na stole a stačilo podepsat. Už před třiceti lety. Kolik pracovníků státu i firem dnes skutečně potřebuje být na pracovišti »u strojů«? Kolik lékařů si vystačí dnes s tím, co se před čtyřiceti lety naučili na fakultě? U kolika pacientů v záchrance, i když jde o život, lékař netuší vůbec nic? Digitální stát jsme přitom mohli již dávno mít. Náš vlastní a jedinečný. Promarnili jsme náskok 15-20 let.

Ale to, o čem mluvíte, zavání i tím, před čím varujete – v důsledku nahrazením lidí umělou inteligencí. Pokud k tak masové digitalizaci a zavádění AI do praxe dojde, nahradí lidi?

AI má potenciál nahradit skoro všechny profese. Co potom, až produktivita většiny lidské práce ztratí hodnotu, ale nikdo neví. Kdo říká opak, lže.

Kolektiv okolo Radovana Richty v knize Civilizace na rozcestí v roce 1967 prognózoval, že prudký rozvoj vědy a techniky zásadně promění charakter práce i života a hlavní výrobní silou se stane vědění, tvořivost a schopnost učit se po celý život. Adaptabilita a kreativita, stejně jako schopnost stále se učit je úžasná, ale může fungovat jen do určitého věku a pouze omezeně. Etika nejspíš fungovat vůbec nikdy nebude. Individuální připojení k síti rozbíjí komunity, život a tužby se individualizují. Dlouhodobá konkurenceschopnost znamená udržet si převahu v hrách s nulovým součtem. Tam jeden musí prohrát, aby jiný mohl vyhrát. Čím větší je investice, tím větší je i riziko.

Upozorňujete i na ekonomickou a geopolitickou stránku. Kdo podle vás bude skutečným vítězem AI revoluce – státy, firmy, lidi nebo nikdo?

Adaptabilní firmy, které stát nedokáže zničit, a tak je bude muset zkorumpovat.

Vítězem kosmických závodů včerejška nebyl SSSR, ale Sergej Koroljov, »člen protisovětské kontrarevoluční organizace a sabotér vojenské techniky«. Vítězem kosmických závodů dneška nejsou USA či NASA, ale levičáky, astronomy, burzovními makléři i NASA nenáviděný Elon Musk. Vítězem AI závodů nebude Čína, ale několik nám doposud neznámých čínských programátorů.

image

EU prohraje. Je přeregulovaná, předlužená, bez jasné dlouhodobé politiky. S nerealistickými očekáváními občanů i decisní sféry, že blahobyt včerejška bude pokračovat a ještě zachráníme planetu.

K etické stránce věci – říkáte, že žádná armáda dobrovolně nepřijme etické limity technologie, která jí může přinést převahu.

Nikdy v dávné ani moderní historii se tak nestalo. Sovětský svaz byl připraven vynést jaderné zbraně do vesmíru od okamžiku, kdy Sputnik 1 pípal na cestě kolem Země svůj zpěv míru. To byl celosvětově slyšitelný signál neporazitelnosti. Válka modelářů na Ukrajině nyní přinesla do operačního užití laserové »paprsky smrti« řízené umělou inteligencí. Izrael, Rusko, USA či Británie už je mají. Čína je má určitě také. Vývoj mikrovlnných zbraní je už také ve fázi operačního užití. Jen se o tom nemluví. Radar v Brdech byl mikrovlnné dělo na sestřelování ruských satelitů.

Znamená to, že vývoj vojenské umělé inteligence je už dnes v podstatě nezastavitelný?

Samozřejmě. Mír je přestávka na zbrojení mezi dvěma válkami.

Ale za válečným myšlením nestojí stroje, ale lidé. Jejich ziskuchtivé pohnutky. Je dnes větším rizikem samotná technologie, nebo způsob, jakým ji lidé používají a komu dávají moc?

Od doby vynálezu nože byl používán jak ke krájení masa, tak ke krájení nepřítele. Žádná technologie není zlá ani dobrá. Ale každý vynález, použitelný jako zbraň, bude jako zbraň použit. Byť to nemusí být zrovna atomová bomba.

Nemalujete budoucnost až příliš černě? V historii lidstvo přežilo knihtisk, průmyslovou revoluci i internet. Proč by právě umělá inteligence měla představovat zásadnější civilizační zlom než všechny předchozí technologie?

Protože má tendenci být globální, všezahrnující a všeproměňující, multikulturní a multietnická, je multikriteriální a hlavně – je neproniknutelná. Je to black box. Může být zrcadlem všeho – i toho, nač se bojíme i myslet. Kniha se dá nečíst. Stroj se dá rozebrat. Umělá inteligence, pokud to nebude kecátko, se vypnout nenechá. Doporučuji film Vesmírná odysea. Diskuze s Halem je varující.

Helena Kočová

FOTO – iportaL24.cz/Petr Kojzar a archiv Štěpána Kotrby

REKLAMA
SOUVISEJÍCÍ ČLÁNKY

Nezneužívat 17. listopad

Jen několik dnů zbývá do osmdesátého sedmého výročí 17. listopadu. Již žije velmi málo pamětníků doby, kdy německé ozbrojené jednotky...

AI bere lidem práci. Řemeslníci se ale bát nemusí, prestiž odborných škol roste

Umělá inteligence mění pracovní trh a lidé stále častěji přemýšlejí, zda jejich profese bude za několik let vůbec existovat....

Aktuality z Polska

Stalo se, že se mně tentokrát do Polska, konkrétně do Varšavy, moc nechtělo. Nemám problém s Poláky, ale s...

Umělá inteligence ruší 800 tisíc pracovních míst! Žádná profese se zkáze nevyhne

V Německu by v příštích 15 letech mohlo v důsledku stále výraznějšího pronikání umělé inteligence na pracovní trh zaniknout...

»Digitální znásilnění«: Umělá inteligence a deepfaky umlčují ženy ve veřejném životě

Nová zpráva ukazuje, že kyberstalking, spyware, nenávistné projevy a výhrůžky patří mezi nejčastěji hlášené případy násilí páchaného na ženách...

DALŠÍ NOVINKY

Vánoce už klepou na dveře. Zoo Praha zve na adventní dílny, návštěvníci si vyrobí vlastní věnce

Vánoční atmosféra dorazí do Zoo Praha ještě před začátkem adventu. Zoologická zahrada připravila na čtyři listopadové víkendové dny tradiční...

17. listopad v ulicích: bohatý program. Nezapomíná se ani na rok 1939

Letošní 17. listopad nabídne po celé republice pestrý program. Vedle tradičních vzpomínkových a pietních setkání se chystají koncerty, kulturní...

Slíbili bombu a střelbu: dva mladí Ukrajinci byli vyhoštěni z Polska

Dva ukrajinští občané ve věku 18 a 19 let byli ihned vyhoštěni z Polska poté, co ve Vratislavi provedli...

Ruský »zázrak« proti rakovině. Metastázy zmizely u prvního pacienta, který dostal vakcínu NeoOncovac

První data ze zavádění personalizované mRNA protirakovinné vakcíny NeoOncovac v Rusku jsou optimistická. První pacient s melanomem, který tuto...

Klempíř jednal s eurokomisařem o ČT a ČRo. Změny financování chce zatím pozastavit

Ministr kultury Oto Klempíř (za Motoristy) jednal dnes prostřednictvím videohovoru s evropským komisařem Michaelem McGrathem o budoucnosti veřejnoprávních médií...

Šéfka IOM: Klimatická krize může vyhnat z domovů přes 200 milionů lidí

Více než 200 milionů lidí se kvůli klimatické krizi stane uprchlíky, uvedla šéfka Mezinárodní organizace pro migraci (IOM) Amy...

Daniel Krob rozezní svou kytaru na koncertu Majestát hudby

Stačí několik tónů a okamžitě se nám vybaví oblíbený film, nezapomenutelná scéna nebo vzpomínka na dětství. Právě takovou sílu...

Lenin maják, Lenin zvon… Petr Zuska se usmívá nad hereckou akcí Oldřicha Kaisera

Choreograf, tanečník, režisér, pedagog a bývalý dlouholetý umělecký šéf Baletu Národního divadla Petr Zuska je známý i svými vystoupeními...

Analýza: Historický summit USA, Ruska a Číny. Světová diplomacie v pozoru!

Mezinárodní diplomacie obrací svou pozornost k čínskému Šen-čenu, kde se ve dnech 18. a 19. listopadu 2026 uskuteční summit...

Chorvati zasadili reprezentaci další ránu, Denia prodloužil rekordní černou sérii

Česká fotbalová reprezentace prožila další černý večer. V závěrečném utkání Ligy národů podlehla v Osijeku domácímu Chorvatsku 1:2, ve...

6 KOMENTÁŘE

  1. Trochu mi přijdou jeho odpovědi jako anarchistické. Přece je důležité to hned nenegovat, ale hledět, jak využít novinky ku prospěchu lidstva.

  2. Naopak! AI je budoucnost, která lidem dokáže zlehčit život v řadě oblastí. Atomovku už máme a taky ji nikdo nepoužil (kromě 45. roku) a možností tu byla celá řada.

    • Jenže tohle je ještě horší zbraň. Hlavně v tom smyslu, že umí lhát a přepisovat dějiny. Z toho se nelze jen tak vyhrabat.

Diskuze je uzavřena.

REKLAMA
Poslední zprávy