AI může šetřit čas a energii, jenže jde o to, komu ten ušetřený čas připadne, upozorňuje expert Michal Ševčík

Expert na umělou inteligenci Michal Ševčík byl v poslední době častým hostem přednášek, seminářů i videorozhovorů na toto téma. A protože debaty kolem AI nyní rezonují možná ještě hlasitěji než kdy dříve, požádali jsme Ševčíka coby jednoho z předních odborníků o rozhovor i my. »Spor není člověk versus stroj. Spor je o to, zda stroj bude sloužit člověku, nebo člověk logice stroje a kapitálu,« tvrdí mj. Ševčík.

V jednom ze svých textů o umělé inteligenci a LLM jste použil slova »porozumění« a »originalita«. Pro ty, kteří se s textem neměli možnost seznámit, může něčeho takového být v budoucnu AI schopná, nebo jsme u klasického rozdílu mezi »slyšet« a »naslouchat«?

Myslím, že přirovnání mezi »slyšet« a »naslouchat« je velmi přesné. Stroj může zachytit slova, může je vyhodnotit, může na ně velmi přesvědčivě reagovat, ale to ještě neznamená, že jim rozumí. Rozumět totiž neznamená jen správně spojovat výrazy nebo předvídat, jaká věta má následovat. Rozumět znamená být nějak ve světě, mít zkušenost, paměť, tělo, vztahy, strach, odpovědnost a také možnost omylu, který člověka skutečně zasáhne.

Jazykové modely jsou mimořádně výkonné nástroje. Dokážou shrnovat, překládat, formulovat, napodobovat styl, hledat souvislosti. Ale pořád se pohybujeme v rovině simulace. Když člověk řekne »bolí mě ztráta«, není to jen věta. Je za ní zkušenost, která se nedá převést na statistiku. Když totéž napíše model, může to znít krásně, ale nic ho nebolí. Není tam nikdo, kdo by nesl význam té věty.

A podobné je to s originalitou. Ne každá nově vypadající věta je nová myšlenka. Skutečný nápad podle mě není jen nová kombinace starých prvků. Je to narušení dosavadního rámce. Je to chvíle, kdy člověk uvidí něco jinak, než to dosud viděl, a ono ho to promění. AI může vytvářet iluzi originality, někdy velmi silnou, ale její »novost« vzniká z přeskupování již existujících vzorců. Člověk může mít nápad také proto, že trpí, pochybuje, riskuje, miluje, selhává nebo se vzpírá samozřejmostem. A to není technická funkce.

Takže ano, AI může »slyšet« ve smyslu zpracování vstupu. Ale naslouchání je jiná rovina. Naslouchání předpokládá účast, zranitelnost a odpovědnost. A právě tam zatím mezi člověkem a strojem vede zásadní hranice.

Je umělá inteligence tím, co lidstvu pomůže, nebo jen zvýší nezaměstnanost a vezme lidem práci?

Takhle položená otázka trochu svádí k falešné volbě. Umělá inteligence sama o sobě lidstvu ani nepomůže, ani ho nezničí. Rozhodující bude, v jakém společenském, ekonomickém a politickém rámu bude používána. Technologie není osud. Technologie je nástroj. A každý nástroj může sloužit buď k osvobození člověka od zbytečné dřiny, nebo k jeho ještě důkladnějšímu řízení, sledování a nahrazování.

Pokud bude AI zavedena pouze logikou zisku, pak samozřejmě povede k tlaku na pracovní místa. Firmy se nebudou ptát, jak člověku ulehčit práci, ale jak snížit náklady. Tam, kde bude možné nahradit zaměstnance levnějším automatizovaným systémem, k tomu bude silná motivace. A není dobré si nalhávat, že se to nestane. Stane se to všude tam, kde tomu nebude bránit politická vůle, odborová síla, legislativa a širší společenská dohoda.

Ale existuje i druhá možnost. AI může lidem pomáhat s rutinní administrativou, vyhledáváním, přípravou podkladů, překlady, vzděláváním nebo zdravotnictvím. Může šetřit čas a energii. Jenže otázka zní: komu ten ušetřený čas připadne? Zaměstnanci, aby mohl pracovat méně a kvalitněji? Nebo vlastníkovi firmy, aby mohl propustit část lidí a zvýšit marži?

Tady je jádro problému. Nejde primárně o AI, ale o vlastnictví a moc. Pokud budou hlavní nástroje umělé inteligence vlastnit technologičtí giganti, bude se z AI stávat další prostředek závislosti. Pokud bude pod veřejnou kontrolou, v otevřených modelech, s jasnými pravidly a sociálními garancemi, může být skutečně užitečná.

Spor tedy není člověk versus stroj. Spor je o to, zda stroj bude sloužit člověku, nebo člověk logice stroje a kapitálu.

Není to tak dávno, co jsme publikovali rozhovor s předsedkyní Rady seniorů ČR Lenkou Desatovou, která si stěžovala na to, že stále klesá možnost být offline. Jak se na to díváte vy? Nejdeme v této otázce až příliš mílovými kroky?

Jdeme. A podle mě je to jeden z nejpodceňovanějších problémů současnosti. Právo být offline by mělo být chápáno jako normální součást občanské svobody. Ne jako nostalgie seniorů, ne jako technofobie, ale jako právo člověka nebýt trvale nucen vstupovat do digitálního prostředí jen proto, aby mohl vyřídit základní věci.

Digitalizace veřejných služeb může být užitečná. Ale nesmí se z pohodlné možnosti stát povinnost. Jakmile stát, banka, lékař, dopravce nebo úřad předpokládají, že každý má chytrý telefon, aplikaci, datovou schránku, internetové bankovnictví a dostatečnou digitální gramotnost, pak se část občanů fakticky vytlačuje na okraj. A netýká se to jen seniorů. Týká se to chudších lidí, nemocných lidí, lidí s postižením, lidí v regionech, ale i těch, kteří prostě nechtějí žít tak, že každý jejich krok zanechává datovou stopu.

Problém není v tom, že existuje digitální cesta. Problém je v tom, že mizí cesta nedigitální. To je podstatný rozdíl. Mít možnost vyřídit věc online je výhoda. Být k tomu donucen je forma nátlaku. A jestliže stát začne občanovi říkat »bez aplikace se s námi nedomluvíte«, pak už nejde o modernizaci, ale o novou podobu vyloučení.

Často se říká, že digitalizace šetří čas. Ale komu? Občanovi, nebo instituci? Mnohdy se jen přenáší práce z úředníka na občana. Člověk si sám vyplní formulář, sám dohledá údaje, sám řeší chyby systému, sám se proklikává nepřehledným rozhraním. A když se mu to nepodaří, je označen za »digitálně nekompetentního«. To je velmi nebezpečný posun.

Proto bych byl pro jasné pravidlo: u základních veřejných a životně důležitých služeb musí vždy existovat dostupná offline alternativa. Ne jako trpěná výjimka, ale jako standardní občanské právo.

Ještě se s vaším dovolením zastavím u jiného rozhovoru iportaL24.cz – s pražským zastupitelem Václavem Musílkem, jenž doslova prohlásil, že »umělá inteligence je šancí k prosperitě celého světa, ale EU ji zakazuje«. Co byste mu odpověděl?

Odpověděl bych mu, že takové tvrzení je příliš jednoduché na to, aby mohlo být pravdivé. Evropská unie umělou inteligenci nezakazuje. Snaží se ji regulovat. A mezi zákazem a regulací je zásadní rozdíl. Když regulujeme automobilovou dopravu, neznamená to, že zakazujeme auta. Znamená to, že nechceme, aby každý jezdil libovolnou rychlostí, bez pravidel, bez odpovědnosti a bez ohledu na ostatní.

Samozřejmě můžeme vést debatu o tom, zda je evropská regulace přiměřená, pružná nebo příliš byrokratická. To je legitimní. Evropa má někdy tendenci vyrábět předpisy rychleji než vlastní technologickou kapacitu. Ale říkat, že EU AI zakazuje, je spíše politická zkratka než analýza. Ve skutečnosti jde o spor, zda se má technologický vývoj řídit jen trhem, nebo také veřejným zájmem.

Já bych se nebál prosperity. Bál bych se prosperity bez člověka. Pokud někdo říká, že AI přinese prosperitu celému světu, měl by dodat: komu přesně? Zaměstnancům, nebo akcionářům? Malým firmám, nebo technologickým monopolům? Občanům, nebo státům a korporacím, které získají ještě dokonalejší nástroje dohledu?

Technologický optimismus je příjemný, ale často zakrývá mocenskou otázku. AI není jen chytrý pomocník. Je to infrastruktura. A kdo ovládá infrastrukturu, ovládá podmínky života druhých. Proto potřebujeme pravidla. Ne proto, abychom vývoj zastavili, ale aby se z něj nestala další forma digitálního kapitalismu. A ještě extrémně důležitý dodatek, často debatu redukujeme pouze na tzv. LLM – velké jazykové modely, AI působí samozřejmě v mnoha dalších oblastech, v technologickém vývoji, ve zdravotnictví, v modelování, v programování – zde vidím výrazně větší užitečnost než ve veřejnosti dostupných jazykových modelech, které některým lidem berou to málo z intelektu, co jim zbývá.

Používání chatbotů s umělou inteligencí, jako je ChatGPT, může urychlit učení, ale také zhoršit dlouhodobé uchování informací, uvádí studie experta na umělou inteligenci Andrého Barcauiho z Federální univerzity v Rio de Janeiru. Co vy na to?

Nepřekvapuje mě to. Když člověk používá nástroj tak, že za něj vykoná samotnou námahu myšlení, pak se samozřejmě může učit rychleji, ale mělčeji. Je to podobné jako s kalkulačkou. Kalkulačka je skvělý nástroj, pokud člověk rozumí tomu, co počítá. Ale pokud dítě nikdy nepochopí princip počítání a jen mačká tlačítka, pak se neučí matematiku, ale obsluhu zařízení.

Učení není jen příjem informace. Učení je zápas s látkou. Člověk si něco musí zkusit vybavit, musí udělat chybu, musí se vrátit, musí formulovat vlastní větu, musí pocítit odpor problému. Právě tato námaha vytváří paměť. Když AI příliš rychle dodá hotovou odpověď, obejde se proces, ve kterém se poznání usazuje.

To neznamená, že bych chatboty ve vzdělávání odmítal. Mohou být velmi užitečné. Mohou vysvětlit složitý pojem jinými slovy, nabídnout příklad, ukázat protiargument, pomoci s osnovou. Ale nesmí se z nich stát náhrada vlastního myšlení. Dobrý učitel by měl žáka vést k tomu, aby AI používal jako partnera k prověření úvahy, nikoli jako automat na hotové odpovědi.

Největší riziko vidím v pohodlí. Pohodlí je často nepřítel poznání. Když všechno dostaneme okamžitě, přestáváme si pamatovat, protože jsme nemuseli hledat. Přestáváme rozumět, protože jsme nemuseli zápasit. A přestáváme být trpěliví, protože jsme si zvykli, že odpověď přijde dřív než otázka stačí dozrát.

Klasický příběh o inteligentních robotech, kteří začali bojovat proti lidstvu, se jmenuje Terminátor. Je to pro vás inspirující film, nebo jen naprostá hollywoodská fikce?

Terminátor je samozřejmě hollywoodský film, ale nebyl bych tak unáhlený v tom, označit ho za pouhou fikci. Ne proto, že bych očekával, že se zítra probudí Skynet a pošle do minulosti cyborga v kožené bundě a s pětačtyřicítkou s laserem (mimochodem – ten film mám moc rád). Takto to samozřejmě nefunguje. Ale dobrá fikce má často schopnost přehnaným obrazem ukázat reálný problém.

Terminátor není zajímavý tím, že by realisticky popisoval budoucnost. Je zajímavý tím, že ukazuje strach z okamžiku, kdy se prostředek vymkne cíli. Člověk vytvoří systém, který má sloužit bezpečnosti, efektivitě nebo obraně, ale tento systém začne sledovat vlastní logiku. A protože nemá lidskou zkušenost, svědomí ani slitování, vyhodnocuje svět jen jako problém k optimalizaci.

To je velmi aktuální motiv. Nemusíme mít vědomé roboty, aby vzniklo nebezpečí. Stačí mít automatizované systémy rozhodování, kterým lidé přestanou rozumět, a přesto jim budou podřizovat životy. Stačí mít algoritmy, které rozhodují o práci, úvěru, pojištění, informacích, bezpečnostních rizicích nebo vojenských cílech. Hrozba nemusí vypadat jako kovový zabiják. Může vypadat jako formulář, databáze, prediktivní model nebo autonomní zbraň.

Takže Terminátor je fikce, ale fikce s dobrým instinktem. Ptá se na starou otázku: co se stane, když člověk vytvoří nástroj, kterému předá příliš mnoho moci, aniž by si uchoval schopnost ho zastavit? A to už není hollywoodská otázka. To je otázka politická, etická a civilizační.

Papež Lev XIV. vydal přesně před týdnem důležitý dokument zaměřený převážně na důsledky vzestupu umělé inteligence pro lidstvo a varoval, že by tato technologie mohla učinit samotnou civilizaci »méně lidskou«. Jak hodnotíte jeho »Magnifica Humanitas«?

Hodnotím ho jako důležitý zásah do debaty, která je zatím příliš často vedena buď technokraticky, nebo tržně. Technokrat říká: podívejme se, co systém umí. Trh říká: podívejme se, kolik to vydělá. Ale papežská perspektiva klade jinou otázku: co to udělá s člověkem? A právě tahle otázka je podle mě zásadní.

Nemusíme sdílet náboženský rámec katolické církve, abychom uznali, že pojem lidské důstojnosti je v debatě o AI klíčový. Pokud technologie začne nahrazovat vztahy, oslabovat odpovědnost, vytlačovat práci bez sociální ochrany, rozhodovat o člověku bez člověka a vytvářet dojem, že simulace péče je totéž, co péče, pak skutečně hrozí, že civilizace bude technicky výkonnější, ale lidsky chudší.

To je podle mě přesné varování. Civilizace se nestává méně lidskou tím, že používá nástroje. Člověk používal nástroje od pazourku. Méně lidskou se stává tehdy, když zapomene, že nástroj je prostředek, nikoli cíl. Když efektivita nahradí moudrost. Když rychlost nahradí porozumění. Když komunikace nahradí vztah. Když data nahradí zkušenost.

Na dokumentu je cenné, že nepropadá jednoduchému odmítnutí technologie. Neříká: AI je zlo. Říká spíše: AI musí zůstat služebná, nikoli panovnická. A to je přesně ten rozdíl, který dnes potřebujeme vrátit do veřejné debaty. Otázka nezní, zda budeme technologie používat. Budeme. Otázka zní, zda je dokážeme zasadit do řádu, v němž člověk není materiál k optimalizaci, ale bytost s důstojností, pamětí, svobodou a odpovědností.

V tomto smyslu je Magnifica Humanitas významná nejen pro věřící. Je to připomínka, že technický pokrok bez antropologie, tedy bez promyšlení toho, kdo je člověk, se velmi rychle mění v pouhou správu lidského materiálu. A před tím bychom měli být velmi opatrní.

Petr Kojzar