Budoucnost AI: Je důležité, aby byla dobrým sluhou, nikoli zlým pánem

Je AI pomocníkem, nebo nebezpečím? Takovou otázku si položili řečníci dnešní odborné diskuse o budoucnosti umělé inteligence, kterou v Praze společně uspořádali Institut české levice a poslanec Evropského parlamentu Ondřej Dostál (SD-SN). Debata nesla příhodný název Umělá inteligence na civilizační křižovatce a netřeba dodávat, že diskutující se nejen doplňovali, ale v mnohém také rozcházeli, stejně jako se na toto ožehavé téma dívá pod různými zornými úhly celá společnost…

Podle Dostála může být AI hrozbou, ale i pomáhat. »Jde o to, aby umělá inteligence nebyla zneužita válečně proti lidem. To se může podařit jen tehdy, pokud se podaří regulaci zavést celosvětově. Pokud zbyde jen jediné místo, odkud půjdou produkty nebezpečné a budou s tím souviset obrovské kapitálové zdroje, bude AI hrozbou,« uvedl europoslanec s tím, že je nutné, aby se dohodli Evropané s dalšími civilizacemi »jiné víry«. »Důležité je, aby AI byla dobrým sluhou, ne zlým pánem,« připojil Dostál.

Publicista Štěpán Kotrba dodal, že nevěří v takto ideální svět. »Od té doby, co je nůž, může být používán na maso, ale i na nepřítele a protivníka,« řekl Kortba s tím, že hlavní investice do technologií vždy dělají donucovací orgány – armáda, policie i tajné služby. »Jestliže jsme závislí, nejsme svobodní,« řekl Kotrba a varoval, že pokud člověk bude méně výkonný než robot, dostane padáka. »Žádný systém nebude tak humanistický, aby se postavil proti tomu. Západní myšlení je individualistické,« dal Kotrba západní civilizaci na misky vah například s čínskými tradicemi a způsobem života.

Podle experta na AI Michala Ševčíka se »mění kulisy«, ale člověk se nezměnil. »S vývojem techniky a technologií není mírumilovnější a humanističtější. Důkazem toho byly hrůzy 20. století,« řekl Ševčík.

Techniku označil za neutrální nástroj. »Lidské přirozenosti vyhovuje podle modu operandi. AI není nic jiného. Proto krotím jak výrazný optimismus, tak negativismus. Protože jsem levičák, ptám se vždy, komu bude tato AI sloužit a kdo bude sloužit jí,« řekl Ševčík.

Podobné téma nadnesl již v nedávném rozhovoru pro iportaL24.cz. »Nejde primárně o AI, ale o vlastnictví a moc. Pokud budou hlavní nástroje umělé inteligence vlastnit technologičtí giganti, bude se z AI stávat další prostředek závislosti. Pokud bude pod veřejnou kontrolou, v otevřených modelech, s jasnými pravidly a sociálními garancemi, může být skutečně užitečná. Spor tedy není člověk versus stroj. Spor je o to, zda stroj bude sloužit člověku, nebo člověk logice stroje a kapitálu,« uvedl pro iportaL24.cz Ševčík.

Na to plynně navázal informatik Pavel Tuček, který »za vším zlem« vidí kapitalismus, a to jak v 19., 20., tak i v současném 21. století. »Jediné, co se mění, jsou instrumenty,« řekl Tuček a varoval především před tím, že se »mladá generace stává nástrojem a cílem propagandy«.

Mnohem optimističtější byl vývojář Otakar Kovařík. »Nemusí to celé dopadnout tragicky. Je to v našich rukách,« řekl Kovařík. Lidé podle něj používají AI v různé kvalitě a je důležité »umět systém opracovat, aby člověk věděl, co dělá« a AI směroval. »Pokud bude vše probíhat v tomto formátu, nebojím se,« řekl Kovařík, ale současně připojil varování: »Kdo ovládá data, ovládá společnost. Dá se to zneužít ve smyslu, jak má AI odpovídat a na co…«

(pk)