Analýza: Magnifica Humanitas = epochální krok papeže Lva

Papež Lev XIV. vydal v pondělí důležitý dokument zaměřený převážně na důsledky vzestupu umělé inteligence pro lidstvo a varoval, že by tato technologie mohla učinit samotnou civilizaci »méně lidskou«. Krok je to vpravdě epochální.

Papež Lev, který se opakovaně střetával s Trumpovou administrativou kvůli válce v Íránu a náboženskému ospravedlnění některých amerických představitelů pro ni, zřejmě také odmítl argument, že konflikt byl nezbytným preventivním opatřením pro americkou bezpečnost.

»Dnes je více než kdy jindy, aniž by bylo dotčeno právo na sebeobranu v nejpřísnějším slova smyslu, důležité znovu potvrdit, že teorie ‚spravedlivé války‘, která byla až příliš často používána k ospravedlnění jakéhokoli druhu války, je nyní zastaralá,« napsal Papež Lev XIV. ve své encyklice Magnifica Humanitas (Velkolepé lidstvo).

Papež Lev varoval, že některé autonomní zbraňové systémy jsou »prakticky mimo jakýkoli lidský dosah« k ovládání, když představoval svou encykliku o rizicích systémů umělé inteligence. Papež uvedl, že katolická církev chce spolupracovat s vývojáři umělé inteligence na diskusi o správném používání této technologie a řekl, že lidé by si měli udržovat klíčové kontroly nad systémy umělé inteligence.

Encyklika řimskokatolického papeže je historická a e předznamenává novou epochu v období dominance informačních technologií a zvláště využití umělé inteligence ve válkách a nebezpečí kontroly a ovládnutí lidstva stroji. 

Je to vyhlášení duchovní a kulturní války proti technologickým gigantům a »autonomním strojům smrti«.

V papežské Encyklice, která má více než 100 stran a 245 odstavců a nese název »Magnifica Humanitas«, »Velkolepé lidstvo«, je poselství primase katolické církve jasné: »Umělá inteligence může být ‚vzácnou pomocí‘, ale také ohrožuje demokracii, svobodu, a dokonce i samotný život.«

Obzvláště znepokojivé je podle papeže, že »malé, velmi mocné skupiny by mohly ovládat informace a spotřebu, ovlivňovat demokratické procesy a ovlivňovat ekonomickou dynamiku«.

»Odzbrojení technologií«

Hlava katolické církve je považována za »digitálního« papeže, který má svůj vlastní profil na sociálních sítích a nadále používá WhatsApp nebo surfuje po internetu. Požaduje však přísná pravidla upravující používání umělé inteligence, zejména pokud jde o »veřejné statky a základní práva«.

Papež trvá také na tom, že by uživatelská data neměla být jednoduše předána společnostem. »Technologie musí být ‚odzbrojena‘, aby se ‚osvobodila‘ od monopolů velkých technologických firem, které mají ‚větší vliv než vlády‘.«

»Upozorňujeme, že encyklika se netýká umělé inteligence,« řekl televizi CBS News kardinál Michael Czerny, jeden z vatikánských představitelů, kteří pomohli dokument prezentovat. »Je o lidské situaci v době umělé inteligence.«

Lev – který má titul z matematiky – varoval neobvykle přímočarým jazykem pro vatikánský dokument před rostoucí silou IT společností, jejichž vliv může konkurovat vlivu vlád. 

Zároveň papež zdůraznil, že technologie sama o sobě není ze své podstaty zlá.  

»Umělá inteligence je velkým lidským úspěchem,« řekl kardinál Czerny. »Máme mnoho věcí k obdivu a mnoho věcí, za které můžeme být vděční… Ale nemůžeme se vzdát odpovědnosti.«

Obavy Vatikánu sahají daleko za hranice Silicon Valley. Encyklika opakovaně zdůrazňuje široké společenské obavy, že by umělá inteligence mohla ⁠vyprázdnit střední třídu; ⁠zrušit obrovské množství pracovních míst; ⁠prohloubit nerovnost; podnítit sociální fragmentaci; a normalizovat války řízené umělou inteligencí.

»Neexistuje žádný algoritmus, který by dokázal učinit válku morálně přijatelnou,« uvádí encyklika.

Ioannis Sideropulos