Nový papež Lev XIV. vyzývá k zavedení globálních pravidel pro umělou inteligenci a upozorňuje zejména na autonomní zbraně: »Umělá inteligence není viditelná jako jaderné zbraně!«
Jen několik dní po svém zvolení do funkce vůdce katolické církve se nový papež Lev XIV. rozhodl věnovat nečekanému, ale naléhavému tématu: umělé inteligenci. Ve svém prvním veřejném projevu zdůraznil obrovský potenciál této technologie, ale varoval, že její rozvoj musí být veden společným dobrem. »Jsme na prahu nové revoluce,« řekl papež, »a církev musí znovu bránit lidskou důstojnost.«
Lev XIV. vysvětlil, že volba tohoto papežského jména nebyla náhodná. Inspirovala ho postava Lva XIII., papeže z doby průmyslové revoluce, který se postavil proti zneužívání nastupujícího kapitalismu a podporoval práva pracujících. Nyní, tváří v tvář nové revoluci – digitální, poháněné umělou inteligencí – nový papež věří, že církev musí opět hrát aktivní roli v obraně základních lidských hodnot.
Papež Lev upozorňuje na negativní možnosti a dopady AI s tím, že by nekontrolovaný rozvoj umělé inteligence mohl vést dokonce ke katastrofálním důsledkům pro lidstvo. To je jedna z ústředních obav pontifikátu papeže Lva, který vyzval k zavedení mezinárodních pravidel pro technologii, jejíž dopady, jak varuje Vatikán, je extrémně obtížné předvídat.
Tyto intervence nabývají zvláštní váhy po varováních, která tento týden adresovali Radě bezpečnosti OSN šéfové předních amerických společností zabývajících se umělou inteligencí ohledně rizika, že se technologie vymkne lidské kontrole.
Pro Vatikán však tato diskuse probíhá již léta. »Pro Svatý stolec ještě nejsme na začátku,« řekl agentuře Reuters otec Paolo Benadi, jeden z hlavních vatikánských poradců pro umělou inteligenci.
»Nové hrozby pro bezpečnost a mezinárodní mír«
Lev XIV. ve čtvrtečním projevu k Papežské akademii věd uznal, že umělá inteligence může lidstvu nabídnout významné výhody, a varoval, že vytvořila »nová rizika pro bezpečnost a mezinárodní mír«. Zároveň vyzval světové vůdce, aby moudře řídili její vývoj a dohled.
První americký papež se během svého šestnáctiměsíčního papežství opakovaně vyjadřoval k nebezpečí umělé inteligence a veřejně tuto otázku nastolil již třetí den po svém zvolení.
Loni v květnu vyzval světové vůdce k vytvoření mezinárodních pravidel pro umělou inteligenci a varoval, že systémy umělé inteligence by mohly šířit dezinformace, přiživovat konflikty a vést svět cestou k neustálé válce.
Znějící zvon
Potřebu mezinárodní koordinace zdůraznil i kardinál Pietro Parolin, nejvyšší vatikánský diplomat. Žádná země, varoval, nemůže čelit technologické výzvě sama. »Budoucnost lidstva je zde skutečně v sázce, je ohrožena,« řekl a vyzval k zapojení všech do vytváření společných pravidel, která mohou efektivně řídit vývoj umělé inteligence.
Vatikán také vede dialog s technologickým průmyslem. Spoluzakladatel Anthropic Chris Ola se v květnu zúčastnil prezentace hlavního papežova textu o umělé inteligenci, zatímco v USA Konference katolických biskupů 16. září oznámila vytvoření zvláštní pracovní skupiny pro umělou inteligenci po setkáních s vedoucími pracovníky společností v tomto odvětví.
Varování Vatikánu od roku 2019
Obavy Svatého stolce předcházely současné explozi zájmu o generativní umělou inteligenci o několik let.
Již v roce 2019 Vatikán uspořádal dvě konference o potenciálních nebezpečích technologií. Na jedné z nich papež František varoval, že dezinformace generované umělou inteligencí by mohly dokonce vyvolat světovou válku.
V roce 2020 se Vatikán připojil ke společnostem Microsoft, IBM, Organizaci OSN pro výživu a zemědělství a italské vládě ve společné výzvě k rozvoji umělé inteligence s cílem, který by se neomezoval pouze na zvyšování zisků nebo postupné nahrazování lidí v práci.
Velký strach z autonomních zbraní
Papež má zvláštní obavy z integrace umělé inteligence do zbraňových systémů a varoval, že vývoj autonomních zbraní pokročil „prakticky za hranice lidské schopnosti je ovládat“.
Svatý stolec se již léta staví proti autonomním zbraňovým systémům a přirovnává drony poháněné umělou inteligencí k nášlapným minám: zbraním, které mohou zasáhnout bez jakékoli smysluplné diskriminace cíle.
»Můžete měřit jaderné zbraně – umělá inteligence ne«
Vatikánský poradce nyní přirovnává kampaň Svatého stolce za umělou inteligenci k desítky let trvajícím výzvám papežů k jadernému odzbrojení. Ale je tu, jak zdůrazňuje, zásadní rozdíl.
Jaderné zbraně jsou fyzické objekty. Jsou skladovány v zařízeních, lze je detekovat, spočítat a – alespoň teoreticky – kontrolovat.
Umělá inteligence to nedokáže. »Pokud jaderné zbraně mohou zničit lidstvo, manipulace s obsahem prostřednictvím generativní umělé inteligence v sociálních prostorech může zničit schopnost lidí zůstat jednotní jako společnost,« varoval Benadi.
A rozdíl shrnul do jedné věty: »Jaderné zbraně musí být skladovány v zařízeních a vy je můžete měřit a kontrolovat. Umělá inteligence není tak viditelná.«
Vzkaz pro digitální věk
V projevu ke kardinálům papež Lev XIV. varoval, že nové technologie riskují, že člověka zredukují na pouhé kolečko v globálním ekonomickém mechanismu, v němž je efektivita často důležitější než soucit nebo spravedlnost. Připomněl, že sociální doktrína církve není relikviářem, ale »živoucím pokladem«, který je nutné znovu aktivovat pokaždé, když lidstvo čelí strukturálním transformacím.
Papež zdůraznil, že umělá inteligence by se neměla vyvíjet bez pravidel. Podle jeho názoru musí být technologický rozvoj regulován nejen z ekonomických nebo bezpečnostních důvodů, ale také z morálního a duchovního hlediska.
A zdůraznil, že je nezbytné »neztrácet ze zřetele skutečnost, že ne všechna rozhodnutí lze svěřit algoritmům«. Lidský život nelze redukovat na prediktivní výpočty nebo funkční optimalizaci.
Papež Lev XIV. se zdá být odhodlán učinit z Vatikánu relevantního aktéra v debatách o umělé inteligenci. Ne proto, aby diktoval zákony, ale aby světu připomněl, že kromě dat a neuronových sítí existuje hluboce lidský rozměr, který nelze digitalizovat.
Očekává se, že papež Lev se k této otázce vrátí v pátek, tentokrát z Paříže, v projevu v sídle UNESCO.
Ioannis Sideropulos