V době, kdy svět sleduje rychlý rozvoj umělé inteligence, zaznělo z Říma mimořádně silné varování. Desítky nositelů Nobelovy ceny, předních vědců, odborníků na bezpečnost i představitelů mezinárodních institucí se shodly, že propojení umělé inteligence s jadernými zbraněmi představuje jedno z největších existenčních rizik, jakým kdy lidstvo čelilo. Výsledkem jejich jednání je Římská deklarace, která vyzývá světové politiky k odzbrojení, mezinárodní spolupráci a hledání mírových řešení místo další eskalace zbrojení.
Ještě před několika lety se mohlo zdát, že umělá inteligence bude především pomocníkem lékařů, vědců nebo učitelů. Dnes se však stále více prosazuje i ve vojenské oblasti. Dokáže analyzovat obrovské množství dat během několika sekund, identifikovat cíle nebo podporovat rozhodování vojenských velitelů. Právě zde však podle účastníků římského setkání vzniká obrovské nebezpečí.
Jaderné zbraně samy o sobě představují prostředek schopný během několika minut zničit miliony lidských životů. Pokud by se jejich řízení nebo rozhodovací procesy začaly stále více opírat o algoritmy umělé inteligence, mohlo by dojít k tragickým omylům, chybným vyhodnocením situace nebo nekontrolované eskalaci konfliktu. Stačila by technická chyba, kybernetický útok nebo špatně interpretovaná informace a následky by mohly být katastrofální.
Vědci proto upozorňují, že technologický pokrok nesmí předběhnout lidskou odpovědnost. Umělá inteligence může lidstvu přinášet obrovský užitek, ale pouze tehdy, pokud bude využívána ve prospěch života, nikoli války. Podle signatářů deklarace nesmí být rozhodnutí o použití jaderných zbraní nikdy svěřeno strojům ani autonomním systémům.
Římská deklarace proto neobsahuje pouze kritiku současného vývoje. Především nabízí jasný směr. Volá po obnovení mezinárodního dialogu mezi státy, po posílení smluv o kontrole zbrojení, po důsledné regulaci vojenského využití umělé inteligence a především po dlouhodobém cíli úplného odstranění jaderných zbraní. Autoři dokumentu připomínají, že skutečnou bezpečnost nelze vybudovat na stále ničivějších zbraních, ale na vzájemné důvěře, diplomacii a ochotě řešit spory mírovou cestou.
Je příznačné, že podobná výzva zaznívá právě nyní. Svět je svědkem nové vlny zbrojení, rostoucího napětí mezi velmocemi a stále intenzivnějšího využívání umělé inteligence ve vojenských technologiích. Místo snižování počtu jaderných hlavic některé státy investují stovky miliard dolarů do modernizace svých arzenálů. Současně probíhá závod o vývoj stále dokonalejších systémů umělé inteligence.
Historie přitom ukazuje, že právě vědci stáli již několikrát v čele výzev proti jadernému zbrojení. Už po druhé světové válce upozorňovali, že lidstvo vytvořilo zbraň schopnou zničit samo sebe. Dnešní generace odborníků varuje před tím, že kombinace jaderných zbraní a umělé inteligence může toto riziko ještě výrazně zvýšit.
Výzva z Říma by proto neměla zapadnout. Nejde o politické prohlášení jedné země ani jedné ideologie. Jde o apel lidí, kteří zasvětili svůj život vědě a kteří dobře chápou možnosti i limity moderních technologií. Jejich poselství je jednoduché: umělá inteligence má sloužit lidstvu, nikoli připravovat efektivnější způsoby jeho zničení.
Budoucnost nebude bezpečnější díky větším zásobám jaderných zbraní ani díky chytřejším algoritmům určeným pro válku. Bezpečnější bude tehdy, pokud státy znovu objeví hodnotu diplomacie, mezinárodního práva, odzbrojování a mírového řešení sporů. Právě to je hlavní poselství, které si svět může odnést z letošního setkání vědců a nositelů Nobelových cen v Římě.
Jan Klán