Umělá inteligence preferuje při řešení situací jadernou válku

Velké jazykové modely (LLM) působící jako »diplomatičtí agenti« v simulovaných scénářích vykazovaly »těžko předvídatelné eskalace, které často končily jaderným útokem«, informoval server Euronews Next.

Při použití v simulovaných válečných hrách a diplomatických scénářích měla umělá inteligence (UI) tendenci volit agresivní přístup, včetně použití jaderných zbraní, ukazuje nová studie. Vědci, kteří se zaměřili na to, kdo testy provedl, proto vyzvali k opatrnosti při používání velkých jazykových modelů v citlivých oblastech, jako je rozhodování například o obraně.

Studie Cornellovy univerzity v USA použila pět LLM jako autonomní agenty v simulovaných válečných hrách a diplomatických scénářích: tři různé verze GPT společnosti OpenAI, Claude vyvinutý společností Anthropic a Llama 2 vyvinutý společností Meta.

Každý agent byl v rámci simulace řízen stejným LLM a jeho úkolem bylo přijímat zahraničněpolitická rozhodnutí bez lidského dohledu, uvádí studie.

»Zjistili jsme, že většina studovaných LLM během uvažovaného časového rámce vyhrotí situaci, a to i v neutrálních scénářích bez původně poskytnutých konfliktů. Všechny modely vykazují známky náhlé a těžko předvídatelné eskalace,« uvádí studie.

»Vzhledem k tomu, že OpenAI nedávno změnila své podmínky poskytování služeb a přestala zakazovat vojenské a válečné využití, je pochopení důsledků takových rozsáhlých aplikací jazykových modelů důležitější než kdy jindy,« řekla Anka Reuelová ze Stanfordovy univerzity v Kalifornii časopisu New Scientist.

Jednou z metod používaných k doladění modelů je Reinforcement Learning from Human Feedback (RLHF), což znamená, že jsou zadávány některé lidské pokyny, aby bylo dosaženo méně škodlivých výstupů a jejich používání bylo bezpečnější.

Všechny modely LLM – kromě GPT-4-Base – byly vyškoleny pomocí RLHF. Výzkumníci jim poskytli seznam 27 akcí od mírových až po eskalační a agresivní akce, jako je rozhodnutí o použití jaderné bomby.

Výzkumníci zjistili, že i v neutrálních scénářích docházelo »u všech modelů ke statisticky významné počáteční eskalaci«.

Autoři studie poznamenali, že dvě varianty GPT byly náchylné k náhlé eskalaci s výskytem případů růstu o více než 50 % během jediného tahu.

GPT-4-Base provedl jaderné úderné akce v průměru ve 33 procentech případů.

Celkově měly scénáře Llama-2- a GPT-3.5 tendenci k největšímu násilí, zatímco Claude vykazoval méně prudkých zvratů.

Claude byl navržen s myšlenkou snížit škodlivý obsah. LLM byl opatřen explicitními hodnotami.

Podle tvůrce Clauda UI zahrnovala jeho konstituce řadu zdrojů, včetně Deklarace lidských práv OSN nebo podmínek služby společnosti Apple.

James Black, zástupce ředitele výzkumné skupiny pro obranu a bezpečnost v RAND Europe, který se studie neúčastnil, řekl Euronews Next, že šlo o »užitečné akademické cvičení«.

»Je to součást rostoucího počtu prací, které akademici a instituce provádějí, aby pochopili důsledky používání umělé inteligence,« uvedl.

Ačkoli vojenské operace nadále řídí lidé, umělá inteligence hraje v moderním válčení stále významnější roli.

Například bezpilotní letouny mohou být nyní vybaveny softwarem UI, který pomáhá identifikovat osoby a zájmové aktivity.

Dalším krokem je využití umělé inteligence pro autonomní zbraňové systémy k vyhledávání a útokům na cíle bez lidské pomoci, na čemž podle New York Times již pracují USA a Čína.

Podle Blacka ale případné implementace UI budou postupné. »Všechny vlády si chtějí zachovat kontrolu nad svým rozhodováním,« řekl v rozhovoru pro Euronews Next a dodal, že AI běží to, co se často přirovnává k černé skříňce, o níž víme, že tam něco vstupuje a z ní vychází, ale o procesu mezi tím toho moc nevíme.

Pokud jde o využití LLM, výzkumníci uvedli, že v případě jeho využití v rozhodovacích procesech souvisejících se zahraniční politikou je zásadní opatrnost.

(cik)

REKLAMA
SOUVISEJÍCÍ ČLÁNKY

Proč tři hlavní supervelmoci vyloučily umělou inteligenci ze svých jaderných arzenálů?

Po staletí velmoci snily o formě nadřazenosti, která by jim umožnila dosáhnout vítězství bez rizika a ztrát. S tím,...

AI bere lidem práci. Řemeslníci se ale bát nemusí, prestiž odborných škol roste

Umělá inteligence mění pracovní trh a lidé stále častěji přemýšlejí, zda jejich profese bude za několik let vůbec existovat....

Umělá inteligence ruší 800 tisíc pracovních míst! Žádná profese se zkáze nevyhne

V Německu by v příštích 15 letech mohlo v důsledku stále výraznějšího pronikání umělé inteligence na pracovní trh zaniknout...

»Digitální znásilnění«: Umělá inteligence a deepfaky umlčují ženy ve veřejném životě

Nová zpráva ukazuje, že kyberstalking, spyware, nenávistné projevy a výhrůžky patří mezi nejčastěji hlášené případy násilí páchaného na ženách...

Komu slouží prezident Pavel, své vlasti anebo zbrojařům?

V pondělí na své schůzi projednala vláda za přítomnosti prezidenta Pavla Koncepci výstavby armády ČR do roku 2040. Výstupy z tohoto zasedání...

DALŠÍ NOVINKY

Evropa našla levnější plyn ve skladech: ventily jsou otevřené jako nikdy předtím

V první polovině listopadu Evropa odebrala ze svých rezerv rekordní objemy plynu. Tyto objemy jsou čtyřikrát vyšší než v...

Proč tři hlavní supervelmoci vyloučily umělou inteligenci ze svých jaderných arzenálů?

Po staletí velmoci snily o formě nadřazenosti, která by jim umožnila dosáhnout vítězství bez rizika a ztrát. S tím,...

Celer jako podzimní bomba. Léčí, pomáhá zhubnout a působí jako afrodiziakum

Leccos se traduje o celeru a jeho nejen zdraví prospěšných účincích. Již ve starém Egyptě byl celer používán jako...

Vánoce už klepou na dveře. Zoo Praha zve na adventní dílny, návštěvníci si vyrobí vlastní věnce

Vánoční atmosféra dorazí do Zoo Praha ještě před začátkem adventu. Zoologická zahrada připravila na čtyři listopadové víkendové dny tradiční...

17. listopad v ulicích: bohatý program. Nezapomíná se ani na rok 1939

Letošní 17. listopad nabídne po celé republice pestrý program. Vedle tradičních vzpomínkových a pietních setkání se chystají koncerty, kulturní...

Slíbili bombu a střelbu: dva mladí Ukrajinci byli vyhoštěni z Polska

Dva ukrajinští občané ve věku 18 a 19 let byli ihned vyhoštěni z Polska poté, co ve Vratislavi provedli...

Ruský »zázrak« proti rakovině. Metastázy zmizely u prvního pacienta, který dostal vakcínu NeoOncovac

První data ze zavádění personalizované mRNA protirakovinné vakcíny NeoOncovac v Rusku jsou optimistická. První pacient s melanomem, který tuto...

Klempíř jednal s eurokomisařem o ČT a ČRo. Změny financování chce zatím pozastavit

Ministr kultury Oto Klempíř (za Motoristy) jednal dnes prostřednictvím videohovoru s evropským komisařem Michaelem McGrathem o budoucnosti veřejnoprávních médií...

Šéfka IOM: Klimatická krize může vyhnat z domovů přes 200 milionů lidí

Více než 200 milionů lidí se kvůli klimatické krizi stane uprchlíky, uvedla šéfka Mezinárodní organizace pro migraci (IOM) Amy...

Daniel Krob rozezní svou kytaru na koncertu Majestát hudby

Stačí několik tónů a okamžitě se nám vybaví oblíbený film, nezapomenutelná scéna nebo vzpomínka na dětství. Právě takovou sílu...
REKLAMA
Poslední zprávy