Americká armáda se letos na jaře těsně vyhnula zadržení čínské lodi na Blízkém východě, když zpravodajská zpráva generovaná umělou inteligencí nesprávně uvedla, že loď převáží komponenty pro program jaderných zbraní, informovala CNN s odvoláním na své zdroje.
Podle CNN vojenský personál již zahájil přípravy na operaci zadržení plavidla, přičemž válečná letadla již byla ve vzduchu.
Těsně před zahájením náletu armáda zprávu důkladně prozkoumala a zjistila, že chatbot používaný analytikem nesprávně identifikoval náklad lodi.
CNN nebyla schopna přesně určit, co se na palubě lodi skutečně nacházelo. »Zpráva byla zcela nepravdivá,« uvedl jeden ze zdrojů sítě CNN a dodal, že incident »téměř vedl k válce«.
CNN poznamenává, že jakákoli operace Spojených států proti čínské lodi mohla eskalovat v ozbrojený konflikt mezi USA a Čínou.
Co se vlastně stalo?
Jak se ukázalo, analytik požádal chatbota, aby analyzoval informace o deklaraci nákladu lodi, které obdržel od amerického Velitelství speciálních operací v Pacifiku. Systém zkombinoval informace z otevřených zdrojů s utajovanými daty elektronického zpravodajství a dospěl ke zcela nesprávnému závěru o povaze nákladu. Analytik poté znovu použil umělou inteligenci k formátování zjištění do standardní zpravodajské zprávy – takové, které americká armáda slepě důvěřuje – a dokument rozeslal.
CNN dodává, že americká armáda a zpravodajské agentury stále více integrují umělou inteligenci, a to jak pro analýzu zpravodajských informací, tak pro výběr cílů.
Různé jednotky však používají různé systémy a bezpečnostní standardy a neexistují jednotná pravidla pro ověřování informací generovaných umělou inteligencí.
Jeden ze zdrojů CNN uvedl, že používání umělé inteligence při výběru cílů se rychle rozšiřuje, ale stále neexistují jasné pokyny, jak by měl lidský zásah zabránit civilním obětem nebo zásahům »přátelskou palbou«.
(is)
FOTO – CNN/AI