Umělá inteligence je mocný a z části bezplatný nástroj – dokud z nás AI systémy nevycucají potřebná data, lidské reakce a variabilitu lidské interakce. Umělá inteligence za jistých předpokladů nabízí okamžitý přístup ke světovým znalostem. Avšak pokušení rychlých řešení v podnikání i každodenním životě je velké, ale nesprávné odpovědi na důležité otázky mají vážné následky.
Nedávná studie odhaluje, že téměř polovina odpovědí z populárních modelů obsahuje významné chyby nebo vymyšlené zdroje, které zavádějí i přední společnosti ve světě.
Na první pohled se umělá inteligence jeví jako výkonný vyhledávač, který rychle vyhledává a shrnuje informace o jakémkoli tématu. Od tradičních vyhledávacích systémů se však zásadně liší. Pragati Awasthiová, odborná asistentka na Drexelově univerzitě, vysvětluje, že modely umělé inteligence generují text – statistickou predikcí možných slov na základě vzorců z jejich trénování.
»Umělá inteligence dokáže vytvořit odpověď, která zní platně, má bezchybný tok, ale je zcela chybná,« zdůrazňuje Awasthiová.
Míra přesnosti odpovědí zůstává otevřenou otázkou a závisí na mnoha faktorech, poznamenává Forbes. Nejméně 45 % odpovědí v průzkumu BBC a Evropské vysílací unie – EBU ukázalo na významný problém. Studie byla založena na datech od 22 mediálních organizací. Bylo zjištěno, že 31 % případů vykazovalo neúplné, zavádějící nebo nesprávné citace zdrojů.
Navíc, 20 % odpovědí obsahovalo závažné chyby v přesnosti, jako například zastaralé informace nebo smyšlené detaily.
Časté chyby
Mezi typické chyby umělé inteligence patří dezinformace, zastaralé zprávy a až informační »halucinace«.
Existují jevy překrývání, opomenutí, vykonstruované zprávy nebo směs pravdivých a nepravdivých faktů. Tyto chybné výsledky oklamou i ty nejpečlivější firmy.
Například podle New York Times přední právnická firma Sullivan & Cromwell z Wall Street podala soudní dokumenty se zcela fiktivními právními případy, které byly vytvořeny umělou inteligencí.
Modely se spoléhají výhradně na trénovací data, což činí jejich odpovědi zranitelnými. Pokud se data neobnovují, informace za určitý časový bod jednoduše neexistují. Navíc informace nemusí pokrývat specializované znalosti, které uživatel hledá. Systém může nedostatek dat rozpoznat, ale skutečné nebezpečí spočívá v neznalosti uživatele těchto omezení.
Když umělá inteligence používá zdroje z renomovaných vědeckých časopisů, tak odpověď získává pro uživatele falešný pocit autority. Ve skutečnosti, model syntetizuje statistické vzorce a nevyhodnocuje obsah. A konečně, existuje riziko matení kontextu, tj. nevhodného promíchávání nesouvisejících zjištění.
Pozitivní je, že identifikace nesprávných výsledků je stále možná, i když je k ověření odpovědí nutná zvláštní pozornost a čas.
Jakých je 6 kroků k ověření platnosti odpovědí?
1. Laterální čtení: Křížové vyhledávání a odkazování na zdroje
Uživatelé by nikdy neměli akceptovat odpovědi umělé inteligence jako jediný zdroj. Podle pokynů Texaské univerzity A&M v Corpus Christi vyžaduje technika čtení z jiného úhlu pohledu nezávislý výzkum k ověření informací. Například otevření nové karty pro vyhledávání na Googlu nebo Google Scholar pomáhá identifikovat, kdo informace skutečně ověřuje.
2. Náročné odpovědi
Kritický přístup k odpovědím modelu je nezbytný. Proces je podobný rozhovoru s kolegou, protože zpracování přirozeného jazyka umožňuje objasnit otázky týkající se zdrojů informací. Lori Keene Kocherová, generální ředitelka společnosti Different Day, doporučuje opačný přístup: požádat umělou inteligenci, aby podpořila opačný postoj nebo identifikovala slabiny v jejích argumentech.
3. Opakování a srovnávání
Pohled pouze na jednu odpověď nestačí. Kladení stejné otázky různým systémům pomáhá ověřit data. Shruti Tiwari, vedoucí produktů umělé inteligence ve společnosti Dell Technologies, vysvětluje, že ChatGPT, Claude a Gemini jsou trénovány na různých databázích. Shoda modelů poskytuje větší jistotu, zatímco nesrovnalosti naznačují, kde je třeba další zkoumání. Kladení stejného modelu různými způsoby také kontroluje jeho konzistenci. Pokud se podrobnosti změní, systém pouze hádá.
4. Aktualizace a kontrola včasnosti
Modely umělé inteligence se po trénování přestanou aktualizovat. Tato pauza může trvat měsíce nebo roky a brání systému v poskytování aktuálních dat. Po posledním kole trénování je nezbytné požádat systém o změny, zejména u statistik nebo zpráv. Testování dotazu na různých modelech pomáhá identifikovat novější aktualizace.
5. Důsledná kontrola referencí
Vyhledávání zdrojů a kontrola odkazů jsou zásadní kroky. Doyle Albee, generální ředitel společnosti Prolexity, zdůrazňuje, že je důležité ověřit, zda článek uvádí to, co tvrdí umělá inteligence. Zároveň Sahil Datta, postdoktorandský výzkumník v Nationwide Children’s Hospital, varuje, že systém často vytváří falešné citace. Ty si vypůjčují jména známých autorů nebo časopisů, ale neexistují v databázích, jako je PubMed.
6. Důvěřujte svým znalostem, zkušenostem a instinktům
Lidská intuice slouží jako motivace k dalšímu výzkumu, zejména pokud je založena na předchozích znalostech. Spoléhat se prostě bez kontroly a vědomostí na umělou inteligenci nelze. Například nesprávná odpověď u AI často ukazuje nadměrnou jistotu bez jakýchkoli výhrad. Pokud je uživateli odpověď předem neznámá, je nezbytný návrat k předchozím kontrolním vyhledávajícím krokům z různých zdrojů. Takže, nakonec bez lidské práce se tu neobejdeme.
Ioannis Sideropulos