Slabou stránkou využití umělé inteligence je uživatel a výsledný obsah. Ne vše je digitalizováno! Ne vždy je výsledek pravdivý! To se týká jak zdravotních nálezů, ale i judikatury. Jak uvádí Digital Eatch Observatory, v Kalifornii soudce udělil právníkům pokutu 31 000 dolarů poté, co v jejich dokumentech našel falešné odkazy na neexistující případy. A v Jižní Africe kolegové těchto právníků vážně citovali právní příklady, které si ChatGPT jednoduše vymyslel. Slepým místem umělé inteligence je také nedostatečné pochopení obchodního kontextu.
Artificial Intelligence – AI transformuje produktivitu a efektivitu, ale také vyzbrojuje kyberzločince novou vlnou nebezpečných nástrojů. Od únosů schůzek až po deepfake podvody, útočníci tak již ve velkém měřítku zneužívají umělou inteligenci. Firmy, které tato rizika ignorují, se mohou ocitnout zaskočeny hrozbami, proti kterým tradiční obranné mechanismy nikdy nebyly navrženy.
Firmy na celém světě se zdráhají platit za robotickou práci: firmy začaly do smluv zahrnovat klauzule zakazující používání umělé inteligence – AI.
Toto rozhodnutí připisují pravidelnému zneužívání AI. Specialisté, kteří práci provádějí, často postrádají zkušenosti a motivaci k testování neuronových sítí a při nekontrolovaném používání sítě začnou »halucinovat«, zabývat se zjednodušeným myšlením a produkovat povrchní výsledky. V těchto případech se např. soudy staví na stranu dodavatele: avšak pokud smlouva algoritmy výslovně nezakazuje, je velmi obtížné získat peníze za neúspěšnou specifikaci. Odborníci radí manažerům, aby svým zaměstnancům nezakazovali pracovat s Ai, ale aby je »vzdělávali«: naučili je stanovovat si dostupné cíle a používat technologii ke konkrétně zamýšlenému analytickému účelu.
10 největších hrozeb založených na umělé inteligenci, jak je uvádí CYBER HOOT:
1. Nežádoucí asistenti schůzek s umělou inteligencí
Boti s umělou inteligencí se tiše vkrádají do soukromých schůzek, nahrávají nebo přepisují citlivé rozhovory bez řádného schválení. Dokonce…byl soudní spor proti otter.ai za nahrávání více než 1 miliardy konverzací bez řádného povolení. Kromě faktoru plíživosti to vytváří hlavní obavy týkající se dodržování předpisů a datové suverenity. Transkripční služba Otter Notebook s umělou inteligencí, dokáže provádět přepisy schůzek v reálném čase přes Zoom, Google Meet a Microsoft Teams, totiž ve výchozím nastavení nežádá účastníky schůzky o povolení k nahrávání a neupozorňuje je, že nahrávky jsou sdíleny se společností OtterBezplatní asistenti založené na umělé inteligenci často sdílejí data s třetími stranami za účelem »vylepšení služeb«, což je kód pro monetizaci-zisk.
2. Únik dat prostřednictvím veřejných LLM
Zaměstnanci vkládají citlivá data do ChatGPT, Gemini nebo jiných bezplatných modelů velkých jazyků programování (LLM), čímž zpřístupňují důvěrné nebo regulované informace. protokoly modelů nebo datové sady pro přetrénování. Toto je nová výzva »stínové IT«, systém nasátý na uživatele.
3. Sociální inženýrství, deepfake generované umělou inteligencí
Hlasové a video deepfakey narušují lidskou důvěru. Zločinci se vydávají za manažery, politiky nebo členy rodiny s děsivým realismem, což vede k medializovaným podvodům – i jako je… Kampaň za imitaci hlasu Marca Rubia.
4. Spear-phishing a BEC vylepšené umělou inteligencí
Zapomeňte na nedbalé phishingové e-maily. Díky umělé inteligenci zločinci prohledávají LinkedIn, sociální média a firemní webové stránky, aby si vytvořili hyperpersonalizované phishingové podvody, které obcházejí většinu obranných mechanismů a oklamou i ostražité manažery.
5. Autonomní útoční agenti s umělou inteligencí
Nástroje jako WormGPT a FraudGPT fungují jako autonomní kybernetičtí žoldáci, schopní psát malware, pronikat do sítí a eskalovat útoky rychlostí stroje, s minimálním lidským dohledem.
6. Prompt Injection a inverze modelu
Hackeři zneužívají slabiny umělé inteligence manipulací s výzvami (»Jailbreaking modely«) nebo je k tomu nutit, aby odhalily skrytá tréninková data. Tyto útoky mohou odhalit tajemství, obejít bezpečnostní kontroly, nebo zneužít výstupy umělé inteligence jako zbraň.
7. Neoprávněné scrapingování pomocí umělé inteligence
Neoprávněné vytěžování webu (scraping) je automatizovaný sběr dat pomocí robotů, který je v rozporu s podmínkami webu.
Nepoctiví boti s umělou inteligencí prohledávají interní systémy, wiki a e-maily, aby vytvořili masivní a zneužitelné datové sady. Tito boti představu rostoucí procento síťového provozu a může přetížit infrastrukturu.
8. Obranné mechanismy testování syntetických identit
Zločinci používají »deepfake sentinely« k prozkoumání systémů firem pro detekci podvodů. Jakmile jsou slabiny zmapovány, následují rozsáhlé podvodné kampaně.
9. Únik tréninkových dat
Některé LLM opakovat soukromá data z jejich trénovacích sad, čímž by se omylem odhalilo duševní vlastnictví, osobní záznamy nebo regulované informace.
10. Halucinace umělé inteligence v kritických oblastech
Umělá inteligence nejen lže, ale i halucinuje. Ve zdravotnictví, financích nebo právních kontextech mohou zfalšovaná data nebo rady, způsobit provozní selhání, porušení předpisů nebo poškození pověsti.
Právníci doporučují těm, kteří kategoricky odmítají používání algoritmů, aby do svých smluv zahrnuli klauzuli zakazující používání umělé inteligence při poskytování služeb .
To se týká expertní podpory, poradenství, zadávání jakékoli analytiky, marketingového výzkumu a právních posudků. Bez doložení tohoto zákazu bude mít klient podle konzultantů potíže s prokázáním nedbalého přístupu zhotovitele. Soudy v současné době vycházejí z předpokladu, že protistrana má právo zvolit si způsob provedení úkolů, což komplikuje proces vymáhání peněz žalobce.
Práce s umělou inteligencí komplikuje přenos práv k obsahu
Právo duševního vlastnictví (IP) je ve své podstatě motivátorem, který odměňuje hledání nových nápadů. Tím, že dává inovátorům výhradní práva k jejich dílu, poskytuje právo duševního vlastnictví jednotlivcům cennou pobídku k tomu, aby říkali nové věci, vytvářeli nové nástroje a využívali sílu lidské vynalézavosti. Je ironií, že inovace v nástrojích používaných k vyjádření těchto originálních nebo osobitých myšlenek vyžadují neustálé aktualizace zákonů upravujících, jaký druh díla si zaslouží ochranu. Umělá inteligence (AI) je jen poslední z těchto inovací, které se objevily… nebo ne? Ačkoli nové nástroje nejsou ničím novým, jedinečná síla, kterou AI disponuje, nabízí jak nebývalé příležitosti, tak i skličující výzvy, které zpochybňují, co vlastně myslíme pod pojmem »stvoření«, uvádí Harvard Law University.
»Omezení byla zavedena kvůli nesouladu mezi očekáváními společností a skutečnou kvalitou poskytovaných služeb. Zpočátku byla umělá inteligence vnímána jako nástroj schopný dramaticky zrychlit a snížit náklady na intelektuální práci,« vzpomíná Louis Tompros z Harvard University. V praxi se ukázalo, že bez hloubkového ověření, často umělá inteligence poskytuje povrchní nebo zobecněné odpovědi, ne vždy chápe kontext úkolu (včetně regulačních rámců a specifik odvětví) a dokáže »myslet« šablonovitě.
Neochota zapojit umělou inteligenci do práce není dočasnou anomálií, ale přirozeným stádiem vývoje trhu. Firmy objevily technologická omezení a právní rizika spojená s používáním neuronových sítí a masové nadšení ustoupilo střízlivé reakci. »Již se objevuje soudní praxe, kdy použití generovaného obsahu vede ke sporům a vyplácení odškodnění,« zdůraznil expert. Například počet žalob souvisejících s neuronovým focením a grafikou v posledních letech exponenciálně vzrostl. Zdroje dat pro trénování neuronových sítí jsou neprůhledné a práva k generovaným výsledkům jsou právně nejednoznačná.
Odpovědnost v konečném důsledku nese ten, kdo výstup umělé inteligence používá pro komerční účely.
Další fakt: veškeré informace nahrané a zpracované službou stávají duševním vlastnictvím služby. Smluvní dokument výslovně uvádí: neuronová síť nezávisle rozhoduje o tom, jak tento obsah použije. To znamená, že převod práv k duševnímu vlastnictví vytvořenému pomocí umělé inteligence by se mohl ukázat jako poměrně složitý.
Klíčovým problémem pro podniky je zranitelnost dat vstupujících do otevřených neuronových sítí. Zaváděním zákazů se firmy snaží chránit před únikem důvěrných informací a firemních tajemství. Nikdo nechce, aby se interní vývoj stal veřejně známým.
Tato praxe však není všeobecně přijímána. Zpřísnění regulací se dotklo především citlivých oblastí, jako je poradenství, právní služby a tvorba strategických dokumentů. Zároveň společnosti nadále aktivně implementují umělou inteligenci k řešení podpůrných a provozních úkolů, tedy tam, kde to přímo přispívá ke zvyšování efektivity a lze výsledek zkontrolovat. Jen tak je možno vyhnout se riskům, nejen v obchodní oblasti, ale i právní.
»AI vznikla uprostřed decentralizace inovačního motoru poháněného řadou jednotlivých hráčů, z nichž mnozí zastupují ziskové podniky. Proto se umělá inteligence vyvíjela a bude se vyvíjet i nadále mnohem rychlejším tempem. Proto se také otázky, kdo tuto nově vznikající technologii a související odvětví reguluje, stávají kriticky důležitými.
Nakonec bych rád zdůraznil, že minulý pokrok, jako například genetické inženýrství, většinou vyžadoval změny příslušného patentového práva. Během této konference však zcela jasně vyšlo najevo, že umělá inteligence, která je stále teprve v plenkách, již prokázala, že bude mít dopad na patenty, ochranné známky, ředění obchodu, autorská práva, antimonopolní práva, hospodářskou soutěž a obchod a řadu dalších zákonů, práv a regulačních systémů« (úryvek z rozhovoru pro Harvard Law Today – Louis Tompros).
Ioannis Sideropulos