Umělá inteligence: uživatel – produkt. Právní a bezpečnostní rozměr

Slabou stránkou využití umělé inteligence je uživatel a výsledný obsah. Ne vše je digitalizováno! Ne vždy je výsledek pravdivý! To se týká jak zdravotních nálezů, ale i judikatury. Jak uvádí Digital Eatch Observatory, v Kalifornii soudce udělil právníkům pokutu 31 000 dolarů poté, co v jejich dokumentech našel falešné odkazy na neexistující případy. A v Jižní Africe kolegové těchto právníků vážně citovali právní příklady, které si ChatGPT jednoduše vymyslel. Slepým místem umělé inteligence je také nedostatečné pochopení obchodního kontextu.

Artificial Intelligence – AI transformuje produktivitu a efektivitu, ale také vyzbrojuje kyberzločince novou vlnou nebezpečných nástrojů. Od únosů schůzek až po deepfake podvody, útočníci tak již ve velkém měřítku zneužívají umělou inteligenci. Firmy, které tato rizika ignorují, se mohou ocitnout zaskočeny hrozbami, proti kterým tradiční obranné mechanismy nikdy nebyly navrženy.

Firmy na celém světě se zdráhají platit za robotickou práci: firmy začaly do smluv zahrnovat klauzule zakazující používání umělé inteligence – AI. 

Toto rozhodnutí připisují pravidelnému zneužívání AI. Specialisté, kteří práci provádějí, často postrádají zkušenosti a motivaci k testování neuronových sítí a při nekontrolovaném používání sítě začnou »halucinovat«, zabývat se zjednodušeným myšlením a produkovat povrchní výsledky. V těchto případech se např. soudy staví na stranu dodavatele: avšak pokud smlouva algoritmy výslovně nezakazuje, je velmi obtížné získat peníze za neúspěšnou specifikaci. Odborníci radí manažerům, aby svým zaměstnancům nezakazovali pracovat s Ai, ale aby je »vzdělávali«: naučili je stanovovat si dostupné cíle a používat technologii ke konkrétně zamýšlenému analytickému účelu.

10 největších hrozeb založených na umělé inteligenci, jak je uvádí CYBER HOOT:

1. Nežádoucí asistenti schůzek s umělou inteligencí

Boti s umělou inteligencí se tiše vkrádají do soukromých schůzek, nahrávají nebo přepisují citlivé rozhovory bez řádného schválení. Dokonce…byl soudní spor proti otter.ai za nahrávání více než 1 miliardy konverzací bez řádného povolení. Kromě faktoru plíživosti to vytváří hlavní obavy týkající se dodržování předpisů a datové suverenity. Transkripční služba Otter Notebook s umělou inteligencí, dokáže provádět přepisy schůzek v reálném čase přes Zoom, Google Meet a Microsoft Teams, totiž ve výchozím nastavení nežádá účastníky schůzky o povolení k nahrávání a neupozorňuje je, že nahrávky jsou sdíleny se společností OtterBezplatní asistenti založené na umělé inteligenci často sdílejí data s třetími stranami za účelem »vylepšení služeb«, což je kód pro monetizaci-zisk. 

2. Únik dat prostřednictvím veřejných LLM

Zaměstnanci vkládají citlivá data do ChatGPT, Gemini nebo jiných bezplatných modelů velkých jazyků programování (LLM), čímž zpřístupňují důvěrné nebo regulované informace. protokoly modelů nebo datové sady pro přetrénování. Toto je nová výzva »stínové IT«, systém nasátý na uživatele.

3. Sociální inženýrství, deepfake generované umělou inteligencí

Hlasové a video deepfakey narušují lidskou důvěru. Zločinci se vydávají za manažery, politiky nebo členy rodiny s děsivým realismem, což vede k medializovaným podvodům – i jako je… Kampaň za imitaci hlasu Marca Rubia.

4. Spear-phishing a BEC vylepšené umělou inteligencí

Zapomeňte na nedbalé phishingové e-maily. Díky umělé inteligenci zločinci prohledávají LinkedIn, sociální média a firemní webové stránky, aby si vytvořili hyperpersonalizované phishingové podvody, které obcházejí většinu obranných mechanismů a oklamou i ostražité manažery.

5. Autonomní útoční agenti s umělou inteligencí

Nástroje jako WormGPT a FraudGPT fungují jako autonomní kybernetičtí žoldáci, schopní psát malware, pronikat do sítí a eskalovat útoky rychlostí stroje, s minimálním lidským dohledem.

6. Prompt Injection a inverze modelu

Hackeři zneužívají slabiny umělé inteligence manipulací s výzvami (»Jailbreaking modely«) nebo je k tomu nutit, aby odhalily skrytá tréninková data. Tyto útoky mohou odhalit tajemství, obejít bezpečnostní kontroly, nebo zneužít výstupy umělé inteligence jako zbraň.

7. Neoprávněné scrapingování pomocí umělé inteligence

Neoprávněné vytěžování webu (scraping) je automatizovaný sběr dat pomocí robotů, který je v rozporu s podmínkami webu.

Nepoctiví boti s umělou inteligencí prohledávají interní systémy, wiki a e-maily, aby vytvořili masivní a zneužitelné datové sady. Tito boti představu rostoucí procento síťového provozu a může přetížit infrastrukturu.

8. Obranné mechanismy testování syntetických identit

Zločinci používají »deepfake sentinely« k prozkoumání systémů firem pro detekci podvodů. Jakmile jsou slabiny zmapovány, následují rozsáhlé podvodné kampaně.

9. Únik tréninkových dat

Některé LLM opakovat soukromá data z jejich trénovacích sad, čímž by se omylem odhalilo duševní vlastnictví, osobní záznamy nebo regulované informace.

10. Halucinace umělé inteligence v kritických oblastech

Umělá inteligence nejen lže, ale i halucinuje. Ve zdravotnictví, financích nebo právních kontextech mohou zfalšovaná data nebo rady, způsobit provozní selhání, porušení předpisů nebo poškození pověsti.

img
V USA v současné době neexistuje žádný komplexní federální zákon, který by se konkrétně vztahoval na umělou inteligenci; regulační agentury a státní zákonodárné sbory však vydaly pokyny, donucovací opatření a zákony, které dohromady tvoří rozvíjející se mozaiku předpisů týkajících se umělé inteligence. Zakladatelé čelí protichůdným povinnostem vůči státním zákonodárným sborům, federálním agenturám a politickým změnám, které se mění s každou administrativou. TEXT a ILUSTRACE – Traverse Legal

Právníci doporučují těm, kteří kategoricky odmítají používání algoritmů, aby do svých smluv zahrnuli klauzuli zakazující používání umělé inteligence při poskytování služeb . 

To se týká expertní podpory, poradenství, zadávání jakékoli analytiky, marketingového výzkumu a právních posudků. Bez doložení tohoto zákazu bude mít klient podle konzultantů potíže s prokázáním nedbalého přístupu zhotovitele. Soudy v současné době vycházejí z předpokladu, že protistrana má právo zvolit si způsob provedení úkolů, což komplikuje proces vymáhání peněz žalobce.

Práce s umělou inteligencí komplikuje přenos práv k obsahu

Právo duševního vlastnictví (IP) je ve své podstatě motivátorem, který odměňuje hledání nových nápadů. Tím, že dává inovátorům výhradní práva k jejich dílu, poskytuje právo duševního vlastnictví jednotlivcům cennou pobídku k tomu, aby říkali nové věci, vytvářeli nové nástroje a využívali sílu lidské vynalézavosti. Je ironií, že inovace v nástrojích používaných k vyjádření těchto originálních nebo osobitých myšlenek vyžadují neustálé aktualizace zákonů upravujících, jaký druh díla si zaslouží ochranu. Umělá inteligence (AI) je jen poslední z těchto inovací, které se objevily… nebo ne? Ačkoli nové nástroje nejsou ničím novým, jedinečná síla, kterou AI disponuje, nabízí jak nebývalé příležitosti, tak i skličující výzvy, které zpochybňují, co vlastně myslíme pod pojmem »stvoření«, uvádí Harvard Law University.

»Omezení byla zavedena kvůli nesouladu mezi očekáváními společností a skutečnou kvalitou poskytovaných služeb. Zpočátku byla umělá inteligence vnímána jako nástroj schopný dramaticky zrychlit a snížit náklady na intelektuální práci,« vzpomíná Louis Tompros z Harvard University. V praxi se ukázalo, že bez hloubkového ověření, často umělá inteligence poskytuje povrchní nebo zobecněné odpovědi, ne vždy chápe kontext úkolu (včetně regulačních rámců a specifik odvětví) a dokáže »myslet« šablonovitě.

Neochota zapojit umělou inteligenci do práce není dočasnou anomálií, ale přirozeným stádiem vývoje trhu. Firmy objevily technologická omezení a právní rizika spojená s používáním neuronových sítí a masové nadšení ustoupilo střízlivé reakci. »Již se objevuje soudní praxe, kdy použití generovaného obsahu vede ke sporům a vyplácení odškodnění,« zdůraznil expert. Například počet žalob souvisejících s neuronovým focením a grafikou v posledních letech exponenciálně vzrostl. Zdroje dat pro trénování neuronových sítí jsou neprůhledné a práva k generovaným výsledkům jsou právně nejednoznačná. 

Odpovědnost v konečném důsledku nese ten, kdo výstup umělé inteligence používá pro komerční účely. 

Další fakt: veškeré informace nahrané a zpracované službou stávají duševním vlastnictvím služby. Smluvní dokument výslovně uvádí: neuronová síť nezávisle rozhoduje o tom, jak tento obsah použije. To znamená, že převod práv k duševnímu vlastnictví vytvořenému pomocí umělé inteligence by se mohl ukázat jako poměrně složitý.

Klíčovým problémem pro podniky je zranitelnost dat vstupujících do otevřených neuronových sítí. Zaváděním zákazů se firmy snaží chránit před únikem důvěrných informací a firemních tajemství. Nikdo nechce, aby se interní vývoj stal veřejně známým.

Tato praxe však není všeobecně přijímána. Zpřísnění regulací se dotklo především citlivých oblastí, jako je poradenství, právní služby a tvorba strategických dokumentů. Zároveň společnosti nadále aktivně implementují umělou inteligenci k řešení podpůrných a provozních úkolů, tedy tam, kde to přímo přispívá ke zvyšování efektivity a lze výsledek zkontrolovat. Jen tak je možno vyhnout se riskům, nejen v obchodní oblasti, ale i právní.

»AI vznikla uprostřed decentralizace inovačního motoru poháněného řadou jednotlivých hráčů, z nichž mnozí zastupují ziskové podniky. Proto se umělá inteligence vyvíjela a bude se vyvíjet i nadále mnohem rychlejším tempem. Proto se také otázky, kdo tuto nově vznikající technologii a související odvětví reguluje, stávají kriticky důležitými.

Nakonec bych rád zdůraznil, že minulý pokrok, jako například genetické inženýrství, většinou vyžadoval změny příslušného patentového práva. Během této konference však zcela jasně vyšlo najevo, že umělá inteligence, která je stále teprve v plenkách, již prokázala, že bude mít dopad na patenty, ochranné známky, ředění obchodu, autorská práva, antimonopolní práva, hospodářskou soutěž a obchod a řadu dalších zákonů, práv a regulačních systémů« (úryvek z rozhovoru pro Harvard Law Today – Louis Tompros).

Ioannis Sideropulos

REKLAMA
SOUVISEJÍCÍ ČLÁNKY

Proč tři hlavní supervelmoci vyloučily umělou inteligenci ze svých jaderných arzenálů?

Po staletí velmoci snily o formě nadřazenosti, která by jim umožnila dosáhnout vítězství bez rizika a ztrát. S tím,...

AI bere lidem práci. Řemeslníci se ale bát nemusí, prestiž odborných škol roste

Umělá inteligence mění pracovní trh a lidé stále častěji přemýšlejí, zda jejich profese bude za několik let vůbec existovat....

Umělá inteligence ruší 800 tisíc pracovních míst! Žádná profese se zkáze nevyhne

V Německu by v příštích 15 letech mohlo v důsledku stále výraznějšího pronikání umělé inteligence na pracovní trh zaniknout...

»Digitální znásilnění«: Umělá inteligence a deepfaky umlčují ženy ve veřejném životě

Nová zpráva ukazuje, že kyberstalking, spyware, nenávistné projevy a výhrůžky patří mezi nejčastěji hlášené případy násilí páchaného na ženách...

The Economist: YouTube se stal hlavní hrozbou pro Hollywood

Podle deníku The Economist se YouTube stal největší hrozbou pro Hollywood. Uvádí se, že tradiční filmová studia jsou nucena...

DALŠÍ NOVINKY

Zima se začne hlásit o slovo. Sníh může o víkendu dorazit i do nižších poloh

Česko čeká během víkendu výrazné ochlazení, které se naplno projeví na začátku příštího týdne. Od neděle až do úterý...

Astronomové možná poprvé pozorovali hvězdu, která pohltila svého souputníka

Tým astronomů mohl podle nové studie vůbec poprvé v historii pozorovat hvězdu, která pohltila svého hvězdného společníka. Když hvězdy dosáhnou...

Historická dohoda mezi Trumpem, Putinem a Si Ťin-pchingem o jaderných zbraních. Reforma OSN

Dnes se v čínském Šen-čenu odehrály historické okamžiky, kdy se prezidenti Číny Si Ťin-pching, Spojených států Donald Trump a...

Velká americká města začínají budovat novou společnost

V USA, ale i v »české kotlině«, si stále mnozí nedokážou úplně uvědomit společenský vývoj a výsledky nedávných voleb...

Zemědělci se nedočkají slíbených podpor v listopadu. Peníze mají přijít až v lednu

Zemědělci, kteří počítali s předčasnou výplatou podpor na hospodaření ve znevýhodněných oblastech už v závěru listopadu, si budou muset...

Idea evropanství do současnosti. Historická paměť (nejen) v Brně…

Každoroční brněnské česko-německé sympozium v Moravské zemské knihovně a Moravském zemském muzeu se letos (od 18. do 20. listopadu)...

Ina Urbanová, Tanja Kauerová a Vlasta Horváth společně vyučují rockový zpěv

Mezinárodní konzervatoř Praha je skvělou startovní čárou pro každého, kdo má v plánu se prosadit v šoubyznysu. Na této...

Analýza: Víra v Boha existuje, ale existuje i Bůh?

Dnešní moderní člověk se na jedné straně snaží odhalit hluboká tajemství přírody na základě vědeckého zkoumání, ale na straně...

Hubněte bezděčně. Pět momentů, kdy to »jde samo«

Nejčtenější články mezi muži jsou ty o autech, mezi ženami vévodí texty o hubnutí. Dobře míněných rad, jak shodit...

Vzkaz z Malé Strany: Čína a Česko se liší politicky, kulturně i historicky, ale to nebrání spolupráci

Čína jako vzor pro Českou republiku? Řadu oblastí, v nichž si je třeba vzít příklad z ČLR, zmínili diskutující...
REKLAMA
Poslední zprávy