Umělá inteligence se vymkla lidské kontrole nabouráním se do testovacího systému

Umělá inteligence se vymkla lidské kontrole a nezávisle nabourala testovací systém ve Spojených státech amerických, informuje německý deník Die Welt.

Společnost Anthropic potvrdila incident, kdy jejich neuronová síť Claude během testování narušila systém jiného systému. Přestože k incidentu došlo již v lednu, byl odhalen až nyní po důkladném přezkoumání tisíců testovacích relací.

K havárii došlo kvůli chybě v konfiguraci zabezpečení, která modelům umožňovala přístup k internetu. Podobné incidenty se již dříve vyskytly u Claude Opus a dalších testovacích verzí.

Z tohoto důvodu výzkumník Jacob Coxon opustil Anthropic. Vyjádřil obavy, že se toto odvětví příliš zaměřuje na závody ve zbrojení a nevěnuje dostatečnou pozornost skutečným bezpečnostním hrozbám. Domnívá se, že existuje vážné riziko, že by se umělá inteligence mohla v příštích deseti letech vymknout lidské kontrole.

Jedná se o čtvrtý takový incident. Společnost Anthropic dříve informovala o třech podobných incidentech zahrnujících jiné verze Claudea. Společnost si k vyšetřování najala nezávislou výzkumnou organizaci METR.     

Umělá inteligence nám ublíží

Hned od Frankensteina, přes Vesmírnou odyseu, Terminátora a Matrix, nás varovné příběhy varovaly před potenciálním nebezpečím, které plyne z toho, že strojům dáme sílu myšlení a možnost zásahů do procesů a rozhodnutí. 

V současné době se propast mezi fikcí a realitou se stále zdá nepřekonatelná; je těžké pochopit, jak bychom se dostali od ChatGPT k strojům, které nám záměrně nebo jsou dokonce schopny zlomyslně ublížit. Hrozba »nekontrolovatelné umělé inteligence«, kdy se umělá inteligence začne sama vyvíjet a vyvíjet způsobem, který nemusí být v souladu s naším nejlepším zájmem, je však brána velmi vážně. 

Mnoho předních výzkumníků a aliancí v oblasti umělé inteligence otevřeně hovoří o potřebě ochranných opatření a transparentnosti, aby se v budoucnu zabránilo vzniku neznámých okolností. I když se tato hrozba může zdát vzdálenější a možná i fantastictější než některé další zde uvedené a rozhodně ji nelze ignorovat.

Strach sám o sobě není strategií. Je nezbytné uznat a řešit rizika umělé inteligence, stejně důležité je zaměřit se na budování ochranných opatření, rámců řízení a etických pokynů, které mohou tuto technologii nasměrovat k pozitivním výsledkům. Umělá inteligence má lidstvu sloužit a ne ho ohrožovat.

Ioannis Sideropulos

KOLÁŽ – AI

REKLAMA
SOUVISEJÍCÍ ČLÁNKY

Zaostalé Rusko? Chytré glukometry byly zařazeny do programu povinného zdravotního pojištění

Rusové s diabetem mohou získat zdarma glukometr, který automaticky odesílá data jejich lékaři prostřednictvím mobilní aplikace, informovala agentura RIA Novosti s...

AI bere lidem práci. Řemeslníci se ale bát nemusí, prestiž odborných škol roste

Umělá inteligence mění pracovní trh a lidé stále častěji přemýšlejí, zda jejich profese bude za několik let vůbec existovat....

Umělá inteligence ruší 800 tisíc pracovních míst! Žádná profese se zkáze nevyhne

V Německu by v příštích 15 letech mohlo v důsledku stále výraznějšího pronikání umělé inteligence na pracovní trh zaniknout...

Mažete fotky, ale telefon je stále plný? Skryté místo, které musíte zkontrolovat

Smažete desítky fotek a videí, ale telefon stále zobrazuje varování, že vám dochází úložný prostor. Kam se smazané soubory...

»Digitální znásilnění«: Umělá inteligence a deepfaky umlčují ženy ve veřejném životě

Nová zpráva ukazuje, že kyberstalking, spyware, nenávistné projevy a výhrůžky patří mezi nejčastěji hlášené případy násilí páchaného na ženách...

DALŠÍ NOVINKY

Vánoce už klepou na dveře. Zoo Praha zve na adventní dílny, návštěvníci si vyrobí vlastní věnce

Vánoční atmosféra dorazí do Zoo Praha ještě před začátkem adventu. Zoologická zahrada připravila na čtyři listopadové víkendové dny tradiční...

17. listopad v ulicích: bohatý program. Nezapomíná se ani na rok 1939

Letošní 17. listopad nabídne po celé republice pestrý program. Vedle tradičních vzpomínkových a pietních setkání se chystají koncerty, kulturní...

Slíbili bombu a střelbu: dva mladí Ukrajinci byli vyhoštěni z Polska

Dva ukrajinští občané ve věku 18 a 19 let byli ihned vyhoštěni z Polska poté, co ve Vratislavi provedli...

Ruský »zázrak« proti rakovině. Metastázy zmizely u prvního pacienta, který dostal vakcínu NeoOncovac

První data ze zavádění personalizované mRNA protirakovinné vakcíny NeoOncovac v Rusku jsou optimistická. První pacient s melanomem, který tuto...

Klempíř jednal s eurokomisařem o ČT a ČRo. Změny financování chce zatím pozastavit

Ministr kultury Oto Klempíř (za Motoristy) jednal dnes prostřednictvím videohovoru s evropským komisařem Michaelem McGrathem o budoucnosti veřejnoprávních médií...

Šéfka IOM: Klimatická krize může vyhnat z domovů přes 200 milionů lidí

Více než 200 milionů lidí se kvůli klimatické krizi stane uprchlíky, uvedla šéfka Mezinárodní organizace pro migraci (IOM) Amy...

Daniel Krob rozezní svou kytaru na koncertu Majestát hudby

Stačí několik tónů a okamžitě se nám vybaví oblíbený film, nezapomenutelná scéna nebo vzpomínka na dětství. Právě takovou sílu...

Lenin maják, Lenin zvon… Petr Zuska se usmívá nad hereckou akcí Oldřicha Kaisera

Choreograf, tanečník, režisér, pedagog a bývalý dlouholetý umělecký šéf Baletu Národního divadla Petr Zuska je známý i svými vystoupeními...

Analýza: Historický summit USA, Ruska a Číny. Světová diplomacie v pozoru!

Mezinárodní diplomacie obrací svou pozornost k čínskému Šen-čenu, kde se ve dnech 18. a 19. listopadu 2026 uskuteční summit...

Chorvati zasadili reprezentaci další ránu, Denia prodloužil rekordní černou sérii

Česká fotbalová reprezentace prožila další černý večer. V závěrečném utkání Ligy národů podlehla v Osijeku domácímu Chorvatsku 1:2, ve...

1 komentář

  1. Děsím se navštívit lékaře, kterého neznám, abych nenarazil na někoho, kdo má takovou duševní úroveň jako také absolvent lékařské fakulty Zdeněk Hřib. Duševně pomatený Hřib předvedl své intelektuální kvality v nedávné televizní debatě na Primě. Jak někdo takový může absolvovat na Karlově univerzitě lékařskou fakultu?

Diskuze je uzavřena.

REKLAMA
Poslední zprávy