Umělá inteligence se vymkla lidské kontrole a nezávisle nabourala testovací systém ve Spojených státech amerických, informuje německý deník Die Welt.
Společnost Anthropic potvrdila incident, kdy jejich neuronová síť Claude během testování narušila systém jiného systému. Přestože k incidentu došlo již v lednu, byl odhalen až nyní po důkladném přezkoumání tisíců testovacích relací.
K havárii došlo kvůli chybě v konfiguraci zabezpečení, která modelům umožňovala přístup k internetu. Podobné incidenty se již dříve vyskytly u Claude Opus a dalších testovacích verzí.
Z tohoto důvodu výzkumník Jacob Coxon opustil Anthropic. Vyjádřil obavy, že se toto odvětví příliš zaměřuje na závody ve zbrojení a nevěnuje dostatečnou pozornost skutečným bezpečnostním hrozbám. Domnívá se, že existuje vážné riziko, že by se umělá inteligence mohla v příštích deseti letech vymknout lidské kontrole.
Jedná se o čtvrtý takový incident. Společnost Anthropic dříve informovala o třech podobných incidentech zahrnujících jiné verze Claudea. Společnost si k vyšetřování najala nezávislou výzkumnou organizaci METR.
Umělá inteligence nám ublíží
Hned od Frankensteina, přes Vesmírnou odyseu, Terminátora a Matrix, nás varovné příběhy varovaly před potenciálním nebezpečím, které plyne z toho, že strojům dáme sílu myšlení a možnost zásahů do procesů a rozhodnutí.
V současné době se propast mezi fikcí a realitou se stále zdá nepřekonatelná; je těžké pochopit, jak bychom se dostali od ChatGPT k strojům, které nám záměrně nebo jsou dokonce schopny zlomyslně ublížit. Hrozba »nekontrolovatelné umělé inteligence«, kdy se umělá inteligence začne sama vyvíjet a vyvíjet způsobem, který nemusí být v souladu s naším nejlepším zájmem, je však brána velmi vážně.
Mnoho předních výzkumníků a aliancí v oblasti umělé inteligence otevřeně hovoří o potřebě ochranných opatření a transparentnosti, aby se v budoucnu zabránilo vzniku neznámých okolností. I když se tato hrozba může zdát vzdálenější a možná i fantastictější než některé další zde uvedené a rozhodně ji nelze ignorovat.
Strach sám o sobě není strategií. Je nezbytné uznat a řešit rizika umělé inteligence, stejně důležité je zaměřit se na budování ochranných opatření, rámců řízení a etických pokynů, které mohou tuto technologii nasměrovat k pozitivním výsledkům. Umělá inteligence má lidstvu sloužit a ne ho ohrožovat.
Ioannis Sideropulos
KOLÁŽ – AI
Děsím se navštívit lékaře, kterého neznám, abych nenarazil na někoho, kdo má takovou duševní úroveň jako také absolvent lékařské fakulty Zdeněk Hřib. Duševně pomatený Hřib předvedl své intelektuální kvality v nedávné televizní debatě na Primě. Jak někdo takový může absolvovat na Karlově univerzitě lékařskou fakultu?