Pouhých 24 hodin poté, co generální ředitel Microsoftu Satya Natella vyzval k »nouzovému zabrzdění« provozovaných modelů umělé inteligence, prezident Microsoftu Brad Smith prohlásil, že by měla být zavedena sada globálních bezpečnostních pravidel.
Umělá inteligence naléhavě potřebuje globální regulaci s nezávislými hodnotiteli, kteří by mohli zkoumat nový vývoj, uvedl Smith v rozhovoru pro BBC a varoval, že umělá inteligence v současnosti podléhá méně bezpečnostním požadavkům než produkty, jako je mléko.
Podle Smitha by tato pravidla měla vyžadovat informování dotčených osob, pokud jsou jejich systémy napadeny nekontrolovaným agentem umělé inteligence, a také dostupnost »tlačítka pro nouzové ukončení«, a to ve shodě s generálním ředitelem společnosti Microsoft. Smith také říká, že společnosti by měly být ze zákona povinny podávat »hlášení o incidentech«.
»Víme, jak to udělat u jiných produktů. Měli bychom tyto znalosti využít a přemýšlet o tom, jak je můžeme aplikovat na umělou inteligenci. V současné době podléhá vaše pračka více bezpečnostním předpisům než umělá inteligence. Každý karton mléka, který vidíte v supermarketu, podléhá bezpečnostním předpisům a kontrolám,« říká Smith.
Společnosti zabývající se umělou inteligencí, jako jsou Anthropic a OpenAI, začaly veřejně zveřejňovat případy nekontrolovatelného nebo nežádoucího chování svých agentů s umělou inteligencí. Tato odhalení jsou součástí globální debaty o rychle se vyvíjející technologii, která zahrnuje i varování výzkumníků před potenciální existenční hrozbou pro lidstvo v budoucnu.
Některé společnosti volají po zpomalení vývoje umělé inteligence. Návrh však vyvolal debatu o tom, zda mají vedoucí pracovníci společností i jiné cíle, jako je stanovení pravidel, která udrží jejich vlastní podniky v chodu, zabránění širšímu negativnímu působení vlády nebo jednoduše zpomalení obrovských a rychle rostoucích výdajů v tomto odvětví.
Smith uvedl, že zemí, která je v obzvláště výhodné pozici k vedení úsilí o regulaci umělé inteligence, je Británie, a to díky Institutu pro bezpečnost umělé inteligence, který byl založen za premiéra Rishiho Sunaka.
Podle Smitha se úředníci ve Washingtonu chovají k Londýnu velmi odlišně než k Bruselu, který reguluje umělou inteligenci na základě úrovně rizika prostřednictvím evropského zákona o umělé inteligenci známého jako AI Act.
Britský institut získává přístup k novým modelům ještě před jejich zpřístupněním veřejnosti, a to na základě dobrovolných dohod s významnými společnostmi zabývajícími se vývojem modelů umělé inteligence. To mu umožňuje posoudit jejich schopnosti a rizika před jejich zveřejněním.
(is)
FOTO – executivebiz, KOLÁŽ – AI