Vědci analyzovali historii vývoje více než pěti set systémů umělé inteligence a na nich založených zařízení, schválených pro použití v USA, a dospěli k závěru, že přibližně polovina těchto algoritmů byla vyškolena nikoli na skutečných, ale na generovaných datech. To zpochybňuje jejich klinickou použitelnost, uvedlo tiskové oddělení americké Severokarolínské univerzity (UNC).
»Korporace často používají pouhý fakt, že jejich vývoj byl schválen regulačními orgány, jako důkaz, že jejich produkt je důvěryhodný. Ve skutečnosti toto schválení neznamená, že při vývoji a ověřování UI byly použity údaje o skutečných pacientech. Doufáme, že naše studie přiměje vývojáře a příslušné úřady, aby takové kontroly prováděli a jejich výsledky zveřejňovali,« uvedl výzkumník UNC Sammy el Fassi.
Výzkumníci k tomuto závěru dospěli při studiu historie schvalování 520 zdravotnických prostředků a algoritmů, které využívají různé formy strojového učení a umělé inteligence. Všechny tyto výrobky byly schváleny Úřadem pro kontrolu potravin a léčiv (FDA), hlavním zdravotnickým regulačním orgánem ve Spojených státech.
Během posledních několika let schválili úředníci FDA k použití několik desítek lékařských systémů s umělou inteligencí, které jsou schopny urychlit diagnostiku, odhalit patologické stavy na snímcích, zvolit dávkování léků a předpovědět rychlost vývoje onemocnění. Odborníky zajímalo, jak dobře si experti FDA vedou při testování výkonnosti těchto algoritmů a zařízení.
Analýza ukázala, že pouze 22 systémů umělé inteligence (4,2 % z celkového počtu) prošlo plnohodnotnými klinickými zkouškami a téměř u poloviny algoritmů, tedy asi 43 % z nich, chyběly jakékoli veřejně dostupné výsledky testování jejich práce v praxi. Kromě toho výzkumníci zjistili, že téměř 50 % neuronových sítí a souvisejících zařízení bylo vyškoleno nebo ověřeno na vygenerovaných datech pacientů, nikoli na datech skutečných pacientů.
»O data, která jsme shromáždili, jsme se již podělili s těmi vedoucími pracovníky FDA, kteří jsou zodpovědní za schvalování zdravotnických prostředků. Kromě toho doufáme, že naše publikace přiměje výzkumné týmy a univerzity po celém světě, aby při vývoji lékařské umělé inteligence prováděly úplné klinické studie a zlepšily tak bezpečnost a účinnost těchto technologií,« uzavřel El Fassi.
(cik, TASS)