Pro regulaci a řízení umělé inteligence vydala WHO nové pokyny, které poskytují šest principů pro omezení rizik a maximalizaci příležitostí pro zdraví, které jsou pro AI vlastní.
Řídící AI
KDO je Etika a řízení umělé inteligence pro zdraví zpráva poukazuje na to, že umělá inteligence může být a v některých bohatých zemích se již používá ke zvýšení rychlosti a přesnosti diagnostiky a screeningu nemocí; pomáhat s klinickou péčí; posílit výzkum v oblasti zdraví a vývoj léků; a podporovat různé intervence v oblasti veřejného zdraví, včetně reakce na ohnisko a řízení zdravotnických systémů.
Umělá inteligence by také mohla umožnit pacientům převzít větší kontrolu nad vlastní zdravotní péčí a umožnit zemím s chudými zdroji překlenout mezery v přístupu ke zdravotnickým službám.
Zpráva však varuje před přeceňováním jejích přínosů pro zdraví, zejména na úkor základních investic a strategií potřebných k dosažení univerzálního zdravotního pokrytí.
Výzvy trvají
Nová zpráva WHO poukazuje na to, že příležitosti a rizika jsou propojeny, a varuje před neetickým sběrem a používáním zdravotních údajů, předsudky zakódovanými v algoritmech a riziky pro bezpečnost pacientů, kybernetickou bezpečnost a životní prostředí.
Kromě toho varuje, že systémy trénované primárně na datech shromážděných od jednotlivců v zemích s vysokými příjmy nemusí fungovat dobře pro jednotlivce v prostředí s nízkými a středními příjmy.
V této souvislosti WHO zastává názor, že systémy umělé inteligence musí být pečlivě navrženy tak, aby odrážely rozmanitost socioekonomických a zdravotnických podmínek a byly doprovázeny školením v oblasti digitálních dovedností a zapojením komunity.
To je zvláště důležité pro zdravotnické pracovníky, kteří vyžadují digitální gramotnost nebo rekvalifikaci, aby mohli bojovat se stroji, které by mohly zpochybnit rozhodování a autonomii poskytovatelů a pacientů.
Hlavní zásady
Protože lidé musí mít nadále kontrolu nad systémy zdravotní péče a lékařskými rozhodnutími, je prvním vůdčím principem ochrana lidské autonomie.
Za druhé, návrháři umělé inteligence by měli chránit soukromí a důvěrnost tím, že pacientům poskytnou platný informovaný souhlas prostřednictvím vhodných právních rámců.
Pro podporu lidského blaha a veřejného zájmu vyžaduje třetí zásada, aby návrháři AI zajistili regulační požadavky na bezpečnost, přesnost a účinnost, včetně opatření kontroly kvality.
V rámci transparentnosti a porozumění čtvrtá zásada vyžaduje, aby byly informace zveřejněny nebo zdokumentovány před navržením nebo nasazením technologie AI.
Technologie AI sice plní specifické úkoly, ale musí je používat zodpovědně, za vhodných podmínek vhodně vyškolenými lidmi, což je čtvrtá zásada.
Pátým je zajistit inkluzivitu a spravedlnost, aby umělá inteligence pro zdraví byla přístupná co nejširšímu počtu lidí bez ohledu na věk, pohlaví, etnický původ nebo jiné charakteristiky chráněné podle lidská práva kódy.
Poslední princip nabádá designéry, vývojáře a uživatele, aby transparentně vyhodnocovali aplikace během skutečného používání a určili, zda umělá inteligence adekvátně a vhodně reaguje na očekávání a požadavky.
