SZO objavljuje prvo globalno izvješće o umjetnoj inteligenciji (AI) u zdravstvu i šest vodećih načela za njegov dizajn i uporabu
Umjetna inteligencija (AI) daje velika obećanja za poboljšanje pružanja zdravstvene zaštite i lijekova širom svijeta, ali samo ako su etika i ljudska prava u središtu njenog dizajna, primjene i upotrebe, prema novim danas objavljenim smjernicama SZO-a.
Izvještaj, Etika i upravljanje umjetnom inteligencijom za zdravlje, rezultat je dvogodišnjih konzultacija koje je održao panel međunarodnih stručnjaka koje je imenovao WHO.
"Kao i sva nova tehnologija, umjetna inteligencija ima ogroman potencijal za poboljšanje zdravlja milijuna ljudi širom svijeta, ali kao i sva tehnologija također se može zloupotrijebiti i nanijeti štetu", rekao je dr. Tedros Adhanom Ghebreyesus, generalni direktor SZO. "Ovo važno novo izvješće pruža vrijedan vodič za zemlje o tome kako maksimizirati koristi od umjetne inteligencije, istovremeno smanjujući rizike i izbjegavajući zamke."
Umjetna inteligencija može biti, a u nekim se bogatim zemljama već koristi za poboljšanje brzine i točnosti dijagnoze i probira na bolesti; za pomoć u kliničkoj njezi; ojačati zdravstveno istraživanje i razvoj lijekova te podržati različite javnozdravstvene intervencije, poput nadzora bolesti, odgovora na izbijanje bolesti i upravljanja zdravstvenim sustavima.
AI bi također mogao osnažiti pacijente da preuzmu veću kontrolu nad vlastitom zdravstvenom zaštitom i bolje razumiju svoje nove potrebe. Također bi mogao omogućiti zemljama i ruralnim zajednicama siromašnim resursima, gdje su pacijenti često ograničeni pristup zdravstvenim radnicima ili medicinskim radnicima, da premoste praznine u pristupu zdravstvenim uslugama.
Međutim, novo izvješće WHO-a upozorava da se ne precjenjuju dobrobiti AI za zdravlje, posebno kada se to događa nauštrb osnovnih ulaganja i strategija potrebnih za postizanje univerzalnog zdravstvenog pokrivanja.
Također ističe da su mogućnosti povezane s izazovima i rizicima, uključujući neetično prikupljanje i upotrebu zdravstvenih podataka; pristranosti kodirane u algoritmima i rizici AI za sigurnost pacijenta, cyber sigurnost i okoliš.
Primjerice, dok su ulaganja privatnog i javnog sektora u razvoj i primjenu umjetne inteligencije presudna, neuređena uporaba umjetne inteligencije mogla bi podrediti prava i interese pacijenata i zajednica snažnim komercijalnim interesima tehnoloških tvrtki ili interesima vlada u nadzoru i socijalna kontrola.
Izvještaj također naglašava da sustavi obučeni prvenstveno na podacima prikupljenim od pojedinaca u zemljama s visokim dohotkom možda neće imati dobar učinak za pojedince u okruženjima s niskim i srednjim dohotkom.
Stoga bi sustavi umjetne inteligencije trebali biti pažljivo dizajnirani da odražavaju raznolikost društveno-ekonomskih i zdravstvenih uvjeta. Oni bi trebali biti popraćeni obukom o digitalnim vještinama, angažmanom u zajednici i podizanjem svijesti, posebno za milijune zdravstvenih radnika kojima će biti potrebna digitalna pismenost ili prekvalifikacija ako su njihove uloge i funkcije automatizirani, i koji se moraju boriti sa strojevima koji bi mogli osporiti odluku - stvaranje i autonomija pružatelja i pacijenata.
U konačnici, vođeni postojećim zakonima i obvezama ljudskih prava, te novim zakonima i politikama koji sadrže etička načela, vlade, pružatelji usluga i dizajneri moraju zajedno raditi na rješavanju problema etike i ljudskih prava u svakoj fazi dizajniranja, razvoja i primjene AI tehnologije .
Šest načela kako bi se osiguralo da AI djeluje u javnom interesu u svim zemljama
Kako bi ograničio rizike i maksimalizirao mogućnosti nužne za uporabu umjetne inteligencije za zdravlje, SZO daje sljedeća načela kao osnovu za regulaciju i upravljanje umjetnom inteligencijom:
Zaštita ljudske autonomije: U kontekstu zdravstvene zaštite to znači da bi ljudi trebali i dalje kontrolirati zdravstvene sustave i medicinske odluke; privatnost i povjerljivost trebaju biti zaštićeni, a pacijenti moraju dati valjani informirani pristanak putem odgovarajućih pravnih okvira za zaštitu podataka.
Promicanje dobrobiti i sigurnosti ljudi i javnog interesa. Dizajneri AI tehnologija trebaju zadovoljiti regulatorne zahtjeve za sigurnost, točnost i učinkovitost za dobro definirane slučajeve uporabe ili indikacije. Moraju biti dostupne mjere kontrole kvalitete u praksi i poboljšanja kvalitete u uporabi AI.
Osiguravanje transparentnosti, objašnjivosti i razumljivosti. Transparentnost zahtijeva objavljivanje ili dokumentiranje dovoljnih podataka prije dizajniranja ili primjene AI tehnologije. Takve informacije moraju biti lako dostupne i omogućiti smislene javne konzultacije i raspravu o tome kako je tehnologija dizajnirana i kako je treba ili ne treba koristiti.
Poticanje odgovornosti i odgovornosti. Iako AI tehnologije obavljaju specifične zadatke, odgovornost je dionika osigurati da ih koriste pod odgovarajućim uvjetima i na odgovarajući način obučeni ljudi. Učinkoviti mehanizmi trebali bi biti dostupni za ispitivanje i pravno liječenje za pojedince i skupine na koje negativno utječu odluke temeljene na algoritmima.
Osiguravanje inkluzivnosti i pravednosti. Inkluzivnost zahtijeva da umjetna inteligencija bude osmišljena tako da potiče najširu moguću pravednu uporabu i pristup, bez obzira na dob, spol, spol, prihod, rasu, etničku pripadnost, seksualnu orijentaciju, sposobnost ili druge karakteristike zaštićene kodeksima o ljudskim pravima.
Promicanje umjetne inteligencije koja je odgovorna i održiva. Dizajneri, programeri i korisnici trebali bi kontinuirano i transparentno procjenjivati AI aplikacije tijekom stvarne upotrebe kako bi utvrdili reagira li AI primjereno i prikladno na očekivanja i zahtjeve. AI sustavi također trebaju biti dizajnirani tako da umanjuju njihove posljedice po okoliš i povećavaju energetsku učinkovitost. Vlade i tvrtke trebale bi se pozabaviti očekivanim poremećajima na radnom mjestu, uključujući obuku za zdravstvene radnike kako bi se prilagodili uporabi sustava AI i potencijalne gubitke posla zbog upotrebe automatiziranih sustava.
Ova će načela voditi budući rad SZO-a za potporu naporima kako bi se osiguralo da se puni potencijal umjetne inteligencije u zdravstvu i javnom zdravstvu iskoristi u korist svih.
Sa https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its -dizajn-i-upotreba
