Medicina nuo seno siejama su aukštais etikos standartais ir profesine atsakomybe. Tai atsispindi tokiuose pamatiniuose dokumentuose kaip Hipokrato priesaika (Miles, 2005), Ženevos deklaracija ir Helsinkio deklaracija (Tröhler, 2008). Tačiau medicinos istorijoje netrūksta ir praktikų, padariusių didelę žalą pažeidžiamiausioms visuomenės grupėms. Plačiai žinomi pavyzdžiai – eugenikos politika, priverstinė čiabuvių ir kitų marginalizuotų visuomenės grupių sterilizacija bei medicininiai eksperimentai su asmenimis, turinčiais negalią, be jų laisvo ir informuoto sutikimo. Šie istoriniai pavyzdžiai atskleidžia struktūrinį neteisingumą ir galios santykius, kurie šimtmečius formavo medicinos mokslą ir klinikinę praktiką. Jų pasekmės išlieka aktualios ir šiandien – jos atsispindi šališkuose medicininiuose duomenyse ir diskriminaciniuose modeliuose, kuriuos sveikatos priežiūroje taikomos DI sistemos gali perimti ir toliau įtvirtinti.
Biomedicinos etika (arba bioetika) – tai taikomosios etikos sritis, nagrinėjanti moralinius klausimus, kylančius medicinos praktikoje ir biomedicininiuose moksliniuose tyrimuose (Vevaina ir kt., 1993). Biomedicinos etika grindžiama keturiais pagrindiniais principais, kuriuos suformulavo Beauchamp ir Childress (Beauchamp ir Childress, 2019):
Autonomija: Pagarba asmens gebėjimui savarankiškai priimti sprendimus. Autonomiją lemia dvi pagrindinės sąlygos: laisvė, suprantama kaip nepriklausomumas nuo kontroliuojančių išorinių veiksnių, ir veiksnumas, t. y. gebėjimas sąmoningai ir tikslingai veikti.
Nekenkimas: Pareiga vengti veiksmų, galinčių sukelti žalą.
Geranoriškumas: Pareiga aktyviai siekti paciento gerovės – užkirsti kelią žalai, ją mažinti ar šalinti bei skatinti tai, kas naudinga pacientui.
Teisingumas: Pareiga sąžiningai paskirstyti naudą, riziką ir išlaidas. Sveikatos priežiūros ir mokslinių tyrimų kontekste teisingumas reiškia sąžiningą, lygiavertį ir tinkamą požiūrį į kiekvieną asmenį ir gyventojų grupę, atsižvelgiant į rasės, etninės kilmės, lyties, socialinės padėties ir kitus sveikatos netolygumus lemiančius veiksnius.
Šie principai nėra vien teorinės nuostatos – jie sudaro sveikatos priežiūros specialisto profesinės veiklos etinį pagrindą ir yra tiesiogiai susiję su DI sistemų taikymu priimant klinikinius sprendimus. Kai klinikinėje praktikoje naudojamos šališkos DI sistemos, kyla grėsmė šių principų įgyvendinimui.
Sparti dirbtinio intelekto technologijų plėtra iškėlė daugybę etinių klausimų, tarp kurių vieną svarbiausių vietų užima šališkumo ir diskriminacijos problemos (Christoforaki ir Beyan, 2022). Reaguojant į šiuos iššūkius, susiformavo DI etika – taikomosios etikos sritis, apimanti „vertybių, principų ir metodų visumą, kuri remiasi visuotinai pripažintomis teisingo ir neteisingo elgesio normomis bei padeda užtikrinti etišką dirbtinio intelekto technologijų kūrimą ir naudojimą“ (Leslie, 2019, p. 3).
DI etika remiasi tiek bioetikos, tiek žmogaus teisių principais. Žmogaus teisių požiūris apima teisę į lygybę, laisvę ir orumą prieš įstatymą, pilietinių, politinių ir socialinių teisių apsaugą, visuotinį kiekvieno asmens teisinio subjektiškumo pripažinimą bei teisę laisvai dalyvauti visuomenės gyvenime (Leslie, 2019).
Vėliau šie keturi biomedicinos etikos principai buvo pritaikyti dirbtinio intelekto sistemoms, papildant juos penktuoju principu – paaiškinamumu (Floridi ir kt., 2018):
Autonomija – žmogaus teisė pačiam spręsti, kada priimti sprendimus savarankiškai, o kada juos patikėti DI sistemai, kartu išvengiant pernelyg didelio pasitikėjimo automatizuotais sprendimais.
Nekenkimas– pareiga užkirsti kelią žalai, kuri gali kilti tiek dėl žmonių veiksmų, tiek dėl nenumatyto DI sistemų veikimo.
Geranoriškumas – pareiga skatinti žmonių gerovę, saugoti jų orumą ir prisidėti prie tvarios visuomenės raidos.
Teisingumas – pareiga užkirsti kelią esamai diskriminacijai, ją mažinti, užkirsti kelią naujų neteisybės formų atsiradimui ir užtikrinti, kad DI technologijų teikiama nauda būtų paskirstoma sąžiningai.
Paaiškinamumas – pareiga užtikrinti, kad DI sistemų sprendimų priėmimo procesai būtų suprantami, paaiškinami ir už juos būtų galima prisiimti atsakomybę.
📌 Kodėl paaiškinamumas svarbus sveikatos priežiūros specialistams? Kai DI sistema pateikia diagnozės ar gydymo rekomendaciją, jums tenka tiek etinė, tiek profesinė atsakomybė suprasti, kuo ši rekomendacija grindžiama. Jei DI sistemos sprendimų priėmimo logikos neįmanoma paaiškinti ar kritiškai įvertinti, nukenčia ne tik jūsų galimybė priimti pagrįstus klinikinius sprendimus, bet ir paciento teisė priimti informuotą sprendimą dėl savo sveikatos priežiūros.
Palyginti su medicina, dirbtinio intelekto kūrimo srityje vis dar trūksta:
Bendrų tikslų ir profesinės atsakomybės veikti visuomenės interesais;
Ilgametės profesinės tradicijos ir nusistovėjusių profesinės veiklos normų;
Patikrintų metodų, leidžiančių etikos principus nuosekliai taikyti praktikoje;
Veiksmingų teisinių ir profesinės atskaitomybės mechanizmų.
Todėl vien etikos principų nepakanka siekiant užtikrinti saugų ir atsakingą DI sistemų naudojimą sveikatos priežiūroje.
Lyčių ir rasinis šališkumas biomedicininėse DI sistemose nėra atsitiktinės ar pavienės techninės klaidos – tai sisteminės rizikos, galinčios pasireikšti visuose DI sistemos gyvavimo ciklo etapuose. Širdies ir kraujagyslių ligų, depresijos ir cukrinio diabeto srityse šališkumas kyla dėl istoriškai netolygių klinikinių duomenų rinkinių, nevienodos diagnostikos praktikos, pakaitinių rodiklių, atspindinčių struktūrines nelygybes, ir skirtingų DI sistemų taikymo sąlygų, dėl kurių jų teikiama nauda ir galima žala pasiskirsto netolygiai.
Šie duomenys patvirtina, kad biomedicininis DI yra tiesiogiai susijęs su daugeliu Europos Sąjungos pagrindinių teisių chartijoje saugomų teisių ir principų. Tarp jų – žmogaus orumas, lygybė prieš įstatymą, diskriminacijos draudimas, teisė į asmens neliečiamybę, teisė į sveikatos priežiūrą, teisė į asmens duomenų apsaugą ir teisė į veiksmingą teisinę gynybą.
Todėl Europos Sąjungos ir nacionaliniu lygmeniu taikomas DI sistemų reguliavimas sveikatos priežiūros srityje turi vertinti šališkumo mažinimą ne kaip savanorišką etinę priemonę, o kaip privalomą teisėto, pagrindines teises užtikrinančio DI sistemų diegimo ir naudojimo sąlygą.
2018 m. Europos Tarybos finansuotoje ataskaitoje (Committee of experts on internet intermediaries (MSI-NET), 2018) nurodoma, kad algoritmai ir automatizuotas duomenų tvarkymas didžiausią poveikį daro šioms žmogaus teisėms:
teisei į teisingą bylos nagrinėjimą ir tinkamą teisinį procesą;
teisei į privatų gyvenimą ir asmens duomenų apsaugą;
saviraiškos laisvei;
teisei į veiksmingą teisinę gynybą;
susirinkimų ir asociacijų laisvei;
diskriminacijos draudimui;
socialinėms teisėms ir galimybei naudotis viešosiomis paslaugomis;
teisei į laisvus rinkimus.
Ataskaitoje taip pat aiškiai nurodoma, kad šališki algoritmai gali tapti diskriminacijos priežastimi dėl asmens amžiaus, seksualinės orientacijos, rasės, lyties ar socialinės ir ekonominės padėties (MSI-NET, 2018, p. 27). Be to, Europos Tarybos pagrindų konvencija dėl dirbtinio intelekto, žmogaus teisių, demokratijos ir teisinės valstybės numato, kad valstybės narės „priima arba išlaiko priemones, kuriomis siekiama užtikrinti, kad veikla visais dirbtinio intelekto sistemų gyvavimo ciklo etapais atitiktų lygybės, įskaitant moterų ir vyrų lygybę, ir diskriminacijos draudimo principus, kaip nustatyta taikytinoje tarptautinėje ir nacionalinėje teisėje“ (Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, 2024, p. 4).
Kaip aptarta I modulyje, biomedicininio dirbtinio intelekto kontekste svarbiausi Europos Sąjungos pagrindinių teisių chartijos straipsniai yra 21 straipsnis (Diskriminacijos draudimas), 23 straipsnis (Moterų ir vyrų lygybė) ir 35 straipsnis (Sveikatos apsauga). Kai klinikinėje praktikoje naudojamos DI sistemos skirtingai veikia pacientus dėl jų lyties, rasės ar etninės kilmės, kyla tiesioginė grėsmė šiomis Chartijos nuostatomis saugomų teisių įgyvendinimui.
Europos Sąjunga sukūrė daugiasluoksnę biomedicininio dirbtinio intelekto teisinio reguliavimo sistemą, kuri grindžiama keturiais vienas kitą papildančiais teisės aktais:
Dirbtinio intelekto aktas nustato rizika grindžiamą DI sistemų reguliavimo sistemą. Daugelis sveikatos priežiūros srityje naudojamų DI sistemų, įskaitant klinikinių sprendimų paramos sistemas ir diagnostikos algoritmus, priskiriamos didelės rizikos DI sistemoms. Joms taikomi griežti reikalavimai, susiję su rizikos valdymu, duomenų valdysena, skaidrumu, žmogaus priežiūra ir sistemų tikslumu. Šie reikalavimai taip pat apima pareigą nustatyti ir mažinti diskriminacinių rezultatų riziką skirtingų demografinių grupių atžvilgiu (Dirbtinio intelekto aktas, 2024).
Sveikatos priežiūros įstaigoms, diegiančioms DI sistemas, Dirbtinio intelekto aktas taip pat nustato konkrečias pareigas. Sveikatos priežiūros specialistams ir gydymo įstaigoms svarbiausi reikalavimai yra šie:
Reikalavimai didelės rizikos DI sistemoms: DI sistemų tiekėjai privalo įdiegti rizikos valdymo sistemą, apimančią visą DI sistemos gyvavimo ciklą (9 straipsnis), ir užtikrinti tinkamą duomenų valdyseną (10 straipsnis), įskaitant aiškius šališkumo nustatymo ir mažinimo reikalavimus, duomenų reprezentatyvumo vertinimą bei galimų sistemos veikimo skirtumų skirtingose gyventojų grupėse pagal lytį, rasę ar etninę kilmę analizę. Jie taip pat privalo užtikrinti skaidrumą ir pateikti naudotojams informaciją apie sistemos veikimą (13 straipsnis), numatyti veiksmingą žmogaus priežiūrą, padedančią išvengti automatizavimo šališkumo ir leidžiančią prireikus nepaisyti arba sustabdyti DI sistemos veikimą (14 straipsnis), bei užtikrinti sistemos tikslumą, patikimumą ir kibernetinį saugumą, atsižvelgiant į grįžtamojo ryšio ciklų ir DI sistemoms būdingų kibernetinių atakų keliamą riziką (15 straipsnis).
DI sistemų naudotojų pareigos: Gydymo įstaigos ir kiti didelės rizikos DI sistemų naudotojai privalo naudoti DI sistemas pagal tiekėjo pateiktas instrukcijas (26 straipsnis), užtikrinti kompetentingą žmogaus priežiūrą (26 straipsnis), o tais atvejais, kai patys valdo įvesties duomenis, užtikrinti, kad jie būtų tinkami, reprezentatyvūs ir išsamūs, taip pat, kai tai įmanoma, atspindėtų klinikinės populiacijos demografinę įvairovę (26 straipsnis). Jie taip pat privalo stebėti DI sistemos veikimą (26 straipsnis), mažiausiai šešis mėnesius saugoti automatiškai sugeneruotus sistemos žurnalus, jeigu kituose teisės aktuose nenustatyta kitaip (26 straipsnis), ir nepagrįstai nedelsdami pranešti tiekėjui bei kompetentingoms institucijoms apie rimtus incidentus ar DI sistemos veikimo sutrikimus, ypač jei jie gali lemti nevienodus klinikinius rezultatus skirtingoms pacientų grupėms (26 ir 73 straipsniai).
Poveikio pagrindinėms teisėms vertinimas (FRIA): Prieš pradedant naudoti tam tikras didelės rizikos DI sistemas, viešojo sektoriaus institucijos ir privatūs subjektai, teikiantys viešąsias paslaugas, privalo atlikti poveikio pagrindinėms teisėms vertinimą, kuriame aprašomi DI sistemos naudojimo procesai, paveikiamos grupės, galimos rizikos, numatomos žmogaus priežiūros priemonės bei rizikos mažinimo ir skundų nagrinėjimo mechanizmai. Atlikus vertinimą, apie tai turi būti pranešta rinkos priežiūros institucijai naudojant Europos DI biuro parengtą formą (28 straipsnis). Daugelyje Europos Sąjungos valstybių narių šis reikalavimas yra tiesiogiai aktualus viešosioms gydymo įstaigoms, nes leidžia dar prieš pradedant naudoti DI sistemą nustatyti ir įvertinti galimą diskriminacijos bei nevienodo poveikio skirtingoms pacientų grupėms, įskaitant pagal lytį, rasę ar etninę kilmę, riziką.
📌 Svarbu: Kalbant apie Dirbtinio intelekto akto taikymą, 2025 m. jau įsigaliojo draudimai taikyti tam tikrą neleistiną DI praktiką, taip pat pradėtos taikyti kai kurios priežiūros ir valdymo nuostatos (Europos Komisija, 2024). Kitas svarbus etapas – 2026 m. rugpjūtis, kai bus pradėta taikyti didžioji dalis Akto reikalavimų, įskaitant nuostatas dėl III priede nurodytų didelės rizikos DI sistemų ir 50 straipsnyje nustatytus skaidrumo reikalavimus. 2027 m. rugpjūtį šie reikalavimai bus pradėti taikyti didelės rizikos DI sistemoms, integruotoms į reglamentuojamus gaminius, įskaitant daugelį medicinos priemonėse naudojamų DI sistemų.
Medicinos srityje naudojamoms DI sistemoms taip pat taikomi medicinos priemones reglamentuojantys teisės aktai ir susijusios gairės, įskaitant Medicinos priemonių reglamentą (MPR) (Europos Sąjunga, 2017a) ir In vitro diagnostikos medicinos priemonių reglamentą (IVPR) (Europos Sąjunga, 2017b). Šie reglamentai nustato medicinos technologijų, įskaitant DI sistemas, saugos ir veiksmingumo reikalavimus bei įpareigoja atlikti klinikinį vertinimą ir stebėseną po pateikimo rinkai, kartu užtikrinant, kad sistemos vienodai veiksmingai veiktų skirtingose gyventojų grupėse.
Dirbtinio intelekto akto ir galiojančių medicinos priemonių teisės aktų santykis paaiškinamas Gairėse dėl Dirbtinio intelekto akto ir MPR/IVPR sąveikos (Medical Device Coordination Group & European AI Board, 2025). Jose nurodoma, kad Dirbtinio intelekto aktas taikomas kartu su šiais dviem reglamentais, o ne juos pakeičia. Praktikoje tai reiškia, kad daugeliui medicinoje naudojamų DI sistemų vienu metu taikomi abiejų teisinių sistemų reikalavimai. Gairėse taip pat paaiškinama, kada medicinoje naudojama DI sistema laikoma didelės rizikos DI sistema pagal Dirbtinio intelekto aktą. Dažniausiai taip yra tuomet, kai pati DI sistema yra medicinos priemonė (arba medicinos priemonės saugos komponentas), kuriai taikoma paskelbtosios įstaigos atliekama trečiosios šalies atitikties vertinimo procedūra.
Sveikatos priežiūros įstaigoms, įsigyjančioms DI sistemas, tai reiškia, kad iš tiekėjų turi būti reikalaujama pateikti informaciją apie sistemos atitiktį taikomiems reglamentams, įskaitant jos klasifikaciją pagal MPR arba IVPR, paskelbtosios įstaigos dalyvavimą, kai tai taikoma, taip pat duomenis apie sistemos veikimą atskirose gyventojų grupėse ir taikomas šališkumo mažinimo priemones, jei jos yra aktualios. Viešųjų pirkimų sutartyse taip pat turėtų būti numatyta tiekėjų pareiga pateikti visą dokumentaciją, skaidrumo informaciją ir žmogaus priežiūros priemones, kurių DI sistemų naudotojams reikia siekiant įvykdyti Dirbtinio intelekto akte nustatytus reikalavimus, įskaitant priemones, padedančias užtikrinti vienodai kokybiškus sveikatos priežiūros rezultatus visiems pacientams.
Praktikoje DI sistemų naudojimą sveikatos priežiūros srityje reglamentuoja ir keli kiti svarbūs Europos Sąjungos teisės aktai. Vienas svarbiausių iš jų – Bendrasis duomenų apsaugos reglamentas (BDAR), nes sveikatos duomenys priskiriami specialių kategorijų asmens duomenims (Europos Sąjunga, 2016). Diegiant DI sistemas sveikatos priežiūros įstaigose dažnai privaloma atlikti poveikio duomenų apsaugai vertinimą (PDAV), kurį Dirbtinio intelekto aktas aiškiai susieja su DI sistemų naudotojų pareigomis (26 straipsnio 9 dalis ir 27 straipsnio 4 dalis). Vertinant poveikį, kai tai įmanoma, taip pat turi būti atsižvelgiama į galimą nevienodą DI sistemos poveikį skirtingoms gyventojų grupėms pagal lytį, rasę ar etninę kilmę.
Europos sveikatos duomenų erdvės (ESDE) tikslas – sudaryti sąlygas saugiai naudoti sveikatos duomenis sveikatos priežiūros paslaugoms teikti ir moksliniams tyrimams vykdyti, kartu užtikrinant aukštą asmens duomenų apsaugos lygį (Europos Sąjunga, 2025). Tikimasi, kad ESDE atliks svarbų vaidmenį sudarant galimybes kurti reprezentatyvesnius biomedicininio DI mokymo duomenų rinkinius, skatins į lygybę orientuotą DI sistemų vertinimą ir padės mažinti riziką, kad tam tikros demografinės gyventojų grupės bus nepakankamai reprezentuojamos (Europos Komisija, 2025).
📌 Pagrindiniai teisiniai terminai
DI aktas (ES Dirbtinio intelekto aktas): pagrindinis Europos Sąjungos teisės aktas, nustatantis rizika grindžiamą DI sistemų reguliavimo sistemą. Juo daugelis sveikatos priežiūroje naudojamų DI sistemų priskiriamos didelės rizikos DI sistemoms, kurioms taikomi griežti kūrimo, diegimo, naudojimo ir stebėsenos reikalavimai.
Didelės rizikos DI sistema: pagal Dirbtinio intelekto aktą, tai DI sistema, galinti kelti reikšmingą riziką žmonių sveikatai, saugai ar pagrindinėms teisėms. Šiai kategorijai priskiriama dauguma sveikatos priežiūroje naudojamų klinikinių sprendimų paramos sistemų ir diagnostikos algoritmų, todėl joms taikomi griežčiausi kūrimo, diegimo, naudojimo ir priežiūros reikalavimai.
Medicinos priemonių reglamentas (MPR): Europos Sąjungos reglamentas, nustatantis medicinos priemonių, įskaitant DI grindžiamas diagnostikos priemones ir klinikinių sprendimų paramos sistemas, saugos ir veiksmingumo reikalavimus. Daugeliui sveikatos priežiūroje naudojamų DI sistemų MPR taikomas kartu su Dirbtinio intelekto aktu.
In vitro diagnostikos medicinos priemonių reglamentas (IVPR):Europos Sąjungos reglamentas, nustatantis diagnostikos medicinos priemonių, skirtų žmogaus organizmo mėginiams (pvz., kraujo ar audinių mėginiams) tirti, saugos ir veiksmingumo reikalavimus. Kaip ir Medicinos priemonių reglamentas (MPR), IVPR daugeliui sveikatos priežiūroje naudojamų DI sistemų taikomas kartu su Dirbtinio intelekto aktu.
Bendrasis duomenų apsaugos reglamentas (BDAR): pagrindinis Europos Sąjungos teisės aktas, reglamentuojantis asmens duomenų apsaugą. Jis ypač svarbus sveikatos priežiūros srityje naudojamoms DI sistemoms, nes sveikatos duomenys priskiriami specialių kategorijų asmens duomenims, kuriems taikomi griežtesni apsaugos reikalavimai. Daugeliu atvejų prieš pradedant tvarkyti tokius duomenis taip pat privaloma atlikti poveikio duomenų apsaugai vertinimą.
Poveikio duomenų apsaugai vertinimas (PDAV): BDAR nustatyta procedūra, kurią privaloma atlikti tais atvejais, kai asmens duomenų tvarkymas (įskaitant DI sistemų naudojimą) gali kelti didelę riziką asmenų teisėms ir laisvėms. Sveikatos priežiūros įstaigoms, diegiančioms DI sistemas, dažnai kyla pareiga atlikti poveikio duomenų apsaugai vertinimą.
Poveikio pagrindinėms teisėms vertinimas (FRIA): Dirbtinio intelekto akte nustatyta pareiga viešojo sektoriaus institucijoms, įskaitant viešąsias sveikatos priežiūros įstaigas, prieš pradedant naudoti tam tikras didelės rizikos DI sistemas įvertinti galimą jų poveikį pagrindinėms teisėms. Vertinime turi būti aprašytos galimą poveikį patiriančios grupės, nustatytos rizikos ir numatytos jų mažinimo priemonės.
Europos sveikatos duomenų erdvė (ESDE): Europos Sąjungos iniciatyva, kuria siekiama sudaryti sąlygas saugiai naudoti sveikatos duomenis sveikatos priežiūros paslaugoms teikti, moksliniams tyrimams, inovacijoms ir sveikatos politikos formavimui, kartu užtikrinant aukštą asmens duomenų apsaugos lygį. Tikimasi, kad ESDE padės kurti reprezentatyvesnius duomenų rinkinius ir prisidės prie teisingesnių bei patikimesnių biomedicininio DI sistemų kūrimo.
Automatizavimo šališkumas: žmonių polinkis pernelyg pasitikėti automatizuotų sistemų, įskaitant DI sistemas, pateikiamomis rekomendacijomis, net ir tais atvejais, kai jos gali būti neteisingos arba netinkamos konkrečiam pacientui.
DI sistemos naudotojas: pagal Dirbtinio intelekto aktą tai organizacija, pavyzdžiui, sveikatos priežiūros įstaiga, kuri naudoja DI sistemą profesinėje veikloje. DI sistemų naudotojams taikomos konkrečios teisinės pareigos, kurios skiriasi nuo DI sistemos tiekėjui ar kūrėjui tenkančių pareigų.
Šiame modulyje aptarti teisiniai ir etiniai reikalavimai sveikatos priežiūros specialistams, naudojantiems DI sistemas, reiškia konkrečias profesines pareigas. Jos apima:
Žmogaus priežiūrą: klinikinėje praktikoje naudojamos DI sistemos, skirtos diagnostikai, rizikos vertinimui, atrankai ar pagalbai priimant sprendimus dėl gydymo, neturi veikti kaip savarankiški sprendimų priėmėjai. Jūs turite ne tik teisę, bet ir pareigą kritiškai vertinti DI sistemų pateikiamas išvadas, o ne jomis aklai pasikliauti. Savo ruožtu sveikatos priežiūros įstaiga privalo sudaryti sąlygas šią pareigą tinkamai įgyvendint
Skaidrumas: pacientai turi būti informuojami kiekvieną kartą, kai priimant jiems svarbius klinikinius sprendimus naudojamos DI sistemos, įskaitant atranką, pirmenybės nustatymą ar rizikos įvertinimą. Kai viešosiose sveikatos priežiūros paslaugose naudojami DI sistemų sugeneruoti rezultatai, turi būti aiškiai nurodyta, kad jie parengti naudojant DI, taip pat pateikta suprantama informacija apie DI sistemos paskirtį, jos vaidmenį, ribotumus ir žinomą šališkumo riziką. Pacientai taip pat turi būti informuojami, kai jų asmens duomenys yra naudojami DI sistemų apmokymui, testavimui ar tolesniam mokymuisi, ypač kai tvarkomi jautrūs sveikatos duomenys. Šios skaidrumo priemonės yra būtinos siekiant užtikrinti Europos Sąjungos pagrindinių teisių chartijoje įtvirtintą teisę į asmens duomenų apsaugą ir teisę į veiksmingą teisinę gynybą, taip pat sudaryti galimybę asmenims veiksmingai ginčyti sprendimus, kurie gali neigiamai paveikti jų teises ar interesus.
Pranešimas apie incidentus: pastebėję, kad DI sistemos rezultatai yra nenuoseklūs, nepaaiškinami arba gali būti diskriminaciniai, ypač lyčių ar rasinių ir etninių grupių pacientų atžvilgiu, turite pareigą šiuos atvejus dokumentuoti ir pranešti apie juos pagal jūsų sveikatos priežiūros įstaigoje nustatytą priežiūros ir incidentų valdymo tvarką.
Viešieji pirkimai: Sveikatos priežiūros įstaigai įsigyjant DI sistemas, sprendimai dėl jų pasirinkimo turėtų būti grindžiami ne tik techniniais ar ekonominiais kriterijais, bet ir pagrindinių teisių apsaugos bei šališkumo vertinimu. Pirmenybė turėtų būti teikiama DI sistemoms, kurių šališkumo mažinimo priemonės yra patikimos, skaidrios ir nepriklausomai įvertintos.
📌Svarbiausia žinutė: ES teisinis reguliavimas atsakomybės už saugų ir teisėtą DI sistemų naudojimą neperkelia vien tik jų tiekėjams. Naudojant DI sistemas sveikatos priežiūros įstaigose, tiek pačiai įstaigai, kaip DI sistemos naudotojai, tiek jums, kaip sveikatos priežiūros specialistui, tenka konkrečios teisinės pareigos užtikrinti, kad naudojamos DI sistemos būtų saugios, skaidrios ir teisingai veiktų visų pacientų atžvilgiu.
Dabar jau turite tvirtą pagrindą, leidžiantį suprasti tiek etinius principus, tiek teisinius reikalavimus, reglamentuojančius DI naudojimą sveikatos priežiūroje. V modulyje šias žinias pritaikysime praktikoje. Jame bus pristatytas DI reguliavimo modelis – laikantis Europos Sąjungos pagrindinių teisių chartijos nuostatų sukurtas įrankis, skirtas ligoninėms ir pilietinės visuomenės organizacijoms. Šis modelis pateikia praktinę DI sistemų valdysenos sistemą, apimančią visą jų gyvavimo ciklą – nuo įsigijimo ir validavimo iki diegimo, stebėsenos ir atskaitomybės užtikrinimo.
Toliau: Modulis V
Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics (8th ed).
Christoforaki, M., & Beyan, O. (2022). AI Ethics—A Bird’s Eye View. AI Ethics—A Bird’s Eye View, 12(9), Article 9. https://doi.org/10.3390/app12094130
Committee of experts on internet intermediaries (MSI-NET). (2018). Algorithms and human rights—Study on the human rights dimensions of automated data processing techniques and possible regulatory implications [Study]. Council of Europe. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5
Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, Council of Europe Treaty Series—No. 225 (2024). https://rm.coe.int/1680afae3c
European Commission, European Health Data Space (EHDS), Brussels: European Commission, 2025.
European Commission, Timeline for Implementation of the EU AI Act, Brussels: European Commission, 2024.
European Union, Regulation (EU) 2016/679 on General Data Protection Regulation (GDPR), Brussels: EU, 2016.
European Union, Regulation (EU) 2017/745 on Medical Devices (MDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.
European Union, Regulation (EU) 2017/746 on In Vitro Diagnostic Medical Devices (IVDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.
European Union, Regulation (EU) 2025/327 on the European Health Data Space (EHDS), Brussels: European Union, 2025.
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5
Leslie, D. (2019). Understanding artificial intelligence ethics and safety: A guide for the responsible design and implementation of AI systems in the public sector. Zenodo. https://doi.org/10.5281/ZENODO.3240529
Medical Device Coordination Group & European AI Board, Guidance on MDR/IVDR and AI Act Interplay, Brussels: European Commission, 2025.
Miles, S. H. (2005). The Hippocratic Oath and the Ethics of Medicine. Oxford University Press, USA.
Regulation (EU) 2024/1689 of the European Parliament and of the Council, Laying Down Harmonised Rules on Artificial Intelligence (AI Act), PE/24/2024/REV/1, Official Journal of the European Union, 13 June 2024.
Tröhler, U. (2008). The Historical Development of International Codes of Ethics for Human Subjects Research. In R. B. Baker & L. B. McCullough (Eds), The Cambridge World History of Medical Ethics (1st edn, pp. 566–575). Cambridge University Press. https://doi.org/10.1017/CHOL9780521888790.052
Vevaina, J. R., Nora, L. M., & Bone, R. C. (1993). Issues in biomedical ethics. Disease-a-Month, 39(12), 874–925.