Медицината като научна дисциплина отдавна се свързва с високи етични стандарти и професионална отговорност, което намира израз в норми, вариращи от Хипократовата клетва (Miles, 2005) до Женевската и Хелзинкската декларации (Tröhler, 2008). Историята на медицината обаче включва и практики, които са причинили сериозна вреда на уязвими групи от населението. Добре известни примери за това са евгениката, принудителната стерилизация на коренното и маргинализираното население, както и експериментите без съгласие върху хора с увреждания. Тези исторически провали отразяват структурни несправедливости и властови структури, които са оформяли медицинските изследвания и практика в продължение на векове и чието наследство остава видимо в пристрастните данни и дискриминационните модели, които системите с ИИ в здравеопазването рискуват да наследяват днес.
Биомедицинската етика (или биоетика) е област на приложната етика, която разглежда моралните въпроси, възникващи в практиката на медицината и биомедицинските изследвания (Vevaina et al., 1993). Тя се основава на четири основни принципа, както са дефинирани от Beauchamp & Childress (2019):
Автономност: Зачитане на способността за вземане на решения на автономните лица. Две общи условия са от съществено значение за автономността: свободата, изразяваща се като независимост от контролиращи влияния, и способността за действие, а именно способността за целенасочено действие.
Ненанасяне на вреда: Избягване на причиняването на вреда.
Благодеяние: Предприемане на положителни стъпки за подпомагане на другите, а именно предотвратяване на злото или вредата, премахване на злото или вредата и насърчаване на доброто.
Справедливост: Справедливо разпределяне на ползите, рисковете и разходите. Справедливостта се тълкува като честно, равностойно и подходящо отношение към индивиди и групи, като се имат предвид многобройните неравенства в здравеопазването и научните изследвания, основани на расов произход, етническа принадлежност, пол и социален статус.
Тези принципи представляват етичната основа на професионалната практика на всички специалисти в областта на здравеопазването и са пряко застрашени, когато при вземането на клинични решения се използват пристрастни инструменти с ИИ.
Бързото развитие на приложенията с ИИ поражда широк спектър от етични въпроси, сред които особено място заемат пристрастията и дискриминацията (Christoforaki & Beyan, 2022). В отговор на тези предизвикателства се формира етиката на ИИ като област на приложната етика, представляваща „съвкупност от ценности, принципи и техники, които използват широко приети стандарти за правилно и неправилно поведение, за да насочват моралното поведение при разработването и използването на технологии с изкуствен интелект“ (Leslie, 2019, с. 3).
Етиката на ИИ черпи идеи както от биоетиката, така и от системата за правата на човека. Последният включва правото на равна свобода и достойнство пред закона, защитата на гражданските, политическите и социалните права, универсалното признаване на човешката личност и правото на свободно участие в обществения живот (Leslie, 2019).
Четирите основни принципа на биоетиката впоследствие са адаптирани към областта на ИИ, като към тях е добавен и пети принцип – обяснимост (Floridi et al., 2018):
1. Автономност – правото и способността на хората сами да решават дали да вземат дадено решение лично или да го делегират, като се отчита рискът от прекомерно прехвърляне на решения към машините.
2. Ненанасяне на вреда – предотвратяване на вредите, които могат да произтичат както от човешки намерения и действия, така и от непредвидено поведение на системите с ИИ.
3. Благодеяние – насърчаване на благосъстоянието, съхраняване на човешкото достойнство и подкрепа за устойчивото развитие на обществото и околната среда.
4. Справедливост – предотвратяване и премахване на съществуващи несправедливи форми на дискриминация, избягване на нови вреди и гарантиране на справедливо разпределение на ползите от ИИ.
5. Обяснимост – възможността да се разбира как системите с ИИ достигат до своите решения и да се определя отговорност за тези процеси на вземане на решения.
📌 Защо обяснимостта е важна за здравните специалисти: Когато даден инструмент с ИИ препоръчва диагноза или лечение, Вие носите както етична, така и професионална отговорност да разбирате основанията за тази препоръка. Система, чиито процеси на вземане на решения не могат да бъдат обяснени или подложени на проверка, подкопава не само способността Ви да упражнявате клинична преценка, но и правото на пациента на информирано съгласие.
В сравнение с медицината, разработването на системи с ИИ понастоящем се характеризира с липсата на:
1. Общи цели и задължение да се действа в най-добрия интерес на пациента;
2. Професионална история и утвърдени професионални норми;
3. Доказани методи за превръщане на етичните принципи в практическо приложение;
4. Надеждни механизми за правна и професионална отчетност.
Това означава, че етичните принципи, макар и необходими, не са достатъчни сами по себе си за ефективното управление на използването на ИИ в здравеопазването.
Половите и расовите пристрастия в биомедицинския ИИ са системни рискове, които възникват по цялата верига на жизнения цикъл на системите с ИИ, използвани в здравеопазването. В области като сърдечно-съдовите заболявания, депресията и диабета пристрастията произтичат от исторически изкривени клинични набори от данни, неравнопоставени диагностични практики, използването на заместващи показатели, които отразяват структурни неравенства, както и от контекста на внедряване на системите, при който ползите и вредите се разпределят неравномерно между различните групи.
Тези констатации потвърждават, че биомедицинският ИИ засяга пряко множество права и принципи, защитени от Хартата на основните права на ЕС. Сред тях особено значение имат човешкото достойнство, равенството пред закона и забраната на дискриминацията, както и правото на неприкосновеност и цялост на личността, правото на здравеопазване, защитата на личните данни и правото на ефективни средства за правна защита.
Следователно европейските и националните политики и регулаторни рамки за използването на ИИ в здравеопазването трябва да разглеждат ограничаването и предотвратяването на пристрастията не като доброволно етично допълнение, а като задължителен елемент от законосъобразното и съответстващо на основните права внедряване на системи с ИИ.
Според доклад от 2018 г., финансиран от Съвета на Европа (Committee of experts on internet intermediaries (MSI-NET), 2018), правата на човека, които са най-силно засегнати от алгоритмите и автоматизираната обработка на данни, включват:
Правото на справедлив съдебен процес и надлежен правен процес;
Правото на неприкосновеност на личния живот и защита на личните данни;
Свободата на изразяване;
Правото на ефективни средства за правна защита;
Свободата на събранията и сдружаването;
Забраната на дискриминацията;
Социалните права и достъпът до обществени услуги;
Правото на свободни избори.
Пристрастните алгоритми са изрично посочени като потенциален фактор за дискриминация на обществени групи въз основа на възраст, сексуална ориентация, расов произход, пол или социално-икономически статус (MSI-NET, 2018, с. 27). Освен това Рамковата конвенция на Съвета на Европа за изкуствения интелект, правата на човека, демокрацията и върховенството на закона изрично изисква държавите членки „да приемат или поддържат мерки с цел гарантиране, че дейностите по време на жизнения цикъл на системите с изкуствен интелект зачитат равенството, включително равенството между половете, и забраната на дискриминацията, както е предвидено в приложимото международно и национално право“ (Council of Europe, 2024).
Както беше разгледано в Модул 1, разпоредбите на Хартата на основните права на ЕС, които са най-пряко свързани с биомедицинския ИИ, са член 21 (Недопускане на дискриминация), член 23 (Равенство между жените и мъжете) и член 35 (Здравеопазване). Когато системите с ИИ, използвани в клиничната практика, показват различна ефективност или точност при пациенти с различни полови, расови или етнически характеристики, това представлява пряко нарушение на правата, защитени от тези разпоредби.
ЕС е създал многопластова регулаторна среда за биомедицинския ИИ, изградена около четири взаимодопълващи се правни инструмента:
Актът за ИИ въвежда регулаторна рамка за системите с ИИ, основана на риска. Много приложения в здравеопазването, включително инструменти за подпомагане на клинични решения и диагностични алгоритми, се класифицират като високорискови системи с ИИ. За тях се прилагат строги изисквания относно управление на риска, управление на данните, прозрачност, човешки надзор и точност, включително идентифициране и ограничаване на риска от дискриминационни резултати между различни демографски групи (European Union, 2024).
Здравните институции, които внедряват системи с ИИ, също имат конкретни задължения съгласно Акта за ИИ. За здравните специалисти и болниците най-важните от оперативна гледна точка разпоредби са:
Изисквания към високорискови системи: Доставчиците са задължени да внедрят система за управление на риска през целия жизнен цикъл (чл. 9) и практики за управление на данните с изрични изисквания за откриване и ограничаване на пристрастия (чл. 10), включително оценка на представителността на данните и потенциални различия в ефективността между демографски групи, разграничени по пол и расов или етнически произход; гаранции за прозрачност и предоставяне на информация на ползвателите (чл. 13); човешки надзор, предназначен да предотвратява пристрастия към автоматизацията и да позволява възможност за намеса или спиране на системата (чл. 14); както и контрол върху точността, устойчивостта и киберсигурността с изрично внимание към обратните връзки и специфични за ИИ атаки (чл. 15), които в противен случай биха могли да задълбочат съществуващи неравенства.
Задължения на внедрителите: Болниците и други внедрители трябва да използват високорисковите системи с ИИ в съответствие с инструкциите на доставчика (чл. 26); да осигурят компетентен човешки надзор (чл. 26); да гарантират, че входните данни са релевантни, представителни и пълни, когато внедрителят контролира тези данни (чл. 26), включително (когато е възможно) отчитане на демографското разнообразие при пациентите; да наблюдават работата на системата (чл. 26); да съхраняват автоматично генерирани регистрационни записи за минимум шест месеца, освен ако друго законодателство не изисква по-дълъг срок (чл. 26); и да докладват сериозни инциденти или неизправности на доставчиците и компетентните органи без неоправдано забавяне (чл. 26, 73), особено когато съществува риск от неравностойни клинични резултати.
Оценка на въздействието върху основните права (Fundamental Rights Impact Assessment - FRIA): Преди внедряването на определени високорискови системи с ИИ, публичноправни субекти (както и частни организации, предоставящи обществени услуги) са длъжни да извършат оценка на въздействието върху основните права, описваща процесите, засегнатите групи, рисковете, мерките за човешки надзор и механизмите за ограничаване на вредите или подаване на жалби, като впоследствие уведомяват органа за надзор на пазара чрез шаблон, който се очаква да бъде разработен от Службата за ИИ (чл. 28). Това изискване е пряко релевантно за публичните болници в много държави членки, тъй като предоставя механизъм за идентифициране и адресиране на рискове от дискриминация и неравнопоставени въздействия върху различни демографски групи, разграничени по пол, расов или етнически произход, преди внедряването на системите.
📌 Бележка: По отношение на прилагането на Акта за ИИ, през 2025 г. вече се прилагат забранените практики, както и част от правилата за надзор и управление (European Commission, 2024). Следващият основен етап е август 2026 г., когато по-голямата част от задълженията по Акта започват да се прилагат (включително високорисковите системи по Приложение III и изискванията за прозрачност по чл. 50). Високорисковите системи с ИИ, интегрирани в регулирани продукти (включително много системи с ИИ като медицински изделия), ще попаднат в обхвата на пълното прилагане от август 2027 г.
Системите с ИИ, използвани в медицината, са също така подчинени на законодателството за медицинските изделия и свързаните с него насоки, включително Регламента за медицинските изделия (MDR) (European Union, 2017a) и Регламента за ин витро диагностични медицински изделия (IVDR) (European Union, 2017b), които уреждат безопасността и ефективността на медицинските технологии и изискват клинична оценка и постмаркетингов надзор (включително за инструменти, базирани на ИИ), с внимание към равнопоставеността на резултатите между различни демографски групи.
Връзката между Акта за ИИ и съществуващото законодателство за медицинските изделия е изяснена в Насоките относно взаимодействието между Акта за ИИ и MDR/IVDR (Medical Device Coordination Group & European AI Board, 2025). Документът обяснява, че Акта за ИИ се прилага паралелно с тези два регламента, а не ги заменя. На практика това означава, че много системи с медицински ИИ трябва да отговарят едновременно на изискванията на двете регулаторни рамки. Насоките също така уточняват кога медицинският ИИ се квалифицира като високорисков по смисъла на Акта за ИИ, което обикновено е в случаите, когато самата ИИ система представлява медицинско изделие (или негов компонент, свързан с безопасността) и следователно подлежи на оценка на съответствието от трета страна чрез нотифициран орган.
За болничните обществени поръчки това означава необходимост от изискване към доставчиците да докажат регулаторния статус на системата, включително класификация по MDR/IVDR, участие на нотифициран орган, когато е приложимо, както и документация относно представянето на системата в различни демографски групи и мерките за ограничаване на пристрастията. Договорите за обществените поръчки следва също така да изискват от доставчиците да предоставят необходимата документация, информация за прозрачност и мерки за надзор, изисквани от внедрителите съгласно Акта за ИИ, включително гаранции за равнопоставени резултати за всички пациенти.
Няколко допълнителни инструмента на ЕС също имат съществено значение за управлението на ИИ в здравеопазването на практика. Общият регламент за защита на данните (GDPR) остава ключово ограничение за биомедицинския ИИ, тъй като здравните данни представляват специална категория лични данни (European Union, 2016). Внедряването в болнична среда често изисква извършване на Оценка на въздействието върху защитата на данните (DPIA), като Акта за ИИ (чл. 26(9), 27(4)) изрично свързва това изискване със задълженията на внедрителите (включително, когато е възможно, оценка на неравномерни въздействия между различни демографски групи, разграничени по пол и расов или етнически произход).
Европейското пространство за здравни данни (EHDS) има за цел да улесни сигурния достъп до здравни данни за предоставяне на здравни услуги и научни изследвания, като същевременно поддържа силни гаранции за защита на данните (European Union, 2025). Очаква се той да играе ключова роля в осигуряването на по-представителни набори от данни за разработване на биомедицински ИИ, да подкрепя оценка, ориентирана към равнопоставеност, и да намали риска от недостатъчно представяне на определени демографски групи (European Commission, 2025).
📌 Основни правни термини
Акт за ИИ (AI Act): Ключовият регламент на ЕС, който въвежда подход, основан на риска, за системите с ИИ. Той класифицира много приложения на ИИ в здравеопазването като високорискови, като им налага строги изисквания за разработване, внедряване и мониторинг.
Високорискова система с ИИ: Съгласно Акта за ИИ – категория системи с ИИ, които представляват значителен риск за здравето, безопасността или основните права (включително повечето инструменти за подпомагане на клинични решения и диагностични алгоритми) и поради това подлежат на най-строгите регулаторни изисквания.
Регламент за медицинските изделия (Medical Device Regulation - MDR): Регламент на ЕС, който урежда безопасността и ефективността на медицинските изделия, включително ИИ-базирани диагностични и клинични инструменти. Прилага се паралелно с Акта за ИИ за много системи с ИИ в здравеопазването.
Регламент за ин витро диагностични медицински изделия (In Vitro Diagnostic Regulation - IVDR): Регламент на ЕС, който урежда диагностични медицински изделия, използвани върху проби от човешкото тяло, като кръв или тъкани. Подобно на MDR, се прилага заедно с Акта за ИИ за съответните системи с ИИ.
Общ регламент за защита на данните (General Data Protection Regulation - GDPR): Основният закон на ЕС за защита на личните данни. Особено релевантен за ИИ в здравеопазването, тъй като здравните данни са специална категория лични данни, изискваща повишена защита и в много случаи предварителна оценка на въздействието преди обработка.
Оценка на въздействието върху защитата на данните (Data Protection Impact Assessment - DPIA): Процес, изискван съгласно Общия регламент за защита на данните, когато обработката на данни (включително чрез ИИ) вероятно води до висок риск за правата и свободите на физическите лица. Болниците, които внедряват системи с ИИ, често трябва да извършват DPIA.
Оценка на въздействието върху основните права (Fundamental Rights Impact Assessment - FRIA): Изискване по Акта за ИИ за публични органи, включително публични болници, да оценяват потенциалното въздействие на високорискови системи с ИИ върху основните права преди внедряване, включително засегнати групи, идентифицирани рискове и мерки за ограничаване на вредите.
Европейско пространство за здравни данни (European Health Data Space - EDHS): Инициатива на ЕС за улесняване на сигурния и равнопоставен достъп до здравни данни за лечение и научни изследвания, с цел създаване на по-представителни набори от данни за разработване на ИИ в Европа.
Пристрастие към автоматизацията: Тенденцията на хората да се доверяват прекомерно на автоматизирани препоръки, включително тези, генерирани от системи с ИИ, дори когато те могат да бъдат неточни или неподходящи за конкретен пациент.
Внедрител: Съгласно Акта за ИИ – всяка организация, като например болница, която използва система с ИИ в професионален контекст. Внедрителите имат специфични правни задължения, различни от тези на разработчика или доставчика на системата.
От правната и етичната рамка, описани в този модул, следват конкретни отговорности за здравните специалисти, които работят с ИИ-базирани инструменти. Те включват:
Човешки контрол: Клиничните инструменти с ИИ, използвани за диагностика, оценка на риска, скрининг или подпомагане на лечението, никога не трябва да функционират като автономни вземащи решения системи. Вие имате както правото, така и отговорността критично да анализирате резултатите, генерирани с ИИ, вместо да им се доверявате безусловно, а Вашата институция е длъжна да Ви подкрепя в това.
Прозрачност: Пациентите трябва да бъдат информирани, когато системи с ИИ се използват в клиничното вземане на решения, които ги засягат, включително при скрининг, приоритизация или оценка на риска. Когато резултати, генерирани с ИИ, подпомагат публични здравни услуги, те трябва ясно да бъдат обозначени като такива и да бъдат придружени от достъпни обяснения за тяхната роля, ограничения и известни рискове от пристрастия. Пациентите също трябва да бъдат информирани, когато техните лични данни се използват за обучение, тестване или непрекъснато усъвършенстване на ИИ, особено когато става дума за чувствителни здравни данни. Тези мерки за прозрачност са съществени за защита на правото на неприкосновеност на данните и на ефективна защита, както и за да могат хората реално да оспорват решения, които могат да ги засегнат неблагоприятно.
Докладване: Когато забележите резултати, които изглеждат непоследователни, необясними или потенциално дискриминационни, особено по отношение на пациенти, разграничени по биологичен и социален пол или расов произход, Вие имате задължение да ги документирате и докладвате чрез механизмите за надзор на Вашата институция.
Обществени поръчки: Когато Вашата институция закупува системи с ИИ, критериите за основни права и пристрастия трябва да бъдат ключова част от избора, като се предпочитат решения, които демонстрират стабилни, прозрачни и независимо проверени практики за ограничаване на пристрастията.
📌Ключово послание: Правната рамка на ЕС не възлага цялата отговорност върху разработчиците на ИИ. Като внедрител (потребител) на системи с ИИ, Вашата институция, както и Вие като практикуващ специалист, имате активни правни задължения да гарантирате, че използваните инструменти са безопасни, прозрачни и справедливи за всички пациенти.
Сега вече имате солидна основа от познание както за етичните принципи, така и за правните инструменти, които регулират използването на ИИ в здравеопазването. Следващият модул ще съотнесе тези знания към практиката: Модул 5 представя регулаторния модел AEQUITAS — инструмент, разработен в съответствие с Хартата на ЕС, специално създаден да предостави на болниците и гражданските организации практическа рамка за управление, обхващаща целия жизнен цикъл на AI системите — от възлагането на обществени поръчки и валидирането до внедряването, мониторинга и отчетността.
Следва: Модул 5
Beauchamp, T. L., & Childress, J. F. (2019). Принципи на биомедицинската етика (8th ed).
Christoforaki, M., & Beyan, O. (2022). Преглед на етиката на изкуствения интелект, 12(9), Article 9. https://doi.org/10.3390/app12094130
Committee of experts on internet intermediaries (MSI-NET). (2018). Алгоритми и правата на човека — Изследване на измеренията на автоматизираните техники за обработване на данни от гледна точка на правата на човека и възможните регулаторни последици [Изследване]. Council of Europe. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5
Council of Europe, Рамкова конвенция на Съвета на Европа за изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава, Council of Europe Treaty Series—No. 225 (2024). https://rm.coe.int/1680afae3c
European Commission, Европейско пространство за здравни данни (EHDS), Brussels: European Commission, 2025.
European Commission, Хронология за прилагане на Акта за изкуствения интелект на ЕС, Brussels: European Commission, 2024.
European Union, Регламент (ЕС) 2016/679 относно Общия регламент за защита на данните (GDPR), Brussels: EU, 2016.
European Union, Регламент (ЕС) 2017/745 относно медицинските изделия (MDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.
European Union, Регламент (ЕС) 2017/746 относно медицинските изделия за ин витро диагностика (IVDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.
European Union, Регламент (ЕС) 2024/1689 на Европейския парламент и на Съвета за установяване на хармонизирани правила относно изкуствения интелект (AI Act), PE/24/2024/REV/1, Official Journal of the European Union, 13 June 2024.
European Union, Регламент (ЕС) 2025/327 относно Европейското пространство за здравни данни (EHDS), Brussels: European Union, 2025.
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). Етична рамка за добро общество, основано на изкуствения интелект: възможности, рискове, принципи и препоръки. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5
Leslie, D. (2019). Разбиране на етиката и безопасността на изкуствения интелект: Ръководство за отговорен дизайн и внедряване на AI системи в публичния сектор. Zenodo. https://doi.org/10.5281/ZENODO.3240529
Medical Device Coordination Group & European AI Board, Насоки относно взаимодействието между MDR/IVDR и Акта за изкуствения интелект, Brussels: European Commission, 2025.
Miles, S. H. (2005). Хипократовата клетва и етиката на медицината. Oxford University Press, USA.
Tröhler, U. (2008). Историческо развитие на международните кодекси за етика при изследвания с хора. In R. B. Baker & L. B. McCullough (Eds), The Cambridge World History of Medical Ethics (1st edn, pp. 566–575). Cambridge University Press. https://doi.org/10.1017/CHOL9780521888790.052
Vevaina, J. R., Nora, L. M., & Bone, R. C. (1993). Въпроси в биомедицинската етика. Disease-a-Month, 39(12), 874–925.