Дискриминацията в областта на ИИ е интерсекционален проблем, който засяга различни аспекти на идентичността като възраст, биологичен и социален пол, расов произход, сексуална ориентация и здравословно състояние, наред с други. Тези пристрастия и дискриминация пряко застрашават основните права, защитени от Хартата на основните права на ЕС, и по-специално забраната на дискриминация по каквито и да било признаци съгласно член 21, гаранцията за равенство между мъжете и жените съгласно член 23 и правото на достъп до здравеопазване съгласно член 35.
За специалистите в областта на здравеопазването е от съществено значение да бъде разбран този интерсекционален характер. Пациентите, които са изложени на най-голям риск да бъдат ощетени от пристрастни инструменти с ИИ, често са тези, които вече се сблъскват с многобройни пречки при достъпа до и получаването на качествени грижи.
Наблюдаваните пристрастия в медицинските приложения с ИИ са резултат от пристрастни медицински данни, събирани в продължение на десетилетия, които отразяват системна дискриминация и структурни неравенства в научните изследвания и практиката в областта на здравеопазването (Cirillo et al., 2020; Cross et al., 2024).
Ключов фактор зад този проблем е съществената разлика в здравния статус на половете: добре документирано е неравенството в здравеопазването между мъжете и жените, което обхваща всичко – от достъпа до здравни грижи до представителството им в научните изследвания. През по-голямата част от историята на медицината клиничните и експерименталните проучвания са се фокусирали предимно върху мъже, пренебрегвайки биологичните полови разлики. През 2020 г. едва 5% от глобалното финансиране за научноизследователска и развойна дейност са били отпуснати за изследвания в областта на женското здраве. Това е било разпределено на 4% за раковите заболявания при жените и 1% за всички други специфични за жените здравни състояния, като 25% от тях са били допълнително ограничени до изследвания в областта на фертилността (Nature Reviews Bioengineering, 2024).
Когато данните, използвани за обучение на алгоритмите за ИИ, отразяват този дисбаланс, създадените инструменти неизбежно ще бъдат по-неточни по отношение на недостатъчно представените групи. Както подчертават Cirillo et al. (2020), липсата на справедливи и равнопоставени данни, въвеждани в системите с ИИ, е пряко следствие от това историческо неравенство. Важно е обаче да се отбележи, че това не е еднопосочен проблем, тъй като в някои случаи мъжете са недостатъчно представената група при събирането на данни. Например, установено е, че мъжете са недостатъчно представени в клиничните проучвания на мускулно-скелетни заболявания и травми, както и в психиатрията, в сравнение с тежестта на заболяванията при тях, което представлява форма на пристрастие в представянето (Steinberg et al., 2021). Конкретно в контекста на депресията мъжете са недостатъчно представени в клиничните данни поради по-малката вероятност да потърсят медицинска помощ, да съобщят за депресивни симптоми и да получат диагноза, което отразява както пристрастие в представянето, така и пристрастие в измерването (Smith et al., 2018).
Изследванията сочат, че осведомеността относно разликите в проявлението на заболяванията при мъжете и жените би могла да спомогне за намаляване на риска от погрешна диагноза поради пристрастни данни (Cirillo et al., 2020).
Системните пристрастия по отношение на биологичен и социален пол в медицината надхвърлят рамките на отделните случаи – те отразяват системна неспособност да се отчете полът като значима променлива в клиничните изследвания и практика. Тази „полова слепота“, съчетана със стереотипни предразсъдъци относно мъжете и жените и с обща липса на познания за женското тяло и неговите биологични различия спрямо мъжкото, е оформила медицинските познания по начин, който и днес продължава да поставя жените в неравностойно положение (Hamberg, 2008). Като пример, ретроспективен анализ на 450 948 възрастни пациенти с неврологични и сърдечно-съдови заболявания, приети във всички болници в Швейцария между 2012 и 2016 г., показа, че като цяло жените са имали по-малка вероятност да бъдат приети в интензивно отделение в сравнение с мъжете, дори когато са били в по-тежко състояние (Todorov et al., 2021). Дори на ниво научни изследвания мъжките животински модели все още се използват по-широко от женските във фундаменталните, предклиничните и хирургичните биомедицински изследвания (Yoon et al., 2014), което означава, че основите на медицинските познания често се градят върху данни, отнасящи се само за мъже.
Расовата дискриминация в медицината е широко документирана, особено в САЩ, където е доказано, че афроамериканците и другите малцинствени групи получават по-малко медицински процедури, по-ниски проценти на хирургични интервенции и по-малко насочвания към специалисти в сравнение с белите пациенти, независимо от клиничната необходимост (Bowser, 2001; Williams & Wyatt, 2015).
Когато системите с ИИ се обучават на данни, които отразяват десетилетия на съществуващи неравенства в здравеопазването, те рискуват да ги кодират и да ги затвърдят в по-голям мащаб. От друга страна, както беше разгледано в Модул 2, проучванията показват, че мерките за защита на личните данни могат неволно да повлияят на точността на данните за неиспано-американското чернокожо и испано-американското население, като допълнително задълбочават съществуващите неравенства. Доказано е, че прилагането на диференциална поверителност, например, засяга по-силно оценките на смъртността за неиспано-американските чернокожи и испано-американските популации, отколкото за неиспано-американските бели популации (Santos-Lozada et al., 2020). Неиспано-американските бели лица бяха и единствената расова и етническа група от населението, за която алгоритъмът за диференциална поверителност точно отрази равнищата на участие в програмата „Медикейд“ – констатация със значителни последици за здравната политика и разпределението на ресурсите (Kurz et al., 2022).
Макар че голяма част от документираните данни произхождат от САЩ, структурните условия, които водят до расови пристрастия в данните за здравеопазването – включително пречките пред достъпа, недостатъчното представителство в клиничните изследвания и социално-икономическите неравенства, са налице и в цяла Европа, от което следва, че този въпрос пряко засяга европейските специалисти в областта на здравеопазването.
Важно е също така да се подчертае, че лицата от LGBTQIA+ общността (лесбийки, гей мъже, бисексуални, трансджендър, куиър, интерсекс и асексуални лица, както и други разнообразни полови идентичности и сексуални ориентации) са обект на дискриминация по отношение на достъпа до здравни грижи и са подложени на стереотипи, които не засягат хетеросексуалното население. Тези социални и културни фактори затвърждават дискриминацията и оказват измеримо въздействие върху здравето и здравните грижи. Изследвания показват, че 16 % от лицата от LGBTQIA+ общността съобщават за дискриминация при контакти със здравната система, а 18 % изобщо избягват да търсят медицинска помощ поради страх от лошо отношение (Chang et al., 2025).
Системите с ИИ, обучени на данни, които не представят адекватно тези пациенти, рискуват да маргинализират още повече една и без това уязвима група от населението. Мащабно проучване, оценяващо пристрастността на ИИ в клинични сценарии в спешните отделения, установи, че в случаите с LGBTQIA+ пациенти са давани препоръки за интервенции в областта на психичното здраве шест до седем пъти повече, отколкото е клинично уместно (Chang et al., 2025).
📌 Бележка: Към момента повечето системи с ИИ в здравеопазването работят въз основа на бинарни представи за пола, което систематично изключва небинарните, транс и несъответстващите на традиционните представи за пола лица както от данните, използвани за обучението на тези инструменти, така и от групите, за които те са предназначени (Hafner et al., 2025). Това представлява сериозен и нарастващ проблем, тъй като ИИ все повече се интегрира в клиничните работни процеси.
Повишаването на осведомеността относно различията в проявлението на заболяванията при различните хора е следователно не само въпрос на справедливост, но и клинична необходимост, която може да допринесе за намаляване на риска от погрешна диагноза и за подобряване на резултатите при всички пациенти.
Пристрастията по биологичен и социален пол в сърдечно-съдовата медицина са един от най-добре документираните примери за това как неравномерното представителство в медицинските изследвания води до неравностойни резултати при пациентите. Сърдечно-съдовите симптоми при жените често се различават от „класическата“ клинична картина, описана в медицинските учебници – картина, която до голяма степен се основава на данни за мъже (Fatunde et al., 2025). Според систематичен преглед на Al Hamid et al. (2024) сърдечно-съдовите заболявания са били по-рядко докладвани при жени, които или са проявявали по-леки симптоми в сравнение с мъжете, или симптомите им са били погрешно диагностицирани като стомашно-чревни или свързани с тревожност. Вследствие на това на жените са били предлагани по-малко диагностични изследвания и лекарства, а те са били насочвани към кардиолози и/или хоспитализирани по-рядко. Освен това, ако са били хоспитализирани, жените са имали по-малка вероятност да получат коронарна интервенция. Следователно рисковите фактори при жените са били подценявани от лекарите, особено от мъжете. Може да се заключи, че жените имат по-малка вероятност да получат подходящи здравни грижи поради вече съществуващи пристрастия.
Последиците от расовите пристрастия в сърдечно-съдовата медицина са също толкова сериозни. Показателен пример, макар и не ограничаващ се само до ИИ, е случаят с пулсоксиметрите – устройства, които измерват насищането на кръвта с кислород и се използват рутинно при сърдечни събития. Изследвания показват, че пулсоксиметрите работят по-точно при кожа с по-светъл пигмент, което означава, че пациентите с по-тъмен тен могат систематично да получават по-неточни показания (Sjoding et al., 2020). Това илюстрира колко дълбоко вкоренени могат да бъдат предразсъдъците, като се простират отвъд системите с ИИ и достигат до самите медицински устройства, използвани заедно с тях.
Когато инструментите с ИИ за сърдечно-съдовата грижа се обучават на бази данни, в които жените и етническите малцинства са недостатъчно представени, рискът от възпроизвеждане и усилване на тези неравенства в голям мащаб става значителен.
Расовите пристрастия в грижите за диабета са широко документирани, особено в САЩ. Въпреки сравнително по-ниския си риск, групите на неиспано-американските бели продължават да са надпредставени в литературата за прогнозиране на риска от диабет (Cronjé et al., 2023). В преглед на етнорасовото равенство в ИИ за управление на диабета средното расово разпределение в разгледаните от авторите статии е 69,5% бели, 17,1% чернокожи и 3,7% азиатци, като само две статии съобщават за включването на участници от коренното американско население (Pham et al., 2021).
Добре документирано е, че неравенствата в изходите при диабета се дължат до голяма степен на сложни, взаимосвързани социални детерминанти на здравето (включително достъп до здравословна храна, качествено здравно обслужване, застрахователен статус, образователни бариери и различен темп на внедряване на технологии), които водят до по-високи нива на усложнения и по-лош гликемичен контрол сред малцинствените и нискодоходните групи от населението (Alipour & Alipour, 2025).
Система с ИИ, обучена на такива набори от данни, прави неправилни обобщения по отношение на расовите групи, създавайки пристрастни прогнозни модели, които могат да облагодетелстват лица от определени расови групи и потенциално да навредят на най-уязвимите пациенти.
Друг пример се отнася до теста за A1C, който измерва средното ниво на глюкозата в кръвта и обикновено се използва за откриване на преддиабет или за подпомагане на диагностицирането на диабет тип 2. Въпреки че A1C е само косвен показател и няма причинно-следствена връзка със здравните резултати, съществува значителна вариация във връзката между гликемията и A1C както между отделните индивиди, така и при един и същ индивид с течение на времето. Освен това проучвания са отчели значително по-високи нива на хемоглобин A1c (A1C) при афроамерикански пациенти в сравнение с бели пациенти със същата средна стойност на глюкозата (Karter et al., 2023).
Ако система за ИИ, предназначена за диагностициране на диабет, е обучена да използва резултатите от теста за A1C като заместител на гликемията, без да отчита други фактори, като расата на пациента, това може да доведе до преждевременни диагнози за диабет и неподходящо лечение, което да доведе до пристрастие в качеството на здравните грижи и неравенства в здравеопазването. Въпреки това, както е отбелязано в Alipour & Alipour (2025), систематичен преглед на пристрастията, които биха могли да повлияят на справедливостта на моделите с ИИ при диабета, макар че разгледаните проучвания изрично споменават, че пристрастието при измерването може да се разпространи чрез моделите за ИИ, ако не бъде коригирано, никое от тях не е отчело такива пристрастия по време на разработването на модела, изрично не ги е смекчило или не е докладвало за коригиране на разликите в точността на измерването.
Депресията е област, в която както половите, така и расовите пристрастия имат значителни и обстойно документирани последствия за грижите, подпомагани от ИИ, особено при инструментите, които използват обработка на естествен език за скрининг и диагностика.
Моделите ИИ, които използват обработка на естествен език за профилиране на психичното здраве, събират големи масиви от данни за изразителния език, обикновено придобити от социални медии, онлайн форуми, блогове и чат стаи. Тези данни обаче вече са повлияни от личния произход и социалния контекст на дадения индивид (Straw & Callison-Burch, 2020).
По-конкретно, проучванията показват, че мъжете и жените изразяват психическия си дистрес по различен начин. Докато жените използват по-малко категорична реч, което се проявява в по-голяма учтивост, по-малко ругатни, повече усилватели (напр. "наистина", "така") и повече увъртания (т.е. думи като "може би", "вероятно" или "нещо като"), мъжете, от друга страна, са описани като директивни, прецизни и по-малко емоционални в езиковото си използване, което се характеризира с препратки към количество, оценъчни прилагателни (напр. "добър", "глупав"), елиптични изречения („Страхотна снимка.“) и препратки към „аз“ (Pennebaker et al., 2003). Тези разлики са в съответствие със социологическата рамка на половите различия.
Мъжете и жените изразяват суицидния дистрес по различен начин; жените потискат негативните емоции, докато мъжете проявяват нарастващ гняв (Straw & Callison-Burch, 2020). Следователно система с ИИ, обучена предимно на езикови данни от единия пол, може да не успее да открие точно случаите при другия пол. Това предизвикателство се усложнява допълнително от факта, че повечето модели за обработка на естествен език са изградени върху бинарни разбирания за пола, изключвайки значителна част от населението, включително небинарни и транс лица, чиито преживявания на депресия и суицидна тревога могат да се различават съществено както от нормите за мъжете, така и от тези за жените (Hafner et al., 2024). Конкретните последици от тези изключения за LGBTQIA+ групите са обсъдени в раздел 3.5.
Въпреки че епидемиологичните проучвания показват, че жените са диагностицирани с депресия по-често от мъжете, това може отчасти да отразява факта, че изследванията исторически са измервали симптоми, които са по-чести при жените, като потенциално пропускат начина, по който депресията се проявява при мъжете, и създават различен вид пропуск в представителността (Cirillo et al., 2020).
Половите пристрастия при депресията се простират и до използването на инструменти за цифрово наблюдение, като сензори на носими устройства. Тези данни бяха превърнати в характеристики, използвани от моделите с ИИ за правене на прогнози, съответстващи на сън, физическа активност, циркадиан ритъм, общителност, местоположение и използване на телефона (De Angel et al., 2022).
Проучванията обаче показват, че съществуват различия в моделите на сън между мъжете и жените, въпреки че жените често са недостатъчно представени в изследванията в областта на съня. Освен това много от цифровите инструменти за здравеопазване не правят разграничение между пола като социална конструкция и биологичния пол и не отчитат пресечните идентичности, определени от други характеристики като възрастта, расовия произход и социално-икономическия статус (Lok et al., 2024), като всички тези фактори са от значение при наблюдението и лечението на депресията.
📌 Ключово послание: Документираните в този модул пристрастия, свързани с пола и расовия прозиход, не са абстрактни – те се проявяват ежедневно под формата на забавени диагнози, неподходящо лечение и неравностойно обслужване на реални пациенти. Като медицински специалист, Вашата осведоменост относно тези модели е от съществено значение: тя определя въпросите, които задавате, предположенията, които поставяте под съмнение, и подкрепата, която можете да окажете на пациентите, изложени на най-голям риск.
Пристрастията, свързани с пола и расовия произход, разгледани в този модул, имат реални последствия както за пациентите, така и за специалистите, които се грижат за тях. С все по-широкото навлизане на ИИ в клиничната практика, медицинските специалисти имат етична отговорност и правно задължение да разбират, да поставят под въпрос и когато е необходимо, да оспорват инструментите, които използват. Модул 4 ще разгледа етичните рамки и правните инструменти, които регулират използването на ИИ в здравеопазването, включително регулаторната среда в ЕС и Вашите права и отговорности като клиницист, работещ с тези инструменти.
Следва: Модул 4
Al Hamid, A., Beckett, R., Wilson, M., Jalal, Z., Cheema, E., Al-Jumeily Obe, D., Coombs, T., Ralebitso-Senior, K., & Assi, S. (2024). Полово пристрастие при диагностицирането, превенцията и лечението на сърдечно-съдовите заболявания: систематичен преглед. Cureus, 16(2). https://doi.org/10.7759/cureus.54264
Alipour, M., & Alipour, A. (2025). InfoScience Алгоритмични пристрастия в базираните на ИИ грижи за диабета: систематичен преглед на ефективността на моделите, отчитането на равнопоставеността и пристрастията в етикетирането на физиоло. InfoScience Trends, 2(5), 33–46. https://doi.org/10.61186/ist.202502.05.04
Bowser, R. (2001). Расови пристрастия в медицинското лечение. Dick. L. Rev., 105(3), 365.
Chang, C.T., Srivathsa N., Bou-Khalil, C., Swaminathan, A., Lunn, M.R., Mishra, K., Koyejo, S,. Daneshjou, R. (2025). Оценка на анти-LGBTQIA+ медицинските пристрастия в големите езикови модели. PLOS Digit Health 4(9): e0001001. https://doi.org/10.1371/journal.pdig.0001001
Cirillo, D., Catuara-Solarz, S., Morey, C., Guney, E., Subirats, L., Mellino, S., Gigante, A.A., Valencia, A., Rementeria, M.J., Chadha, A.S., & Mavridis, N. (2020). Различия и пристрастия по биологичен и социален пол в изкуствения интелект за биомедицината и здравеопазването. npj Digit. Med. 3(81). https://doi.org/10.1038/s41746-020-0288-5
Cronjé, H. T., Katsiferis, A., Elsenburg, L. K., Andersen, T. O., Rod, N. H., Nguyen, T.-L., & Varga, T. V. (2023). Оценка на расовите пристрастия в алгоритмите за прогнозиране на риска от диабет тип 2. PLOS Global Public Health, 3(5), e0001556. https://doi.org/10.1371/journal.pgph.0001556
Cross, J. L., Choma, M. A., & Onofrey, J. A. (2024). Пристрастия в медицинския ИИ: последици за вземането на клинични решения. PLOS Digital Health, 3(11), e0000651. https://doi.org/10.1371/journal.pdig.0000651
De Angel, V., Lewis, S., White, K., Oetzmann, C., Leightley, D., Oprea, E., Lavelle, G., Matcham, F., Pace, A., Mohr, D. C., Dobson, R., & Hotopf, M. (2022). Дигитални здравни инструменти за пасивно наблюдение на депресията: систематичен преглед на методите. Npj Digital Medicine, 5(1), 3. https://doi.org/10.1038/s41746-021-00548-8
Fatunde, O. A., Grant, J. K., Lara-Breitinger, K., Kizzee, O. P., Savic, J., LeMond, L., & Hayes, S. N. (2025). Полови неравенства в кардиологията. JACC: Advances, 4(4), 101642. https://doi.org/10.1016/j.jacadv.2025.101642
Финансиране на изследванията в областта на женското здраве. Nat Rev Bioeng 2, 797–798 (2024). https://doi.org/10.1038/s44222-024-00253-7
Hafner, F.S., Valdivia, A., Rocher, L. 2025. Полови предизвикателства в езиковите модели: емпиричен одит, основан на теорията за половата перформативност. FAccT '25: Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency, 1677–1695. https://doi.org/10.1145/3715275.3732112
Hamberg, K. (2008). Полово пристрастие в медицината. Women’s Health, 4(3), 237–243. https://doi.org/10.2217/17455057.4.3.237
Karter, A. J., Parker, M. M., Moffet, H. H., & Gilliam, L. K. (2023). Расови и етнически различия във връзката между средната кръвна захар и хемоглобин A1c. Diabetes Technology & Therapeutics, 25(10), 697–704. https://doi.org/10.1089/dia.2023.0153
Kurz, C. F., König, A. N., Emmert-Fees, K. M. F., & Allen, L. D. (2022). Влиянието на диференциалната поверителност върху участието в Medicaid сред расови и етнически малцинствени групи. Health Services Research, 57(S2), 207–213. https://doi.org/10.1111/1475-6773.14000
Lok, R., Qian, J., & Chellappa, S. L. (2024). Полови различия в съня, циркадните ритми и метаболизма: последици за прецизната медицина. Sleep Medicine Reviews, 75, 101926. https://doi.org/10.1016/j.smrv.2024.101926
Pennebaker, J. W., Mehl, M. R., & Niederhoffer, K. G. (2003). Психологически аспекти на употребата на естествения език: нашите думи, нашите личности. Annual Review of Psychology, 54(1), 547–577. https://doi.org/10.1146/annurev.psych.54.101601.145041
Pham, Q., Gamble, A., Hearn, J., & Cafazzo, J. A. (2021). Необходимостта от етнорасова справедливост в изкуствения интелект за управление на диабета: преглед и препоръки. Journal of Medical Internet Research, 23(2), e22320. https://doi.org/10.2196/22320
Santos-Lozada, A. R., Howard, J. T., & Verdery, A. M. (2020). Как диференциалната поверителност ще повлияе на разбирането ни за здравните неравенства в Съединените щати. Proceedings of the National Academy of Sciences of the United States of America, 117(24), 13405–13412. https://doi.org/10.1073/pnas.2003714117
Sjoding, M. W., Dickson, R. P., Iwashyna, T. J., Gay, S. E., & Valley, T. S. (2020). Расово пристрастие при измерването с пулсоксиметър. New England Journal of Medicine, 383(25), 2477–2478. https://doi.org/10.1056/NEJMc2029240
Smith, D.T., Mouzon, D.M., & Elliott, M. (2018). Преглед на предположенията относно мъжкото психично здраве: изследване на половата бинарност. American Journal of Men's Health, 12(1), 78–89. https://doi.org/10.1177/1557988316630953
Steinberg, J.R., Turner, B.E., Weeks, B.T., Magnani, C.J., Wong, B.O., Rodriguez, F., Roque, E.L., & Bhatt, D.L. (2021). Анализ на включването на жени и разпределението по пол на участниците спрямо тежестта на заболяванията в клинични изпитвания в САЩ през периода 2000–2020 г. JAMA Network Open, 4(6), e2113749. https://doi.org/10.1001/jamanetworkopen.2021.13749
Straw, I., & Callison-Burch, C. (2020). Изкуствен интелект в психичното здраве и пристрастията на езиково базираните модели. PLOS ONE, 15(12), e0240376. https://doi.org/10.1371/journal.pone.0240376
Todorov, A., Kaufmann, F., Arslani, K., Haider, A., Bengs, S., Goliasch, G., Zellweger, N., Tontsch, J., Sutter, R., Buddeberg, B., Hollinger, A., Zemp, E., Kaufmann, M., Siegemund, M., Gebhard, C., & Gebhard, C.E., on behalf of the Swiss Society of Intensive Care Medicine. (2021). Полови различия в предоставянето на интензивни грижи: байесов подход. Intensive Care Medicine, 47(5), 577–587. https://doi.org/10.1007/s00134-021-06393-3
Williams, D. R., & Wyatt, R. (2015). Расови пристрастия в здравеопазването и здравето: предизвикателства и възможности. JAMA, 314(6), 555. https://doi.org/10.1001/jama.2015.9260
Yoon, D. Y., Mansukhani, N. A., Stubbs, V. C., Helenowski, I. B., Woodruff, T. K., & Kibbe, M. R. (2014). Съществуване на полово пристрастие в фундаменталните и транслационните хирургични изследвания. Surgery, 156(3), 508–516. https://doi.org/10.1016/j.surg.2014.07.001