Проект „Противниковите атаки – пресечна област на киберсигурността и изкуствения интелект“ (STEM)
Автор: Христо Тодоров, ученик в 11 б клас на ПМГ „Проф. Емануил Иванов“, гр. Кюстендил.
Казвам се Христо Тодоров и съм ученик от 11 клас на ПМГ “Проф. Емануил Иванов”, гр. Кюстендил. Моят проект изследва една изключително важна тема – противниковите атаки, които са пресечна област на киберсигурността и изкуствения интелект. Той бе започнат по време на тазгодишната Лятна изследователска школа, която се проведе през месеците юли и август, на която ученици от цялата страна с интереси в областта на информатиката и математика създават научни разработки. Разработен е под ръководството на Кристиан Георгиев, който е студент в Масачузетския технологичен институт, САЩ.
Модели от областта на машинното обучение биват прилагани върху широк набор от задачи, като например класифициране на изображения, лицево разпознаване, разпознаване на превозни средства на пътя и др. С все по дълбоката им интеграция в начина на живот, въпросът относно тяхната сигурност и надежност става основен. Демонстирано е, че всички видове архитектури невронни мрежи са уязвими срещу противникови атаки - модифицирани входни данни, които са почти неразличми от оригиналните, но все пак биват класифицирани неправилно от мрежата. По-важното в този случай е, че даден противник може да синтезира такива злонамерни входни данни с много малко усилия. В тази проекта си, ние създаваме противникови атаки, които могат да бъдат изпълнени във физическия свят, като атакуваме модели, които ни дават минимално количество информация (тип “черна кутия”). Това е една сфера, която тепърва следва да бъде развивана, и ние демонстрираме едни от първите успешни атаки от нея. Създаването на ефикасни задачи е изключително важна задача, защото е демонстрирано, че единствено с тяхна помощ могат да бъдат изградени стабилни защити, като обучаваме модели да не бъдат заблуждавани от тях.
Проектът ми обединява сферите математика и информатика, които са част от така наречените STEM науки. За мен те са важни, защото са двигателят на съвременния прогрес, както и ни позволяват да погледнем света под различен ъгъл и да открием неща, които не сме и подозирали, че съществуват.