AI Fairness Research Center

인공지능 공정성 연구 센터는 국내를 비롯하여 세계 연구기관 간의 공동연구 구축을 통해 공정한 인공지능을 연구하고자 2019년 KAIST 내 설립되었습니다. 딥러닝으로 대표되는 최근 인공지능의 발전으로 일상상활을 비롯한 다양한 산업에 인공지능이 적용되는 현 시점에서, 공정성은 인공지능이 지녀야 할 중요한 특징으로 대두되고 있습니다. 본 연구 센터에서는 다양한 분야에서 요구되는 다양한 형태의 공정성 측도를 정립하고, 공정한 인공지능을 다양한 산업에 적용하는 것을 목표하고 있습니다. 

￮ 데이터 및 인공지능 모델의 편향성을 파악하기 위한 공정정 개념 및 측도 연구 

￮ 인공지능 모델의 편향성을 제거하기 위한 연구

￮ 편향성 측정을 위한 시각화도구의 개발 및 산업영역의 적용을 구현 

https://github.com/konanaif/MAF

https://github.com/konanaif/MAF-DEMO

MSIT AI Fair(MAF)는 과학기술정보통신부 “점차 강화되고 있는 윤리 정책에 발맞춰 유연하게 진화하는 인공지능 기술 개발 연구(2022~2026)“ 국가과제의 일환으로, 인공지능(AI)의 공정성을 진단하고 편향성을 교정하는 진단 시스템입니다. 과거 “인공지능 모델과 학습데이터의 편향성 분석-탐지-완화-제거 지원 프레임워크 개발(2019-2022)” 국가과제 결과물의 연장선으로, 지속적으로 확장·개발되고 있습니다.

MAF는 데이터 편향성과 알고리즘 편향성을 측정 및 완화하는 것을 목표로 합니다. MAF는 IBM에서 공개한 AI Fairness 360(AIF360)의 브랜치로 시작하여 AIF360의 기본 기능을 담고 있으며, 과제 수행 기간 중 컨소시엄 내에서 개발된 편향성 완화 알고리즘의 추가, 지원 데이터 형식 추가, CPU 환경 지원 추가 등의 기능을 계속 확장하고 있습니다.

MAF 패키지는 python 환경에서 사용할 수 있습니다.

MAF 패키지에는 다음이 포함됩니다.

1. 모델에 대한 메트릭 세트 및 메트릭에 대한 설명

2. 데이터 세트 및 모델의 편향을 완화하는 알고리즘

   • 연구소 알고리즘은 음성, 언어, 금융, 의뢰 시스템, 의료, 채용, 치안, 광고, 법률, 문화, 방송 등 광범위한 분야에서 활용하기 위해 설계되었습니다.

확장 가능성을 두고 패키지를 개발하였으며 지속적으로 개발 및 업데이트를 진행 중입니다.

1. 2020 채용과정의 공정성과 인공지능(AI)도입에 관한 인식조사 

https://drive.google.com/file/d/1Oj0Q9X-plr4S5mYWBSjzPF0lEArXDnvi/view?usp=sharing

2. 2022 금융서비스 이용과정의 공정성과 인공지능(AI)에 대한 인식조사 

https://drive.google.com/file/d/16gvptyiuZYLqLTwNvvxAu4HT8AdaJXJ8/view?usp=sharing

3. 2023 의료서비스 이용과정의 공정성과 의료AI에 대한 인식조사 

https://drive.google.com/file/d/1QpTabbmA40n24bKKSI8Fs-ihroHXTL_-/view?usp=sharing

4. 2024 채용과정의 공정성과 인공지능(AI) 도입에 관한 인식조사 - 이전 조사와의 비교 -

 https://drive.google.com/file/d/1FMWVnzZFUbSQ1OjtqDdH9xzI0N0Q12XB/view?usp=sharing