Research Content

과제명:

[IITP] 점차 강화되고 있는 윤리 정책에 발맞춰 유연하게 진화하는 인공지능 기술 개발 연구 (2022-0-00184)

최종 목표:

• 현재 정책 및 예상되는 변경 정책을 기반으로 하는 인공지능 시스템 개발

• 정책 반영과 시스템의 성능간의 Trade off를 최소화하며, 변경된 정책 반영간 필요한 자원을 최소화 할 수 있는 학습 기술 개발

• 예측된 결과내의 정책 반영 여부에 대한 공정성 및 신뢰도 검증을 위한 평가하는 평가 프레임워크 구축

주요 기능:

• 신용, 채용, 의료, 법률 등 다양한 분야의 인공지능 적용 Computational Model 개발

• 인공지능 적용 모델에 성능 저하를 최소화하며 정책 반영이 가능한 알고리즘 개발

• 변경된 정책 반영간 필요한 학습 자원을 최소로 할 수 있는 소수샷 학습 기법 연구

• Test-suites(계산량 평가 / 성능 평가 / 학습하는데 필요한 데이터량 등)을 평가하는 평가 프레임워크 구축

• 실데이터를 이용하여 예측된 결과에 대한 신뢰도 및 설명 가능성 등을 통한 정책 반영 여부 및 예측 시스템의 평가 진행

34141 대전광역시 유성구 대학로 291 한국과학기술원 (KAIST) N24 LG이노베이션 홀 2108호 인공지능 공정성 연구 센터

T. 042-350-5470, 8070