숭실대학교 AI 안전성 연구센터는 인공지능 기술의 급속한 발전에 따라 발생할 수 있는 위험성을 연구하고 이에 대응하기 위한 체계적인 정책과 기술을 개발하는 것을 목표로 합니다. 센터는 다음 세가지 연구 분야에 중점을 두고 활동합니다.

1.  AI 위험관리 연구 ： AI 시스템이 직면할 수 있는 위험을 식별하고 평가하며, 이를 예방하고 대응하기 위한 안전성 테스트 및 위험 대응 기술과 정책을 연구합니다. 또한, 이러한 위험을 관리하기 위한 지속적인 프로세스와 법제도를 개발하여 AI의 안전한 사용을 도모합니다.

2. 적대적 AI 공격 및 방어 연구 ： AI 시스템이 다양한 적대적 시나리오에서도 견딜 수 있도록 만드는 기술을 개발하여, 시스템의 복원력을 강화하고 보안을 유지하는 데 중점을 둡니다. 특히 국방, 보안 분야의 AI를 중심으로 연구를 진행하여, 국가 안보를 지키는 데 기여합니다.

3. 생성형 AI의 신뢰성 제고 연구 ： AI가 생성한 결과물의 정확성을 높이고, 편향이나 오류를 방지하기 위한 기술을 개발합니다. 이를 통해 가짜뉴스 , 딥페이크, 딥보이스 등의 AI 결과물이 부정적으로 사용되는 것을 방지하고, 전반적인 AI 공급망에서 발생할 수 있는 취약점을 진단하고 이를 보완합니다.

연구센터는 AI 기술이 가져올 수 있는 다양한 위험에 대응하여, 사회적 신뢰를 구축하고 이용자 및 기업의 안전을 보장하기 위한 노력을 지속하고 있습니다.

• “AI시대 인증기술, 가볍고 단순하며 사용자 환경 반영해야 성공” (article)

최대선 교수는 보안성을 높이려면 사용자가 처해 있는 환경을 인증에 반영하는 방향으로 인증기술이 개발돼야 한다고 했다.
그는 “눈동자를 움직일 때 주변 근육의 떨림이나 심전도 초음파도 향후 생체인증에 활용될 수 있으며,
사용자가 휴대전화를 잡을 때 ‘그립감’까지 식별하는 기술 도입이 필요하다”고 했다.
“인증에 활용되는 AI에 대한 위협이 고도화돼 AI를 속이거나 AI로 속이는 게 가능하다”며 “이런 뉴노멀 시대의 위협에 대비해야 한다”고 강조했다.