완벽하지 않은 인공지능
[인공지능 윤리교육은 이렇게]
생각열기
우리는 '진짜'와 '가짜'를 바르게 구별할 수 있을까요?
'가상 인간' 프로젝트 - NEON
출처 : NEON(https://www.youtube.com/watch?v=hObhjF-5olU)
< 진짜 사람은 누구일까요? >
두 장의 사진 중 사람이라고 생각되는 사진을 선택해봅시다.
두 사진 중 하나는 인공지능이 만든 가짜 사진!!!
진짜 사람을 찾아 클릭해봅시다.
출처 : https://www.whichfaceisreal.com/index.php
인공지능을 어떻게 사용해야 할까요?
인공지능 기반 이미지 합성 기술 - 딥페이크(Deepfake)
딥페이크는 인공지능을 기반으로 한 인간 이미지 합성 기술을 뜻합니다.
사람의 얼굴, 신체 등을 원하는 이미지나 영상에 합성할 수 있습니다.
# 딥페이크 기술은 전문가만 활용할 수 있을까요?
출처 : https://reflect.tech/
누구나 쉽게 만드는 딥페이크
구글 계정으로 로그인
배경 사진 선택
합성할 사진 선택
합성된 사진 확인
level을 조정해 합성 정도 조절
# 오바마인데 오바마가 아니다??
출처 : YTNnews(https://www.youtube.com/watch?v=bOQOzX6MpA8)
인공지능 기술을 악용한다면?
출연자의 의도와는 다른 이미지나 영상을 제작
사회, 경제적인 이슈, 법적인 문제 등 혼란을 야기
불법 영상 제작 범죄
초상권 침해
유명인을 합성한 가짜뉴스
[ 인공지능 사용자 윤리 ]
사용자의 의도에 따라 긍정적인 효과를 낼 수도, 사회적인 혼란을 일으킬 수도 있는 인공지능 !
인공지능을 사용하는 사람들은 올바른 원칙을 가지고 바르게 사용하기 위해 노력해야 해요.
개발자는 기술을 어떻게 만들어야 할까요?
인공지능은 항상 공정한 판단을 할까요?
다양한 특징을 모두 반영하지 못한 데이터, 한쪽으로 치우친 데이터가 학습될 경우 편향된 결과가 발생
인공지능은 인간의 무의식적 편견(이 반영된 데이터)에 의해 영향
# 인공지능 면접관은 남성만 좋아해?
출처 : JTBCNews(https://www.youtube.com/watch?v=dqTWgyWgGtk)
왜 인공지능은 여성을 차별했을까?
아마존의 인공지능 채용 프로그램이 남성만을 채용
남성 직원의 데이터를 많이 학습하여 남성에 우호적 판단
'여성' 관련 문구가 있으면 감점
성차별 요소를 없애기 위해 수정하려 했지만 예상치 못한 차별이 발생할 수 있어 프로그램을 자체 폐기
인공지능을 어떻게 개발해야 할까요?
모럴머신 설문 분석 결과
출처 : https://brunch.co.kr/@dwcha7342/28
[ 인공지능 개발자 윤리 ]
인공지능 모델, 알고리즘을 개발한 사람에 의해 발생하는 인공지능 편향 !
인공지능을 만드는 사람은 모든 사람을 위한 데이터를 학습 시키고 공정한 인공지능을 만들기 위해 노력해야 해요.
모두를 위한 인공지능, 바르게 사용해요 !
인공지능 윤리(AI Ethics)
출처: 네이버-소프트웨어야놀자(https://terms.naver.com/entry.naver?cid=58367&docId=6081340&categoryId=67050 )
우리의 생활에 깊숙이 파고 드는 인공지능을 더욱 편리하고 유용하게 사용하기 위해서는
윤리 의식을 가지고 바르게 만들고, 바르게 사용하려는 우리 모두의 노력이 필요해요