[IT/보안 뉴스] "얼굴 사진 AI 합성 여부 구별하기 사실상 불가능"

기사 한줄요약(22.2.18.):

최근 실험 결과에 따르면, AI로 합성한 얼굴이 평균에 더 가까워 실제 이미지보다 더 신뢰할 수 있는 이미지로 판별되기때문에 합성여부 판별이 불가능하다고 합니다. 이 결과를 통해 향후 딥페이크 같은 AI 기술을 악용하는 상황에 대해 보호 방안이 필요하다고합니다.

남혁우, "얼굴 사진 AI 합성 여부 구별하기 사실상 불가능", ZDNet Korea, https://zdnet.co.kr/view/?no=20220217093453#_enliple

"얼굴 사진 AI 합성 여부 구별하기 사실상 불가능"

인물합성기술, 딥페이크(deepfake)

생성적 대립 신경망(GAN: Generative Adversarial Network)을 사용하여 사람의 이미지를 합성하는 기술.

딥러닝(deep learning)과 페이크(fake)의 합성어다.
기계학습(ML: Machine Learning) 방식 중 생성적 대립 신경망(GAN)은 새로운 이미지, 동영상, 음성 등을 생성하는 생성자(generator)와 생성한 이미지와 실제 이미지를 구별하는 판별자(discriminator)가 서로 경쟁하는 학습 모델로 새로운 위조 이미지, 동영상, 음성 등을 만들어낸다.

생성적 대립 신경망(GAN)을 활용하여 사진이나 영상에서 기존 인물을 다른 인물로 바꿔주는 합성 기술을 인물 합성 기술(deepfake)이라고 한다. 이 기술은 영화 산업에서 자주 활용되는데, 영화 ‘스타워즈:로그 원’에서는 고인이 된 배우 캐리 피셔의 얼굴이 이 기술로 합성되어 레아 공주로 등장하였다.
한편, 인물 합성 기술(deepfake)은 유명인들 얼굴이 합성된 포르노 영상, 정치인 얼굴을 합성한 가짜 뉴스 등으로 악용될 수 있다.

출처 : TTA, 한국정보통신기술협회, 정보통신기술사전