[AI의 빛과 그림자] 딥페이크(DeepFake)

최근의 텔레그램 기반의 딥페이크 영상물로 인한 어마어마한 사회적 물의와 파장을 만들어내고 있다. 사실 딥페이크 기술은 딥러닝 기술에서 발전한 AI기술의 하나이다. 딥페이크 기술의 내용을 정리해보고자 한다. 1. 딥페이크(DeepFake)란? * DeepFake = Deep Learning + Fake * 인공지능 기술인 딥러닝(deep learning)과 ‘가짜’를 의미하는 단어인 페이크(fake)의 합성어 * 본래는 인공 지능을 기반으로 한 인간 이미지 합성 기술을 의미하나, 현재 대부분 언론에서는 이러한 딥페이크 기술로 만들어져 진위 여부를 구별하기 어려운 가짜 이미지나 영상물을 의미 * 2017년 'deepfakes'라는 닉네임의 레딧(Reddit) 사용자에 의해 만들어진 한 사람의 얼굴을 학습한 뒤 다른 영상에서 얼굴을 바꿔치기(Swap) 하는 기술을 의미하는 용어에서 유래 2. 기반 기술 * 딥러닝: 심화신경망을 활용해 기계학습을 하는 방법으로 컴퓨터가 사람처럼 생각하고 배우도록 하는 기계학습 기술로서 이미지검색, 음성검색, 기계번역 등 다양한 분야에 활용 * 생성적 적대 신경망(Generative Adversarial Net, GAN): 두 신경망 모델(생성자-감별자) 의 경쟁을 통해 학습하고 결과물을 만들어 내는 기술 * 생성자(Generator): 실제 데이터를 학습하고 이를 바탕으로 거짓 데이터를 생성하며 실제에 가까운 거짓 데이터를 생성하는 모델 * 감별자(Discriminator): 생성자가 내놓은 데이터가 실제인지 거짓인지 판별하도록 학습하는 모델 3. 역사(?) * 2014년: 머신러닝 기술인 ‘적대관계생성신경망(Generative Adversarial Networks, 이하 GAN)’ 등장 * 2017년: 미국 온라인 커뮤니티 Reddit의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 콘텐츠를 게재 4. 딥페이크의 긍정적 활용 사례(빛) * 영상제작: 새로운 인물 제작하거나 특수 효과로 배우의 과거 또는 미래의 인물 재현. 예) 로그원(스타워즈), 저스티스리그의 슈퍼맨, 인디아나 존스:운명의 다이얼에서 해리슨포드 젊은 시절 * 신원 확인 수단: 딥러닝을 통해 수많은 얼굴 정보를 익히도록 함으로써 얼굴인식 능력을 향상시키고, 이는 범죄자 색출, 테러범 차단 등 신원 확인 수단으로도 사용 * 의료분야: CT, MRI, X선 등 영상 의학 자료를 분석하여 암 진단 활용 / 알츠하이머 환자의 초기 음성을 학습시켜 병이 심해진 환자의 말을 대신 발음해주는 기술 개발 / 말라리아 퇴치 캠페인 홍보를 위해 데이비드 베컴은 중국어, 힌디어, 아랍어 등 9개 언어를 구사하는 영상으로 홍보 * 교육 분야: 역사적 인물을 복원하는 등 시청각 교육 자료로 활용 * 정서적 안정 및 위로 매개체: 얼굴을 보지 못하는 그리운 사람의 모습을 똑같이 재현하고, 더 나아가 그 사람이 생전 경험했던 여러 모습을 학습시켜서 그 사람과 대화할 수 있는, 영원히 그 사람을 보존할 수 있는 기술을 개발. 예) 김광석, 거북이 재현 방송 등 5. 딥페이크의 부정적 활용 사례(그림자) * 성범죄 악용: 유명인 또는 SNS, 최근 사례처럼 학교내의 학생들 얼굴을 무단 도용하여 딥페이크 포르노 생성을 통해 개인의 명예훼손 및 치명적인 악의적인 이미지 생성 * 조작영상 및 가짜뉴스: 유명인사의 얼굴 합성한 딥페이크 뉴스. 심지어 총선이나 대통령 선거등에 가짜뉴스 원천으로 활용되는 사례도 있었음 * 사기 및 보이스피싱: 음성이나 사진을 조작해 보이스 피싱등의 기반 기술로 활용하는 사례 * 생체인증우회: 개인의 고유한 외모나 목소리를 모방해 금융, 보험 사기에 악용 * 합성곱 신경망(https://wikidocs.net/64066) * 나무위키 딥페이크(https://namu.wiki/w/%EB%94%A5%ED%8E%98%EC%9D%B4%ED%81%AC) * Deepfake의 원리: 당신의 예상보다 훨씬 쉽고, 대단한 기술(https://velog.io/@hewas1230/deepfake-principle) * Deepfake 탐지 : 음지의 Deepfake에 맞서는 Transformer-Based AI(https://velog.io/@hewas1230/Deepfake-Detection-Transformer) * 딥페이크 기술의 명과 암- AI 보안 위협 5가지(https://www.skshieldus.com/blog-security/security-trend-idx-07) * DETECT FAKES(https://detectfakes.kellogg.northwestern.edu/) * Factcheck.org(https://www.factcheck.org/) * 출처: https://www.skcareersjournal.com/2422