[AI의 빛과 그림자] 딥페이크(DeepFake)

최근의 텔레그램 기반의 딥페이크 영상물로 인한 어마어마한 사회적 물의와 파장을 만들어내고 있다. 사실 딥페이크 기술은 딥러닝 기술에서 발전한 AI기술의 하나이다. 딥페이크 기술의 내용을 정리해보고자 한다.

1. 딥페이크(DeepFake)란?

• DeepFake = Deep Learning + Fake

• 인공지능 기술인 딥러닝(deep learning)과 ‘가짜’를 의미하는 단어인 페이크(fake)의 합성어

• 본래는 인공 지능을 기반으로 한 인간 이미지 합성 기술을 의미하나, 현재 대부분 언론에서는 이러한 딥페이크 기술로 만들어져 진위 여부를 구별하기 어려운 가짜 이미지나 영상물을 의미

• 2017년 'deepfakes'라는 닉네임의 레딧(Reddit) 사용자에 의해 만들어진 한 사람의 얼굴을 학습한 뒤 다른 영상에서 얼굴을 바꿔치기(Swap) 하는 기술을 의미하는 용어에서 유래

2. 기반 기술

• 딥러닝: 심화신경망을 활용해 기계학습을 하는 방법으로 컴퓨터가 사람처럼 생각하고 배우도록 하는 기계학습 기술로서 이미지검색, 음성검색, 기계번역 등 다양한 분야에 활용

• 생성적 적대 신경망(Generative Adversarial Net, GAN): 두 신경망 모델(생성자-감별자) 의 경쟁을 통해 학습하고 결과물을 만들어 내는 기술

  • 생성자(Generator): 실제 데이터를 학습하고 이를 바탕으로 거짓 데이터를 생성하며 실제에 가까운 거짓 데이터를 생성하는 모델

  • 감별자(Discriminator): 생성자가 내놓은 데이터가 실제인지 거짓인지 판별하도록 학습하는 모델
    

3. 역사(?)

• 2014년: 머신러닝 기술인 ‘적대관계생성신경망(Generative Adversarial Networks, 이하 GAN)’ 등장

• 2017년: 미국 온라인 커뮤니티 Reddit의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 콘텐츠를 게재

4. 딥페이크의 긍정적 활용 사례(빛)

• 영상제작: 새로운 인물 제작하거나 특수 효과로 배우의 과거 또는 미래의 인물 재현. 예) 로그원(스타워즈), 저스티스리그의 슈퍼맨, 인디아나 존스:운명의 다이얼에서 해리슨포드 젊은 시절

• 신원 확인 수단: 딥러닝을 통해 수많은 얼굴 정보를 익히도록 함으로써 얼굴인식 능력을 향상시키고, 이는 범죄자 색출, 테러범 차단 등 신원 확인 수단으로도 사용

• 의료분야: CT, MRI, X선 등 영상 의학 자료를 분석하여 암 진단 활용 / 알츠하이머 환자의 초기 음성을 학습시켜 병이 심해진 환자의 말을 대신 발음해주는 기술 개발 / 말라리아 퇴치 캠페인 홍보를 위해 데이비드 베컴은 중국어, 힌디어, 아랍어 등 9개 언어를 구사하는 영상으로 홍보

• 교육 분야: 역사적 인물을 복원하는 등 시청각 교육 자료로 활용

• 정서적 안정 및 위로 매개체: 얼굴을 보지 못하는 그리운 사람의 모습을 똑같이 재현하고, 더 나아가 그 사람이 생전 경험했던 여러 모습을 학습시켜서 그 사람과 대화할 수 있는, 영원히 그 사람을 보존할 수 있는 기술을 개발. 예) 김광석, 거북이 재현 방송 등

5. 딥페이크의 부정적 활용 사례(그림자)

• 성범죄 악용: 유명인 또는 SNS, 최근 사례처럼 학교내의 학생들 얼굴을 무단 도용하여 딥페이크 포르노 생성을 통해 개인의 명예훼손 및 치명적인 악의적인 이미지 생성

• 조작영상 및 가짜뉴스: 유명인사의 얼굴 합성한 딥페이크 뉴스. 심지어 총선이나 대통령 선거등에 가짜뉴스 원천으로 활용되는 사례도 있었음

• 사기 및 보이스피싱: 음성이나 사진을 조작해 보이스 피싱등의 기반 기술로 활용하는 사례

• 생체인증우회: 개인의 고유한 외모나 목소리를 모방해 금융, 보험 사기에 악용 < - PAD(Presentation Attack Detection) 기술이 적용된 인증 시스템으로 일정부분 방지 가능

6. 딥페이크 방지를 위한 규제 및 기술

• 딥페이크 방지 기술

  • 오픈AI: 이미지 생성AI(달리)에서 딥페이크 관련 명령어 금지

  • 메타: 자사플랫폼에서 생성된 AI 이미지에 라벨 표시

  • 틱톡: 자사플랫폼에서 생성된 AI 이미지에 라벨 표시

  • 미국방위고등연구계획국(Defense Advanced Research Projects Agency): 딥 페이크 영상 탐지를 위한 기술 개발

  • 합성곱계층망(Convolutional Neural Network, 이하 CNN)을 이용한 탐지 연구

    • 합성곱 계층(convolutional layer) 및 풀링 계층(pooling layer)의 조합으로 구성된 신경망에서 진짜와 가짜 영상 속의 얼굴 특징을 추출하고, 이를 학습함으로써 딥 페이크를 탐지

    • 순환신경망(Recurrent Neural Network) 및 LSTM(Long Short-Term Memory)과 같은 다른 종류의 딥러닝 모델과 단계적으로 조합함으로써 딥 페이크 탐지 성능 향상

  • (ViT)Vision Transformer 딥러닝 모델을 사용하여 탐지하는 방법

• 글로벌 기업들

  • 2019년 9월: 메타, 아마존, 구글, 마이크로소프트, MIT, 옥스퍼드, 코넬공과대 공동의 딥페이크 감지 기술 경연 대회 Deepfake Detection Challenge(DFDC) 개최

    • 메타: 연구비·상금 수여 등 명목으로 해당 대회에 1,000만 달러를 투자

    • 아마존: 영상 해독 알고리즘의 개발을 위해 향후 2년간 개발자들에게 100만 달러에 달하는 Amazon Web Services6 이용권 제공

    • 구글: Google은 3,000개의 딥페이크 영상을 촬영한 후, 딥페이크 감지 기술 연구에 제공

    • 트위터(X): 조작된 콘텐츠를 공유하지 못하게 하거나, 조작된 콘텐츠가 허위임을 나타내는 링크를 삽입하는 등 딥페이크 악용 사례를 방지하는 정책

• 딥페이크 처벌

  • 미국: 버지니아주는 2019년 7월 1일부터 딥페이크 성인용 콘텐츠를 보복성 음란물(리벤지 포르노)의 영역에 포함하는 법안 발효 및 처벌 강화

  • 영국: 2024년 4월 딥페이크 영상 제작 처벌로 법 개정

  • 한국: 2024년 8월 현재

    • 성폭력처벌법을 개정해 ‘허위 영상물 소지죄’ 조항을 신설해, 딥페이크 음란물을 갖고 있기만 해도 형사처벌

    • 딥페이크 음란물을 유포한 사람에 대해선 법정형을 ‘5년 이하 징역 또는 5000만원 이하 벌금’에서 ‘7년 이하 징역’으로 강화

    • 딥페이크 음란물 제작자를 잡기 위해 경찰관이 신분을 위장해 수사하는 것을 허용하는 방안도 추진

    • 딥페이크 기술 등 생성형 AI를 활용해 만들어진 영상물에 대해 워터마크 표시를 의무화하고, 딥페이크 음란물 피해자의 신상 정보가 온라인에 퍼져 있는 경우 이를 삭제할 수 있도록 법적 근거를 마련 중

< 참고자료 >

• 합성곱 신경망(https://wikidocs.net/64066)

• 나무위키 딥페이크(https://namu.wiki/w/%EB%94%A5%ED%8E%98%EC%9D%B4%ED%81%AC)

• Deepfake의 원리: 당신의 예상보다 훨씬 쉽고, 대단한 기술(https://velog.io/@hewas1230/deepfake-principle)

• Deepfake 탐지 : 음지의 Deepfake에 맞서는 Transformer-Based AI(https://velog.io/@hewas1230/Deepfake-Detection-Transformer)

• 딥페이크 기술의 명과 암- AI 보안 위협 5가지(https://www.skshieldus.com/blog-security/security-trend-idx-07)

• DETECT FAKES(https://detectfakes.kellogg.northwestern.edu/)

• Factcheck.org(https://www.factcheck.org/)

• 출처: https://www.skcareersjournal.com/2422