최근 구글, 메타에 이어 오픈AI도 자사가 제공하는 인공지능(AI) 기술로 생성된 이미지에 디지털 워터마크(label)를 부착하기로 했다.

• 배경

  • 지난달 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 X(트위터) 등에서 확산해 논란이 됨

  • 이로 인해 AI가 생성한 딥페이크(Deep fake) 이미지에 규제가 필요하다는 의견들이 본격화 되기 시작함

• C2PA

  • https://c2pa.org/

  • 콘텐츠 출처·진위 확인을 위한 연합

  • Adobe, Arm, Intel, Microsoft 및 Truepic의 제휴를 통해 결성된 공동 개발 재단 프로젝트

  • 미디어 콘텐츠의 출처와 이력(또는 출처)을 인증하는 기술 표준을 개발하여 온라인에서 잘못된 정보가 널리 퍼지는 문제를 해결

  • 디지털 미디어의 맥락과 이력을 제공하는 시스템에 초점을 맞춘 Adobe 주도의 CAI(Content Authenticity Initiative)와 디지털 뉴스 생태계의 허위 정보에 대응하는 Microsoft 및 BBC 주도의 이니셔티브인 Project Origin의 통합

  • 디지털 워터마크는 메타데이터 형태로 이미지에서는 볼 수 없고 콘텐츠자격증명인증(Content Credentials Verify)과 같은 사이트에서 AI가 이미지를 생성했는지 여부를 확인할 수 있는 일종의 꼬리표

• 오픈AI

  • 7일(미국시간) 공식 블로그를 통해 이미지 생성AI 툴 ‘달리3’로 구현한 이미지에 디지털 워터마크를 부착 발표

  • 달리3가 만든 이미지에 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 워터마크를 부착할 계획

  • 웹 버전에서 달리3로 생성된 이미지 메타데이터에는 이미 C2PA가 들어간 상태며 12일까지 이를 모바일 사용자에게도 확대할 계획

  
  

• 메타

  • 6일) 블로그를 통해 자체 AI 툴(메타 AI)을 사용해 만든 이미지뿐만 아니라 외부 AI 툴로 만든 콘텐츠에도 ‘이매진드 위드 AI(Imagined with AI)’라는 라벨을 붙일 계획 발표

  • 닉 클레그 메타 글로벌사업 담당은 로이터와의 인터뷰에서 “현재 AI가 생성한 이미지에 안정적으로 라벨을 붙일 수 있다고 확신하고 있으나 오디오·비디오 콘텐츠에 적용하는 것은 복잡한 과정으로 현재 개발 중”이라고 설명
    

• 기대 효과

  • 생성AI 기술과 관련한 잠재적 피해를 완화

  • C2PA가 개발 중인 새로운 표준 기술 시스템을 적용

  • 향후 많은 AI기반 업체들의 새로운 디지털 라이선스 관련 이슈에 중요한 표준이 될 것으로 예상

** 출처: ITBizNews: https://www.itbiznews.com/news/articleView.html?idxno=125491