구글·메타에 이어 오픈AI도 생성AI 이미지에 라벨 붙인다

최근 구글, 메타에 이어 오픈AI도 자사가 제공하는 인공지능(AI) 기술로 생성된 이미지에 디지털 워터마크(label)를 부착하기로 했다. * 배경 * 지난달 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 X(트위터) 등에서 확산해 논란이 됨 * 이로 인해 AI가 생성한 딥페이크(Deep fake) 이미지에 규제가 필요하다는 의견들이 본격화 되기 시작함 * C2PA * https://c2pa.org/ * 콘텐츠 출처·진위 확인을 위한 연합 * Adobe, Arm, Intel, Microsoft 및 Truepic의 제휴를 통해 결성된 공동 개발 재단 프로젝트 * 미디어 콘텐츠의 출처와 이력(또는 출처)을 인증하는 기술 표준을 개발하여 온라인에서 잘못된 정보가 널리 퍼지는 문제를 해결 * 디지털 미디어의 맥락과 이력을 제공하는 시스템에 초점을 맞춘 Adobe 주도의 CAI(Content Authenticity Initiative)와 디지털 뉴스 생태계의 허위 정보에 대응하는 Microsoft 및 BBC 주도의 이니셔티브인 Project Origin의 통합 * 디지털 워터마크는 메타데이터 형태로 이미지에서는 볼 수 없고 콘텐츠자격증명인증(Content Credentials Verify)과 같은 사이트에서 AI가 이미지를 생성했는지 여부를 확인할 수 있는 일종의 꼬리표 * 오픈AI * 7일(미국시간) 공식 블로그를 통해 이미지 생성AI 툴 ‘달리3’로 구현한 이미지에 디지털 워터마크를 부착 발표 * 달리3가 만든 이미지에 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 워터마크를 부착할 계획 * 웹 버전에서 달리3로 생성된 이미지 메타데이터에는 이미 C2PA가 들어간 상태며 12일까지 이를 모바일 사용자에게도 확대할 계획 * 메타 * 6일) 블로그를 통해 자체 AI 툴(메타 AI)을 사용해 만든 이미지뿐만 아니라 외부 AI 툴로 만든 콘텐츠에도 ‘이매진드 위드 AI(Imagined with AI)’라는 라벨을 붙일 계획 발표 * 닉 클레그 메타 글로벌사업 담당은 로이터와의 인터뷰에서 “현재 AI가 생성한 이미지에 안정적으로 라벨을 붙일 수 있다고 확신하고 있으나 오디오·비디오 콘텐츠에 적용하는 것은 복잡한 과정으로 현재 개발 중”이라고 설명 * 기대 효과 * 생성AI 기술과 관련한 잠재적 피해를 완화 * C2PA가 개발 중인 새로운 표준 기술 시스템을 적용 * 향후 많은 AI기반 업체들의 새로운 디지털 라이선스 관련 이슈에 중요한 표준이 될 것으로 예상 ** 출처: ITBizNews: https://www.itbiznews.com/news/articleView.html?idxno=125491