유튜브가 AI 라벨링에 박차를 가하고 있어요. 업로드한 영상들의 일부 또는 전체가 생성형AI로 제작됐는지, 시청자가 잘 알 수 있도록 돕기 위한 조치를  플랫폼 단에서 취하고 있네요. 가장 최근 내놓은 툴은 ‘실제처럼 보이는 콘텐츠(유튜브의 정의에 따르면 시청자들이 진짜 사람, 장소, 사건이라고 쉽게 오해 및 오인할 수 있는 콘텐츠)’의 경우 시청자들에게 ‘생성형 AI를 포함한 변형 및 합성 미디어를 사용해서 만든 영상’이라고 알려줍니다. 

즉 다음과 같은 영상에 라벨링을 하는 것입니다. 

- 실제 인물의 초상 활용: 콘텐츠를 디지털 방식으로 변경하여(생성 AI를 포함한 변형 또는 합성 미디어를 사용하여) 한 사람의 얼굴을 다른 사람의 얼굴로 대체하거나 사람의 음성을 합성하여 동영상에 삽입한 경우

- 실제 사건이나 장소의 변경: 예를 들어 실제 건물에 불이 붙은 것처럼 보이도록 만들거나 실제 도시 풍경을 실제와 다르게 보이도록 변경하는 등의 경우

- 사실적인 장면 생성: ‘실제 마을을 향해 이동하는 토네이도’와 같은 가상의 주요 사건을 사실처럼 보이게 묘사하는 경우 

유튜브는 플랫폼에 업로드된 전체 영상을 대상으로 수 주 안에 해당 툴을 출시하면서 이를 따르지 않는 크리에이터에게 어떤 조치를 취할지도 발표하겠다고 밝혔어요. 앞으로 건강, 뉴스, 선거, 금융 등 보다 민감한 주제와 관련된 콘텐츠의 경우에는 라벨이 동영상 자체에 표시될 것이라고도 하네요. 

선거를 앞두고 유튜브 뿐만 아니라 다양한 플랫폼들이 생성형AI 등을 활용한 허위/가짜 정보를 막는 데 신경을 곤두세우고 있어요. 적어도 그렇게 보이도록 최대한 조치를 취하는 것 같기도 하고요. 그만큼 효과가 얼만큼 있느냐가 중요할 것 같고, 플랫폼들은 조치의 효과에 관해서도 적극적으로 알려야 하지 않을까 싶습니다.