메타, 선거 전 AI 생성 콘텐츠에 고삐 바짝

메타가 페이스북, 인스타그램, 스레드에서 AI 생성 이미지/음성을 감지하고 라벨을 지정한다고 밝혔습니다. 메타는 이미 AI 생성 이미지/음성을 분류하고 워터마크를 표시하며, 이미지가 다른 플랫폼에서 만들어진 경우 이를 알릴 수 있는 메타데이터를 생성해두었는데요. 이번에는 라벨을 붙여서 다른 회사에서 AI 생성 이미지/음성을 사용할 때 마커를 식별할 수 있는 도구를 개발 중이라고 했어요. 심지어 콘텐츠에 눈에 보이지 않는 마커가 없거나 해당 마커가 제거된 경우에도 AI 생성 콘텐츠를 자동으로 감지하는 기술 개발도 검토하고 있습니다.  생성 AI 시대에 반드시 취해야할 조치들을 하나씩 적용해가는 단계라고 보는데요. 특히나 내년에 중요한 선거들을 치르기 전에 문제가 생기지 않도록 플랫폼들이 나서서 선제적으로 “우리 이렇게까지 하고 있습니다”라는 모습을 보여주고 있는 것 같습니다. 실제로 선거에 이미 AI 생성 콘텐츠가 침투해서 문제를 일으키고 있는데요. 한 예로 최근 뉴햄프셔 민주당 예비선거에서 딥페이크로 합성한 조 바이든 대통령의 목소리로, 유권자들에게 선거에 참여하지 않도록 독려하는 음성합성본이 문제가 되기도 했죠. 국가와 사회의 기본적인 조건이 되는 정치를 포함한 많은 영역에 AI가 빠르게 스며 들면서 좋은 점도 있지만 분명히 큰 문제들도 일으키고 있어요. 앞으로는 AI가 더 큰 영향을 미칠 것으로 보이는만큼 플랫폼들이 더 자주 이런 소식을 전하게 되겠네요.