🧐 램프를 나온 지니, AI 안전에 대하여...

[😈데블챌 2기 3일차, 딥페이크 이슈와 AI 안전]

'내가 한 적 없는 일에 대하여 사진, 목소리 심지어 영상 자료까지 증거로 나타난다면 어떻게 해야할까?', 이러한 공상 과학 속 이야기는 미래가 아닌 당장 오늘의 이야기가 되었습니다. 딥페이크 기술에 대한 두 가지 이슈를 공유하며 생각을 정리해 보았습니다.

• 버핏 “AI 힘은 핵무기급…램프에 넣을 수 없는 요정같아 두렵다”

  • https://www.joongang.co.kr/article/25247174#home

첫 번째 이슈는 자신의 딥페이크 영상을 본 워렌 버핏의 인터뷰 입니다. AI 기술과 관련 깊은 인물은 아니지만, AI의 위험성을 지적하는 인상적인 표현을 남겼습니다.

“핵무기를 개발할 때 우리는 램프에서 '지니'를 꺼낸 셈, AI도 비슷하다. 지니를 다시 램프 안으로 집어넣는 방법을 알지는 못한다"

“나조차도 어느 이상한 나라에 있는 (가짜인) 나 자신에게 돈을 송금할 것”

"AI로 만든 이미지와 동영상은 구분이 불가능하다. 내가 사기에 관심이 있었다면 역대급 성장을 기록한 산업이 됐을 것이다."

버핏은 AI에 대한 긍정적인 잠재력을 인정하면서도, 농담 섞인 우려들을 표현하였습니다.

• AI로 목소리 꾸며내 교장 모함한 고교 체육감독

  • https://news.mt.co.kr/mtview.php?no=2024050207292345357

버핏이 우려했던 일을 잘 보여주는 두 번째 사례가 있습니다. 미국의 한 교장이 인종 차별적인 발언을 한 녹취록이 유포되었습니다. 학교에 항의가 빗발치고 신변 위협까지 가져온 이 녹취록은, 앙심을 품은 한 교사가 AI로 생성한 딥보이스로 밝혀졌습니다. 이로 인해 AI 기술에 대한 법령의 필요성이 제기되고 있습니다.

최근 기술들의 수준을 보며, "내 목소리로 학습된 보이스 피싱을 가족들이 구분할 수 있을까?" 심지어 나조차 분별할 수 있을지 의문이 들었습니다. Open AI의 소라 와 같이 일관성 있는 생성 영상까지 고려한다면, 정보를 분별하기 더욱 어려워 질 것 같습니다.

물론 AI 기술에 대한 막연한 두려움을 전하고자 소식을 준비한 것은 아닙니다. 하지만 AI 기술의 악용 가능성을 인지하기 위한 'AI 안전 교육'의 시급성을 이야기 하고 싶었습니다. 예를 들어, 시민들이 AI 산출물의 특성을 인식하고, 정보를 신중히 검토할 수 있도록 이를 전달하는 노력이 필요하지 않을까 싶습니다.

정보의 검색 능력이 우대 받던 시대를 넘어 "정보에 대한 분별력"이 중요한 시대를 준비하여, 3가지 선한 소원이 이루어 지는 사회가 되길 바래봅니다. 🧞