구글의 Gemini AI가 역사적인 이미지를 부정확하게 생성하는 것으로 밝혀진 후 사람 이미지 생성 기능을 일시 중지했습니다. 내재된 성별 및 인종에 관한 오류와 편견 때문인데요. 예를 들어 ‘18

구글의 Gemini AI가 역사적인 이미지를 부정확하게 생성하는 것으로 밝혀진 후 사람 이미지 생성 기능을 일시 중지했습니다. 내재된 성별 및 인종에 관한 오류와 편견 때문인데요. 예를 들어 ‘1800년대 미국 상원의원’이라는 쿼리를 넣었을 때 흑인, 아메리카 원주민 여성으로 보이는 결과가 나왔는데요. 미국 최초 여성 상원의원은 1922년 백인 여성입니다. 즉 Gemini가 본질적으로 인종 차별, 성차별의 역사를 지우고 있는 것이죠.  구글 서비스를 비판하며 두 가지 생각해볼만한 것은요. 생성 AI 경쟁 속도가 너무 빨라서 하물며 구글 같은 큰 회사도 이렇게 오류가 많고 심각하게 떨어지는 수준의 결과물을 내는데 기술력과 자원이 더 적은 회사들은 더 신뢰하기 어렵지 않을까 하는 것이고요. 다른 하나는 그럼 요즘 한창 핫한 오픈AI의 달리도 그런 오류를 낼 거라는 것이죠. 지금은 오픈AI가 음성으로 영상을 만드는 AI를 내서, 사람들을 홀랑 홀리고 있는데요. 지금의 AI 기술은 이런 편견과 고정관념을 내재할 수밖에 없고 사용자들은 모두, 한 명도 빠짐없이 그런 생각을 가지고 이미지나 영상을 만들어야 한다는 생각이 듭니다. 요즘 틱톡 및 인스타그램 피드에 생성 AI로 만든 영상이 너무 많이 올라오는데요. 개개인이 보면서 사실과 다른 부분은 없는지, 유해한 시각 묘사는 없는지, 그 어느 때보다 판단력을 필요로 하는 시기라는 생각이 듭니다.