구글의 Gemini AI가 역사적인 이미지를 부정확하게 생성하는 것으로 밝혀진 후 사람 이미지 생성 기능을 일시 중지했습니다. 내재된 성별 및 인종에 관한 오류와 편견 때문인데요. 예를 들어 ‘1800년대 미국 상원의원’이라는 쿼리를 넣었을 때 흑인, 아메리카 원주민 여성으로 보이는 결과가 나왔는데요. 미국 최초 여성 상원의원은 1922년 백인 여성입니다. 즉 Gemini가 본질적으로 인종 차별, 성차별의 역사를 지우고 있는 것이죠. 


구글 서비스를 비판하며 두 가지 생각해볼만한 것은요. 생성 AI 경쟁 속도가 너무 빨라서 하물며 구글 같은 큰 회사도 이렇게 오류가 많고 심각하게 떨어지는 수준의 결과물을 내는데 기술력과 자원이 더 적은 회사들은 더 신뢰하기 어렵지 않을까 하는 것이고요. 다른 하나는 그럼 요즘 한창 핫한 오픈AI의 달리도 그런 오류를 낼 거라는 것이죠. 지금은 오픈AI가 음성으로 영상을 만드는 AI를 내서, 사람들을 홀랑 홀리고 있는데요. 지금의 AI 기술은 이런 편견과 고정관념을 내재할 수밖에 없고 사용자들은 모두, 한 명도 빠짐없이 그런 생각을 가지고 이미지나 영상을 만들어야 한다는 생각이 듭니다. 요즘 틱톡 및 인스타그램 피드에 생성 AI로 만든 영상이 너무 많이 올라오는데요. 개개인이 보면서 사실과 다른 부분은 없는지, 유해한 시각 묘사는 없는지, 그 어느 때보다 판단력을 필요로 하는 시기라는 생각이 듭니다. 

Google pauses Gemini's ability to generate AI images of people after diversity errors

The Verge

Google pauses Gemini's ability to generate AI images of people after diversity errors

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2024년 2월 22일 오후 1:05

댓글 0

    함께 읽은 게시물

    “무엇을 만들까”보다 “왜 해야 하나요?”를 묻는 사람들, 토스페이먼츠

    “이 문제는 왜 해결해야 하죠?” 토스페이먼츠의 Product Manager는 늘 이 질문에서 시작합니다. 화면을 기획하거나, 기능을 정리하는 일보다 먼저 우리는 문제의 본질을 정의하고 싶은 사람들입니다. 그렇다면 ‘문제의 본질’부터 고민하는 토스페이먼츠의 PM은 실제로 어떤 방식으로 일하고 있을까요? 토스페이먼츠 PM 김명훈님의 이야기를 함께 들어보세요.

    “무엇을 만들까”보다 “왜 해야 하나요?”를 묻는 사람들, 토스페이먼츠 PM

    toss.im

    “무엇을 만들까”보다 “왜 해야 하나요?”를 묻는 사람들, 토스페이먼츠 PM

    좋은 개발자가 알아야하는 9가지 포인트들 - 6. 운영 고려 코드 작성

    1. 기본기 확실히 하기

    ... 더 보기

     • 

    저장 246 • 조회 9,813



    "배포했으면 스펙이지"

    어떤 서비스가 버그를 가진채로 출시되었고, 사용자들이 그 버그를 전제로 기능을 사용하고 있다면, 그리고 그 위로 너무 많은 새로운 기능들이 쌓여있다면 그건 버그가 아니라 스펙(기능)이라는, 언젠가부터 들었던 업계의 유명한 블랙 유머다.

    ... 더 보기

    신뢰에 대한 단상

    출근길에 읽던 글에서 신뢰에 대한 언급이 있었다. 그리고 문득, 얼마 전 구성원들과 대화하며 나도 모르게 "저를 믿고 한번 따라와 주세요"라고 말했던 순간이 떠올랐다. 글의 한 구절이 유독 마음에 깊이 파고들었다.

    ... 더 보기

    이제 개발자(응용 애플리케이션 개발자, 대부분의 백엔드도 응용 어플리케이션이다)는 더이상 병목이 아니어야한다. 오히려 기획자와 디자이너가 병목이 되게 만드는 개발자만이 살아남을 것이며, 이전에도 그랬지만 앞으로는 더더욱 개발자가 기획 및 디자인 역량도 갖추어야 경쟁력이 있을 것이다.