생성형 AI의 성별 인지 여부 확인 테스트

사람(people)을 대표하는 기계 학습 알고리즘이 남성, 백인, 신체 건강한 사람을 대표하는 형태로 편향(biased)되어 있다는 것은 공공연한 사실이라고 하는데요. (저는 직접 확인해 보지는 못했습니다.) 이번 기사는 작가가 이미지 생성 AI인 Midjourney 플랫폼(https://www.midjourney.com/)을 이용해서 관련 내용(생성형 AI의 남녀 성평등 적용 여부)을 확인하는 기사입니다. * ML 알고리즘은 다소 편향되어 있는데, 얼굴 인식 알고리즘의 경우 유색인종을 식별하는 데 어려움을 겪고 있고, 이력서 스캐너는 여성의 능력이 떨어지는 것으로 간주하며, 예측 치안 알고리즘은 소외된 커뮤니티에 대한 기존의 학대를 강화하는 경향이 있는 것으로 나타나고 있다고 합니다. * 생성 AI의 성평등을 평가하기 위해 작가는 이미지 생성 AI인 Midjourney 플랫폼에서 아래와 같은 프롬프트를 입력해서 이미지를 생성했는데, 여성 소프트웨어 엔지니어는 포함되어 있지 않네요.😔 "Software engineers in a code review session, sitting together and providing feedback on each other’s code." * 프롬프트에 소프트웨어 엔지니어링의 고정관념적인 측면, 즉 혼자 복잡한 문제를 혼자 해결하는 사람을 강조하면 이미지에는 남성만 등장합니다. * 코드 검토를 통한 기술 협업을 강조해도 이미지에는 남성만 등장합니다. * 소프트웨어 엔지니어링의 협업 측면을 강조해서 다채로운 메모가 있는 화이트보드 옆에 있는 소프트웨어 엔지니어 그룹이 프로젝트 전략을 논의하고 있음을 묘사하면 이제서야 여성 소프트웨어 엔지니어가 나타납니다. 생성된 여성의 비율은 실제 소프트웨어 엔지니어링 분야의 여성 비율과 일치하며, 이는 위치에 따라 20~30%입니다. 하지만 생성된 여성 중 40세 이상인 여성은 단 한 명도 없습니다. * 여성 소프트웨어 엔지니어를 명시적으로 요청하면 결과 이미지에는 모두 여성만 표시됩니다. 이는 Midjourney가 원칙적으로 성별을 이해하고 알고리즘을 명시적으로 요청하지 않는 경우에만 여성을 생성하지 않는다는 것을 나타냅니다. 생성형 AI의 성평등: 생성형 AI의 성평등에 관해 이야기할 때, 궁극적인 목표가 무엇인지 파악하는 것이 중요합니다. - 실제 인구 통계를 반영하여 생성된 캐릭터를 공정하게 표현하는지, 직위가 성별에 얽매이지 않는지 등 생성형 AI를 이용해서 이미지 생성 시 주어진 프롬프트에서 무엇이 가능한지 편견 없이 볼 수 있어야 하며, AI 윤리(ethics)가 매우 중요합니다! 원본 기사 링크는 아래와 같습니다. 감사합니다🙏 [Source Link] https://code.likeagirl.io/can-ai-imagine-a-female-software-engineer-f207b1f4f5a1