생성형 AI의 편견

세 가지 인기있는 생성형 AI 도구인 미드저니(Midjourney), 스테이블 디퓨젼(Stable Diffusion) 및 달리(DALLE) 2에서 생성된 이미지를 분석하여 AI 생성기의 잠재적 편향을 조사한 연구를 소개합니다.😃 (출처: Medium)

<생성형 AI의 편견: 세발 자전거를 탄 소년을 중심으로>

• 생성형 AI의 편견(bias)에 관한 여러 연구가 발표되고 있습니다: 디지털 아트를 통한 AI 편견 조사(Interrogating AI Bias through Digital Art, 2022년) 등

• "생성형 AI의 편향(Bias in Generative AI)"이라는, 세 가지 인기있는 생성형 AI 도구(미드저니, 스테이블 디퓨젼, 달리 2)에서 생성된 이미지를 분석하여 AI 생성기(generators)의 잠재적 편향을 조사한 사례도 있습니다.

• 미드저니와 같은 생성형 AI 도구는 이미지의 성별, 인종, 정서적 묘사와 관련된 사회적 편견을 의도치 않게 영속화(perpetuate)하고 강화할 수 있습니다.

• 생성형 AI는 창의적인 분야에서 수많은 이점을 제공하지만 잠재적인 단점도 계속 인식하고 있기 때문에 경계해야 합니다. 최근 연구에서는 미드저니, 스테이블 디퓨젼, 달리 2 모두에서 여성과 아프리카계 미국인에 대한 체계적인 성별 및 인종 편견이 밝혀졌다고 합니다. 또한 감정과 외모의 묘사에 있어 보다 미묘한 편견이나 편견을 밝혀냈습니다.

• 생성형 AI 이미지에 누가 표시되는지 뿐만 아니라 어떤 빛에 표시되는지 고려하는 것도 중요합니다.

  • 예시) 흑인 아이(프롬프트)가 있는 대부분의 이미지는 쇠약하거나 열악한/방치된 주변 환경을 보여 줌

• AI의 편견에 대응하는 더 나은 방법이 있을 것입니다. 기술(특히 AI)이 우리가 상호 작용하고 학습하는 방식을 지속적으로 형성하는 세상에서 기술 개발 측면에서 보다 다양한 사람들을 확보하고 대규모 언어/학습 모델이 어떻게 생성되고 등장하는지 알리는 방법을 찾아야 합니다.

• 디지털 아트 컬렉션(예: 온라인, 갤러리, 박물관)에서 다양한 문화, 관점 및 경험을 표현하는 것도 편견을 예방하는 방법 중 하나입니다.

원본 기사 링크는 아래와 같습니다. 링크를 통해 상세 내용을 확인하실 수 있습니다. 감사합니다.🙏

[Source Link] https://nettricegaskins.medium.com/the-boy-on-the-tricycle-bias-in-generative-ai-d0fd050121ec