👫챗 지피티 속에 담긴 젠더 편향성

우리가 일상에서 사용하는 단어에는 특정 성별을 내제화 하는 경우가 많습니다. 간호사, 목수, 비서, 복서 등을 떠올려보면 쉽습니다. 그런데 챗 지피티 같은 언어모델이 학습하는 데이터에도 이러한 젠더 편향(남녀 차별, 퀴어, 인종 등)이 문제가 됩니다. 챗 지피티 같은 언어모델을 사전 학습시킬 때 가장 많이 사용되는 데이터셋인 위키피디아의 여성 인물 비중은 15.5%에 불과하다고 합니다. 언어모델이 학습하는 인간의 언어에 편향이 숨어들게 되는 것이죠. 아티클에는 이러한 젠더 편향성을 낮추기 위한 흥미로운 방법론들을 다루고 있으니 참고차 읽어보시면 좋을 것 같아요. 👉 저 역시 최근 챗 지피티나 여러 생성 AI들이 내놓는 답변들이 너무 그럴싸해 기술에 대한 경계심이 많이 허물어진 걸 느낍니다. 생각해보면 검색을 통해 나온 다양한 쿼리값에서 오답을 피해 답을 찾아 구성하는 건 어디까지나 인간의 몫이었습니다. 그런데 지피티와 하나의 창에서 연속적으로 나누는 대화는 사용자 경험 특성상 믿음(편향)을 강화하는 속성에 있는 것 같습니다. 언어모델이 내놓는 답변에 숨은 편견들이 있을 수 있다는 점을 고려해 충분한 거리감을 확보하며 기술을 사용해야겠다는 생각이 듭니다.