홍시

콘텐츠 기획/제작, 마케팅

팔로우

< AI 알고리즘 논란 지속 > - 지난 2012년 딥러닝(Deep Learning)의 등장과 함께 인간 기술의 미개척 영역을 열 것으로 기대됐던 인공지능(AI)이 교착상태에 빠졌다는 진단이 나왔다. 10년이 가까운 기간동안 전 기업, 연구기관에서 막대한 투자가 이뤄졌지만 사실상 절반 수준은 실패에 가까운 결과로 귀결되고 있으며, 그나마 상용화된 AI 기술도 인종, 소득수준 등에 따라 사람을 차별하는 오류가 발생하고 있다. - 전 세계에서 이뤄지는 AI 사업의 47%가 연구개발 단계에서 실패하거나 폐기된 것으로 나타났다고 보도했다. - 가령 최근 영국의 경우 팬데믹 상황을 감안해 대학 입시에 적용된 AI 기반 성적 판정 기술이 논란을 야기했다. 전체 학생 중 약 40%가 부당한 평가를 받은 것으로 알려졌는데 이들 중 대부분은 학비가 저렴한 공립학교에 다니는 노동자 계급의 학생인 것으로 나타났다. - 대형 IT 기업들의 AI도 인종차별을 비롯한 각종 문제를 야기했다. 트위터의 경우 자동 이미지 자르기 기능에 사용된 AI 알고리즘이 여성과 백인에 우호적이라는 사실이 드러나면서 도마에 올랐다. - 마이크로소프트(MS)의 AI 챗봇 테이(Tay) 역시 인종차별, 성차별 등 혐오발언을 쏟아내는 심각한 오류를 내며 서비스가 중단된 바 있다. 구글의 ‘알파고’ 처럼 신경망이라고 알려진 AI 기술을 기반으로 대화 패턴 데이터를 학습시킨 결과가 소위 ‘인종차별주의 AI’를 만든 셈이다.

[줌인] 차별 가속하는 AI 알고리즘..."관련 연구 절반은 실패"

Naver