[🧐 AI에 관한 윤리적 우려 몇 가지] Forbes에서 발행된 AI와 윤리에 대한 아티클입니다. 약 1년 전 글이지만 아직 시사하는 바가 많은 글인 것 같아요. 이 기사에서 다루는 목차는 다음과 같습니다. - AI가 인간 노동자를 대체할까요? - 가짜 미디어와 허위 정보의 부상: AI는 이를 악화시킬까요? - 악의적인 의도와 AI - AI는 우리의 새로운 빅 브라더입니까? - AI에 권리가 있습니까? - AI 의사 결정의 투명성 창출 - 이러한 문제를 해결하기 위한 조치 지금부터 본문 중 인상 깊은 내용입니다. 1️⃣ 2018년 3월 자율 주행 차량이 보행자를 사망시킨 일이 있었습니다. 사람들은 기계가 인간을 죽인 것에 분노했습니다. 앞으로도 자율 주행 차량의 사고를 제거할 가능성은 0%입니다. 우리가 자율 주행 차량을 원한다면 이 시나리오는 계속해서 반복할 것입니다. 자율 주행 차량이 사람이 운전하는 차량보다 사망률 통계가 훨씬 낮다는 증거에도 불구하고 AI의 책임 및 통제는 대표적인 딜레마 중 하나입니다. 우리는 이러한 질문을 멈추지 않고, 받아들일 수 있는 것과 윤리적인 것을 구별해야 합니다. 2️⃣ AI와 연관된 다양한 문제를 다룰 때 먼저 이야기되는 것은 각 산업 분야의 노동력을 대체한다는 것입니다. AI 문제는 유독 직업과 연관될 때 다양한 감정과 의견을 가집니다. 하지만 AI는 단순히 작업자를 밀어내는 것이 아니라는 것이 분명해지고 있습니다. 오히려 기술의 발전은 고용의 형태를 완전히 새로운 범주로 이동시킨다는 것을 알 수 있습니다. 3️⃣ 한 연구에 따르면 AI가 인간을 완전히 대체하는 것이 아니라 인간이 업무를 더 잘 수행하도록 돕는 증강 분석(Augmented Analytics)을 채택하는 기업이 ROI(투자자본 수익률)의 일관성을 보여주었습니다. 4️⃣ 2016 년 미국 대통령 선거에서 정치적 선전을 퍼뜨리는 중심에 봇이 있었다는 사실이 보고되었습니다. 봇을 사용한 소셜 미디어 계정은 유권자를 조작하고 정당의 잘못된 정보를 생성-확산하는 데 힘을 실었습니다. 인간과 달리 봇은 24시간 가동되며 매우 짧은 시간에 많은 양의 콘텐츠를 생성할 수 있습니다. 일단 다른 사람들과 공유하고 다시 트윗하면 뉴스는 사실이든 아니든 입소문이 나기 시작해 멈출 수 없습니다. 5️⃣ 딥 러닝은 훈련 데이터 셋(training data set)에 의존합니다. 사람들은 훈련 데이터가 "객관적"이고 사회 전체를 대표한다고 생각하지만 최근 나온 결과들은 이것이 사실이 아님을 입증했습니다. 구글의 영상 인식 시스템은 소수 민족 이미지를 잘못 분류 했고, 인사 관련 시스템에서는 성적 편견(Sexual bias)이 드러났습니다. 6️⃣ 개인, 범죄 조직 및 특정 국가가 AI를 악의적 목적에 적용하면 어떻게 될까요? 많은 기업과 국가들은 악의적 공격으로부터 시스템을 보호하기 위해 막대한 투자를 시작했습니다. AI 시스템이 더 똑똑해짐에 따라 위협을 탐지하기 어렵게 만들고, 시스템의 취약성을 보다 효율적으로 타기팅 할 수 있게 되었습니다. 이것은 생각보다 더 끔찍할 것입니다. 우리는 디지털 인프라를 구축하고 관리하는 방법과 AI 시스템을 설계하고 배포하는 방법을 즉시 생각해야 합니다.