혹시 최고 윤리 임원 Chief Ethics Officer이라는 역할을 들어보신적 있으신가요? (기사내용을 베이스로 제 의견과 사내 업무 경험을 함께 적었습니다.) 0. 최근에 미국과 유럽을 중심

혹시 최고 윤리 임원 Chief Ethics Officer이라는 역할을 들어보신적 있으신가요? (기사내용을 베이스로 제 의견과 사내 업무 경험을 함께 적었습니다.) 0. 최근에 미국과 유럽을 중심으로 굉장히 중요한 화두가 되어가는 주제입니다. 오늘날의 기술 기업은 AI 와 ML을 기본 기술로 탑재를 하게 되면서, 프로덕트를 시장에 출시할 때 인간을 증강하거나 대체하는 AI의 윤리적 의미에 대해 보다 심도있게 재고하고 그것을 담당하는 역할이 필요하다는 주제입니다. 1. 팬시하고 고성능 제품을 구축하는 것만으로는 더 이상 제품의 성공을 보장하기는 힘들게 됩니다. 유색인종에 대한 편견이 있는 얼굴 인식 기술에서 여성을 차별하는 신용 ​​대출 알고리즘, 미국식 영어만 해석 처리하는 고객대응 봇에 이르기까지 지난 몇 년 동안 윤리적 딜레마 때문에 여러 AI 또는 ML 기반 제품이 중단되는 것을 보았습니다. 어쩌면 아이디어를 시장에 내놓을 수 있는 기회가 단 한 번뿐인 스타트업에게는 이러한 위험은 치명적일 수 있습니다. 2. 점점 더 심각한 상황이 되어가는 것은 AI와 ML 기술이 컴포넌트화 되고 자체 개발이라기 보다는, 소비재로 구입하여 제품이 만들어지면, 그 의존도에 따라 기술 독립성이 줄어들게 됩니다. 기술뿐이 아니라 데이터가 더 큰 문제죠. 기계는 과거 데이터를 기반으로 훈련합니다. 현재 비즈니스 프로세스에 시스템적 편견이 존재하는 경우 AI는 이를 인식하고 계속 그렇게 행동해야 한다고 생각합니다. 나중에 제품이 시장의 윤리적 기준에 부합하지 않는 것으로 판명되면 단순히 데이터를 삭제하고 새로운 데이터를 찾을 수 없습니다. 왜냐하면 이러한 알고리즘은 이미 훈련되었습니다. 30년 결혼생활 동안 양말을 뒤집에 벗은 60세의 남자에게 그 버릇을 하루 아침에 고칠 수 없는 것과 같은 이치랍니다. 3. 최고 윤리 임원이 하는 역할은 보통 C-level의 역할과 비슷합니다. 아래의 3가지가 기대되는 역할입니다. 3-1) 파운더, 최고 경영진, 투자자 및 개발 팀의 이사회를 연결하는 역할을 해야 하며 모든 사람이 사려 깊고 위험을 회피하는 방식으로 올바른 윤리적 질문을 하고 있는지 조언하고 확인 합니다. 최고 윤리 책임자들은 AI 기반 제품이 뿌리를 내리기 전에 조직 전체에 내재된 편견을 감지해야 합니다. 3-2) 전체 개발 프로세스에 '윤리'를 통합합니다. 책임 있는 AI는 단지 특정 시점에만 필요한 것이 아닙니다. 조직의 AI 여정의 종단 간 '거버넌스 프레임워크'입니다. 이는 윤리가 전략 및 계획부터 시작하여 개발, 배포 및 운영에 이르는 개발 프로세스 전반에 걸쳐 통합되어야 함을 의미합니다. 개발 단계에서 팀은 AI 사용이 회사의 가치와 어떻게 일치하는지, 모델이 다른 사람들을 공정하게 대우하는지, 사람들의 개인 정보 보호 권리를 존중하는지 끊임없이 질문해야 합니다. 또한 AI 기술이 안전하고 견고하며 운영 모델이 책임성과 품질을 보장하는 데 얼마나 효과적인지 고려해야 합니다. 모든 기계 학습 모델의 중요한 구성 요소는 모델을 훈련하는 데 사용되는 데이터입니다. 스타트업은 MVP와 모델이 처음에 어떻게 증명되었는지뿐만 아니라 모델의 최종 컨텍스트와 지리적 범위에 대해서도 관심을 가져야 합니다. 이를 통해 팀은 향후 데이터 편향 문제를 피하기 위해 올바른 대표 데이터 세트를 선택할 수 있습니다. 3-3) 지속적인 AI 거버넌스 및 규정 준수를 팔로우 업합니다. 사회에 미치는 영향을 고려할 때 유럽 연합, 미국 또는 기타 입법 기관이 AI/ML 사용을 규율하는 소비자 보호법을 통과시키는 것은 시간 문제일 뿐입니다. 일단 법이 통과되면 이러한 보호는 전 세계의 다른 지역과 시장으로 확산될 것입니다. AI/ML로 구동되는 제품 또는 서비스를 배포하는 기업은 지속적인 거버넌스와 규정 준수를 입증할 준비가 되어 있어야 합니다. 나중에 새로운 규정이 제품의 변경을 요구하기 전에 지금 이러한 프로세스를 구축하는 데 준비해야 합니다. 제품을 구축하기 전에 제안된 법안, 지침 문서 및 기타 관련 지침을 빠르게 스캔하는 것은 최고 윤리 책임자의 필수 작업입니다.