<신뢰받는 제품 개발 프로세스를 만드는 Responsible AI>
요즘 아무래도 신뢰할 수 있고 설명할 수 있는 AI 등의 넓은 범위의 AI윤리가 화제가 되고 있습니다. 책임있는 AI (RAI: Responsible AI)는 "개인과 사회를 위해 인공지능 시스템을 개발하고 운영하면서 동시에 비즈니스에 혁신적인 영향을 미칠 수 있도록 보장하는 원칙, 정책, 도구, 프로세스가 포함된 프레임워크"로 정의합니다. 이는 “인간 중심의 접근 방식으로 AI의 연구, 개발 및 배포를 수행함으로써 인공지능 시스템을 안전하고 신뢰할 수 있으며, 윤리적인 방식으로 발전시킨다”는 개념이구요. 이렇게 AI윤리와 책임에 대해서는 이야기 하지만 실제 제품을 만들면서 이 윤리라는 추상적 개념이 프로덕트 프로세스내에서는 어떻게 적용되는지에 대해서는 깊이 다루지 않습니다. 이번 글에서는 그 실질적인 이야기를 하고자 했습니다. 1. 책임있는 AI (Responsible AI, RAI) 적용이 어려운 이유 a. RAI전문 인재 발굴의 어려움 (54%) b. RAI에 대한 교육이나 지식 부족 (53%) c. 상위 결정권자의 제한적인 우선순위 지정과 관심(43%) d. 자금력 부재 (43%) e. 제품 개발 과정에서 제한적인 우선순위 지정과 관심 (42%) 2. RAI 적용을 위한 가이드라인, 거버넌스 및 제품 개발 프로세스 a. RAI의 설계 원칙 이해를 위한 가이드라인 b. 전략부터 제품 개발, 모니터링까지 포괄하는 엔드 투 엔드 거버넌스 3. 윤리와 기술의 결합 시스템 a. 구글 텐서플로우: ML 워크플로우 b. 마이크로소프트: RAI 대시보드