Hitchhiker’s guide to trustworthy AI[1]

저는 소프트웨어 테스터였습니다. 블랙박스, 화이트박스 가리지않고 진행했구요, 상황에 따라서 소프트웨어 인증도 수행했습니다. ‘18년도 이후부터는 테스팅 의뢰받는 소프트웨어 제품에 ‘빅데이터 기반’ 혹은 ‘머신러닝 기반’이라는 수식어가 붙는 경우가 종종 생기더라구요. 사실 제가 수행하던 테스팅의 기준은 소프트웨어 품질입니다. 아시는 분은 잘 아실 텐데, 소프트웨어 품질은 ISO 국제표준에 잘 정의되어 있습니다. 심지어 각 품질 속성에 따라 수행해야 할 테스팅 방법 역시 또다른 국제표준으로 정리되어 있죠. 하지만 빅데이터 및 인공지능이 탑재된 소프트웨어의 경우, 기존의 소프트웨어 품질 속성에는 해당되지가 않아, 대부분의 경우 테스트대상에서 제외하기도 했습니다. 여기서부터 본질적인 질문이 시작됩니다. 인공지능과 같이 데이터 기반의 어플리케이션은 어떻게 테스팅해야 할까. 저는 지금은 이 고민을 여러 갈래로 깊게 파고들면서, 현재는 인공지능 신뢰성에 대한 연구와 정부 정책을 기획 및 수행하는 프로젝트를 진행하고 있습니다. 물론 본 글은 부끄럽게도, 저 스스로의 발자취를 남기거나, 일기 대용일수도 있지만, 혹시나, 저와 비슷한 고민을 하시거나 이 영역에 궁금증이 있으신 분들께 도움이 되었으면 하는 마음에 용기를 내어봅니다. 짬짬이 일기의 형식을 빌려 관련 글을 올려볼까 합니다. 듣고 싶거나 궁금한 점이 있다면 댓글 남겨주세요. 다음 회차에 최대한 관련 내용을 담아 보겠습니다.