앞서 2개의 포스팅에서 데이터 팀의 미션은 "신뢰할 수 있는 데이터로 부가 가치를 만들어낸다"라는 이야기와 두 가지 형태의 부가 가치 중 데이터를 바탕으로 하는 조금더 과학적인 의사결정에 대해 이야기했다. 이번에는 데이터를 바탕으로한 사용자 서비스 사용 경험 개선에 대해 이야기해보고자 한다.

1. 데이터를 바탕으로 과학적인 의사결정을 할 수 있게 도와준다 (Decision Science)

2. 데이터를 바탕으로 사용자의 서비스 사용 경험을 개선한다 (Product Science)

이런 형태의 부가가치를 만들어내는 사람은 보통 데이터 과학자이며 머신 러닝 모델을 만드는 형태로 일을 하게 된다. 가장 이해하기 쉬운 형태는 개인화된 추천 시스템을 만드는 것이나 검색 성능을 높이는 일 등이다. 만일 온라인 시스템이 아니라 공장처럼 공정이 필요한 곳이라면 데이터를 바탕으로 기계 고장 등을 예측하거나 공정 생산성을 높이는 다양한 방법들을 찾아낼 수 있다. 이는 제품 자체의 품질을 높이는 것은 아니지만 제품의 비용을 줄임으로써 가격을 내리거나 새로운 기능 투자에 노력을 기울임으로써 제품의 품질을 높일 수 있다.

머신 러닝 모델을 프로덕션에서 사용하는 것은 생각보다 큰 인프라 투자 비용을 필요로 한다. 머신 러닝 모델도 라이프 사이클이 있기에 한번 빌드하고 끝이 아니라 데이터 패턴이 바뀔 때마다 다시 빌드되어야 한다 (리프레시). 이렇게 데이터 패턴이 바뀌는 현상을 Data Drift라고 표현한다.

가능하면 빌드, 테스트부터 시작해서 배포까지 자동화하는 것이 좋은데 이게 되려면 상당한 인프라 투자가 필요하며 데이터 팀과 백엔드/데브옵스 엔지니어링 팀간의 밀접한 협업을 필요로 한다. 즉, 투자 비용이 크고 어느 정도 엔지니어링 조직이 성숙된 곳이 아니라면 지속적으로 운영하기가 쉽지 않다. 그러다보니 MLOps라는 새로운 직군이 생겼다. 데이터 과학과 데이터 엔지니어링과 데브옵스의 환상적인 조합이라고 할 수 있는 경험이 많이 필요하고 알아야하는 것이 많은 직군이다.

또한 정말로 의미가 있는 일에 머신 러닝을 사용하는 것이 필요하기에 가설을 기준으로 정말로 ROI가 있는 머신 러닝 모델을 만드는 조직적인 공감대와 문화가 필요하다. 기존 일을 머신 러닝 모델로 대체한다면 보통 A/B 테스트로 평가하는 것이 일반적이기도 하다.

다음 포스팅에서는 보편화된 데이터 직군(데이터 엔지니어, 데이터 분석가, 데이터 과학자)에 대해 이야기해보고 이어서 별도 포스팅에서 조금더 특화된 직군 (MLOps, 애널리틱스 엔지니어, 프라이버시 엔지니어 등등)에 대해 이야기해보도록 하겠다.

댓글에 이런 데이터에 관한 다양한 자세한 이야기와 일대일 멘토링이 합쳐진 인프런 "[멘토링] 데이터로 미래를 그리다: 모두를 위한 데이터 리터러시" 강의 링크를 달았고 유데미에 올린 A/B 테스트 강의와 추천 엔진 강의 링크를 달았으니 더 알고 싶은 분들은 참고해주세요!