AI가 기존 프로덕트와는 다른 여러 고유한 특징을 가지고 있기 때문있는데, 이 특징에 대해서 구글(Google)의 AI PM인 Marily Nika는 Building AI-Powered Products란 책에 잘 정리해서 요약했습니다.

1. 확률적 특성 (Probabilistic Nature)

AI 모델은 미리 정의된 규칙이 아닌, 데이터에서 학습한 패턴을 기반으로 확률에 따라 작동하며 예측을 합니다. AI PM은 이러한 불확실성을 수용하고 관리해야 하며, 이해관계자 및 사용자에게 올바른 기대치를 설정해야 합니다. 정확도와 속도/비용 같은 다른 제품 요소 간의 트레이드 오프를 이해하는 것이 중요하며, 모델 성능을 지속적으로 모니터링하는 피드백 루프를 설정하고 모델 재학습, 테스트 및 개선 전략을 확보해야 합니다. 또한, 신뢰도 스코어나 시스템이 불확실할 때 경고를 표시하는 등 AI의 확률적 특성을 반영하는 인터페이스를 설계해야 합니다.

2. 데이터 의존성 (Dependency on Data)

AI 시스템은 데이터에 의존하며, 관련성 높고 고품질의 데이터가 많을수록 모델 성능이 향상됩니다. 그러나 데이터의 편향, 노이즈 등은 결과에 영향을 미칠 수 있습니다. AI PM으로서 데이터의 품질과 많은 데이터의 확보는 성공에 크게 영향을 미치며, 데이터 소싱, 정제, 유효성 검사가 워크플로우의 핵심이 되어야 합니다. 데이터 프라이버시 우려와 최대한 많은 데이터를 수집하려는 욕구 사이의 균형을 맞추고, 리서처 및 데이터 과학자와 긴밀히 협력하여 데이터 파이프라인을 올바르게 설정하고 데이터셋이 지속적으로 업데이트되도록 해야 합니다.

3. 모델 드리프트 (Model Drift)

AI 모델은 수동으로 업데이트되지 않으면 정적인 기존 소프트웨어와 달리, 시간이 지남에 따라 학습하고 개선됩니다. 이러한 지속적인 학습 능력은 장점이지만, 업데이트 관리 및 학습 과정에서 새로운 편향이나 오류가 발생할 수 있다는 도전과제도 안겨줍니다. 정기적인 모델 재학습이나 능동 학습(Active Learning) 프레임워크 같은 프로세스를 구현하여 지속적인 학습 및 개선을 지원하고, 사용자가 AI를 수정하거나 추가 컨텍스트를 제공할 수 있는 피드백 메커니즘을 사용자 경험에 포함해야 합니다.

4. 모델 해석 가능성 및 설명 가능성의 필요성

복잡한 AI 모델은 인간이 작동 방식을 이해하기 어려운 "블랙박스" 특성을 가질 수 있습니다. 투명성과 책임성이 중요한 분야(예: 의료, 금융, 법률)에서는 이러한 특성이 도전과제를 야기합니다. AI PM은 모델 성능과 해석 가능성 사이의 균형을 맞춰야 합니다. 가능한 경우 해석 가능한 AI 모델에 투자하거나 SHAP, LIME 같은 기술을 사용하여 복잡한 모델의 예측을 설명하는 것이 도움이 됩니다. 사용자 인터페이스가 AI 결정 방식에 대한 명확하고 이해하기 쉬운 설명을 제공하도록 해야 합니다.

5. 자동화된 의사 결정 (Automated Decision Making):

AI의 강력한 기능 중 하나는 인간 개입 없이 자율적으로 의사 결정을 내릴 수 있다는 것입니다. 이는 Chatbot을 통한 고객 지원 자동화, 공급망 최적화, 자율 주행 등 산업을 변화시키고 있습니다. 자동화는 효율성 향상을 제공하지만, 책임의 전환을 가져옵니다. AI PM은 인간과 기계의 의사 결정 경계를 신중하게 고민하고, 인간 개입이 필요한 경우 인간 감시("human-in-the-loop")를 허용하는 시스템을 설계하며, 특히 오류가 중대한 결과를 초래할 수 있는 고위험 환경에서는 실패 방지 및 에스컬레이션 프로토콜을 포함해야 합니다.

6. 확장성 (Scalability)

AI의 핵심 강점 중 하나는 빠르게 확장할 수 있는 능력입니다. 한번 훈련된 AI 모델은 초당 수천 건의 결정을 내릴 수 있어 인간의 능력을 훨씬 뛰어넘습니다. 그러나 확장성은 인프라, 성능 최적화, 데이터 처리 측면에서 도전과제를 동반합니다. AI PM은 처음부터 인프라를 고려해야 하며, AI 제품이 성장함에 따라 데이터 처리 및 계산 요구 사항이 증가하므로 효율적으로 확장할 수 있는 인프라를 확보하는 것이 중요합니다. 확장성은 단지 인프라뿐만 아니라 대규모 데이터 또는 다양한 사용자 입력을 처리할 때 성능을 유지하는 것에 관한 것이기도 합니다. 초반부터 확장성을 계획하고, AI의 요구 사항에 맞춰 확장할 수 있는 클라우드 플랫폼을 선택하며, 파이프라인 및 데이터 아키텍처가 현재 및 미래의 요구 사항을 모두 처리할 수 있도록 해야 합니다.