아마존 쇼핑의 상품명에 "죄송하지만 이 요청은 OpenAI 사용 정책에 위배되어 처리할 수 없습니다."라는 메시지를 보면 어떤 생각이 드시나요? 수많은 제품에 "죄송하지만 해당 요청에 대한 응답을 생성할 수 없습니다." 또는 " 찾고 있는 정보를 제공할 수 없습니다."와 같은 명백한 AI 관련 오류 메시지가 한 때 아마존 사이트를 뒤덮었답니다.

생각할 수 있는 원인이야 둘중에 하나일 겁니다.

첫번째는 물건을 파는 셀러가 ChatGPT와 같은 생성형 AI를 사용하여 매력있는 제품 이름이나 설명을 만들어 업로드 하는 과정을 자동화했는데, 이 파이프라인에서 생성 AI가 에러메시지를 내고 그 자동화 루틴이 예외 처리를 안하고 그냥 돌아온 메시지를 아마존 상품 필드에 넣어서 보낸것일테구요.

두번째는 지난 9월 아마존은 셀러가 "보다 매력적인 제품 설명, 제목, 세부 정보를 작성"할 수 있도록 지원하는 자체 생성 AI 도구(https://www.aboutamazon.com/news/small-business/amazon-sellers-generative-ai-tool)를 출시했는데 그 도구가 오류를 일으켰을 수도 있습니다.

어떤 경우가 됬던지, 마지막 프로덕션 사이트에 올라가기 전에는 아마존에서 이런 쓰레기문자열을 체크했어야 하는데, 그걸 놓친것이겠네요. 이런 상황이야 이젠 국내외 모든 쇼핑몰에서 흔하게 나올겁니다. 이런 상황을 모두 예방하기는 힘들겠지만, 그래도 빠르게 대응하기 위한 검증 프로세스가 필요할 듯 합니다.

비슷한 의미에서 이젠 댓글부대 같은 말은 기억의 저편으로 사라질 듯 하네요. 댓글도 생성형 AI가 아주 쉽게 써줄텐데요.