1. 생성형 AI가 발달함에 따라, 'AI 콘텐츠 모더레이터(moderator)'라는 새로운 직군이 떠오르고 있다.

2. (생성형 AI에 질문을 전문적으로 입력하는) '프롬프트 엔지니어'에 이어, 생성형 AI가 출력해낸 결과물을 전문적으로 검토하는 직군 또한 주목받기 시작한 것이다.

3. (최근) 월스트리트저널과 CNBC는, 생성형 AI의 등장으로 실직 위협이 늘어나는 가운데, AI가 생성한 텍스트나 이미지의 적합성을 검토하는 일자리에 대한 수요는 늘어나고 있다고 소개했다.

4. 이들의 보도에 따르면, AI 개발사를 지원하는 미국의 프롤리픽은 AI가 생성한 자료를 검토한 사람에게 보상을 제공하는 프로그램을 진행하고 있다. 참가자들은 구글이나 메타 등 프롤리픽 고객사로부터 별도 교육을 받은 뒤 AI 생성물을 검토하고 문제가 되는 부분에 대한 피드백을 제공하는 역할을 함으로써 AI 개발을 지원한다.

5. 소프트웨어 제조업체인 인튜이트 역시  AI 시스템에서 유해한 언어 및 기타 오작동을 방지하기 위해 내부 콘텐츠 모더레이팅 팀을 구성했다.

6. (현재) 생성형 AI는 환각은 물론, 탈옥을 유도하는 프롬프트에 취약한 것으로 알려져 있고, 이는 해당 기업의 신뢰성과 기업의 직접적인 수익에 영향을 미칠 수 있다. 그렇기 때문에 AI 콘텐츠 모더레이터의 필요성은 계속 강조되고 있다.

7. 다만, 억대 연봉을 내건 프롬프트 엔지니어와 달리, 아직은 AI 콘텐츠 모더레이터는 데이터 라벨러와 비슷한 수준의 대우를 받고 있다.

https://www.aitimes.com/news/articleView.html?idxno=154735&fbclid=IwAR3jjqgz_g36_UQgdxusiEPZzbvnOUXq06El2vcpx8NWVI_2qnX1-hA4U6k