[ AI 기반 게임, 흑화하다 ] Text generation AI 모델이 대중을 대상으로 활발하게 활용되는 과정에서 '고삐' 풀리지 않기가 매우 어렵다는 것을 한 번 더 보여주는 사례. Latitude라는 기업은 던전앤 드래곤에서 영감을 받아, OpenAI의 GPT-3를 활용한 텍스트 기반 게임을 개발했다. 유저가 하고자 하는 액션을 텍스트로 넣으면 다음 일어날 일을 AI 모델이 알려준다. AI Dungeon은 GPT-3 모델 덕분에 굉장히 창의적이고 예상치 못한 이야기 전개가 이루어지면서 게임 유저들에게 신선함을 제공한다. 하루에 2만명 이상이 접속하는 이 게임에 최근 아동+19금 관련 컨텐츠가 만들어지고 있어서 논란. AI 모델은 생성하는 텍스트 및 컨텐츠에 대한 주관이 없기 때문에 사용자가 input하는 텍스트에 대해 반응한 것 뿐이지만, 이런 결과가 나오지 않도록 하는 것이 GTP-3와 같은 인공지능 활용 주체의 의무이기도 하다. Latitude는 게임에 활용된 GPT-3 모델이 앞으로 이런 논란이 되는 컨텐츠를 생성하지 못 하도록 조치를 취할 것이라고 함. 하지만 전반적인 NSFW(Not Safe For Work. 19금 및 폭력적) 컨텐츠에 대해서는 규제를 하지 않고, 특정한 (아동+19금) 주제들에 대해서만 규제를 할 예정이라고 함. 게임에서 생성된 컨텐츠의 30% 이상이 19금이기 때문에 매우 중요한 사안이라고 생각 됨. ● 가능할까? 2019년 초기에도 비슷한 문제가 발생했는데, Latitude는 19금 관련 단어 생성을 차단한 safe mode를 개발. 하지만 오히려 은유 등과 같은 방법으로 더욱 현란한 묘사를 하기도 했다.