[ AI 기반 게임, 흑화하다 ] Text generation AI 모델이 대중을 대상으로 활발하게 활용되는 과정에서 '고삐' 풀리지 않기가 매우 어렵다는 것을 한 번 더 보여주는 사례. Latitude라는 기업은 던전앤 드래곤에서 영감을 받아, OpenAI의 GPT-3를 활용한 텍스트 기반 게임을 개발했다. 유저가 하고자 하는 액션을 텍스트로 넣으면 다음 일어날 일을 AI 모델이 알려준다. AI Dungeon은 GPT-3 모델 덕분에 굉장히 창의적이고 예상치 못한 이야기 전개가 이루어지면서 게임 유저들에게 신선함을 제공한다. 하루에 2만명 이상이 접속하는 이 게임에 최근 아동+19금 관련 컨텐츠가 만들어지고 있어서 논란. AI 모델은 생성하는 텍스트 및 컨텐츠에 대한 주관이 없기 때문에 사용자가 input하는 텍스트에 대해 반응한 것 뿐이지만, 이런 결과가 나오지 않도록 하는 것이 GTP-3와 같은 인공지능 활용 주체의 의무이기도 하다. Latitude는 게임에 활용된 GPT-3 모델이 앞으로 이런 논란이 되는 컨텐츠를 생성하지 못 하도록 조치를 취할 것이라고 함. 하지만 전반적인 NSFW(Not Safe For Work. 19금 및 폭력적) 컨텐츠에 대해서는 규제를 하지 않고, 특정한 (아동+19금) 주제들에 대해서만 규제를 할 예정이라고 함. 게임에서 생성된 컨텐츠의 30% 이상이 19금이기 때문에 매우 중요한 사안이라고 생각 됨. ● 가능할까? 2019년 초기에도 비슷한 문제가 발생했는데, Latitude는 19금 관련 단어 생성을 차단한 safe mode를 개발. 하지만 오히려 은유 등과 같은 방법으로 더욱 현란한 묘사를 하기도 했다.

It Began as an AI-Fueled Dungeon Game. It Got Much Darker

WIRED

It Began as an AI-Fueled Dungeon Game. It Got Much Darker

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2021년 5월 13일 오후 2:39

댓글 0

    함께 읽은 게시물

    < 쿠팡의 창업자를 직접 보며 배운 것: 리더의 크기가 전부다 >

    1

    ... 더 보기

     • 

    댓글 1 • 저장 17 • 조회 1,391


    얼마전에 신입 개발자 채용시 과제를 10분 내에 빠르게 만들어서 보낸 사람을 채용했다며, 빠르게 결과를 냈기 때문에 채용했다는 글이 SNS에 많이 돌았다. 그러면서 이렇게 말한다.


    "알고리즘 많이 푸는 개발자보다, AI로 빠르게 결과 내는 사람을 선호. 알고리즘, 코딩 책 안 봐도 AI 도구만 적극 활용하면 취업 기회 잡을 수 있다."


    ... 더 보기

     • 

    저장 19 • 조회 5,032


    MZ가 신상이 아니라 중고 명품에 관심을 갖고 지갑을 본격적으로 연다면서 그 이유를 분석했는데, 그 중 몇몇을 추리면 MZ가 친환경 의식이 높고 소유보다는 '경험'을 추구하고 사용성이라는 소비자 가치를 중시해서라고 그렇단다. 솔직히 그건 그냥 끼워맞춘 것으로 밖에 안보인다. 아무리 넉넉한 마음을 갖고 봐도 아주 매우 지극히 극히 일부는 그럴 수 있다 이해해도 결국 명품 갖고 싶으니깐 핑계에 이유를 붙인거에 가까워보인다.

    ... 더 보기

    "비싼 명품 안 사요" MZ 돌변하더니…'2500억' 몰린 회사

    naver.me

    "비싼 명품 안 사요" MZ 돌변하더니…'2500억' 몰린 회사

    < 스포티파이와 멜론, 같은 음악인데 왜 경험은 다를까? >

    1. 엔터테인먼트 프로덕트의 본질은 콘텐츠다. 사용자는 콘텐츠를 소비하며 감정을 느낀다. 재미, 감동, 공포, 희열. 인간의 다양한 감정이 콘텐츠를 통해 꺼내진다.

    ... 더 보기

    🎈2025 NYU REUNION DAY! 테헤란로 소진언니

    

    ... 더 보기