Google Bard나Midjourney V6 같은 생성형 AI 서비스들로 인해 수많은 예술가분들(작가,화가 및 음악가 등)나 디자이너 분들이 직업을 잃지 않을까 하는 우려가 커지고 있습니다. 이에 대항하고자 AI의 아웃풋(Output) 생성을 방해하기 위한 활동들도 이루어지고 있다고 하는데요, 관련 기사 공유합니다.😃 (출처: Medium)

<제작자들은 이제 인공지능의 제출(Submission)에 독(Poison)을 타려고 노력하고 있습니다>

• 인공지능 플랫폼이 아티스트의 이미지와 스타일을 동의 없이 계속 학습하는 동안, 아티스트들은 이에 맞서 싸우고자 합니다. 더 구체적으로 말하면, 데이터를 "중독"시켜 AI가 실수를 하도록 혼란스럽게 만드는 일부 새로운 제품이 출시되었습니다.

• Nightshade는 시카고 대학교 연구진이 제공하는 무료 도구입니다. 1월 중순에 출시된 이후 250,000명 이상의 사람들이 예술가의 결과물에 대한 AI 모델 학습을 방지하기 위해 소프트웨어를 다운로드했습니다.

• DALL-E와 Midjourney AI는 커머셜 예술을 포함한 웹에서 데이터를 스크랩하여 작업하는데, Midjourney는 원본 제작자의 허가 없이 1억 개 이상의 이미지를 학습한 것으로 알려졌습니다.

'Shady' 관행(Practices)

• Nightshade라는 프로그램은 "다른 AI 프로그램이 실제 존재하는 것과 완전히 다른 것을 볼 수 있도록 픽셀 수준에서 이미지를 미묘하게 변경"하는 태그를 사용하여 이미지에 있는 내용을 잘못 식별하는 방식으로 작동합니다.

• Nightshade를 사용하면 AI가 사용자 프롬프트와 일치하지 않는 결과를 생성할 가능성이 높다고 하는데요, 예를 들어 인간의 눈에는 녹색 들판에 있는 암소의 음영 처리된 이미지가 크게 변하지 않은 것으로 보일 수 있지만, AI 모델은 풀밭에 누워 있는 커다란 가죽 지갑을 볼 수 있도록 할 수 있다고 합니다.

• Nightshade는 생성형 AI가 등장한 이후 아티스트의 주요 불만 사항이었던 아티스트의 스타일을 가리기 위해 설계되었습니다.

아티스트와 AI 간 더욱 치열해진 대결 구도

• DALL-E 및 Midjourney와 같은 AI 플랫폼에 대한 부정적인 감정은 2022년부터 시작되었다고 하는데요, 이러한 생성형 도구는 고인이 된 예술가의 스타일을 모방할 수 있을 뿐만 아니라 여전히 반격을 가하고 있는 살아있는 예술가의 스타일을 재현할 수도 있습니다.

• Nightshade와 Glaze는 AI 플랫폼의 성능을 제한하려는 움직임의 일부이며, 인위적인 글쓰기를 감지하기 위한 GPTZero와 같은 도구들도 개발되고 있다고 합니다.

어쨌든 인간은 인공지능보다 한 발 앞서 나가야 합니다.

원본 기사 링크는 아래와 같습니다. 감사합니다.🙏

[Source Link] https://medium.com/counterarts/creators-are-now-trying-to-poison-ai-into-submission-0a8e4e21aeb6