Creators Are Now Trying to 'Poison' AI Into Submission
Medium
Google Bard나Midjourney V6 같은 생성형 AI 서비스들로 인해 수많은 예술가분들(작가,화가 및 음악가 등)나 디자이너 분들이 직업을 잃지 않을까 하는 우려가 커지고 있습니다. 이에 대항하고자 AI의 아웃풋(Output) 생성을 방해하기 위한 활동들도 이루어지고 있다고 하는데요, 관련 기사 공유합니다.😃 (출처: Medium)
<제작자들은 이제 인공지능의 제출(Submission)에 독(Poison)을 타려고 노력하고 있습니다>
인공지능 플랫폼이 아티스트의 이미지와 스타일을 동의 없이 계속 학습하는 동안, 아티스트들은 이에 맞서 싸우고자 합니다. 더 구체적으로 말하면, 데이터를 "중독"시켜 AI가 실수를 하도록 혼란스럽게 만드는 일부 새로운 제품이 출시되었습니다.
Nightshade는 시카고 대학교 연구진이 제공하는 무료 도구입니다. 1월 중순에 출시된 이후 250,000명 이상의 사람들이 예술가의 결과물에 대한 AI 모델 학습을 방지하기 위해 소프트웨어를 다운로드했습니다.
DALL-E와 Midjourney AI는 커머셜 예술을 포함한 웹에서 데이터를 스크랩하여 작업하는데, Midjourney는 원본 제작자의 허가 없이 1억 개 이상의 이미지를 학습한 것으로 알려졌습니다.
'Shady' 관행(Practices)
Nightshade라는 프로그램은 "다른 AI 프로그램이 실제 존재하는 것과 완전히 다른 것을 볼 수 있도록 픽셀 수준에서 이미지를 미묘하게 변경"하는 태그를 사용하여 이미지에 있는 내용을 잘못 식별하는 방식으로 작동합니다.
Nightshade를 사용하면 AI가 사용자 프롬프트와 일치하지 않는 결과를 생성할 가능성이 높다고 하는데요, 예를 들어 인간의 눈에는 녹색 들판에 있는 암소의 음영 처리된 이미지가 크게 변하지 않은 것으로 보일 수 있지만, AI 모델은 풀밭에 누워 있는 커다란 가죽 지갑을 볼 수 있도록 할 수 있다고 합니다.
Nightshade는 생성형 AI가 등장한 이후 아티스트의 주요 불만 사항이었던 아티스트의 스타일을 가리기 위해 설계되었습니다.
아티스트와 AI 간 더욱 치열해진 대결 구도
DALL-E 및 Midjourney와 같은 AI 플랫폼에 대한 부정적인 감정은 2022년부터 시작되었다고 하는데요, 이러한 생성형 도구는 고인이 된 예술가의 스타일을 모방할 수 있을 뿐만 아니라 여전히 반격을 가하고 있는 살아있는 예술가의 스타일을 재현할 수도 있습니다.
Nightshade와 Glaze는 AI 플랫폼의 성능을 제한하려는 움직임의 일부이며, 인위적인 글쓰기를 감지하기 위한 GPTZero와 같은 도구들도 개발되고 있다고 합니다.
어쨌든 인간은 인공지능보다 한 발 앞서 나가야 합니다.
원본 기사 링크는 아래와 같습니다. 감사합니다.🙏
[Source Link] https://medium.com/counterarts/creators-are-now-trying-to-poison-ai-into-submission-0a8e4e21aeb6
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 2월 29일 오전 7:31