황준호

Siren Partners CEO

팔로우

'연애의 과학' 서비스에서 분석받기 위한 데이터가 '이루다'의 대화 기계에 사용될 것이라고 생각한 사용자가 몇이나 있었을까? 이루다 역시 처음에는 데이터가 다른 서비스에도 사용될 수 있다고 약관에 명시했다고 버텼지만, 사용자는 배신감을 느꼈다. 서비스 가입 때마다 복잡한 약관을 다 읽어보는 사용자는 몇 되지 않는다. 이루다 논란에서 확인할 수 있는 것은 약관에 명시됐다 하더라도 데이터의 과도한 범용은 한 서비스를 완전히 멈출 수 있다는 것을 보여 준다. 기업대 기업의 일이라면 계약서에 기반해 시비를 가릴 수 있지만, 떠난 소비자와 거래 상대방은 계약서와 약관이 붙잡아 주지 않는다. "기계는 데이터를 소화하지 못했다. 즉 특정 몇 마디만 하면 마치 버튼 눌리듯 자동으로 원천 데이터를 뱉어내는 일도 벌어졌다. 실은 다른 첨단 딥러닝 대형 언어 모델에서조차도 학습 데이터 유출은 이미 논문까지 나와 있는 근본적 문제다. 학습 자료를 완전히 소화하지 못하고 삼켜 버려 먹은 그대로 배설하니 개인정보까지 쏟아져 내렸다." "개인정보위원회 조사에 의하면 10년간 최대 600만 명의 데이터를 수집했다고 하는데, 상당히 꾸준한 장기 계획의 산물임은 알 수 있다. 이루다는 사실 가상의 성애에 특화된 성인용이었다. 문제는 이 점을 자신은 몰랐다는 점이었다. 아니면 스스로를 속였다는 점이었다."

[김국현 IT 사회학] '이루다' 논란에서 배워야 할 것들

중앙시사매거진