챗GPT는 웹의 흐릿한 JPEG 이미지와 같다

번역본 링크: https://blog.naver.com/digi410/223013198529 <당신 인생의 이야기>, <숨>등을 쓴 SF작가 테드 창이 ChatGPT에 대해 이야기 한 기고문을 소개합니다. 테드 창은 작가이면서 동시에 컴퓨터 공학을 전공해 관련 분야에 대해서도 지식을 가지고 있는데요. 공학적 지식과 작가 특유의 글쓰기로, 제록스 복사기의 예를 들며 ChatGPT의 한계에 대해 유려하게 쓴 글이라는 생각이 듭니다. 특히 '손실 압축이 무손실 압축보다 더 똑똑해보인다'는 문장이 재밌었는데요. 인공지능 시대에 디자이너라는 직업이 살아남을 수 있을지 고민해본 분이라면 한번쯤 일독을 권합니다! ---------------- - 문제는 복사기가 압축 아티팩트를 즉시 인식할 수 없는 미묘한 방식으로 이미지를 저하시킨다는 것입니다. 복사기가 단순히 흐릿한 출력물을 생성했다면 누구나 원본을 정확하게 복제하지 않았다는 것을 알 수 있습니다. 문제는 복사기가 읽을 수는 있지만 부정확한 숫자를 복사하여 복사본이 정확하지 않은데도 정확한 것처럼 보이게 만든다는 사실에 있었습니다. - ChatGPT는 웹에 있는 모든 텍스트를 흐릿하게 처리한 JPEG라고 생각하면 됩니다. JPEG가 고해상도 이미지의 많은 정보를 보존하는 것과 마찬가지로 웹상의 많은 정보를 보존하지만, 정확한 비트 시퀀스를 찾는다면 찾을 수 없고 근사치만 얻을 수 있습니다. 하지만 이 근사치는 문법적인 텍스트의 형태로 제공되며, ChatGPT는 이를 생성하는 데 탁월하기 때문에 일반적으로 괜찮습니다. 여전히 흐릿한 JPEG를 보고 있지만, 흐릿함이 전체적으로 사진의 선명도를 떨어뜨리지 않는 방식으로 발생합니다. -ChatGPT가 무손실 알고리즘이라면 어떤 모습일지 상상해 보세요. 만약 그렇다면 항상 관련 웹 페이지의 내용을 그대로 인용하여 질문에 답할 것입니다. 우리는 아마도 이 소프트웨어를 기존 검색 엔진에 비해 약간 개선된 것으로 간주하고 그다지 감명을 받지 못했을 것입니다. ChatGPT가 웹에서 자료를 그대로 인용하는 대신 문장을 바꾸기 때문에 학생이 읽은 내용을 단순히 되풀이하는 것이 아니라 자신의 말로 아이디어를 표현하는 것처럼 보이며, 마치 ChatGPT가 자료를 이해하고 있는 것처럼 착각하게 만듭니다. 인간 학생의 경우 암기는 진정한 학습의 지표가 아니기 때문에 ChatGPT가 웹 페이지에서 정확한 인용문을 생성하지 못하는 것이 바로 우리가 무언가를 학습했다고 생각하게 만드는 것입니다. 일련의 단어를 다룰 때는 손실 압축이 무손실 압축보다 더 똑똑해 보입니다. - 때로는 글을 쓰는 과정에서만 독창적인 아이디어를 발견하기도 합니다. 어떤 사람들은 대형 언어 모델의 결과물이 인간 작가의 초안과 크게 다르지 않다고 말할 수 있지만, 이는 피상적인 유사점이라고 생각합니다. 초고는 독창적인 아이디어가 명확하게 표현된 것이 아니라 독창적인 아이디어가 제대로 표현되지 않은 것이며, 여기에는 무정형적인 불만, 말하고자 하는 내용과 말하고자 하는 내용 사이의 거리에 대한 인식이 동반되어 있습니다. 이것이 바로 재작성 과정에서 사용자가 느끼는 불만이며, 인공지능이 생성한 텍스트로 시작할 때 부족한 부분 중 하나입니다. - 글쓰기에는 마법이나 신비로운 것이 없지만, 기존 문서를 신뢰할 수 없는 복사기에 올려놓고 인쇄 버튼을 누르는 것 이상의 작업이 필요합니다. 미래에는 세상에 대한 자신의 경험만을 바탕으로 좋은 산문을 쓸 수 있는 인공지능을 만들 수 있을지도 모릅니다. 하지만 그 날은 우리가 예측할 수 있는 지평선 너머에 있습니다. 그 동안 웹을 재구성하는 것이 무슨 소용이 있느냐고 묻는 것은 합리적입니다. 인터넷에 영원히 접속할 수 없고 제한된 공간의 개인 서버에 사본을 저장해야 한다면, ChatGPT와 같은 대규모 언어 모델은 조작을 막을 수 있다는 가정 하에 좋은 해결책이 될 수 있습니다. 하지만 우리는 인터넷에 대한 액세스를 잃지 않습니다. 그렇다면 원본이 있는데 흐릿한 JPEG가 얼마나 유용할까요?

ChatGPT Is a Blurry JPEG of the Web

The New Yorker

ChatGPT Is a Blurry JPEG of the Web

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2023년 2월 14일 오후 2:24

댓글 0