AI를 향한 광란과 환각

AI가 유용한 도구가 될 수 있다는 사실을 이젠 우리 모두 그렇게 들어 알고 있습니다. 이 생각의 균형을 잡기 위한 좋은 시선이 있어 소개합니다. 이 글은 어떤 단체의 이름을 빌려 AI를 비판하지 않습니다. 그저 AI가 아닌 테크 기업 CEO들이 AI를 향한 환상과 환각을 만들어 낸다며 하나 하나 비판할 뿐이에요. 가디언의 컬럼니스트 나오미 클라인(Naomi Klein)은 AI를 향한 광적인 믿음을 표현하며 '환각'이라는 용어를 골랐어요. 환각은 기존의 유물론적 관점에서는 존재하지 않는 현상을 인식하는 인간 두뇌의 신비한 능력을 말합니다. 나오미는 실존적인 위협을 초래할 수 있는 도구인 AI를 정당화하기 위해 테크 CEO들이 AI를 향한 환각을 만들고 있다고 꼬집습니다. 이 환각이 먹혀드는 이유는 '몰라서'가 아니라 이 시스템이 정말로 잠재적인 이점을 지닌다고 믿기 때문입니다. 나오미는 그러나 이는 그야말로 환각이라고 말합니다. 환각 1. AI는 기후 위기를 해결할 것이다. 세계경제포럼(WEF), 보스턴컨설팅그룹(BCG) 등은 "AI가 이해관계자에게 탄소 배출과의 전쟁에서 데이터 드리븐, 정보를 잘 전달하는 데 도움이 될 수 있으며 기ㅜㅎ 위기를 해결하는 데 도움이 될 수 있다"고 주장했습니다. 그러나 이미 수많은 노벨상 수상자, 박사들이 정부에 수십년 동안 탄소 배출을 줄이고 과도한 소비를 지양하도록 정책을 설계해야 한다고 조언해왔어요. 에너지원은 생태학적으로 공짜가 아니기 때문입니다. 그러나 이런 조언들은 화석 연료 자산 고갈을 막고 소비 기반 성장 모델을 유지해야 하기 때문에 무시됐습니다. 즉 기후 위기는 데이터 세트가 충분하지 못해 '풀지 못한' 미스테리나 수수께끼가 아닙니다. 패러다임의 전환이 필요한 문제입니다. 기계가 수익성 있는(!) 답을 내놓을 때까지 기다리는 것은 치료법이 아니라 또 하나의 증상입니다. 환각 2. AI가 더 현명한 거버넌스를 할 수 있게 만들 것이다. 정치인, BCG, 업계 싱크탱크는 '고객의 효율성'을 높이는 데 AI를 적극 사용해야 한다고 열광합니다. 니즈의 패턴을 파악하고 증거 기반 프로그램을 만들어서 유권자들에게 맞춤형 혜택을 줄 수 있다는 환각 때문이에요. 그러나 이 역시 패턴을 볼 수 없어서 문제가 생기는 것이 아닙니다. AI가 기업의 자본과 무모한 정책 결정 사이의 연결고리를 끊을 수 있다면 몹시 좋겠지만, 사실 문제 많고 인류에 위협이 될 수 있는 도구인 AI를 공개한 것 자체가 기업의 엄청난 로비의 결과입니다. 환각 3. 거대 테크 기업은 세상을 무너뜨리지 못할 것이다. "AI로 가장 큰 이익을 얻는 사람들은, 환상과 달리, 주주들(만)을 위해 결정을 내립니다" 구글 인공지능에 대해 문제를 제기했다는 이유로 많은 직원들이 해고를 당했습니다. AI 업계 대부 제프리 힌튼은 경악을 금치 못하고 퇴사를 했는데요. 이런 상황에서 CEO들은 광란의 AI 골드러시의 한 가운데서 "모든 것이 잘 풀리길. '더 나은 천사'가 이길 것"이라는 말만 반복하고 있습니다. 환각 4. AI는 근로자를 고된 업무에서 해방시키고 그들에게 자유를 줄 것이다. 샘 알트만 오픈AI CEO는 AI가 영혼을 파괴하는 반복 작업을 줄여주고 인간은 감독만 하게 될 것, 즉 AI는 고용의 종말이 아니라는 말을 했습니다. 그에 따르면 인간은 AI 덕분에 먹고 살기 위해 하는 일이 아닌 창의적인 표현, 성취감, 행복을 찾는 수단으로 일을 하게 될 것이라고 하는데요. 그런데 환상이 아닌 현실에서 이것이 가능하려면 임대료가 사라지고 의료 서비스는 무료여야 하며 모든 사람이 양도 불가능한 경제적인 권리를 가져야 합니다. AI가 아닌 다른 얘기를 하는 것 같은데요. 여기서 크래바플이 공개 서한에서 "예술가, 출판사, 언론인, 편집자, 저널리즘 노동조합 근로자들이 생성 AI 이미지 사용에 반대하는 인간의 가치를 위해 서약하고 서버팜(AI가 돌리는 공장을 빗댄 표현)이 아닌 사람의 편집 예술을 지지해달라"고 약속한 메시지가 유의미하다고 생각합니다. 그는 "기계가 읽고 쓰도록 사회를 적응시키는 것이 아니라 우리를 위해 작동하는 기계를 만들어야 한다"는 이야기를 강조하고 있습니다. 아마 지금 한창인 미국작가협의회의 AI 반대 파업은 역사적인 기록이 될 것입니다(그만큼 AI는 위협적이고, 그만큼 AI는 환각적입니다). AI에 관한 날카로운 비판이었는데요. 다시금 말하지만 AI의 긍정적인 측면을 무시하는 것이 아니라, CEO들이 만드는 환각을 비판하는 것이며 이는 정당하다고 생각합니다. AI에 관해 이유 없이 관대해지고 가벼워지는 시각과 말들을 다잡을 수 있도록 지성인들이 조금 더 목소리를 내주길 바라는 마음입니다.