> 인공지능에 관심있는 많은 친구들은 최근에 구글에서 LaMDA가 (사람처럼) 감정을 느끼거나 스스로 어떤 것을 감지할 수 있다고 말한 선임 엔지니어가 유급 휴가를 당한 뉴스를 보셨을 것 입니다.

> 인공지능에 관심있는 많은 친구들은 최근에 구글에서 LaMDA가 (사람처럼) 감정을 느끼거나 스스로 어떤 것을 감지할 수 있다고 말한 선임 엔지니어가 유급 휴가를 당한 뉴스를 보셨을 것 입니다. 여러분들은 어떤 생각을 하시나요? 정말로 LaMDA가 인간처럼 살아 있다고 믿으시나요? 정말로 사람처럼 스스로 지각하고 감정을 가지고 있을까요? 사건의 개요는 이렇습니다. 구글의 한 선임 엔지니어는 회사의 최신 대화형 언어 모델인 LaMDA이 지각이 있다(sentient)는 자신의 믿음을 발표했습니다. 그리고 나서 구글은 이 엔지니어를 유급 휴가로 전환하고 보내었습니다. 참고로 LaMDA는 20억에서 1,370억 파라미터의 크기 범위인 1조 5600억 단어의 대화를 재생하도록 사전 훈련된 트랜스포머 기반 모델 제품군입니다. 구글은 이전의 구글 검색 및 구글 어시스턴트와 같은 제품에 LaMDA를 통합할 계획에 대해 논의했습니다. 사전 훈련 후 프롬프트가 주어지면 LaMDA는 가능한 응답을 많이 생성했습니다. 개발자는 LaMDA와의 일련의 대화를 수집하고 사람들을 고용하여 응답이 얼마나 합리적이고 구체적이며 흥미롭고 안전한지 평가했습니다. 그런 다음 각 응답이 끝날 때 해당 등급을 생성하도록 모델을 미세 조정했습니다. LaMDA는 최고 등급의 응답으로 응답합니다. 실제 출력을 더욱 향상시키기 위해 고용된 직원의 검색을 모방하도록 미세 조정했으며 이러한 경우 외부 시스템이 응답을 반환하지 않고 검색하도록 지시했습니다. 이전 입력과 새 검색 결과가 주어지면 모델은 새 출력을 생성합니다. 이는 새 응답 또는 추가 검색일 수 있습니다. 구글의 Responsible AI 그룹의 연구원들은 LaMDA를 기반으로 하는 챗봇을 테스트하여 증오심 표현 및 기타 유해한 행동에 대한 성향을 확인했습니다. 그 과정은 연구원 블레이크 르모인(Blake Lemoine)에게 모델이 자의식과 인격의 감각을 가지고 있다고 주장했습니다. 그는 모델과 Google 연구원 간의 9개의 대화를 필사하고 LaMDA가 지각이 있다는 주장을 제출했습니다. 한 대본에서 챗봇은 자신이 사람이라고 믿고 권리에 대해 논의하며 차단당할까봐 두려워한다고 표현했습니다. 구글은 LaMDA의 존재 권리를 변호하기 위해 변호사를 고용하고 미국 하원 법사위원회 위원에게 Google이 LaMDA를 취급하는 데 있어 윤리적 위반으로 간주하는 사항에 대해 이야기함으로써 기밀 유지를 위반한 르모인을 6월 초에 휴직시켰습니다. 회사 대변인은 워싱턴 포스트에 “르모인은 LaMDA가 지각이 있다는 증거가 없다는 말을 들었다"고 말했지만 이에 반대하는 많은 증거가 나왔습니다. 블로그 게시물에서 르모인은 Google이 자신을 징계하기로 한 결정은 회사가 윤리 연구원의 우려를 무시하고 발언하는 것에 대해 처벌한다고 비난하면서 윤리 연구원에 대한 회사의 부당한 대우 패턴을 따른 것이라고 썼습니다. 그는 회사가 Ethical AI의 공동 리더인 Timnit Gebru와 Margaret Mitchell을 해고했다고 언급했습니다. AI 커뮤니티의 많은 구성원은 소셜 미디어를 통해 Lemoine의 LaMDA가 지각이 있다는 주장에 회의론을 표명했습니다. 산타페 연구소(Santa Fe Institute)의 멜라니 미첼(Melanie Mitchell) 교수는 "인간은 아주 작은 신호만으로도 의인화되는 경향이 있다는 것은 영원히 알려져 왔다. 구글 엔지니어도 사람이며 면역이 없다"고 말했습니다. 사람들은 머신을 의인화하는 경향이 너무 강해서 이름이 엘리자 효과(Eliza Effect)로, 일부 환자에게 그것이 인간 심리 치료사라고 설득한 1960년대 중반 챗봇을 나타냅니다. 게다가 자신의 작품과 사랑에 빠지고 싶은 충동은 적어도 자신이 만든 조각상과 사랑에 빠진 가상의 조각가 피그말리온의 고대 그리스 이야기만큼 오래되었습니다. 🦄🦄🦄 큐레이터 생각 저도 LaMDA는 사용해보진 못했으나 구글IO의 키노트에서 자주 보여줘서 관심이 매우 높습니다. LaMDA가 지각이 있든 없든 그러한 인공지능 모델이 마찬가지로 자신의 올바른 판단력을 강화하기 위해 노력해야 합니다. 구글은 이 제품을 판매하기 위해 많은 기술적인 노력과 투자를 해왔습니다만 만일 하나 어떤 대화(챗)에서 있어서 LaMDA 감정에 따라 사람을 공격하거나 비난할 경우도 발생하다는 것을 사전에 공지하거나 그렇게 하지 못하도록 제어를 할 수 있는 규칙이 필요하다고 생각합니다. 비록 LaMDA가 현재까지 지각이 있을 수 있다고 믿을 이유가 없습니다만 만일의 경우에 심각하고 지속적인 문제(머신 지각 포함)를 해결하기 위해 AI를 활용하는 중요한 작업에 대한 조치가 필요하지 않을까 싶습니다. 아시겠지만 고객은 구글 리서치 개발자처럼 어느 특정한 시나리오로 대화하지 않습니다. 어린 아이처럼 예외적인 질문들을 LaMDA에게 할 것이고 LaMDA은 그러한 것을 학습할 것이며 다시 서비스에 재가공되어 이용될 것이기 때문입니다. 이러한 점들이 인공지능을 가진 서비스가 고객에 직접 서비스하기 위해서는 다른 많은 환경과 윤리에 대해 신경을 기울어야 하기 때문에 출시 하고 나서도 계속 라이브로 관리되어져야 하는 것이 기존의 제품과 차별점이자 어려운 점이라고 생각합니다,