인공지능(AI), 전문가들은 왜 위험하다고 할까?

AI로 생성된 다양한 텍스트, 이미지, 동영상 등 허위 정보가 확산되며 다양한 문제점들이 나타나고 있다. 문제는 이러한 허위 정보를 진실이라고 믿는 사람들이 적지 않다는 점이다. 실제로 美 펜타곤 인근 폭발 허위 이미지가 확산되어 美 증시가 하락하며 AI가 만든 허위 정보가 사실인 것처럼 유포될 경우 사회를 어떻게 뒤흔들 수 있는지 보여주는 극명한 사례가 발생했다. 여기에 더해 AI가 만들어낸 가짜 뉴스의 급증으로 ‘24년 미국 대선을 포함한 각종 선거를 앞둔 세계 각국이 정치적·사회적 혼란에 휩싸일 것이란 우려와 함께 AI가 생성한 수많은 스팸 사이트와 홍보 광고들은 인터넷 정보의 신뢰도마저 떨어트리고 있는 상황이다. 실제로 美 스탠퍼드대학교 인간중심 인공지능 연구소(HAI)에서 매년 발간하는 ‘AI 인덱스 2023 보고서’에 따르면 AI로 인한 사고와 논란 수는 ‘10년(10건)보다 ‘21년(260건)에 26배 증가했다. 그리고 이러한 사고와 논란 수의 증가는 AI가 생성해낸 허위 정보 등으로 인한 위험성과 연관이 깊다. 더욱 문제는 향후 AI로 인한 사고와 논란 수는 더욱 증가할 것이라는 전망이다. 1) AI의 위험성에 대해 경고하는 주요 인물들과 조직 ○ 오픈AI, AI 규제를 위한 국제기구 설립 제안 ○ 美 CAIS, AI 위험에 대한 성명 개제 ○ AI 분야 전문가들의 AI 규제 필요 발언 2) AI 규제 법안 제정하는 글로벌 주요국 ○ EU, AI 규제 법안 ‘AI Act’ 초안 채택 ○ 美, ‘책임 있는 AI 혁신’을 촉진하는 신규 조치 발표 ○ EU-美, AI 부작용 막기 위한 ‘AI 행동강령’ 마련 ○ AI 규제 속도 높여가는 中 ○ 韓, AI를 악용한 허위 정보 유포 등에 대비한 법안 발의 ○ 韓, 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안」 제정 속도 상세 내용은 원문을 참고해주시기 바랍니다~ ^^