커리어리 친구들, 추석 연휴에 읽어 봐도 재미난 인공지능 관련 기사를 준비했습니다. 인공지능(AI) 연구에 '빅테크'로 불리는 대형 기술 기업들이 뛰어들면서 많은 연구자들이 사회 문제 해결에 도

커리어리 친구들, 추석 연휴에 읽어 봐도 재미난 인공지능 관련 기사를 준비했습니다. 인공지능(AI) 연구에 '빅테크'로 불리는 대형 기술 기업들이 뛰어들면서 많은 연구자들이 사회 문제 해결에 도움이 되는 기술보다는 더 많은 수익을 창출할 수 있는 기술 연구에 집중하고 있습니다. 빅테크 기업들이 AI 분야를 사실상 장악하고 있는 상황에서 기업이 아니라 우리 모두에게 필요한 기술을 개발하기 위해 움직이고 있는 소규모 비주류 연구자들의 노력을 살펴봅니다. 세계에서 가장 돈이 많고 강력한 기업으로 여겨지는 구글, 페이스북, 아마존, 마이크로소프트, 애플은 AI를 핵심 사업으로 간주하고 있습니다. 지난 10년 동안 특히 ‘딥러닝(Deep learning)’ 기술이 진보하면서, 이러한 기업들은 사용자의 행동을 관찰하고, 뉴스, 정보, 상품을 사용자에게 추천할 수 있었으며, 무엇보다도 사용자 맞춤 광고를 제공할 수 있었습니다. 작년에 구글의 광고 부서는 1,400억 달러(한화 약 162조 7,000억 원) 이상의 수익을 올렸고, 페이스북도 840억 달러를 벌었습니다. 기술 기업들은 그렇게 엄청난 수익을 안겨주는 AI 기술에 상당한 규모의 연구비를 투자해왔습니다. 구글의 모회사 알파벳(Alphabet)은 2014년에 영국의 AI 연구 기업 딥마인드(DeepMind)를 6억 달러에 인수한 뒤 매년 수억 달러를 딥마인드에 투자하고 있습니다. 마이크로소프트도 2019년에 오픈AI와 10억 달러 규모의 계약을 체결하여 오픈AI의 알고리즘에 대한 상용화 권리를 획득했습니다. 문제는 기업들이 주로 상업적인 잠재력을 가진 AI 기술에만 관심이 있고, 경제적 불평등과 기후변화 등의 문제를 해결하기 위한 연구에는 대체로 무관심하다는 것입니다. 사실 기업들의 이러한 태도가 그런 사회 문제를 악화시키고 있다는 지적도 나오고 있습니다. 논문에서 게브루와 벤더는 기업들이 계속 딥러닝에만 몰두할 경우 우려되는 상황을 넌지시 언급했습니다. 우리에게 필요한 AI 시스템을 개발하여 더 발전시키지 않으면 비슷한 문제가 계속 발생한다는 것입니다. 예를 들어, 페이스북은 자동화된 콘텐츠 관리 시스템을 사용하기 위해 대규모 언어 모델에 상당히 의존하고 있습니다. 그러나 그런 언어 모델들은 텍스트에 담긴 진정한 의미를 이해하지 못하기 때문에 자주 기대에 미치지 못하는 결과를 보여줍니다. 이를테면 혐오 표현과 가짜 정보는 통과시키면서 무고한 게시글을 내리는 식입니다. 따라서, ‘블랙인에이아이’ 모임은 NeurIPS에서 첫 번째 워크숍을 주최했습니다. 워크숍을 준비하면서 게브루는 상업용 얼굴인식 시스템에 편향이 존재하는지 연구하고 있는 MIT 미디어랩(MIT Media Lab)의 연구원 조이 부올람위니(Joy Buolamwini)에게 접근했습니다. 부올람위니는 흰색 마스크를 쓰고 있지 않았는데도 얼굴인식 시스템 하나가 자신의 얼굴인식에 실패하자 얼굴인식 시스템을 테스트하기 시작했습니다. 그녀는 워크숍에 자신의 예비 연구 결과를 제출했습니다. 과연 신뢰성 있는 인공지능이 어떠한 것이 한번 눈에 생각할 필요가 있는 테크 컬럼이라 공유합니다.