AI서치엔진을 아직 신뢰하면 안되는 이유

최근 마이크로소프트와 구글을 중심으로 검색 서비스에 ChatGPT와 같은 AI기능이 탑재된 서비스를 선보이고 있습니다. 이 기사는 아직까지 AI서치엔진을 왜 완전히 신뢰하면 안되는지에 대해 다루고 있습니다. 기본적으로 AI랭귀지 모델은 잘못된 사실을 마치 사실처럼 전달하는 것으로 유명합니다. 그 이유는 이 모델은 문장에서 다음 단어가 무엇이 나올지에 대해서는 예측을 잘하지만 그 문장 자체가 무슨 의미를 하는지에 대해서는 판단하지 않기 때문인데요, 그러다 보니 사실을 '정확히' 전달해야하는 것이 중요한 서치엔진에서는 잘못된 사실을 사실처럼 표현할 수 있는 위험한 기능이 될 수 있습니다. 이러한 실수들을 줄이기 위해 구글과 마이크로소프트는 AI로 생성된 검색결과에 어디서 해당 사실을 인용했는지 소스를 함께 제공하는 식으로 문제를 풀어가고 있습니다. 이를 통해 사용자들은 소스와 사실을 함께 봄으로써 판단할 수 있지만 근본적으로 이 모델 자체의 문제점을 해결할 수는 없습니다. 이에 관해 빅테크 회사들은 조심스러운 접근을 하기 보다 지금은 더 과감하게 접근하고 있습니다. AI시스템은 이미 가방을 빠져나온 고양이와 같기 때문에 실수를 하도록 우선 두고 배우도록 하는 것이 중요하다고 합니다. 결론적으로 근본적인 한계 때문에 사용자들은 아직 성숙하지 않은 이 기술을 시험해보고 있는 실험단계에 노출되고 있고 개개인의 조심스러운 접근이 필요하지 않을까 생각됩니다.