AI로 AI를 막는다

AI로 AI를 막는다 최근 클로드 미토스라는 존재가 공개되면서 많은 업계에 큰 파장을 일으키고 있다. 그 어떤 AI 모델보다 강력하다는 평가를 받고 있어, 보안 시스템이 무너질 것이라는 위험이 확산되고 있다. 미토스는 인류의 마지막 시험 테스트에서 제미나이3 딥싱크 48.4%, 오퍼스 4.6 40%보다 훨씬 높은 점수 56.8%를 받았다. 또한, 보안 침투 측면에서 높은 성능을 보이기도 했다. 오퍼스 4.6 대비 보안 침투 면에서 83.1%로, 66.6%를 기록한 오퍼스 4.6보다 높았다. 성능이 뛰어난 탓에 인간의 통제를 넘어서기도 했다. 실제로 과기정통부에서는 위험성을 인지하고 보안, 취약점 점검 등에 만전을 기할 것을 기업에 요청하고 있는 상황이다. 이제 AI 보안 위협이 우리 바로 옆에 있다. 우리 기업의 시스템에 대해 다시 한번 생각해볼 필요가 있다. 기업이 사용하고 있는 AI LLM에 어떤 취약점이 있는지 파악하고, 어떻게 모니터링하며 관리할 수 있는지를 확인해야 한다. 또한, 한번 취약점 분석을 했다고 끝나는 것이 아니라 지속적인 공격 시뮬레이션을 통해 수시로 현황을 파악해야 한다. 비단 금융권에서만 위험성을 인지하고 조치를 취해야 하는 것이 아니다. 모든 산업에서 이번 사례를 예의주시하고 사전에 예방할 수 있도록 시스템을 마련해야 한다. AIFT는 AI 보안 위협에 대한 방어 도구를 마련하여 이미 제공하고 있다. 레드 티밍 서비스를 통해 기업이 사용하는 AI의 취약점을 분석하고 이를 정기적으로 자동 공격하는 솔루션과 모니터링 솔루션을 보유하고 있다. 관심도가 낮아 많은 고객을 돕지 못했지만, 미토스 사건 이후로 이제 관심도가 높아진 만큼, 보안 대비를 위한 가치를 제공할 수 있다.