레드 팀과 블루 팀을 아시나요?

레드 팀과 블루 팀을 아시나요? 생성형 AI 보안 업계에서 흔히 하는 말이에요. 기업이 생성형 AI를 활용할 때, 여러 보안 이슈가 있어요. 예를 들어, 기업이 소비자 대상 챗봇 서비스를 제공할 때, 챗봇에 공격을 가할 수 있겠죠. 챗봇은 보통 생성형 AI를 기반으로 제작되어 서비스가 운영돼요. 그래서 해커가 기업의 내부 데이터에 접근하도록 공격을 시도합니다. 해커 대신 이런 행위를 사전에 진행하는 방법이 바로 ‘레드 티밍’이에요. Red Teaming이 원문인데, 빨간색은 보통 적대적 행위를 상징해요. 그리고 ‘블루 티밍’의 파란색은 보통 아군을 상징하고 방어를 의미해요. 이러한 군사적 용법이 사이버 보안에도 이어지게 된 겁니다. 정리하자면, 레드 팀은, 공격, 침투, 취약점 발견 행위를 통해 방어 체계를 무력화시키고 이 체계를 검증하고자 하는 목표를 갖고 있어요. 반대로 블루 팀은, 방어, 탐지, 대응을 통해 인프라를 보호하고 위협을 차단하는 목표를 갖고 있어요. 그래서 생성형 AI를 도입하여 활용할 때, 사전 공격인 레드 티밍을 통해 지금 단계에서의 취약점은 무엇인지를 살펴봐야 합니다. 그 후에 블루 티밍으로 탐지, 대응할 수 있는 체계를 도입하여 위협으로부터 시스템과 정보를 지켜낼 수 있습니다.