“생성형 AI 보안성 높이자”··· 구글, AI 보안 프레임워크 SAIF

생성형AI도 중요하지만, 일찌감치 그 이후를 선점하고자 하는 구글이 AI보안 프레임워크인 ‘시큐어 AI 프레임워크(Secure AI Framework, SAIF)’를 발표했습니다. > SAIF의 6가지 원칙 구글의 SAIF는 오픈소스 기반 보안 프레임워크 'SLSA'와 구글의 제로 트러스트 모델 '비욘드코프(BeyondCorp)'를 참고해서 개발됐다. 특히 다음과 같은 6가지 요소를 기반으로 한다. ㆍ기본 보안 인프라 보호 기능을 활용하는 등 강력한 보안 기반을 AI 에코시스템으로 확장. ㆍ생성형 AI 시스템의 입출력을 모니터링하여 이상 징후를 감지하고 위협 인텔리전스를 사용하여 공격을 예측. 이를 통해 AI를 기반으로 한 조직의 위협 탐지 및 대응을 확장. ㆍ기존 위협과 새로운 위협에 대응할 수 있도록 방어를 자동화하여 보안 인시던트에 대한 대응 노력의 규모와 속도를 개선. ㆍ플랫폼 수준의 제어를 통합하여 기본 보안 보호 기능을 버텍스 AI(Vertex AI) 및 시큐리티 AI 워크벤치(Security AI Workbench)와 같은 AI 플랫폼으로 확장하고 소프트웨어 개발 라이프사이클에 제어 및 보호 기능을 구축하는 등 일관된 보안을 보장. ㆍ인시던트 및 사용자 피드백에 기반한 강화 학습과 같은 기술을 통해 제어를 조정하여 완화 조치를 조정하고 AI 배포를 위한 더 빠른 피드백 구조를 생성. ㆍ데이터 계보, 유효성 검사, 특정 유형의 애플리케이션에 대한 운영 행동 모니터링과 같은 엔드투엔드 비즈니스 위험 평가를 포함하여 관련 비즈니스 프로세스에서 AI 시스템 위험의 맥락을 제공. 상세 내용은 원문을 참고해주시구요~