최근 오픈AI의 샘알트먼의 축출과 컴백의 배경이 되었던 안전하고 신뢰성 있는 AI에 대한 여러 가들 차원의 본격적인 활동이 이루어지고 있습니다. 그중에 하나로 최근 27일(현지시간) 미국과 영국, 한국 등 18개 국가가 ‘안전한 인공지능(AI) 시스템 개발 가이드라인’에 합의했습니다. 이에 대한 내용을 소개합니다. 상세 내용은 영어 원문자료를 참고해주세요.(국정원에서도 한글버전의 가이드가 나올거라 기대해봅니다. ^^)

• 참가국: 미국과 영국 외에 호주, 캐나다, 칠레, 체코, 에스토니아, 프랑스, 독일, 이스라엘, 이탈리아, 일본, 뉴질랜드, 나이지리아, 노르웨이, 폴란드, 한국, 싱가포르

• 가이드라인 대상

  • 인공지능(AI)을 사용하는 모든 시스템의 제공업체

  • 조직에서 호스팅하는 모델을 사용하거나 외부 애플리케이션 프로그래밍 인터페이스(API)를 사용하는 AI 시스템 제공업체

  • 모든 이해관계자(데이터 과학자, 개발자, 관리자, 의사결정권자 및 위험 소유자 포함)

• 가이드라인 상세 소개

  • 안전한 설계 : AI 시스템 개발 수명 주기의 설계 단계에 적용되는 지침 포함. 위험 및 위협 모델링에 대한 이해와 시스템 및 모델 설계 시 고려해야 할 특정 주제와 절충점

  • 안전한 개발: 공급망 보안, 문서화, 자산 및 기술 부채 관리 등 AI 시스템 개발 수명 주기의 개발 단계에 적용되는 지침 포함

  • 안전한 배포: 손상, 위협 또는 손실로부터 인프라 및 모델 보호, 인시던트 관리 프로세스 개발, 책임 있는 릴리스 등 AI 시스템 개발 수명 주기의 배포 단계에 적용되는 지침 포함

  • 안전한 운영 및 유지 관리: AI 시스템 개발 수명 주기의 안전한 운영 및 유지 관리 단계에 적용되는 지침이 포함. 로깅 및 모니터링, 업데이트 관리, 정보 공유 등 시스템이 배포된 후 특히 관련된 조치에 대한 지침 제공

• 기타

  • '기본적으로 안전한' 접근 방식을 따르며, NCSC의 보안 개발 및 배포 지침, NIST의 보안 소프트웨어 개발 프레임워크, CISA, NCSC 및 국제 사이버 기관에서 발표한 '보안 설계 원칙'에 정의된 사례와 긴밀히 연계

  • 고객을 위한 보안 결과에 대한 소유권 확보, 근본적인 투명성과 책임감 수용, 설계상 보안을 최우선으로 하는 조직 구조와 리더십 구축

  • 민간 주도가 아닌 정부주도. 정확히는 각 정부의 정보기관 주도 기반의 가이드라인 제시