마이크로소프트, 아마존, IBM을 포함한 주요 AI 기업들이 서울 AI 서밋 2024에서 AI 모델의 안전 조치를 공개하겠다고 약속했습니다. 이 이니셔티브는 프런티어 AI 안전 약속(Frontier AI Safety Commitments)의 일환으로, AI 개발 및 배포의 투명성과 책임성을 보장하는 것을 목표로 하고 있습니다.

주요 내용은 다음과 같습니다:

1. 각 회사는 AI 모델의 위험을 평가하고 관리하는 방법을 상세히 설명하는 안전 프레임워크를 공개할 예정입니다.

2. 위험이 용인할 수 없는 수준에 도달했을 때 취할 조치를 명확히 하고, 이러한 임계값이 초과되는 경우 개발이나 배포를 중단할 것을 약속했습니다.

3. "레드팀" 연습을 통해 AI 모델을 테스트하고, 정보 공유, 사이버 보안 투자, 제3자 취약점 보고를 장려할 계획입니다.

4. AI 생성 콘텐츠에 라벨을 붙이고, 사회적 위험에 대한 연구를 우선시하며, 글로벌 도전 과제를 해결하는 데 AI를 활용할 것을 약속했습니다.

   
   

이 노력은 지난해 Bletchley 선언에 이어 AI 안전 및 거버넌스에 대한 글로벌 협력을 촉진하려는 목표를 가지고 있습니다. 이러한 약속의 세부 사항은 2025년 초 예정된 AI 액션 서밋에서 더욱 구체화될 예정입니다​