간밤에 또 빅 AI 업데이트가 있었군요. Claude 4 Opus, Sonnet 패밀리가 발표되었습니다.

성능이나 다양한 능력이 향상되었고, 트렌드에 맞게(?) 소프트웨어 개발 성능이 또 크게 올랐습니다.

사실 이보다 더 중요한 부분이 있는데요.

Anthropic에서 이번 모델을 발표하면서 AI 안전 수준을 3(AI Safety Level 3, ASL-3)으로 격상했다는 것 입니다.

ASL-2는 일반적인 소프트웨어 보안 수준에 준하는 것인데, ASL-3는 화학, 생물학, 방사능, 핵(CBRN) 지식의 악용 등 실질적 사회적 피해 가능성을 가진 모델 수준입니다.

Claude Opus 4가 ASL-3 보호 조치를 반드시 필요로 하는 수준인지 아직 확정하지는 않았습니다만, 능력의 지속적인 향상으로 인해 이전 모델들과 달리 ASL-3 위험을 명확히 배제할 수 없다고 판단하여, 선제적으로 ASL-3 보호 조치를 적용했다고합니다.

즉, AI의 위험이 실질적으로 사회에 큰 피해를 줄 수 있다는 것을 공식화 한 것인데요. 세계적으로 군비 경쟁이 치열해지고 있는 지금 그 위험성이 더 크게 다가오네요.

과연 이 위험을 인류가 잘 극복해 낼 수 있을까요? 다음 몇년간은 AI가 역사책에 어떻게 나올지가 결정될 정말 중요한 시기인 것 같습니다.