5조원 가치 앤트로픽, AI 안전성을 왜 어떻게 추구한다는 걸까

앤트로픽은 구글, 줌, 스파크 벤처스 등에서 41억 달러(약 5조 2030억 원)의 가치를 평가 받고 4억 5000만 달러(약 5710억 원)의 시리즈 C 투자를 받아서 자금 확보를 든든히 한 AI 스타트업 중 하나예요. 이 회사는 AI 안전성이라는 키워드를 선점하고 관련 논의를 주도해 성장하겠다는 의지를 보여주고 있어요. 최근에는 챗봇 클로드2 베타버전을 내놓으며 ‘안전성을 최우선시한다’고 적극 홍보하고 있어요. 마침 미국 테크 업계, 학계, 정부, 규제기관들에게도 요즘 AI 안전성이 화두예요. 샘 알트먼, 데미스 허사비스, 제프리 힌튼, 요슈아 벤지오 등 유명 인사들이 ‘AI는 팬데믹, 핵무기만큼의 위험성을 내포한다’는 내용의 공개서한에 서명했고요. EU는 강력한 규제 법안인 AI act 초안 제작에 여념이 없어요. 미국 FTC는 사용자 관점에서 오픈AI를 강도높게 규제하고 있습니다. 물론 앤트로픽을 향한 정당한 비판도 있지만 AI 경쟁이 가속화되고 모델의 규모가 지나치게 빠르게 커지는 상황에서, 그리고 규제나 안전성 가이드가 없어 기업마다 각자 만들어쓰고 있는 실정에서, 파워풀한 도구인 AI를 요남용하면 파국을 초래할 수 있다는 보도도 쏟아져 나오도 있어요. 이런 상황에서 안전성을 추구하는 건 균형을 맞추는 자연스러운 흐름이라고 보여요. 앤트로픽 같은 회사들도 그래서 등장해 성장하는 것이 아닐까 싶습니다. (자세한 내용은 커피팟에서!)