앤트로픽 '클로드2', 보다 윤리적이고 안전한 AI될까

인공지능(AI) 스타트업 앤트로픽(Anthropic)이 11일(현지시간) 자사 홈페이지를 통해 새로운 챗봇 ‘클로드2(Claude2)’를 출시했다. 주요특징은 다음과 같다 - 미국과 영국에서 API와 웹으로 베타 버전이 제공된다. - 코딩 AI ‘Sourcegraph’와 콘텐츠 마케팅 AI ‘Jasper’ 등이 이번 챗봇에 탑재됬다. - 클로드2는 이전 버전보다 대화하기 쉽고 명확한 결과물을 내놓으며, 유해한 내용을 생성할 확률이 줄어들었다는 평가를 받았다. - 앤트로픽은 코딩과 수학, 추론 능력도 한층 더 개선됐다고 밝혔다. - 한 번에 작업할 수 있는 토큰 수도 10만 개로 증가해 책 한 권 분량이나 수백 페이지에 달하는 기술 문서를 처리할 수 있다. 이는 생성형 AI 모델 중 가장 큰 규모라는 것이 회사 측 설명이다. - 아울러 앤트로픽은 안전성 개선을 위한 작업을 지속해 1.3버전보다 두 배 이상 우수한 성과를 보였다고 밝혔다. - 자체적으로 운용하는 '레드팀'이 AI의 결과물을 수동 확인하고 있다는 설명이다. 앞서 앤트로픽은 지난 4월 클로드를 출시했고 5월에는 자사 AI 모델이 반드시 지켜야할 원칙을 담은 ‘클로드 헌법’을 공개했다. 이를 통해 보다 윤리적이고 안전한 AI를 만들겠다는 것이다. 앤트로픽은 오픈 AI의 연구진이었던 다니엘라 아모데이(Daniela Amodei)와 다리오 에머데이(Dario Amodei) 남매가 설립한 AI 스타트업이다. 올해 2월 구글은 앤트로픽에 3억 달러(약 3875억)을 투자해 지분 약 10%를 보유 중이다. 그래서, 향후 '마이크로소프트-오픈AI' 진영과 '구글-앤트로픽' 연합의 구도로 'AI경쟁'이 가시화될 가능성도 조심스레 점쳐진다.

앤트로픽 '클로드2', 보다 윤리적이고 안전한 AI될까

The-tech

앤트로픽 '클로드2', 보다 윤리적이고 안전한 AI될까

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2023년 7월 17일 오후 3:05

 • 

조회 1,761

댓글 0