📝 Anthropic, AI의 캐릭터성에 대한 연구

Anthropic은 안전 연구에 진심인 곳으로 알려져있습니다. 그런데 Claude 3를 출시하면서 챗봇을 매우 인간적으로 답변하는 경향으로 정렬시켜 두어 많은 사람들을 의아하게 만들었는데요. 이번 “Claude Character” 라는 연구는 그에 대한 Anthopic의 답변으로 보입니다. Anthropic의 Claude Character는 AI 모델인 Claude 3에게 풍부한 성격 특성을 부여함과 동시에, AI가 다양한 인간의 가치와 관점을 이해하고 정직하고 신중하게 대처하도록 합니다. 특히 Claude가 특정 견해를 채택하거나 회피하는 대신, 자신의 편향을 투명하게 표현하고 윤리적 질문에 신중하게 접근하도록 돕는데요. 이를 통해 AI가 인간과 더 의미 있는 상호작용을 할 수 있도록 하는 것이 목표라고 합니다. 반면 OpenAI는 ChatGPT라는 이름에서부터 알 수 있듯이 캐릭터성을 최대한 부여하지 않고, 사용자가 틀린 생각을 하더라도 사용자의 생각을 바꾸지 않도록 하는 방향을 추구합니다. 아직은 어디가 맞다 틀리다를 논하긴 어렵지만, 미래에는 어느정도 방향이 수렴될텐데요. AI에 부여하는 캐릭터성의 방향성이 어떻게 수렴될지도 재미있는 관전 포인트 중 하나인 것 같습니다.