Claude 3의 실험 결과들을 보니, 무엇보다 너무 심하게 의인화가 되어서 의식과 자각이 있는 것 처럼 말을 하고 있는게 좀 걱정이 됩니다. 구글의 내부 리서처도 훨씬 못한 LLM을 보고도 미쳐

Claude 3의 실험 결과들을 보니, 무엇보다 너무 심하게 의인화가 되어서 의식과 자각이 있는 것 처럼 말을 하고 있는게 좀 걱정이 됩니다. 구글의 내부 리서처도 훨씬 못한 LLM을 보고도 미쳐 날뛰(?)었었는데, 보통의 사용자에게는 정말 대단히 부정적인 영향을 끼칠 수도 있다는 생각이 듭니다. 실제로 의식과 자각이 있는거라면 그건 그거대로 😱 그런면에서 OpenAI의 일리야씨의 2016년 메일에 있던, AI가 너무 강력해진다면 악의 무리(?)가 남용하는 것을 방지하기 위해 소스를 오픈하지 않는 방향이 좋겠다는 말이 납득이 갑니다. 그렇게 보니 안전한 AI를 표방하고 있는 Anthropic 이 이런 결과를 내는 AI를 오픈했다는 것이 좀 이해가 안가기도 하네요.