📝 AI의 Alignment란 과연 일반화 될 수 있는 것일까? 많은 빅테크들의 성능 외의 중요한 화두로 AI의 Alignment, 인간의 윤리와 선호도에 맞게 출력을 조절하는 것이다. 그.런

📝 AI의 Alignment란 과연 일반화 될 수 있는 것일까? 많은 빅테크들의 성능 외의 중요한 화두로 AI의 Alignment, 인간의 윤리와 선호도에 맞게 출력을 조절하는 것이다. 그.런.데, 그 윤리와 선호도라는 것은 나라와 지역마다 다 다른데 과연 어떤 기준으로 출력을 조절해야할까? 조금 다른 예로, 현재 메타의 스레드에서는 요상하게 반말을 하는 문화같은게 생기고 있는데, 한국 사람으로써는 굉장히 불편한 느낌이다. 그렇다면 만일 메타의 스레드에 챗봇이 상주하게 된다면 그 챗봇은 반말을 해야할까? 아니면 존댓말을 해야할까? 한국어니 존댓말일까? 현재 스레드의 트렌드대로 반말을 하도록 만들어야할까? 아니면 커뮤니티에 맞겨야 할까? 커뮤니티에 맡긴다면 어뷰징이 있지 않을까? 좀 더 와닿기 쉽게 하기 위해 극단적으로 말하자면, 식인종 나라에서는 사람을 먹는게 올바른 일이라고 답변을 해도 되는 것일까? Alignment라는 것이 굉장히 중요한 문제인 것은 모두가 동의하는 바이지만, 이를 어떤 방향으로 할 지에 대해서는 아직 크게 논의된 바가 없는데, 과연 앞으로 이 논의가 어떤 방향으로 흘러갈지 상당히 궁금하다.