OpenAI, AI가 불러올 재앙을 막기 위한 조직을 신설하다.

오픈AI는 27일(현지시간) AI의 ‘재앙적 위험’을 줄이기 위해 자체 ‘대비팀’(preparedness team)을 구축했다고 밝혔다. 이 조직은 AI가 야기할 수 있는 “치명적인 위험을 추적, 평가, 예측하고 이를 보호하는 것을 목표로 할 것”이라고 설명했는데요.. 반년전 샘 알트먼이 AGI와 초지능, 특이점에 대해 이야기했을 때 대부분은 위험하며 언제 초지능을 얻을지 알기 힘들 수 있다는 뉘앙스였는데 이렇게 MIT의 머신러닝 센터장, 알렉산더 매드리를 데리고 신설 부서를 만들었다고 합니다. 당연하지만 이 같은 움직임은 생성형 AI가 초래할 수 있는 부작용이나 위험을 미리 대비하겠다는 것이겠지요. " 기사에 따르면 AI가 핵무기 등의 무기에 사용되는 ‘화학적, 생물학적, 방사능적 위협’과 함께 AI가 스스로 복제하는 위험인 ‘자율 복제’에도 대응한다고 덧붙였습니다. 오픈AI는 “우리는 현재 가장 진보된 기존 모델의 기능을 뛰어넘는 프런티어 AI 모델이 인류에게 혜택을 줄 수 있는 잠재력이 있다고 믿는다”면서도 “하지만 이는 점점 더 심각한 위험을 초래할 수도 있다”고 우려했다. 이어 “이런 위험한 상황을 피하려면 새로운 AI 시스템의 위험한 기능을 예측하고 사람들을 보호할 수 있는 뼈대를 구축해야 한다”며 “이것이 새로운 팀의 임무 중 하나가 될 것”이라고 말했다. " 출처: https://www.theverge.com/2023/10/26/23933783/openai-preparedness-team-catastrophic-risks-ai