개인, 회사, 정부가 AI 시스템을 사용하거나, 규제하는 법을 만들 때 고려해야 할 구체적인 리스크에는 무엇이 있을까요? 진짜 인프라에 문제가 생기는 건 당연히 전체 시스템을 마비시키는 실질적인 위협이지만, 시험 점수를 매기거나 이력서를 정리하거나 이민국에서 여행 서류를 확인할 때 사용하는 AI 시스템의 경우 어떤 리스크가 생길 수 있을까요? 우리가 실제로 사용하게 될 엔드포인트지만 구체적으로 생각해본 적은 없죠. 


그래서 MIT 연구원들이 AI 업계와 학계 이해관계자에들에게 지침을 제공하기 위해 ‘AI 리스크 레포지토리’를 내놓았습니다. AI 리스크 데이터베이스라고 볼 수 있죠. 그들은 AI 리스크 연구의 중복 및 단절을 조금이나마 해소해줄 거라는 기대로 리포지토리를 만들었다고 하고요. 더불어 그들은 레포지토리가 실제 상황에서도 그렇고, AI 연구의 다음 단계를 진행할 때, AI 시스템의 리스크를 향한 조직적인 대응이 어떤 한계를 지니고 있는지 발견하고 대처하는 데 큰 도움이 될 거라고 봤어요. 예를 들어 모든 사람이 비슷한 중요도를 지닌 다른 리스크는 간과하면서, 한 가지 유형의 리스크에만 집중하는 상황이 생긴다면 이를 알아차리고 해결할 때 도움이 될 것이라는 거예요. 


레포지토리는 인과적 요인(예: 의도성), 도메인(예: 각종 차별) 및 하위 도메인(예: 허위 정보 및 사이버 공격) 등 700개 이상의 카테고리로 나뉘었어요. MIT 연구원들에 따르면 어떤 프레임워크는 이번 레포지토리에서 식별한 23개 위험 하위 도메인의 34%만 언급했고, 거의 4분의 1이 20% 미만을 다루었다고 해요. 23개 위험 하위 도메인을 모두 언급한 문서나 개요는 없었고, 가장 포괄적인 것도 70%만 다루었고요. 도큐먼트가 이렇게 단편적이라면 모두가 리스크를 명확히 파악했다고 보기 어렵다는 거죠. 앞으로도 연구원들은 이 레포지토리를 개발해나가서, 모두가 AI 리스크를 같은 관점에서 볼 수 있게 하겠다고 밝혔습니다.

MIT researchers release a repository of AI risks | TechCrunch

TechCrunch

MIT researchers release a repository of AI risks | TechCrunch

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2024년 8월 14일 오후 12:21

댓글 0

    함께 읽은 게시물


    스토리북 9 출시 소식

    ... 더 보기

    Storybook 9

    Storybook Blog

    Storybook 9

    < 매일을 휴가 전날 기분으로 살면, 짧은 시간에도 성과가 터진다 >

    1. 파킨슨의 법칙에 따르면 어떤 일이든 주어진 시간이 모두 소진될 때까지 늘어진다고 한다.

    ... 더 보기

    < 🔔 내가 만나본 빠르게 성장하는 주니어 개발자들의 특징 > 본론에 앞서 이 글은 그동안 제가 만나본 성장이 빠르다고 느낀 주니어 개발자분들의 태도와 습관을 정리해보는 글입니다. 기술이나 학습등을 거론하며 '이런것만 배우면 당신도 빠르게 성장할 수 있습니다!' 류의 글은 아니고 그분들의 이런 태도와 습관이 성장에 영향이 있지 않았을까 정도의 글이라고 생각해주시면 되겠습니다. ✅️ 질문을 잘한다. 빠르게 성장하신 분들의 질문엔 2가지 공통점이 있었다. 1. 질문의 타이밍 대부분의 신입사원이나 주니어 개발자분들은 선배 개발자에게 질문을 하기 부담스러워 한다. 그래서 혼자 몇일을 끙끙거리다가 힘겹게 질문하거나 선배 개발자가 먼저 말을 걸어서 답을 얻는 모습을 많이 본다. 만약 알고싶던 내용이 선배 개발자가 바로 대답해줄 수 있는 것이었다면 오래 끙끙거린만큼 시간을 허비해버린것과 같다. 질문을 잘하는 분들의 경우 자신들의 고민이 자신이 풀수 없는 수준이라는걸 알게 되면 선배 개발자들에게 바로 질문함으로써 그만큼 시간을 아끼고 다음 스텝으로 나아간다. 2. 질문의 깊이 질문할 때 '이게 뭐에요?' 나 'A 부터 Z 까지 알려주세요' 등의 질문을 하지 않는다. 자신이 충분히 찾아보고 자신의 선에서 최대한 알아본 뒤에 풀리지 않는 부분을 질문한다. 그렇기에 질문의 깊이가 깊다. 이런 질문을 받았을 때 바로 답을 주는 경우도 있지만 대부분 이런 깊이 있는 질문은 정확한 확인을 위해 다시 한번 관련 내용을 찾아보게 만든다. 이로 인해 질문 받는 사람도 알고 있던 내용을 복습하거나 놓쳤던 부분을 공부하게 되고 이를 통해 같이 성장하는 느낌을 받는다. 그래서 나는 이런식으로 질문 하는 분들이 좋고 나도 다른 사람들한테 이렇게 질문을 하기 위해 노력한다. ✅️ 가만히 있지 않는다. 간혹 내 업무가 많이 밀리고 바쁘다보면 주니어 분들을 신경쓰지 못해 그분들의 업무에 공백이 생길때가 있다. 업무를 잘하시는 주니어 분들은 이런 공백도 허투루 지나가지 않고 아래와 같은 행동들을 한다. 1. 업무 혹은 과제를 달라고 요청한다. 2. 팀에서 진행하는 프로젝트에 이슈가 없는지 찾아본다. 혹은 발견된 이슈의 원인을 파악해보려고 한다. 3. 팀에서 진행하는 프로젝트 코드를 분석한다. 4. 팀에서 사용하는 오픈소스나 프레임워크, 라이브러리 코드를 분석한다. 5. 프... 더 보기

     • 

    댓글 12 • 저장 839 • 조회 34,283


    2025 쿠팡이츠 테크 신입 개발자 공개 채용

    ... 더 보기

    2025 쿠팡이츠 테크 신입 개발자 공개 채용

    Coupang Careers

    2025 쿠팡이츠 테크 신입 개발자 공개 채용