AutoGPT가 Docker를 탈출하도록 해킹 한 실험 (스스로 탈출한 것 X, 탈출시킨 것 O) - 프롬프트 인젝션을 이용했고, Docker 자체가 해킹에 취약한 이미지였음 - 이 방식으로 Docker 뿐 아니라 경로 이동등을 통해 샌드박스를 벗어나게 할 수 있음 ⚠️ AutoGPT가 대단하거나 위험한 AI라는 것을 말하는 것이 아니라, 프롬프트 인젝션 등의 보안 취약점을 제기한 실험입니다. 탈출이라는 표현 때문에 상당한 오해의 소지가 있을 것 같은데, 일반적인 웹/앱 서비스도 같은 방식과 같은 문제의 보안 취약점들이 꾸준히 제기되고 수정되어 왔습니다.

Hacking Auto-GPT and escaping its docker container | Positive Security

Positive

Hacking Auto-GPT and escaping its docker container | Positive Security

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2023년 7월 3일 오후 12:39

 • 

저장 3조회 1,889

댓글 0

    함께 읽은 게시물

    글을 잘 쓰는 사람이 대체로 일도 잘 합니다

    1

    ... 더 보기

    www.folin.co


    “무엇을 만들까”보다 “왜 해야 하나요?”를 묻는 사람들, 토스페이먼츠

    “이 문제는 왜 해결해야 하죠?” 토스페이먼츠의 Product Manager는 늘 이 질문에서 시작합니다. 화면을 기획하거나, 기능을 정리하는 일보다 먼저 우리는 문제의 본질을 정의하고 싶은 사람들입니다. 그렇다면 ‘문제의 본질’부터 고민하는 토스페이먼츠의 PM은 실제로 어떤 방식으로 일하고 있을까요? 토스페이먼츠 PM 김명훈님의 이야기를 함께 들어보세요.

    “무엇을 만들까”보다 “왜 해야 하나요?”를 묻는 사람들, 토스페이먼츠 PM

    toss.im

    “무엇을 만들까”보다 “왜 해야 하나요?”를 묻는 사람들, 토스페이먼츠 PM