[Deepview]보안 전문가가 말하는 디지털 건강/사이버보안의 중요성

🎃 배경

많은 면에서 인공지능(AI), 프라이버시, 그리고 사이버 보안은 밀접하게 연관되어 있습니다.

최근 들어 대규모 언어 모델(LLM)과 생성형 AI가 모든 이들의 역량을 강화하면서 이 전쟁은 더욱 치열해지고 있습니다. 사이버 범죄자들은 딥페이크와 허위 정보의 대규모 배포를 넘어 데이터 중독(data poisoning)과 생성형 AI 모델을 통한 악성코드 확산 등 다양한 방식으로 활동하고 있기도 합니다.

🎃 디지털 흔적

• 개념

  • 디지털 흔적 = 디지털 프로필

  • 온라인에서 당신이 하는 모든 행동을 포함, 구글 검색, 소셜 미디어에서 클릭하거나 검색, 좋아요, 댓글을 단 모든 활동, 보낸 이메일, 읽은 이메일, 삭제한 이메일, 방문한 웹사이트, 다운로드한 앱, 웹사이트에서 머문 시간 등의 능동적인 데이터 정보들

  • 위치 정보(추적 데이터), 하드웨어 종류, 설치된 앱, 사용하는 브라우저, Wi-Fi와 셀룰러 연결 여부, 헤드폰을 꽂는 시점, 방문하는 웹사이트, 휴대폰 주소록 정보, 기기 사진첩 정보 등의 수동적으로 수집되는 데이터도 포함될 수 있음

• 현황

  • 개인 정보는 수집되고 분석되며 정리되어 웹사이트 소유자, 앱 개발자, 소셜 미디어 플랫폼, 데이터 브로커 같은 다양한 조직에 의해 판매

  • 2021년 기준, 미국에는 공식적으로 등록된 데이터 브로커가 540곳이 있었으며, 여기에는 사이버 범죄자들이 수집하고 판매하는 데이터 미포함이며, 모두 합법적 기업임

• 사례

  • 스냅챗: 능동적인 데이터 정보들 뿐만 아니라 스동적 데이터도 포함하여 개인정보 보호 정책에 명시

  • 닛산: 운전자들의 비디오 및 오디오 녹화, 인터넷 검색 기록(스마트폰을 자동차에 연결할 경우), 개인 소유물 목록, 나이, 인종, 이름, 민족, 성별, 신용카드 번호, 교육 및 고용 이력, 주소 등 정보 수집

🎃 왜 중요할까:

• 데이터들은 단순히 수집/유출되기만 한다 해도, 여전히 해커에게는 좋은 먹잇감

• 생성형 AI는 이 모든 데이터를 분석하고 처리하여 큰 데이터 속에서 중요한 정보를 신속히 찾아내거나, 맞춤형 피싱 공격을 개발하거나, 보안 네트워크를 뚫는 강력한 도구로 활용됨

• 이 데이터는 합법적으로도 주로 맞춤형 광고 및 마케팅 캠페인에 활용됨

• 업무 기기에서 방문하고 로그인하는 웹사이트, 개인 기기에서 접속하는 회사 포털, 또는 업무 관련 정보를 요약하기 위해 ChatGPT 같은 챗봇을 사용하는 행동 등은 모두 사이버 범죄자가 노릴 수 있는 취약한 연결 고리 가능성 존재

🎃 해결 방안

• 사이버 보안 교육 및 표준

• 디지털 건강을 시각적으로 확인하고 평가할 수 있는 방법이 필수이며, 기술적 해결책 + 스마트한 프로세스와 사고방식의 전환 필요

• 제로 트러스트 접근 방법: 모든것을 확인하고 검증하며, 다계층의 검증 시스템 구현

• 사이버 보안 표준

• 스마트한 프로세스와 사고방식의 전환

• 거버넌스와 프레임워크, 프라이버시, 데이터 리터러시 등 사이버 보안 표준화

• 디지털 환경에서 만나는 모든 것을 기본적으로 신뢰할 수 없다는(?) 인식 전환 등

• 출처: https://www.thedeepview.co/p/researchers-call-for-the-abolishment-of-carceral-ai-3?utm_campaign=cybersecurity-expert-the-zero-trust-world-of-ai&utm_medium=newsletter&utm_source=www.thedeepview.co