feat by Papago

국가 사이버 보안 연합은 연례 데이터 개인 정보 보호 주간의 일환으로 2024년을 그들의 데이터를 통제하는 사람들에게 초점을 두었습니다. 이른바 '나쁜 데이터'로부터 AI를 보호할 때 기업은 데이터 스토리지 보안, 데이터 개인 정보 보호 집행 제어, 데이터 및 모델 액세스 제어 등을 고려해야 합니다.

2024년에 업계 리더들은 AI가 사이버 보안 환경에서 탐색하기 어려울 것이라고 예측했습니다. AI가 우리의 일상 생활에 더 많이 통합됨에 따라 이러한 시스템이 어떻게 작동하고 활용될 수 있는지에 대한 이해는 이러한 시스템을 활용하는 기업과 필수 서비스에 매우 중요합니다.

2024년 사이버 보안 문제 및 데이터 문제

2023년에는 수많은 위협과 랜섬웨어 공격이 필수 비즈니스와 서비스를 운영하면서 사이버 보안 환경이 지속적으로 변화하고 있었습니다. 사이버 범죄자들은 그 어느 때보다 훨씬 더 정교한 방식으로 디지털 취약점을 이용하기 위해 그들의 전술을 계속해서 바꾸고 있습니다.

모든 것을 고려해 볼 때, 기업은 사이버 보안 접근 방식(공격이 발생하기 전에 대응하고 예측하는 방식)에 적극적인 자세를 유지해야 합니다. 특히 AI가 여러 맥락에서 공격자와 방어자 모두에 의해 사용된다는 지식이 널리 퍼져 있습니다. AI는 기업이 시스템 위반을 방지하는 데 유용한 도구가 될 수 있지만 위협하고 갈취하고 신뢰를 위반하는 데 사용할 수 있습니다. 현재 특히 우려되는 것은 딥페이크 기술이 총선과 같은 맥락에서 개인을 오도하는 데 사용되는 것이 지속적으로 증가하고 있다는 것입니다.

PwC가 2024년 1월 실시한 설문조사에서 CEO의 77%가 AI 사이버 보안 위험에 대해 우려하고 있는 것으로 나타났습니다. 조사 대상자들은 AI가 사이버 보안 침해 위험을 높일 수 있다는 점에 동의하면서 '나쁜 AI'로 인한 기업 내 오보 확산(63%)이나 평판 훼손(55%) 우려도 나타냈습니다.

이러한 모든 우려를 해결하기 위해 PwC는 CEO가 AI를 조직 내에서 책임감 있게 사용해야 한다고 강조합니다.

AI 시스템은 사기 패턴과 의심스러운 활동을 감지할 수 있지만 이러한 패턴을 해석하고 다음 행동 과정을 전략화하려면 고도로 숙련된 인간 개입이 필요합니다.

직장 내 AI: 유익성 및 위해성 평가

AI가 직원을 완전히 교체할 정도로 인간의 작업량을 보완할 가능성이 있다는 광범위한 불안감 속에서 발생합니다. 반복적이든 사람이 완료하기에 위험하든 작업을 자동화하는 능력으로 AI가 비즈니스에 더 도움이 될 수 있는 잠재력을 가지고 있다는 우려가 있습니다.

사실, 대기업들은 이미 AI에 유리한 감원을 시작했습니다 - 가장 최근에는 듀오링고가 거대 기술 기업인 구글 외에도 AI 개발에 우선순위를 두기 위해 인력의 10%를 감축했습니다.

그러나 사이버 보안 산업과 관련하여 AI와 직원은 협력하여 더 큰 방어 전략을 개발하고 비즈니스에 대한 미래 위협을 예측할 수 있습니다. 또한 AI 시스템을 관리하는 특정 기술 때문에 사이버 보안 전문가가 여전히 필요하다는 주장도 있습니다. 기업은 데이터 침해와 같은 사이버 위협으로부터 최상의 보호를 받기 위해 직원의 숙련도를 높이고 고도로 숙련된 인력을 유지하는 데 지속적으로 투자해야 합니다.

요컨대, AI 시스템은 사이버 공격에 취약하지만 윤리적으로 활용될 경우 사이버 보안 산업에 혁신적인 영향을 미칠 수 있습니다.