보안 관점에서의 AI의 좋은 점, 나쁜 점, 추악한 점

보안 관점에서 봤을 때 AI의 좋은 점, 나쁜 점 그리고 추악한 점은 무엇일까요? 관련된 ITWorld의 기사 공유합니다.😃 🚗 기술 분야에서 2010년대 후반은 대대적인 변화가 아닌 약간의 조정이 대부분이는데 - 스마트폰은 ‘약간 더’ 좋아졌고 컴퓨터 처리 능력은 ‘다소’ 향상 - 2022년 오픈AI가 챗GPT를 공개하면서 갑자기 질적으로 새로운 시대를 맞이하게 되었습니다. 그리고 미래학자들은 AI가 의료, 엔터테인먼트, 교육 등 모든 분야를 급격하게 개편할 것이라고 경고합니다. 🚕 좋은 점: 사이버보안 강화 - IBM 보고서에 따르면 AI 및 자동화된 모니터링 도구가 침해 탐지 및 차단 속도 개선에 가장 큰 영향을 미쳤다고 합니다. 이런 도구를 활용하는 기업은 그렇지 않은 기업보다 침해에 대한 라이프사이클이 더 짧다고 하는데요, 소프트웨어 공급망 침해는 기업의 재정, 파트너, 평판에 파괴적이고 장기적인 영향을 미칠 수 있기 때문에 조기 탐지는 보안팀에 즉각적인 조치를 취하는 데 필요한 컨텍스트를 제공해 잠재적으로 수백만 달러의 비용을 절감할 수 있습니다. - 물론 이런 이점에도 불구하고 IBM 보고서에서 조사한 기업 중 솔루션 스택 내에서 보안 AI와 자동화를 적극적으로 활용하는 곳은 약 40%에 불과했다고 합니다. 자동화된 도구와 강력한 취약성 공개 프로그램, 윤리적 해커의 지속적인 공격 테스트의 결합으로 기업은 사이버보안 전략을 완성하고 방어를 강화할 수 있습니다. 🚙 나쁜 점: 초보 사용자의 의도치 않은 오용 - 역설적으로 LLM은 위협 행위자에게 소셜 엔지니어링 기법 개선과 같은 엄청난 이점을 제공하지만, LLM이 현직 전문가와 그들이 보유한 기술을 대체할 수는 없습니다. - 혁신을 위한 경쟁으로 인해 기업이 AI 기반 생산성 도구를 빠르게 채택하게 되면 새로운 공격 표면과 벡터가 생겨날 수 있고, 결과적으로 사이버보안 측면에서 오용될 가능성이 매우 높습니다. - 2023년 한 변호사가 챗GPT에 초안 작성을 지시한 법률 브리핑이 허위 및 조작된 법적 인용으로 가득 찬 것으로 밝혀져 본인과 의뢰인에게 끔찍한 결과를 초래한 바 있다고 합니다. 사이버보안 맥락에서, 경험이 부족한 프로그래머는 어려운 코딩 문제에 직면했을 때 프로젝트에 도움이 되는 AI 도구에 의존할 수 있게 되는데 본질적으로 부정적인 일은 아니지만, 코드 검토 프로세스가 제대로 확립되어 있지 않고 코드가 심사 없이 배포될 경우 문제가 발생할 수 있습니다. 🚌 추악한 점: 맬웨어(Malware)를 퍼뜨리는 AI 봇 - 보안업체에서 블랙맘바(BlackMamba)라는 개념 증명 맬웨어를 개발했다고 발표했는데, 블랙맘바는 가장 복잡한 사이버보안 제품을 포함한 모든 사이버보안 제품을 우회할 수 있는 익스플로잇(Exploit)이라고 합니다. - 블랙맘바는 런타임에 평판이 높은 API(오픈AI)에 접속하는 정상 실행 파일을 통해 사용자의 키 입력을 훔치는 데 필요한 합성된 악성 코드를 반환할 수 있는데, 파이썬의 exec() 함수를 사용해 정상 프로그램의 컨텍스트 내에서 동적으로 생성된 코드를 실행합니다. 악성 다형성 부분은 메모리에 완전히 남아 있고, 블랙맘바는 실행될 때마다 키로깅 기능을 재합성해 맬웨어의 악성 구성 요소를 진정한 다형성으로 만든다고 합니다. - 블랙맘바는 고도로 통제된 개념 증명의 맬웨어였지만, 결코 추상적이거나 비현실적인 우려가 아니고, 윤리적 해커가 이런 방법을 발견했다면 위협 행위자 역시 비슷한 방법으로 접근이 가능할 것입니다. 원본 기사 링크는 아래와 같습니다. 감사합니다🙏 [Source Link] https://www.itworld.co.kr/news/308899#csidx175accfa8a195a9abf5f49908f1a1a9