“평화는 문명의 미덕입니다. 전쟁은 그 범죄입니다. 그러나 평화의 가장 날카로운 도구는 종종 전쟁의 용광로에서 만들어집니다.” – 빅토르 위고
1971년, 불안한 메시지가 ARPANET을 구성하는 여러 컴퓨터에 나타나기 시작했습니다. ARPANET은 현재 인터넷으로 알려진 것의 전신입니다. “나는 크리퍼입니다. 잡을 수 있다면 나를 잡아주세요.”라는 메시지는 유명 프로그래머 밥 토마스가 BBN Technologies에서 일하는 동안 개발한 크리퍼라는 프로그램의 출력이었습니다. 토마스의 의도는 악의적이지 않았지만, 크리퍼 프로그램은 현재 컴퓨터 바이러스라고 부르는 것의 출현을 나타냅니다.
ARPANET에 Creeper가 등장하면서 최초의 바이러스 백신 소프트웨어가 등장하게 되었습니다. 확인되지는 않았지만, 이메일을 발명한 것으로 유명한 Ray Thomlinson이 감염된 컴퓨터에서 Creeper를 제거하도록 설계된 프로그램인 Reaper를 개발했다고 믿어집니다. 컴퓨터에서 악성 프로그램을 방어적으로 추적하여 제거하는 데 사용되는 이 도구의 개발을 종종 사이버 보안 분야의 시작이라고 합니다. 이는 사이버 공격의 잠재적인 힘과 방어 조치의 필요성을 일찍 인식했음을 강조합니다.
사이버 보안의 필요성에 대한 폭로는 사이버 영역이 자연 세계의 추상화에 불과하기 때문에 그다지 놀라운 일이 아닙니다. 우리가 막대기와 돌로 싸우던 것에서 칼과 창으로, 지금은 폭탄과 항공기로 성장한 것과 같은 방식으로 사이버 영역을 둘러싼 전쟁도 진행되었습니다. 처음에는 디지털 멸망의 전조가 될 수 있는 것을 건방지게 표현한 초보적인 크리퍼 바이러스로 시작되었습니다. 무기화된 전자 시스템의 발견으로 리퍼와 같은 바이러스 백신 솔루션이 발명되었고, 공격이 더욱 복잡해짐에 따라 방어 솔루션도 복잡해졌습니다. 네트워크 기반 공격 시대로 빠르게 넘어가면서 디지털 전장이 형성되기 시작했습니다. 방화벽이 광대한 성벽을 대체하기 위해 등장했고, 로드 밸런서는 단일 지점이 압도되지 않도록 리소스를 지시하는 장군 역할을 하며, 침입 탐지 및 방지 시스템이 감시탑의 보초를 대체했습니다. 이는 모든 시스템이 완벽하다는 것을 의미하지 않습니다. EDR 솔루션이라고 부르는 전 세계적으로 선호되는 자비로운 루트킷이 수천만 대의 Windows 기기를 망가뜨릴 수 있는 트로이 목마 역할을 하는 널 포인터 역참조를 포함할 수 있다는 실존적 공포가 항상 존재합니다.
치명적이고 우연적인 상황을 제쳐두고도 여전히 다음이 어떻게 될지에 대한 의문이 남습니다. 지금까지 가장 위험한 사이버 무기인 Offensive AI가 등장합니다. 2023년 Foster Nethercott은 SANS Technology Institute에 백서를 발표하여 위협 행위자가 최소한의 기술적 능력으로 ChatGPT를 악용하여 기존 보안 제어를 회피할 수 있는 새로운 맬웨어를 만드는 방법을 자세히 설명했습니다. 다른 많은 기사에서도 생성 AI를 사용하여 Morris II와 같은 고급 웜과 Black Mamba와 같은 다형성 맬웨어를 만드는 방법을 살펴보았습니다.
이러한 증가하는 위협에 대한 역설적으로 보이는 해결책은 더욱 정교한 공격적 AI에 대한 추가 개발 및 연구입니다. 플라톤의 속담인 “필요는 발명의 어머니”는 오늘날의 사이버 보안을 적절하게 특징짓는 것으로, 새로운 AI 기반 위협이 더욱 진보된 보안 제어의 혁신을 주도합니다. 더욱 정교한 공격적 AI 도구와 기술을 개발하는 것은 도덕적으로 칭찬받을 만한 일은 아니지만, 피할 수 없는 필수 요소로 계속 부상하고 있습니다. 이러한 위협에 효과적으로 대응하려면 위협을 이해해야 하며, 이를 위해서는 추가 개발과 연구가 필요합니다.
이 접근 방식의 근거는 한 가지 간단한 진실에 근거합니다. 이해하지 못하는 위협에 대항할 수 없으며, 이러한 새로운 위협에 대한 개발 및 연구 없이는 이해할 수 없습니다. 불행한 현실은 나쁜 행위자들이 이미 공격적 AI를 활용하여 새로운 위협을 혁신하고 배치하고 있다는 것입니다. 이를 반박하려는 것은 오도되고 순진할 것입니다. 이 때문에 사이버 보안의 미래는 공격적 AI의 추가 개발에 달려 있습니다.
Offensive AI에 대해 자세히 알아보고 침투 테스트에 구현하는 실무 경험을 얻고 싶다면 9월 7일 라스베이거스에서 열리는 SANS Network Security 2024: Offensive AI for Social Engineering and Deep Fake Development 워크숍에 참석해 보세요. 이 워크숍은 2025년 초에 출시될 저의 새로운 과정인 SEC535: Offensive AI – Attack Tools and Techniques에 대한 훌륭한 소개가 될 것입니다. 이 행사는 전반적으로 AI 분야의 여러 주요 전문가를 만나 AI가 사이버 보안의 미래를 어떻게 형성하는지 알아볼 수 있는 좋은 기회가 될 것입니다. 이벤트 세부 정보와 보너스 활동의 전체 목록은 여기에서 확인할 수 있습니다.
메모: 이 기사는 미국 해병대와 아프가니스탄 참전 용사로 사이버 보안 분야에서 10년 가까이 경험을 쌓은 Foster Nethercott가 전문적으로 썼습니다. Foster는 보안 컨설팅 회사인 Fortisec의 소유주이며 SANS Technology Institute의 저자로, 현재 새로운 과정인 SEC 535 Offensive Artificial Intelligence를 개발하고 있습니다.
