사이버 공격에 이용되는 AI, 대응 방안 및 미래 전망

생성 AI가 보급되며 새로운 산업과 성장의 기회가 떠오르고 있는 가운데, 이를 악용하려는 시도 역시 빠르게 발전하면서 최근 생성 AI가 사이버공격 증가의 핵심 요인으로 급부상 중입니다. 이 글에서는 생성 AI의 양면성, 사이버 공격의 유형, 다크웹, 웜 GPT의 사용, 정부기관 및 기업의 대응 방안 및 미래 전망에 대하여 알아보겠습니다.

1. 생성 AI의 양면성

생성 AI는 텍스트, 이미지, 동영상 등 새로운 콘텐츠를 생성할 수 있는 인공지능의 한 종류로서 점차 정교해지고 있으며, 최근에는 사이버 공격 등 다양한 용도로도 악용되고 있습니다.

2. 사이버 공격의 유형

생성 AI는 다음을 포함한 다양한 사이버 공격을 수행하는 데 사용될 수 있습니다.

1) 피싱 공격

생성 AI를 사용하여 피해자가 악성 링크를 클릭하거나 개인 정보를 제공하도록 속일 가능성이 높은 개인화된 피싱 이메일을 만들 수 있습니다. 이것은 피해자가 이메일이 합법적이라고 믿고 링크를 클릭하는 가능성을 더 높이도록 만들 것입니다.

2) 랜섬웨어 공격

랜섬웨어는 피해자의 파일을 암호화하고 그것들을 해독하기 위해 몸값 지불을 요구하는 악성코드의 한 종류입니다. 생성 인공지능은 탐지하고 해독하기 더 어려운 랜섬웨어를 만드는 데 사용될 수 있습니다.

3) 분산서비스 거부(DDoS) 공격

디도스 공격은 특정 서버나 네트워크 장비 혹은 컴퓨터를 대상으로 많은 데이터를 발생시켜서 장애를 유발하게 하는 분산 서비스 거부 공격으로서, 트래픽을 폭주시켜서 주변 인프라를 압도하는 트래픽 방해 시도를 의미하기도 합니다. 이제는 생성 AI를 사용하여 보다 강력하고 방어하기 어려운 DDoS 공격을 시작할 수 있습니다.

4) 소셜 엔지니어링 공격

생성 인공지능은 가짜 뉴스 기사, 소셜 미디어 게시물 및 사람들이 자신이나 다른 사람들에게 해로운 행동을 취하도록 조작하도록 설계된 다른 콘텐츠를 만드는 데 사용될 수 있습니다.

3. 다크웹(Dark Web)

다크웹은 인터넷을 사용하지만접속을위해서는 특정 프로그램을 사용해야 하기 때문에 검색 엔진에 의해 색인되지 않는 웹으로서, 마약 거래 및 무기 판매와 같은 불법 활동에 자주 사용됩니다. 최근 200,000개 이상의 도난당한 공개 AI 계정이 다크웹에서 거래되고 있습니다. 이 계정은 피싱 및 랜섬웨어 공격과 같은 사이버 공격을 시작하는 데 사용될 수 있습니다.

4. 웜 GPT의 사용

최근에는 채팅 GPT, 바드 외에도 사이버 범죄가 학습된 웜 GPT로 알려진 특화된 생성 AI 개체가 등장하여 거래되면서 보안 업계 내에서 상당한 소동이 벌어졌습니다.

이 웜 GPT는 이전의 GPT와 달리 불법적인 해킹 시도와 관련된 다양한 데이터를 기반으로 교육되어 해킹 도구 제작을 포함하여 악의적인 사용자의 불미스러운 요청에 대응합니다. 이러한 요청은 윤리적 보호 조치를 제거하고 최적의 사용자 침투를 위해 세심하게 조정된 공격 방법을 제공하도록 함으로써, 이로 인한 잠재적인 피해의 크기에 대하여 공포심을 유발합니다.

5. 정부기관 및 기업의 대응 방안

웜 GPT는 기업과 정부에 심각한 위협입니다. 그것은 미래에 점점 더 정교한 사이버 공격을 시작하는 데 사용될 가능성이 있습니다.

정부 기관과 기업들은 사이버 공격을 위한 생성 AI 사용을 방지하기 위한 조치를 취하고 있습니다. 예를 들어, 국가정보원은 미국과 민간 보안 회사들과 협력하여 보안 시스템을 강화할 계획입니다. 또한 북한의 행동을 관찰하고 사이버 공격 발생 시 북한에 외교적 제재를 가할 것입니다.

기업들은 또한 생성 AI를 사용하는 사이버 공격으로부터 스스로를 보호하기 위한 여러 조치를 취할 수 있습니다.
- 강력한 암호와 2요소 인증을 사용합니다.
- 소프트웨어를 최신 상태로 유지합니다.
- 직원에게 피싱 전자 메일 및 문자 메시지를 탐지하는 방법을 교육합니다.
- 생성 AI 기반 공격을 탐지하고 차단할 수 있는 보안 솔루션을 사용합니다.

6. 미래 전망

사이버 공격에서 생성 AI의 사용은 앞으로도 계속 증가할 것으로 보입니다. 생성 AI가 점점 정교해지고 접근성이 높아지고 있기 때문입니다. 결과적으로 정부 기관과 기업들은 이러한 공격으로부터 스스로를 보호하기 위한 조치를 취하는 것이 중요합니다.

위에서 언급한 조치 외에도 생성 AI를 활용하는 사이버 공격의 위험성에 대해 일반 이용자를 교육하는 것도 중요합니다. 여기에는 피싱 이메일 및 기타 악성 콘텐츠를 식별하는 방법을 사람들에게 가르치는 것이 포함됩니다. 이러한 단계를 수행함으로써 이러한 공격의 위협을 완화하고 개인 및 금융 정보를 보호하는 데 도움이 될 수 있습니다.