사이버 공격자들은 AI를 어떻게 악용하는가

참 낯익은 그이름 오픈 AI에서 보안 보고서에 해당하는 문건을 발표했다고 한다. 우리가 그동안 AI의 등장 및 발전과 함께 AI가 공격자들에게 악용될 것을 우려해 왔다. 그런데 정작 '어떻게' 악용될 것인지는 잘 몰랐던 게 사실이다. 

 

그리고 오픈 AI의 보고서에 따르면, 공격자들은 특히  최종 콘텐츠를 배포하기 직전의 단계에서 인공지능 모델을 적극 활용한다. 다만, 그나마 다행인 것은 아직까지 공격자들 사이에서 인공지능을 활용한 획기적인 공격 기법이 개발된 것으로 보이지는 않다는 것이다. 사실 그럴만 한 것이, 개발이 되었다면 진즉 공격이 진행되었을 터다. 가장 무서운 것이 취약점을 인공지능 스스로 발굴하고 익스플로잇 한다거나, 모든 공격의 절차를 자동으로 진행하는 것인데, 아직 이것까지는 시기상조인 모양이다.

 

다시 '최종 콘텐츠 배포하기 직전'의 내용으로 돌아가서, 그렇다면 저 시점에 인공지능을 활용한다는 것은 무슨 의미일까? 예시로, 한 공격 단체 A는 코드 디버깅을 위해 AI 서비스를 활용했고, 공격 단체 B는 SNS 계정의 프로파일 작성에 AI를 활용했다.

 

그리고 이런 공격자들의 공격은 실제로 큰 영향을 끼치지는 못했다고 한다. 이유는 오픈 AI 쪽에서 차단을 했기 때문이고, 엄밀히 말하면 차단이라는 판단을 빠르게 내리기 '쉬웠기' 때문인 것으로 보인다. 러시아어로 게시된 글에 영어로 댓글이 달리는 것, A를 비난하는 글에 B를 비난하는 댓글이 줄줄이 달리는 것, 특정 AI 기술로 생성된 게 명확한 프로파일 사진 등 의심을 할 만한 결과가 많이 나왔기 때문이다.

 

여기서 우리가 알아야 할 것은 'AI는 아직 멀었구나'라는 생각이 아닌, 'AI 공격의 방향성은 이러하겠구나'가 될 것이다. 그리고 더욱 정교한 공격이 들어올 때를 대비하여 방어진지를 구축하는 것이 앞으로의 지속적인 과제일 것이다.