Ai 3

GPT를 활용한 개인정보처리방침 안전성 검증 기법

빅데이터라는 말은 이제 자주 접할 수 있는 단어다. 점점 빅데이터 구축은 당연시되고 있으며, 빅데이터가 구축된다는 말은 그만큼 개인정보의 양도 방대해진다는 것을 의미한다. 개인정보의 양이 방대해지면, 당연히 개인정보 유출의 우려도 증가하기 마련이다. 각 기업 및 단체에서는 이를 위해 정보주체에게 1차적으로 개인정보 처리방침을 제공하고 있다. 나도 이번에 OO청의 개인정보 처리방침을 개정했는데, 개인정보 처리방침이 정말 '잘' 작성되었는지 확인하기는 쉽지 않다. 보통 1~2명이 제정 또는 개정하는 것이 일반적일 것이고, 그렇기에 실수가 있을 수도 있을 것이다. 문제는 그걸 바로 잡을 대상이 누구냐는 것이다. 그리고 그걸 GPT가 해줄 수 있을 것이다. 생성형 AI인 GPT-3.5 API가 도움이 될 수 있..

보안/논문 2025.01.20

사이버 공격자들은 AI를 어떻게 악용하는가

참 낯익은 그이름 오픈 AI에서 보안 보고서에 해당하는 문건을 발표했다고 한다. 우리가 그동안 AI의 등장 및 발전과 함께 AI가 공격자들에게 악용될 것을 우려해 왔다. 그런데 정작 '어떻게' 악용될 것인지는 잘 몰랐던 게 사실이다.  그리고 오픈 AI의 보고서에 따르면, 공격자들은 특히  최종 콘텐츠를 배포하기 직전의 단계에서 인공지능 모델을 적극 활용한다. 다만, 그나마 다행인 것은 아직까지 공격자들 사이에서 인공지능을 활용한 획기적인 공격 기법이 개발된 것으로 보이지는 않다는 것이다. 사실 그럴만 한 것이, 개발이 되었다면 진즉 공격이 진행되었을 터다. 가장 무서운 것이 취약점을 인공지능 스스로 발굴하고 익스플로잇 한다거나, 모든 공격의 절차를 자동으로 진행하는 것인데, 아직 이것까지는 시기상조인 ..

보안/뉴스 2024.11.25

팔로알토 "AI 공격에는 AI로 방어하라"

금일 3월 7일 오전 9시부터 오후 5시 30분까지 코엑스에서 제 23회 차세대 보안 비전(NGSV) 세미나 & 전시가 진행됐다. 7~10만원의 입장료와 선착순 500인에게만 입장이 허락됐다. NGSV는 일상화, 고도화, 지능화되는 사이버 공격과 위협에 효율적으로 대응할 수 있는 최적의 보안 기술과 솔루션, 그리고 시장 동향과 전망을 제시하는 보안 컨퍼런스다. 이번 컨퍼런스의 첫 번째 세미나를 장식한 것은 팔로알토였다. 현재 보안 분야의 화두는 단연코 AI라 할 수 있다. AI와 AI의 싸움, 이것이 보안 분야에서 AI를 설명할 수 있는 말일 것이다. 이에는 이, AI에는 AI로 맞서야 한다. AI 위협 대응을 위한 AI를 갖춰야 하는 것은 선택이 아닌 필수가 되고 있다. AI의 공격이 거세지면서, 조직..

보안/뉴스 2024.03.07
728x90