몇 주 전, 제 친구가 상사로부터 문자를 받았습니다:
"안녕하세요 매트, 지금 전화 회의 중이라 전화 통화는 할 수 없지만 제 문자를 받으시면 알려주세요. 고마워요 [상사 이름]."
분명하지 않다면 그 문자는 피싱입니다. 문자의 띄어쓰기가 이상하고, 문자에 서명하는 것이 이상하며, 상사가 전화가 아닌 Matt와 즉시 통화해야 한다는 것이 이상하다는 점 등 몇 가지 단서를 통해 알 수 있습니다.
이 피싱은 조잡하기는 하지만 이메일을 통해 전송되는 많은 사기보다는 낫습니다. 피싱범은 Matt의 이름, 전화번호, 소속 회사를 알고 있었기 때문입니다. 사기꾼은 이러한 사실을 이용해 더 신뢰할 수 있는 미끼를 만들어 링크를 클릭하거나 파일을 다운로드하거나 민감한 정보를 넘기도록 유도할 수 있습니다.
피싱 여전히 사이버 보안 침해의 가장 큰 원인 중 하나입니다.. 이는 위협 행위자들이 오래된 사기에 대한 향수를 가지고 있기 때문이 아니라 피싱이 여전히 유효하기 때문입니다.
문제는 ChatGPT 및 기타 봇의 출시로 인해 피싱 미끼가 더 스마트하고, 더 보편화되고, 더 효과적일 수 있다는 점입니다.
지난 한 달 동안 ChatGPT는 뉴스에 자주 등장했습니다: 교사 걱정하고 있습니다, will.i.am 다보스에서 언급했으며, 이 기술을 사용하여 다음과 같은 분야에 적용하는 방법에 대한 조언도 있습니다. 온라인 데이트.
ChatGPT는 "새로운 최첨단 인공지능 챗봇"입니다. 뉴욕 타임즈 저널리스트는 "지금까지 일반 대중에게 공개된 인공지능 챗봇 중 가장 뛰어난 제품"이라고 평가합니다. OpenAI에서 개발한 이 챗봇은 사람과 같은 텍스트를 생성할 수 있는 기능을 갖추고 있습니다.
이 도구에는 많은 kooky 를 사용하는 일부 사이버 보안 전문가들은 ChatGPT가 위협 행위자에게 어떤 권한을 부여할지 우려하고 있습니다. 사이버아크는 이 봇이 "새로운 종류의 다형성 멀웨어."
다른 사람들은 자연어 기능을 배포하여 보다 설득력 있는 피싱 미끼를 만드는 더 투박하지만 여전히 효과적인 방법을 고민하고 있습니다.
인간 작가와 챗봇이 결합하여 효과적인 피싱 미끼를 만들 수 있는 이유는 각자의 고유한 강점을 가지고 있기 때문입니다.
인간 작가는 사회 공학을 이해하고 의도한 대상에게 호소력 있고 설득력 있는 메시지를 작성하는 방법을 알고 있습니다. 또한 수신자에게 메시지를 더 설득력 있게 전달할 수 있는 맥락과 문화적 참조를 이해할 수 있습니다.
반면 언어 모델과 같은 챗봇은 인간의 언어를 이해하고 생성하기 때문에 실제 조직의 스타일과 어조를 모방할 수 있습니다. 또한 개인화된 메시지를 대규모로 생성할 수 있으므로 수신자를 속일 가능성이 높아집니다.
사람과 챗봇을 함께 사용하면 사람이 대상에게 어필할 수 있는 피싱 메시지를 작성하고 챗봇이 이를 대규모로 생성하여 각 수신자에게 맞춤화할 수 있습니다. 이를 통해 피싱 메시지의 설득력을 높이고 성공 확률을 높일 수 있습니다.
저희는 이러한 위협 행위자와 봇의 조합이 실제 문제가 될 수 있다고 생각하지만, 이를 해결할 수 있는 몇 가지 아이디어도 가지고 있습니다. 자세히 알아보려면 문의하세요.
진입 장벽을 낮추는 것은 무엇이든 심각한 위협이 될 수 있습니다. 시간이 지나면 위협 행위자는 봇에게 비밀번호를 활용하거나 데이터 유출 이메일을 표적으로 삼도록 가르칠 수 있습니다.
"ChatGPT는 오프라인 서비스이지만, 인터넷 액세스, 자동화, AI를 결합하여 지속적인 지능형 공격을 만들어내는 것이 걱정됩니다."라고 RSA CISO Rob Hughes는 말합니다.
"우리는 얼마나 끈질기게 프롬프트 폭격 공격 사용자들의 관심을 약화시켰습니다."라고 휴즈는 설명합니다. "챗봇을 사용하면 더 이상 스팸 발송자가 메시지를 작성할 필요도 없습니다. '인터넷 데이터에 익숙해져서 링크를 클릭할 때까지 계속 메시지를 보내세요'라는 스크립트를 작성할 수 있습니다. 로그오프하지 않고 포기하지 않으며 동시에 수백 명의 사용자를 대상으로 작업하는 봇에게 작업을 넘기면 분산형 스피어 피싱 도구를 쉽게 사용할 수 있게 되어 피싱 공격의 성격이 크게 바뀔 수 있습니다."
챗봇, 딥페이크 전화 사기, 또는 봇넷범죄자가 오디오 파일을 사용하든, 이메일을 사용하든, 다른 매체를 사용하든 그 형식과 배후에 있는 도구는 중요하지 않습니다.
중요한 것은 인간 범죄자들이 만들어내는 것보다 더 빠르게 새롭고 점점 더 똑똑해지는 위협을 만들어내고, 사이버 보안 인력이 대응하는 것보다 더 빠르게 위협을 확산시킬 수 있는 AI 도구를 개발 중이라는 점입니다.
조직이 변화의 속도를 따라잡을 수 있는 유일한 방법은 봇을 사용하여 봇을 제어하는 것입니다. ChatGPT가 점점 더 나은 농담이나 학기 논문을 작성할 수 있는 것과 동일한 기본 원칙으로 보안 시스템이 의심스러운 행동을 인식하고 대응하도록 훈련시킬 수도 있습니다.
RSA와 같은 리스크 엔진® Risk AI 는 데이터 수집, 디바이스 매칭, 이상 징후 탐지, 행동 분석을 사용하여 액세스 시도를 확인할 수 있습니다. 리스크 AI는 리소스를 요청하는 사람, 요청 시기, 사용 중인 디바이스, 기타 신호 등 액세스 요청의 컨텍스트를 살펴보고 실시간으로 위험을 판단하고 대응합니다.
궁극적으로 이러한 기능은 보안 팀이 더 많은 정보를 바탕으로 더 스마트하고 현명한 보안 결정을 내리는 데 도움이 됩니다.
조직에 사이버 보안 위협이 될 수 있는 것은 악의적인 AI 사용뿐만이 아닙니다. 로봇 프로세스 자동화(RPA)를 포함한 의도적인 기업 내 AI 사용은 개인이 따라잡을 수 있는 것보다 훨씬 더 많은 의사 결정을 훨씬 더 빠르게 내릴 수 있습니다.
마찬가지로 멀티 클라우드 환경과 부적절한 ID 관리의 퍼펙트 스톰은 클라우드 보안 장애를 확대하고 조직을 더 많은 위험에 노출시켜 다음과 같은 문제를 일으킬 수 있습니다. 클라우드 보안 실패 횟수 75% 2023년까지
다시 말하지만, 조직은 문제에 맞게 확장할 수 있는 솔루션이 필요합니다: RSA® 거버넌스 및 수명 주기 는 거의 모든 것을 자동화할 수 있습니다. 이 솔루션은 올바른 자격을 가진 사용자를 자동으로 온보딩하고, 가입-이동-탈퇴 정책을 시행하며, 프로비저닝, 모니터링 및 보고를 자동화할 수 있습니다.
피싱하도록 프로그래밍된 상시 가동 봇, 아무도 보지 않고 실행되는 RPA 스크립트, 사자, 호랑이, 곰: 항상 또 다른 위협이 존재합니다.
"사이버 보안 팀은 다음 위협이 무엇인지, 어디에서 발생할지 항상 예측할 수 없습니다."라고 휴즈는 말합니다.
"헤드라인에만 집중하지 마세요. 사용자를 교육하고, 다단계 인증을 사용하고, 제로 트러스트를 향해 나아가는 등 통제할 수 있는 것에 집중하세요. 이는 현재 우리가 알고 있는 위협으로부터 자신을 보호하고 앞으로 다가올 위협으로부터 자신을 보호할 수 있는 가장 좋은 방법입니다."
###
