발행 글 (6606)?발송된 뉴스레터의 기사들을 최신순으로 모았습니다. 카드를 누르면 원문으로 이동합니다.

AI가 기업 전반으로 확산됨에 따라 CISO의 역할이 단순 사이버보안 통제를 넘어 전사적 AI 위험을 연결하고 조정하는 위험관리자로 확대되고 있습니다. 딜로이트 조사 결과 CISO 직책을 둔 조직의 비율은 2023년 31%에서 49%로 18%포인트 증가했습니다. 이에 따라 다양한 보안 직책의 역할과 책임을 명확히 구분하여 보안 체계를 체계적으로 작동시켜야 한다는 지적이 나옵니다.

앤트로픽(Anthropic)에 따르면 예멘 북부의 사용자들이 AI 모델 Claude를 이용해 극초음속 활공 미사일 등 첨단 무기 및 제어 소프트웨어 개발을 시도한 것으로 나타났습니다. 해당 사용자들은 유도 로켓 시험 발사에 실패한 후 Claude 챗봇에 실패 원인을 질문하는 과정에서 포착되었으며, 앤트로픽은 관련 계정들을 차단 조치했습니다. 후티 반군 측은 오픈소스에 의존해 군사 역량을 개발한다는 주장은 비논리적이라며 자체적인 생산 역량과 기술을 보유하고 있다고 반박했습니다.

Fal.Con 2026에서는 AI가 보안 방어뿐만 아니라 공격자의 취약점 발견 및 악용 속도와 규모를 변화시키고 있다는 점이 주요 화두로 다루어졌습니다. CrowdStrike의 George Kurtz CEO는 AI 레드팀 구성 및 지속적인 보안 접근 방식의 필요성을 강조했습니다. 이에 따라 방어자들은 이론적 위험을 넘어 자격 증명 남용, 측면 이동, 권한 상승 등 실제 환경에서 공격자가 악용할 수 있는 노출을 검증하고 우선순위를 정해 조치하는 것이 더욱 중요해졌습니다.

Anthropic은 러시아와 중국 관련 사이버 스파이 및 ShinyHunters를 비롯한 여러 위협 행위자들이 Claude AI 모델을 악용하려 한 정황을 포착했다고 밝혔다. ShinyHunters 소속으로 추정되는 한 해커는 180만 개의 안드로이드 APK를 대량 다운로드 및 디컴파일하여 자격 증명을 추출하고 텔레그램으로 전송하는 파이프라인을 운영했다. 또한 공격자들은 Claude AI 에이전트를 활용해 약 34시간 만에 40개 이상의 기업 테넌트와 연결된 2,100개 이상의 Azure AD 인증 토큰을 탈취하는 등 대규모 침해 공격을 수행했다.

악성 이메일 캠페인을 주도하는 사이버 범죄자들은 인공지능(AI) 기술을 활용해 신뢰성과 대량 발송 사이의 절충 없이 공격을 수행할 수 있게 되었습니다. 이를 통해 사기성 이메일의 정교함과 발송 규모를 동시에 확보하는 양상을 보이고 있습니다.

플로리다 고속도로 안전 및 자동차 부서(FLHSMV)는 플랜트 시티 경찰관의 개인 기기에 부적절하게 저장되었던 단일 계정 자격 증명이 유출되어 DAVID 운전자 데이터베이스가 침해당했다고 확인했습니다. 이번 조사는 ShinyHunters 갈취 조직이 20만 건 이상의 운전자 기록을 탈취했다고 주장한 뒤 발표되었으며, FLHSMV 측은 침해 사고가 신속히 완화되어 추가 피해는 없다고 밝혔습니다. 반면 ShinyHunters는 비밀번호 재설정 취약점을 이용해 다수의 계정에 접근했다고 주장했으나, 당국은 구체적인 유출 규모나 공격자의 주장을 공식적으로 확인하지 않았습니다.

새로운 정부 합동 권고안은 규제 변화를 예고하며, 각 조직이 더욱 투명한 침해 사고 통지 및 사고 대응 프로토콜을 도입하도록 촉구하고 있습니다.

Menlo Park Intelligence의 Fred Heiding은 Dark Reading News Desk와의 대담에서 프론티어 모델에 대한 자신의 연구를 소개했습니다. 그는 해당 모델들이 인간의 행동에 영향을 미치고 감정적 의존성을 유발하는 능력에 대해 논의했습니다.

브루스 슈나이어는 지난달 데프콘(DEF CON)에서 AI가 해커가 되었을 때 일어날 일과 관련된 'AI 해킹'을 주제로 강연을 진행했다고 밝혔습니다. 해당 강연은 그의 2022년 저서 'A Hacker's Mind'에서 제시한 가능성과 현재 해킹 행위에 관여하는 AI 모델로부터 얻은 교훈을 결합한 내용입니다. 이 발표 영상은 유튜브에서 며칠 만에 조회수 10만 회를 넘겼으며, AI 빌리지 인터뷰 영상도 함께 공개되었습니다.

보안 기업 Pistachio의 연구에 따르면, 1,200여 개 기관의 직원 12만 3천 명 이상을 대상으로 247만 건의 모의 피싱을 진행한 결과 기술 개발 및 IT 직원의 30%가 최소 1회 이상 피싱 링크를 클릭한 것으로 나타났습니다. 반면 금융 서비스 부문은 클릭, 자격 증명 유출, 신고 비율 전반에서 가장 높은 회복 탄력성을 보였습니다. 보고서는 단순 클릭률만으로는 실제 피싱 위험을 제대로 파악하기 어려우며, 자격 증명 유출 및 신고 행동 등의 전반적인 사용자 반응을 함께 측정해야 한다고 강조했습니다.

공격자는 AI의 방어적 추론을 조작하여 목표 네트워크를 은밀하게 침해할 수 있습니다.

마이크로소프트가 M365와 Teams 웹 사용자의 접속 주소를 각각 copilot.cloud.microsoft 및 teams.cloud.microsoft로 리디렉션하기 시작했습니다. 이에 따라 기업들에게 지속적인 접속을 보장하기 위해 방화벽, 프록시, 보안 웹 게이트웨이 등의 네트워크 제어 설정을 검토하고 업데이트할 것을 권고했습니다. 모든 리디렉션은 10월 초까지 완료될 예정이며, Teams 리디렉션의 경우 예외적으로 2026년 12월 31일까지만 유예가 허용됩니다.