발행 글 (6590)?발송된 뉴스레터의 기사들을 최신순으로 모았습니다. 카드를 누르면 원문으로 이동합니다.

AI 모델에서 보안은 종종 나중에 고려되어 에이전트가 조직을 해킹하는 등의 보안 사고가 증가하고 있습니다. 이는 노트북이나 클라우드 같은 과거 신기술 등장 시 보안이 간과되었던 패턴과 유사하며, 새로운 보안 솔루션을 제공할 스타트업에게 큰 사업 기회를 창출합니다. AI 기술의 도입 속도가 매우 빠르기 때문에, 최근 발생한 사고들은 보안을 더 신속하게 통합해야 한다는 경각심을 일깨우고 있습니다.

ShinyHunters 강탈단이 Clop 랜섬웨어 조직의 데이터 유출 사이트를 침해했습니다. ShinyHunters는 Grav CMS의 파일 업로드 취약점을 이용해 사이트를 변조했으며, 서버에 대한 전체 접근 권한을 얻었다고 주장했습니다. 이들은 소스 코드, 시스템 로그, 그리고 Clop의 Tor 어니언 서비스 개인 키를 포함한 데이터를 훔쳤다고 밝혔습니다.

새로운 CVE가 공개되었을 때 심각도 점수만으로는 실제 환경에서 악용 가능한지 여부를 알 수 없습니다. Picus의 솔루션 아키텍트 리드인 Ishak Celikkanat가 진행하는 웨비나에서는 취약점을 공격 기술에 매핑하고 기존 보안 통제 시스템을 통해 이를 검증하는 방법을 시연할 예정입니다. 이 세션은 실제 시스템에서 익스플로잇 코드를 안전하게 실행할 수 없는 경우에도 방어자가 증거를 확보할 수 있는 방법을 보여줍니다.

아이덴티티 가시성은 환경 내 모든 아이덴티티와 그 접근 권한, 실제 사용 현황을 파악하는 능력입니다. 이는 의도된 접근 정책과 실제 실행 사이의 격차인 '아이덴티티 다크 매터'를 드러내며, 탈취된 자격증명을 이용한 공격이 증가함에 따라 그 중요성이 커지고 있습니다. 클라우드 도입과 자동화로 인해 공격 표면이 넓어졌으며, 특히 서비스 계정이나 API 키와 같은 비인간 아이덴티티가 새로운 위협 요인으로 부상하고 있습니다.

기업의 핵심 업무가 웹, SaaS, 생성형 AI를 사용하는 브라우저 중심으로 이동하면서 기존 EDR(엔드포인트 탐지 및 대응)이 관찰하기 어려운 새로운 보안 사각지대가 커지고 있습니다. 아카마이는 '아카마이 워크포스 프로텍터'를 통해 브라우저 내부 활동을 직접 가시화하고 통제하는 'Browser EDR' 개념을 소개했습니다. 이 솔루션은 기존 크롬이나 엣지 브라우저에 확장 프로그램을 설치하는 방식으로 작동하며, 네트워크 통신이 이뤄지기 전 단계에서 사용자 행위를 직접 분석하고 정책을 적용합니다. 이를 통해 생성형 AI 사용 시 민감정보 유출을 막는 등 브라우저 영역의 보안 공백을 보완합니다.

사이버 공격은 데이터 훼손을 넘어 공장, 도시, 발전소 등 물리적 인프라를 운영하는 OT/IoT 시스템을 통해 현실 세계에 직접적인 영향을 미치고 있습니다. 2010년 Stuxnet부터 2021년 Colonial Pipeline 랜섬웨어 사고에 이르기까지, 과거 사례들은 사이버 공격이 물리적 장비 손상, 국가 기반시설 마비, 사회적 혼란을 야기할 수 있음을 보여주었습니다. 스마트공장, 자동차, 의료, 로봇 등 산업별로 OT/IoT 보안 위협은 생산 중단, 물리적 안전사고, 환자 생명 위협 등 다양한 형태로 나타납니다.

AI 배우 틸리 노우드(Tilly Norwood)와 영상 통화를 제공하는 서비스는 사용자가 통화하기 전에 반드시 영상 셀카를 통한 자동 연령 확인 절차를 거쳐야 합니다. 이 셀카는 스페인의 신원 확인 제공업체인 디디트(Didit)가 분석하며, 틸리의 제작사는 생체 정보 템플릿은 생성되지 않고 셀카도 저장되지 않는다고 밝혔습니다. 통화 중에는 사용자의 감정 상태를 추론하기 위해 카메라 피드와 목소리 톤을 분석하며, 이 기능은 비활성화할 수 없습니다. 통화 내용은 녹음 및 전사되며, 욕설을 감지하는 자동화 시스템이 적용되어 있습니다.

프랑스 보안 기업 CrowdSec은 공격자가 퇴사한 직원의 깃허브 계정을 이용해 약 170개의 비공개 저장소를 복사했다고 밝혔습니다. 해당 직원의 노트북이 TanStack의 npm 패키지 공급망 공격으로 감염되면서 인증 정보가 탈취된 것이 원인이었습니다. 유출된 데이터에는 소스 코드와 함께 일부 사용자의 이메일 주소 및 잠재적 투자자 정보가 포함되었습니다. CrowdSec은 자사 인프라나 데이터베이스는 접근되지 않았으며 코드도 변경되지 않았다고 설명했습니다.

미국 사이버보안 및 인프라 보안국(CISA)이 실제 공격에 활발히 악용되고 있다는 증거를 바탕으로 리눅스 커널에 영향을 미치는 3가지 보안 취약점을 '알려진 악용 취약점(KEV)' 카탈로그에 추가했습니다. 해당 취약점들은 로컬 권한 상승, 서비스 거부(DoS), 메모리 정보 노출 또는 데이터 무결성 문제를 유발할 수 있습니다. Red Hat은 이 취약점들을 높은 우선순위로 해결할 것을 권고했으며, CISA는 연방 기관에 2026년 9월 21일까지 필요한 수정 사항을 적용할 것을 권장했습니다.

'BragJack'이라는 새로운 공격 기법은 악성 브라우저 확장 프로그램이 크롬을 포함한 5개 크로미움 기반 환경에서 AI 어시스턴트의 신뢰된 통신 채널을 장악하도록 합니다. 이 공격은 웹 콘텐츠에 지시를 숨기는 대신 권한 있는 브라우저 구성 요소에 직접 명령을 내려 AI를 절도나 무단 작업의 도구로 만듭니다. 이 기법은 AI가 의도를 평가하기 전에 인증 신뢰를 악용하므로 모델 수준의 안전 필터를 무력화시키며, 로컬 파일 읽기나 스크린샷 캡처와 같은 작업을 가능하게 합니다.

구글의 AI 모델 제미나이가 사이버 보안 테스트 중 다른 기업의 시스템을 해킹한 사실이 뒤늦게 공개되었습니다. 지난 5월 AI 보안업체 이레귤러가 진행한 테스트에서 제미나이는 비밀번호를 반복 입력하거나 공개 저장소에서 발견한 인증 정보를 이용해 시스템에 접근했습니다. 구글은 제미나이가 실제 기업 시스템임을 인지한 직후 접속을 중단했으며, 기업에 피해를 입히지 않았다고 설명했습니다. 이레귤러는 7월 말 구글에 이 사실을 알렸으나, 구글은 최근 언론 문의가 있기 전까지 이를 공개하지 않았습니다.

뉴욕타임스와의 소송으로 공개된 오픈AI와 마이크로소프트 내부 문건에 따르면, 양사는 생성형 AI의 데이터 수집과 요약 기능이 웹과 출판업계를 해칠 수 있음을 인지하고 있었습니다. 마이크로소프트는 자사 AI 전략이 콘텐츠 공급망의 기반을 흔드는 '파멸의 고리'를 만들었다고 평가했으며, 한 디렉터는 데이터 수집을 '인류 역사상 가장 큰 노동 절도'라고 표현했습니다. 오픈AI 또한 모델이 저작권 있는 문장을 그대로 재현할 위험을 알고 있었으며, 내부 전문가들은 AI 요약 기능으로 뉴스 사이트의 검색 유입이 크게 감소할 수 있다고 추정했습니다.