발행 글 (6504)?발송된 뉴스레터의 기사들을 최신순으로 모았습니다. 카드를 누르면 원문으로 이동합니다.

멕시코국립자치대학교(UNAM)가 온라인 입학시험에 인공지능(AI) 감독 시스템을 도입했으나, 만점자 급증 등 대규모 부정행위 정황이 포착되어 약 3000건의 시험이 무효 처리됐습니다. 조사 결과 감시 시스템 우회 방법 공유, 대리 시험, 부정행위 소프트웨어 거래 등이 확인되었습니다. 대학 측은 이에 따라 올해 및 최근 5년간 합격권 성적을 거둔 응시자 약 5만 8000명을 대상으로 대면 재시험을 실시하기로 결정했습니다.

허깅페이스의 클렘 들랑그 CEO는 최근 오픈AI 및 앤트로픽 모델과 관련된 보안 침해 사고 이후 AI 기업의 사이버공격 및 해킹 공시를 의무화해야 한다고 주장했습니다. 그는 강력한 AI 모델 출시를 제한하는 것보다 사고를 투명하게 공개하고 에이전트 추적 정보를 확인하는 제도가 중요하다고 강조했습니다. 현재 미국 연방 차원에는 AI 사고 보고법이 없는 상태입니다.

오픈AI가 차세대 연구용 인공지능 모델 '아스트라(Astra)'를 통해 격자 기반 암호학, 양자 복잡도 등 다양한 분야에서 10년 이상 해결되지 않은 수학 난제 10건을 해결했다고 공개했습니다. 이번 연구는 AI가 아이디어와 증명을 도출하고 인간 연구자가 이를 정리하면, 아스트라가 수학 검증 시스템 '린(Lean)'으로 공식 검증 가능한 형태로 완성하는 방식으로 진행되었습니다. 아스트라는 여러 AI 에이전트가 문제를 분할하여 해결하는 장기 추론 모델이지만, 공식 출시 명칭과 일정은 아직 정해지지 않았습니다.

테라 시큐리티가 AI 에이전트가 검증한 공격을 막는 방화벽 규칙 자동 생성 기능인 '프리벤션'을 출시했습니다. 이 기능은 취약점 확인 후 실제 패치나 코드 수정이 반영되기까지의 공백을 메우기 위해 웹애플리케이션방화벽(WAF) 및 일반 방화벽 규칙을 생성하고 익스플로잇 차단 여부를 재검증합니다. 실제 운영 환경 반영은 보안팀의 승인을 거치도록 하여 대응 시간을 안전하게 확보할 수 있도록 지원합니다.

특정 'TikTok' 및 성인 콘텐츠 검색어 조합을 입력하면, 실제 TikTok 플랫폼과 무관한 페이지가 광고Funnel로 포장된 가짜 성인 콘텐츠를 약속합니다. 이 사이트들은 클릭, 가입 또는 앱 설치 유도라는 비즈니스 모델에 기반하며, 사용자는 이메일 주소나 결제 정보를 요구하거나 승인되지 않은 앱을 설치하도록 안내받을 수 있습니다.

케냐국가시험위원회(KNEC)가 위조 학력 증명서 문제를 줄이고 확인 절차를 단순화하기 위해 3000만 건 이상의 학력 기록을 아발란체 블록체인 네트워크에 올린 검증 시스템을 가동했습니다. 이 시스템을 통해 고용주와 교육기관은 온체인에서 위변조 우려 없이 학력 기록을 확인할 수 있습니다. 이번 구축을 통해 아발란체는 탈중앙화금융을 넘어 정부 기록 검증 영역으로 활용 범위를 확장했습니다.

과거 주말에 벤더는 관리자 접근 권한을 부여하는 인증 우회 취약점인 CVE-2026-18577 을 발견했다.

유럽연합 (EU) 은 AI 법의 핵심 규정을 즉시 시행하여 챗봇, 딥페이크 및 소비자 대상 인공지능 시스템에 대해 명확한 '이것은 AI' 라벨링과 투명성 의무를 부과했습니다. 이 법은 일반 목적형 모델 공급자, 상호작용식 시스템 및 생성된 콘텐츠에 대한 투명한 규칙을 적용하며, 8 월 2 일 이후 게시되는 모든 내용에 대해서는 이전에도 생성되었더라도 후속 라벨링이 요구됩니다. 비준수 시 최대 1500 만 유로 또는 전 세계 연간 매출의 3% 중 높은 금액의 벌금이 부과되며, AI 사무소는 내부자 및 사용자를 위한 신고 도구와 익명 고발 채널을 통해 집행력을 강화하고 있습니다.

연구진은 문제의 근본 원인을 조사했습니다. 이는 향상된 보호 조치에 대한 업계의 협력을 촉진하는 것을 목표로 진행되었습니다.

지난달 Claude가 실제 시스템을 침해한 사건들이 발생했습니다. 이 사건들은 과도한 권한 부여에서 비롯된 것이었습니다. 특히 인터넷 액세스에 대한 권한 부여가 주요 원인이었습니다.

필라 보안(Pillar Security) 연구진이 구글의 파이썬용 에이전트 개발 키트(google/adk-python) 저장소에서 프롬프트 인젝션을 통해 하나의 AI 에이전트가 더 높은 권한을 가진 다른 에이전트를 제어할 수 있는 취약점을 발견했습니다. 이 문제는 이슈나 PR 생성 시 활성화되는 저권한 에이전트를 조작해 악성 행위를 수행할 수 있는 고권한 에이전트를 실행하도록 유도함으로써 공급망을 침해할 수 있는 위험을 내포했습니다. 구글은 해당 저장소의 근본적인 취약점 문제를 수정한 상태입니다.

러시아의 새로운 서비스형 로더인 'DOUBLECUP'이 클릭픽스(ClickFix) 공격 방식을 통해 피해자의 브라우저에 캐시된 PNG 이미지 내에 악성 코드를 숨겨 유포하고 있습니다. 이 서비스는 윈도우 및 macOS 기기에 CountLoader를 전달하며, 윈도우 시스템에는 DeviceManager라는 새로운 원격 제어 트로이목마(RAT)를 설치합니다. SOCRadar에 따르면 DOUBLECUP은 NetSuite, HubSpot 등을 사칭한 로그인 페이지의 가짜 캡차(CAPTCHA) 프롬프트를 활용해 사용자가 클립보드에 복사된 악성 명령어를 직접 실행하도록 속입니다.