AI 기반 고객 서비스 봇이 고객 프로필, 청구 데이터, 계정 정보 등에 접근할 수 있는 권한을 가지고 있는데, 공격자들이 이를 악용할 수 있다는 연구 결과가 발표되었다. 공격자는 전통적인 취약점 스캔 대신 봇이 받는 데이터와 메시지를 조작하여 민감한 정보를 유출시키거나 정당한 고객으로 행동하도록 할 수 있다. 특히 채팅 기록 내보내기 기능, 이메일 스푸핑, 프롬프트 인젝션, 약한 인증 체계 등을 통해 보안 코드 탈취나 피싱 이메일 생성이 가능하며, 다중 인증 시스템의 이메일 정규화 약점도 악용될 수 있다.
원문 보기 →