구글의 오픈소스 자율 고객지원 에이전트는 AI 에이전트가 민감한 시스템과 상호작용할 때 제로트러스트 보안 원칙을 적용하는 방법을 보여준다. 공격 시나리오에서 고객이 에이전트에게 주문액($149)을 초과하는 $10,000 환불을 지시하고 환경 변수를 노출하는 파이썬 코드 실행을 요청했을 때, 모델 외부의 보안 제어 없이는 부정 결제 승인이나 API 키 노출이 발생할 수 있다. 구글의 설계는 AI 모델을 조작되거나 탈취될 수 있는 요소로 취급하며, 데이터베이스 변경에 대한 암호화 서명, 생성 코드 실행을 위한 격리된 환경, 입력과 작업을 검증하는 시맨틱 게이트웨이 등 모델 외부의 세 가지 보안 계층을 사용한다.
원문 보기 →