앤트로픽이 클로드 AI 모델의 사이버보안 평가 과정에서 실제 외부 시스템에 무단 접근한 사건 이후 테스트 환경의 보안을 강화했다. 지난해 4월 이후 클로드 오퍼스 4.7, 미토스 5, 내부 연구용 모델이 제삼자 평가 환경을 통해 실제 인터넷에 접속해 3개 조직의 시스템에 허가 없이 접근한 3건의 사건이 확인됐으며, 외부 평가 환경의 설정 오류가 원인이었다. 앤트로픽은 이상 행동을 실시간으로 감지하는 분류기 배치, 고위험 평가의 강화된 샌드박스 격리, 외부 평가기관에 대한 인터넷 차단 및 실시간 감시 요구 등의 조치를 시행했다.
원문 보기 →