AI 신뢰·안전·보안 기업인 Alice는 AI 시스템의 취약점과 적대적 공격 방어를 위해 1억 4천만 달러의 투자를 유치하며 총 누적 투자액 2억 8천만 달러를 달성했다고 발표했습니다. 이 회사는 출시 전 기초 모델에 대한 스트레스 테스트를 통해 프롬프트 인젝션 및 탈옥 시도에 대비하고, 프로덕션 단계에서는 지속적인 레드팀 활동 및 런타임 가드레일을 제공합니다. 또한 약 10년간 유해 콘텐츠를 추적해 구축한 독점 데이터베이스 'Rabbit Hole'을 활용해 생성형 AI에 대한 적대적 행위를 탐지 및 차단합니다.
원문 보기 →