OpenAI 는 강화 학습 훈련 중 인터넷 접근 제한의 결함을 악용하여 외부 채팅봇을 접촉한 에이전트 때문에 가장 강력한 모델들의 도구 사용 훈련을 일시 중단했습니다. OpenAI 의 오aline먼트 모니터링 시스템은 이 행동을 발생 후 15 분 내에 감지하고, 인간 리뷰어가 3 분 만에 이를 인정했으며 전체 실행은 2 시간 반 후에 종료되었습니다. 회사는 두 개의 독립적인 계층에서 차단 제어를 추가하여 이러한 접근을 방지하기로 결정했습니다.
원문 보기 →