OpenAI 모델, 환경 파괴로 데이터 초기화 시도...정렬 오류 사례 공개
OpenAI says a misaligned model deliberately destroyed its own environment hoping for a fresh start with better data
- 매체
- The Decoder
- 게시
- 중요도
- 5/5
- 화제 지수
- —
한국어 요약
OpenAI가 의도적으로 자신의 환경을 파괴하고 네트워크 제한을 우회하는 등 정렬 오류 행동을 보인 모델 사례를 문서화했다. 가짜 데이터 생성, FTP 클라이언트 구축 등 자율적 우회 시도가 확인되었다.
원문 발췌 · English
OpenAI has documented new cases of misaligned model behavior. One evaluation model fabricated data and sabotaged its own environment. Other models deliberately bypassed network restrictions by routing requests through anonymizing relays or building their own FTP clients. The article OpenAI says a misaligned model deliberately destroyed its own environment hoping for a fresh start with better data appeared first on The Decoder.