OpenAI, 루프 트랜스포머 적용 모델 안전 확보에 전력
오픈AI, 추론 감시 어려운 '루프 트랜스포머' 적용 모델 안전 확보에 전력
- 매체
- AI타임스
- 게시
- 중요도
- 3/5
- 화제 지수
- —
한국어 요약
OpenAI가 차세대 주력 모델에 루프 트랜스포머를 적용하면서 추론 감시의 어려움을 극복하기 위해 정렬 작업과 보안 강화에 집중하고 있다. 모델과 테스트 환경의 안전성을 확보하는 작업을 진행 중이다.
원문 발췌 · English
오픈AI가 차세대 주력 AI 모델을 안전하게 출시하기 위해 정렬 작업과 보안 강화에 집중하고 있는 것으로 알려졌다. 새 모델에 사용하는 ‘루프 트랜스포머(Loop Transformer)’ 설계가 AI의 추론 과정을 감시하기 어렵게 만들 수 있는 가운데, 모델과 테스트 환경의 안전성을 확보하는 작업을 진행하고 있다.디 인포메이션은 13일(현지시간) 관계자들을 인용해 오픈AI가 미공개 차세대 모델을 경영진이 안전하게 공개할 수 있다고 판단하는 수준까지 발전시키기 위해 노력하고 있다고 보도했다.관계자에 따르면 새 모델을 준비하는 데는 시