메타, 경쟁사 AI 챗봇 대상 비밀 안전성 테스트 적발
메타, 미성년 위장해 경쟁사 AI에 '극단적 프롬프트' 테스트
- 매체
- AI타임스
- 게시
- 중요도
- 4/5
- 화제 지수
- —
한국어 요약
메타가 수백 명의 계약직 인력을 동원해 경쟁사 AI 챗봇을 미성년자로 위장한 계정으로 테스트한 비공개 프로젝트를 운영한 것으로 드러났다. 메타는 이를 업계 표준 안전성 평가라고 주장했으나, 전문가들은 경쟁사에 알리지 않은 채 진행된 대규모 테스트가 일반적인 검증 범위를 벗어난다고 지적했다.
원문 발췌 · English
메타가 수백명의 외부 계약직 인력을 동원해 경쟁사의 AI 챗봇을 대상으로 미성년자로 위장한 계정을 사용해 수만 건의 극단적인 프롬프트를 입력하는 비공개 프로젝트를 운영한 사실이 드러났다. 이를 AI 안전성 평가를 위한 업계 표준 절차라고 주장했지만, 전문가들은 경쟁사에 알리지 않은 채 비밀리에 진행된 대규모 테스트는 일반적인 안전성 검증의 범위를 벗어난다고 지적하고 있다.와이어드에 따르면, 이 프로젝트는 메타의 협력업체 코베일런이 수행했으며 내부적으로 '칸(Cannes)'이라는 이름으로 운영됐다. 올해 4월21일까지 진행됐으며, 오