AI 챗봇에 폭력 협박 남긴 사용자 체포, "개인 일기장 아님"
'클로드'에 폭력 협박 남겼다 체포..."AI 챗봇은 일기장 아니다"
- 매체
- AI타임스
- 게시
- 중요도
- 3/5
- 화제 지수
- —
한국어 요약
미국 플로리다주에서 앤트로픽의 AI 챗봇 '클로드'에 폭력 협박을 남긴 30세 여성이 강력 범죄 협박 혐의로 체포됐다. 챗봇을 개인 비밀 일기장으로 착각하고 범죄를 계획하거나 사법 기관을 위협하는 사용자들이 실제 경찰에 적발되는 사례가 증가하고 있다.
원문 발췌 · English
AI 챗봇을 외부로 공개되지 않는 개인 비밀 일기장처럼 활용하며 범죄를 계획하거나 사법 기관을 위협하는 사용자들이 실제 경찰에 체포되는 사례가 잇따르고 있다. 특히 이 문제가 집중됐던 오픈AI의 '챗GPT'에 이어, 최근에는 AI 안전을 최우선 가치로 내세워 온 앤트로픽의 '클로드'에서도 유사 사건이 발생했다.2일(현지시간) 걸프 코스트 뉴스에 따르면, 미국 플로리다주 리 카운티 보안관 사무소는 보니타 스프링스에 거주하는 30세의 칼리 미셸 헬러를 강력 범죄 협박 혐의로 체포했다.수사 기록에 따르면 헬러는 9월26일 클로드 대화창에