AI 가드레일 시장, 국내 기업들 본격 진출
"AI를 통제하라"…국내 솔루션 기업, AI 가드레일 시장 잰걸음
- 매체
- AI타임스
- 게시
- 중요도
- 2/5
- 화제 지수
- —
한국어 요약
생성 AI와 AI 에이전트가 정책과 범위 안에서만 작동하도록 입출력·행동을 통제하는 'AI 가드레일' 시장에 국내 솔루션 기업들이 진출하고 있다. 에이전트 확산으로 제어 대상이 텍스트를 넘어 행동까지 확대되면서 보안 위협도 커지는 상황이다.
원문 발췌 · English
생성 AI와 AI 에이전트가 기업이 정한 정책과 범위 안에서만 움직이도록 통제하는 'AI 가드레일' 시장을 겨냥해 국내 솔루션 기업들이 잰걸음에 나섰다.AI 가드레일은 AI의 입력과 출력, 행동을 정해진 기준 안에 묶어 두는 안전장치다. 입·출력을 판정·차단하는 제품으로 좁게 보기도 하고, 개발·운영 전 과정의 보안 체계나 조직 차원의 거버넌스로까지 확장되기도 한다.최근에는 AI 에이전트가 확산하면서 통제 대상도 '말(텍스트)'를 넘어 '행동'으로 넓어지는 양상이다. AI 에이전트가 수행한 잘못된 행동이 더 큰 보안 위협이 될 수