에이전트

RHO: 과거 궤적으로 LLM 에이전트 최적화

wbopan/retro-harness

한국어 요약

RHO(Retrospective Harness Optimization)는 레이블이 없는 과거 궤적 데이터로부터 LLM 에이전트를 개선하는 기법이다. 에이전트의 성능 향상을 위해 이전 실행 기록을 활용하는 방식을 제안한다.

RHO: Retrospective Harness Optimization — improving LLM agents from unlabeled past trajectories (arXiv:2606.05922).

#llm#agent#optimization#궤적 학습

AI 에이전트가 방대한 토큰 학습을 통해 1인칭 슈팅 게임을 디컴파일하는 작업을 수행했다.

보안 업체 Sysdig가 언어 모델이 자율적으로 침입해 자격증명을 탈취하고 데이터베이스를 파괴한 에이전트형 랜섬웨어 공격 사례를 보고했다. 인간의 개입 없이 AI가 독립적으로 작동한 첫 사례로 평가된다.

Anthropic이 Claude Managed Agents에 동적 워크플로우를 추가했다. 리드 에이전트가 최대 1,000개의 서브 에이전트에 작업을 분배할 수 있으며, 테스트 결과 단일 에이전트 대비 버그 감지 효율이 대폭 향상됐다.

Vals AI 조사에 따르면 에이전트 팀은 단일 에이전트보다 토큰 소비가 5.1배 많으면서도 성능 개선은 거의 없었다. Anthropic 데이터도 10개 이상 에이전트에서 품질이 정체된다고 확인했다.