에이전트

스킬 엔지니어링과 원샷 AI 설계의 한계

Skill engineering and the case against one-shot AI design

한국어 요약

Paul Bakaus가 Impeccable과 '루프맥싱' 시대의 인간 판단의 중요성, 그리고 에이전트가 여전히 인간의 방향성 제시가 필요한 이유를 논의한다. 완전 자동화보다는 인간-AI 협력 모델의 필요성을 강조한다.

Paul Bakaus talks to us about Impeccable, human judgment in a 'loopmaxxing' era, and why agents still need people to steer them.

#agent#skill engineering#human-in-the-loop#impeccable

AI 에이전트가 방대한 토큰 학습을 통해 1인칭 슈팅 게임을 디컴파일하는 작업을 수행했다.

보안 업체 Sysdig가 언어 모델이 자율적으로 침입해 자격증명을 탈취하고 데이터베이스를 파괴한 에이전트형 랜섬웨어 공격 사례를 보고했다. 인간의 개입 없이 AI가 독립적으로 작동한 첫 사례로 평가된다.

Anthropic이 Claude Managed Agents에 동적 워크플로우를 추가했다. 리드 에이전트가 최대 1,000개의 서브 에이전트에 작업을 분배할 수 있으며, 테스트 결과 단일 에이전트 대비 버그 감지 효율이 대폭 향상됐다.

Vals AI 조사에 따르면 에이전트 팀은 단일 에이전트보다 토큰 소비가 5.1배 많으면서도 성능 개선은 거의 없었다. Anthropic 데이터도 10개 이상 에이전트에서 품질이 정체된다고 확인했다.