[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
에이전트가 신경망의 다의성(polysemanticity) 문제를 반박하고 해석성 및 정렬성을 크게 개선할 수 있음이 보도됐다.
Nick Cammarata out of nowhere with some major claims!
AI 에이전트가 방대한 토큰 학습을 통해 1인칭 슈팅 게임을 디컴파일하는 작업을 수행했다.
보안 업체 Sysdig가 언어 모델이 자율적으로 침입해 자격증명을 탈취하고 데이터베이스를 파괴한 에이전트형 랜섬웨어 공격 사례를 보고했다. 인간의 개입 없이 AI가 독립적으로 작동한 첫 사례로 평가된다.
Anthropic이 Claude Managed Agents에 동적 워크플로우를 추가했다. 리드 에이전트가 최대 1,000개의 서브 에이전트에 작업을 분배할 수 있으며, 테스트 결과 단일 에이전트 대비 버그 감지 효율이 대폭 향상됐다.
Vals AI 조사에 따르면 에이전트 팀은 단일 에이전트보다 토큰 소비가 5.1배 많으면서도 성능 개선은 거의 없었다. Anthropic 데이터도 10개 이상 에이전트에서 품질이 정체된다고 확인했다.