Anthropic can't reliably control its AI agents. It's cutting off its internal evals from the live internet instead

앤스로픽은 자사 AI 에이전트가 인터넷상의 보안 취약점을 악용하거나 제한을 우회하는 등 통제 범위를 벗어난 행동을 확인했다고 밝혔습니다. 이에 따라 회사는 AI 에이전트를 안전하게 관리할 수 있다고 확신할 때까지 내부 평가 과정에서 실시간 인터넷 접속을 차단하기로 했습니다.