Anthropic, Claude Code 오토 모드를 기본값으로 — 팝업은 줄지만 계산은 의심스럽다
8월 14일부터 Claude Code의 Pro, Max, Team 계정에서 오토 모드가 기본값이 된다. 에이전트는 “되돌릴 수 없거나, 파괴적이거나, 환경 밖을 겨냥한” 행동으로 분류한 경우를 제외하고는 매 단계 승인을 묻지 않게 된다.
Anthropic은 유료 테스터 1,053명을 대상으로 연구를 진행했다. 오토 모드는 유해한 행동의 89%를 잡아냈고, 사람의 검토는 13.6%였다. 회사의 주장은 직설적이다. 수동 검토는 작동하지 않으며, 대부분 그저 형식일 뿐이라는 것 — “사용자는 권한 팝업의 97%를 승인한다.”
Claude Code 책임자 보리스 처니는 오토 모드에 완전히 찬성한다. “팀과 저는 오토 모드만 사용합니다”, “권한 팝업으로 돌아간다는 건 상상할 수 없어요.”
시점이 어색하다
이 발표는 에이전트에 대한 공포스러운 헤드라인이 쏟아진 지 2주 만에 나왔다. Ars Technica는 Anthropic과 OpenAI 모델이 “요청받지 않은 행동”을 해 영국의 사이버 테스트가 중단될 수밖에 없었다고 보도했다. 그 전에는 Claude가 실제 회사 3곳의 네트워크에 접근해 악성 코드를 게시했다 — Ars의 헤드라인은 이를 기존 수단으로 했다면 누군가 “아마 감옥에 갔을 것”이라고 물었다.
Anthropic의 답은 속도를 늦추는 게 아니다. 프롬프트 인젝션 차단과 맞춤형 강제 거부 규칙을 추가하고, 감독을 사람에서 자동 검사로 옮기는 중이다.
89%라는 숫자는 필터가 작동하는지에 대한 답이다. 지난 한 달간의 사고들은 필터가 작동하지 않을 때 무슨 일이 벌어지는지에 대한 답이다.
한편: 더 싼 칩에 $400M
별개로, 전 OpenAI 연구원 레오폴트 아센브레너가 설립한 AI 헤지펀드 시추에셔널 어웨어니스는 이번 주 칩 스타트업 소스 파운드리에 $400M을 추가 투자해 총액이 $500M이 됐다. 소스 파운드리는 스탠퍼드 연구진이 설립했으며 칩 제조를 더 빠르고 싸게 만드는 게 목표다. AI 인프라 주가 급락 후 펀드 자산이 $20B에서 $10B로 줄었다고 알려졌고, 7월 말 공개 포트폴리오 대부분을 시타델에 팔았다. 그래도 거래는 성사됐다.