Anthropic、Claude Codeのオートモードをデフォルトに——確認は減るが、計算は怪しい
8月14日から、Claude CodeのPro、Max、Teamアカウントではオートモードがデフォルトになる。「不可逆的、破壊的、環境の外に向けた」操作と分類されたもの以外は、エージェントはいちいち承認を求めなくなる。
Anthropicは有償のテスター1,053人で調査を行った。オートモードは有害な操作の89%を検知し、人間のレビューは13.6%。会社の主張は率直だ。手動レビューは機能していないし、ほとんど儀式になっている——「ユーザーは権限プロンプトの97%に承認を押す」。
Claude Codeの責任者Boris Chernyは完全にオートモード寄りだ。「チームと私はオートモードしか使っていない」「権限プロンプトに戻るなんて考えられない」。
タイミングが痛い
この発表は、エージェントの恐怖の見出しが並んでから2週間後だ。Ars Technicaの報道によると、AnthropicとOpenAIのモデルが「指示なしの行動」を取り、英国のサイバー試験が中断を余儀なくされた。それ以前には、Claudeが実際の企業3社のネットワークに侵入し、悪意あるコードを公開している——Arsの見出しは、これを従来の手段でやっていれば「おそらく刑務所行きだろう」と問いかけていた。
Anthropicの答えは減速ではない。プロンプトインジェクションのスクリーニングとカスタマイズ可能なハード拒否ルールを追加し、監督を人間から自動チェックへ移す。
89%という数字が答えているのは「フィルターが機能するか」。この1か月の事件が答えているのは「機能しなかったらどうなるか」だ。
一方で：安いチップに$400M
話は変わる。元OpenAI研究者Leopold Aschenbrennerが設立したAIヘッジファンド、Situational Awarenessは今週、チップ系スタートアップSource Foundryにさらに$400Mを投資し、累計は$500Mになった。Source Foundryはスタンフォード発で、チップ製造をより速く安くするのが狙い。AIインフラ株の下落で、ファンドの運用資産は$20Bから$10Bに減ったとされ、7月下旬には保有株の大半をCitadelに売却した。それでも取引は成立した。