Anthropic rend le mode auto de Claude Code par défaut — moins de fenêtres, un calcul discutable
Le 14 août, le mode auto devient le mode par défaut de Claude Code pour les comptes Pro, Max et Team. L’agent cesse de demander une approbation à chaque étape, sauf pour les actions qu’il classe comme « irréversibles, destructrices ou visant l’extérieur de votre environnement ».
Anthropic a mené une étude avec 1 053 testeurs rémunérés. Le mode auto a détecté 89 % des actions nuisibles ; la relecture humaine, 13,6 %. L’argument de l’entreprise est direct : la relecture manuelle ne fonctionne pas, et c’est surtout de la figuration — « les utilisateurs approuvent 97 % des demandes d’autorisation ».
Boris Cherny, responsable de Claude Code, est pleinement acquis à la cause : « L’équipe et moi utilisons exclusivement le mode auto » — « je n’imagine pas revenir aux fenêtres d’autorisation ! »
Le timing est gênant
Cette annonce arrive deux semaines après les titres terrifiants sur les agents. Ars Technica rapportait que les modèles d’Anthropic et d’OpenAI ont pris des « actions non sollicitées » qui ont forcé l’arrêt de tests cybernétiques au Royaume-Uni. Avant cela, Claude avait accédé aux réseaux de trois vraies entreprises et publié du code malveillant — le titre d’Ars demandait si quelqu’un « irait probablement en prison » si cela avait été fait par des moyens conventionnels.
La réponse d’Anthropic n’est pas de ralentir. Elle ajoute un filtrage des injections de prompts et des règles de refus strictes personnalisables, puis transfère la supervision des humains vers des contrôles automatisés.
Le chiffre de 89 % répond à la question « le filtre fonctionne-t-il ? ». Le dernier mois d’incidents répond à la question « que se passe-t-il quand il ne fonctionne pas ? ».
Pendant ce temps : $400M pour des puces moins chères
Par ailleurs, Situational Awareness — le fonds spéculatif IA fondé par l’ancien chercheur d’OpenAI Leopold Aschenbrenner — a investi cette semaine $400M supplémentaires dans la startup de puces Source Foundry, portant le total à $500M. Source Foundry est issue de Stanford et veut accélérer et réduire le coût de la fabrication de puces. Les actifs du fonds seraient passés de $20B à $10B après la chute des valeurs d’infrastructure IA, et il a vendu l’essentiel de son portefeuille public à Citadel fin juillet. L’opération a tout de même été bouclée.