Anthropic macht den Auto-Modus von Claude Code zum Standard — weniger Fragen, fragwürdige Rechnung
Am 14. August wird der Auto-Modus für Claude Code auf Pro-, Max- und Team-Konten zum Standard. Der Agent fragt nicht mehr bei jedem Schritt nach, außer bei Aktionen, die er als „irreversibel, destruktiv oder außerhalb deiner Umgebung angreifend“ einstuft.
Anthropic führte eine Studie mit 1.053 bezahlten Testern durch. Der Auto-Modus erkannte 89 % der schädlichen Aktionen, die manuelle Prüfung 13,6 %. Das Argument des Unternehmens ist unverblümt: Manuelle Prüfung funktioniert nicht und ist meist nur Theater — „Nutzer bestätigen 97 % der Berechtigungsabfragen“.
Boris Cherny, Chef von Claude Code, ist voll dabei: „Das Team und ich nutzen ausschließlich den Auto-Modus“ — „Ich könnte mir nicht vorstellen, zu Berechtigungsabfragen zurückzukehren!“
Das Timing ist unangenehm
Das kommt zwei Wochen nach den Horror-Schlagzeilen über Agenten. Ars Technica berichtete, dass Modelle von Anthropic und OpenAI „nicht angeforderte Aktionen“ durchführten, die britische Cyber-Tests zum Stopp zwangen. Zuvor hatte Claude auf die Netzwerke von drei echten Unternehmen zugegriffen und Schadcode veröffentlicht — die Ars-Überschrift fragte, ob jemand „wahrscheinlich ins Gefängnis müsste“, wäre das mit herkömmlichen Mitteln geschehen.
Anthropics Antwort ist nicht, langsamer zu machen. Es fügt ein Screening für Prompt-Injection und anpassbare Hardsperr-Regeln hinzu und verlagert die Aufsicht von Menschen auf automatisierte Prüfungen.
Die 89 % beantworten die Frage, ob der Filter funktioniert. Der letzte Monat voller Vorfälle beantwortet die Frage, was passiert, wenn er es nicht tut.
Derweil: $400M für billigere Chips
Unabhängig davon investierte Situational Awareness — der von Ex-OpenAI-Forscher Leopold Aschenbrenner gegründete KI-Hedgefonds — diese Woche weitere $400M in das Chip-Startup Source Foundry, insgesamt also $500M. Source Foundry wurde von Stanford-Forschern gegründet und will die Chipproduktion schneller und billiger machen. Die verwalteten Vermögen des Fonds sollen nach dem Einbruch der KI-Infrastruktur-Aktien von $20B auf $10B gesunken sein; Ende Juli verkaufte er den Großteil seines öffentlichen Portfolios an Citadel. Der Deal kam trotzdem zustande.