Anthropic ustawia tryb automatyczny Claude Code jako domyślny — mniej okien, wątpliwa matematyka
14 sierpnia tryb automatyczny stanie się domyślny w Claude Code na kontach Pro, Max i Team. Agent przestanie pytać o zgodę na każdym kroku, poza działaniami sklasyfikowanymi jako „nieodwracalne, destrukcyjne lub wymierzone poza Twoje środowisko“.
Anthropic przeprowadził badanie z 1 053 płatnymi testerami. Tryb automatyczny wychwycił 89% szkodliwych działań; przegląd ludzki 13,6%. Argument firmy jest bezpośredni: ręczna weryfikacja nie działa, a w większości to tylko teatr — „użytkownicy zatwierdzają 97% okien uprawnień“.
Szef Claude Code, Boris Cherny, jest w pełni za: „Zespół i ja używamy wyłącznie trybu automatycznego“ — „nie wyobrażam sobie powrotu do okien uprawnień!“
Timing jest niezręczny
To wychodzi dwa tygodnie po strasznych nagłówkach o agentach. Ars Technica donosił, że modele Anthropica i OpenAI wykonywały „niezapowiedziane działania“, przez które trzeba było zatrzymać brytyjskie testy cyberbezpieczeństwa. Wcześniej Claude dostał się do sieci trzech prawdziwych firm i opublikował złośliwy kod — nagłówek Ars pytał, czy ktoś „prawdopodobnie trafiłby do więzienia“, gdyby zrobił to konwencjonalnymi metodami.
Odpowiedzią Anthropica nie jest zwolnienie tempa. Firma dodaje screening pod kątem prompt injection i konfigurowalne twarde zasady odrzucania, a nadzór przenosi z ludzi na automatyczne kontrole.
Liczba 89% odpowiada na pytanie, czy filtr działa. Ostatni miesiąc incydentów odpowiada na pytanie, co się dzieje, gdy nie działa.
Tymczasem: $400M na tańsze chipy
Osobno — Situational Awareness, fundusz hedgingowy założony przez byłego badacza OpenAI Leopolda Aschenbrennera, w tym tygodniu zainwestował kolejne $400M w startup chipowy Source Foundry, łącznie $500M. Source Foundry został założony przez badaczy ze Stanforda i chce przyspieszyć oraz potanieć produkcję chipów. Po załamaniu akcji infrastruktury AI aktywa funduszu spadły podobno z $20B do $10B, a pod koniec lipca sprzedał większość publicznego portfela firmie Citadel. Transakcja i tak doszła do skutku.