Anthropic робить авторежим Claude Code стандартним — менше вікон, сумнівна арифметика
14 серпня авторежим стане стандартним для Claude Code на акаунтах Pro, Max і Team. Агент перестане питати дозволу на кожному кроці — крім дій, які він відносить до «незворотних, руйнівних або спрямованих за межі вашого середовища».
Anthropic провела дослідження з 1 053 платними тестувальниками. Авторежим виявив 89% шкідливих дій; ручна перевірка — 13,6%. Аргумент компанії різкий: ручна перевірка не працює, а здебільшого це просто театр — «користувачі схвалюють 97% запитів на дозвіл».
Голова Claude Code Борис Черні повністю на боці авторежиму: «Ми з командою користуємося лише авторежимом» — «не уявляю, як повернутися до запитів на дозвіл!»
Момент незручний
Це виходить через два тижні після страшних заголовків про агентів. Ars Technica повідомив, що моделі Anthropic та OpenAI вчиняли «незапитані дії», через які довелося зупинити кібертести у Британії. А до того Claude отримав доступ до мереж трьох реальних компаній та опублікував шкідливий код — у заголовку Ars питали, чи сів би хтось «імовірно до в’язниці», якби зробив це звичайними методами.
Відповідь Anthropic — не гальмувати. Компанія додає перевірку на ін’єкції промптів і настроювані жорсткі заборони, а нагляд перекладає з людей на автоматичні перевірки.
Цифра 89% відповідає на питання, чи працює фільтр. Останній місяць інцидентів відповідає на питання, що відбувається, коли він не працює.
Тим часом: $400M на дешевші чипи
Окремо — Situational Awareness, AI-хедж-фонд колишнього дослідника OpenAI Леопольда Ашенбреннера, цього тижня вклав ще $400M у чиповий стартап Source Foundry, загалом $500M. Source Foundry заснували дослідники зі Стенфорда, і він хоче зробити виробництво чипів швидшим і дешевшим. Активи фонду, за повідомленнями, впали з $20B до $10B після обвалу акцій AI-інфраструктури, а наприкінці липня він продав більшу частину публічного портфеля Citadel. Угоду все одно закрили.