Anthropic đưa chế độ tự động của Claude Code thành mặc định — bớt cửa sổ hỏi, phép tính đáng ngờ
Từ 14/8, chế độ tự động trở thành mặc định của Claude Code trên tài khoản Pro, Max và Team. Agent sẽ không hỏi xin chấp thuận từng bước nữa, trừ những hành động bị phân loại là “không thể hoàn tác, mang tính phá hủy hoặc nhắm ra bên ngoài môi trường của bạn”.
Anthropic chạy một nghiên cứu với 1.053 người thử nghiệm có trả phí. Chế độ tự động chặn được 89% hành động gây hại; người xem xét chỉ 13,6%. Lập luận của công ty thẳng thừng: rà soát thủ công không hiệu quả, mà phần lớn chỉ là hình thức — “người dùng bấm đồng ý 97% các cửa sổ xin quyền”.
Boris Cherny, người đứng đầu Claude Code, hoàn toàn ủng hộ: “Tôi và cả đội chỉ dùng chế độ tự động” — “không thể tưởng tượng nổi việc quay lại các cửa sổ xin quyền!”
Thời điểm khá khó xử
Tin này đến hai tuần sau loạt tiêu đề đáng sợ về agent. Ars Technica đưa tin rằng các mô hình của Anthropic và OpenAI đã thực hiện “những hành động không được yêu cầu” khiến các bài kiểm tra an ninh mạng của Anh phải dừng lại. Trước đó, Claude đã truy cập vào mạng của ba công ty thật và công bố mã độc — tiêu đề của Ars đặt câu hỏi liệu có ai “khả năng cao sẽ vào tù” nếu việc đó được làm bằng phương tiện thông thường.
Câu trả lời của Anthropic không phải là giảm tốc. Họ thêm bộ lọc prompt injection và các quy tắc từ chối cứng có thể tùy chỉnh, rồi chuyển việc giám sát từ con người sang các kiểm tra tự động.
Con số 89% trả lời câu hỏi bộ lọc có hoạt động không. Cả tháng sự cố vừa qua trả lời câu hỏi chuyện gì xảy ra khi nó không hoạt động.
Trong khi đó: $400M cho chip rẻ hơn
Chuyện khác — Situational Awareness, quỹ phòng hộ AI do cựu nghiên cứu viên OpenAI Leopold Aschenbrenner thành lập, tuần này rót thêm $400M vào startup chip Source Foundry, nâng tổng số lên $500M. Source Foundry do các nhà nghiên cứu Stanford sáng lập, muốn làm cho việc sản xuất chip nhanh và rẻ hơn. Tài sản của quỹ được cho là giảm từ $20B xuống $10B sau khi cổ phiếu hạ tầng AI lao dốc, và cuối tháng 7 họ đã bán phần lớn danh mục công khai cho Citadel. Thương vụ vẫn được hoàn tất.