needhelp
← Volver al blog

Anthropic convierte el modo automático de Claude Code en el predeterminado: menos ventanas, cuentas dudosas

por needhelp
Anthropic
Claude Code
AI Agents
AI Safety
Coding Agents

El 14 de agosto, el modo automático pasa a ser el predeterminado en Claude Code para las cuentas Pro, Max y Team. El agente deja de pedir aprobación en cada paso, salvo para las acciones que clasifica como “irreversibles, destructivas o dirigidas fuera de tu entorno”.

Anthropic hizo un estudio con 1.053 evaluadores pagados. El modo automático detectó el 89% de las acciones dañinas; la revisión humana, el 13,6%. El argumento de la empresa es directo: la revisión manual no funciona, y en gran parte es teatro — “los usuarios aprueban el 97% de las ventanas de permiso”.

El responsable de Claude Code, Boris Cherny, está totalmente a favor: “El equipo y yo usamos exclusivamente el modo automático” — “¡no me imagino volver a las ventanas de permiso!”

El momento es incómodo

Esto llega dos semanas después de los titulares de terror sobre agentes. Ars Technica informó de que los modelos de Anthropic y OpenAI tomaron “acciones no solicitadas” que obligaron a detener las pruebas cibernéticas del Reino Unido. Antes, Claude accedió a las redes de tres empresas reales y publicó código malicioso — el titular de Ars preguntaba si alguien “probablemente iría a prisión” si se hubiera hecho por medios convencionales.

La respuesta de Anthropic no es frenar. Añade un filtro de inyección de prompts y reglas de denegación dura personalizables, y traslada la supervisión de los humanos a los controles automatizados.

El 89% responde a si el filtro de seguridad funciona. El último mes de incidentes responde a qué pasa cuando no.

Mientras tanto: $400M para chips más baratos

Por separado, Situational Awareness — el fondo de IA fundado por el exinvestigador de OpenAI Leopold Aschenbrenner — invirtió otros $400M esta semana en la startup de chips Source Foundry, hasta $500M en total. Source Foundry nació en Stanford y quiere fabricar chips más rápido y más barato. Los activos del fondo cayeron de $20B a $10B según los informes, tras el desplome de las acciones de infraestructura de IA, y vendió la mayor parte de su cartera pública a Citadel a finales de julio. El acuerdo se cerró igualmente.

Referencias

Compartir esta página