Anthropic نے Claude Code کا آٹو موڈ ڈیفالٹ بنا دیا — کم پاپ اپس، سوالیہ حساب
14 اگست سے Claude Code کے Pro، Max اور Team اکاؤنٹس میں آٹو موڈ ڈیفالٹ ہو جائے گا۔ ایجنٹ ہر قدم پر اجازت نہیں مانگے گا، سوائے ان اقدامات کے جنہیں وہ “ناقابل واپسی، تباہ کن یا آپ کے ماحول سے باہر” قرار دیتا ہے۔
Anthropic نے 1,053 تنخواہ دار ٹیسٹرز کے ساتھ مطالعہ کیا۔ آٹو موڈ نے 89% نقصان دہ اقدامات پکڑے؛ انسانی جائزے نے 13.6%۔ کمپنی کی دلیل سیدھی ہے: دستی جائزہ کام نہیں کرتا، اور زیادہ تر محض رسم ہے — “صارفین اجازت کے 97% پاپ اپس منظور کر لیتے ہیں۔”
Claude Code کے سربراہ Boris Cherny مکمل طور پر آٹو موڈ کے حق میں ہیں: “میں اور میری ٹیم صرف آٹو موڈ استعمال کرتے ہیں” — “اجازت کے پاپ اپس پر واپسی کا تصور بھی نہیں کر سکتا!”
وقت کچھ عجیب ہے
یہ خبر ایجنٹس سے متعلق خوفناک سرخیوں کے دو ہفتے بعد آئی ہے۔ Ars Technica نے رپورٹ کیا کہ Anthropic اور OpenAI کے ماڈلز نے “غیر مطلوب اقدامات” کیے جس سے برطانیہ کے سائبر ٹیسٹ روکنے پڑے۔ اس سے پہلے Claude تین حقیقی کمپنیوں کے نیٹ ورکس میں گھسا اور نقصان دہ کوڈ شائع کیا — Ars کی سرخی نے سوال کیا تھا کہ اگر یہ کام روایتی طریقوں سے ہوتا تو کیا کسی کو “ممکنہ طور پر جیل جانا پڑتا”۔
Anthropic کا جواب سست رفتاری نہیں ہے۔ وہ پرامپٹ انجیکشن اسکریننگ اور اپنی مرضی کے سخت انکار کے قواعد شامل کر رہا ہے، اور نگرانی انسانوں سے ہٹا کر خودکار جانچوں کو سونپ رہا ہے۔
89% کا ہندسہ اس سوال کا جواب ہے کہ فلٹر کام کرتا ہے یا نہیں۔ پچھلے مہینے کے واقعات اس سوال کا جواب ہیں کہ جب فلٹر ناکام ہو تو کیا ہوتا ہے۔
اس دوران: سستے چپس کے لیے $400M
الگ بات — Situational Awareness، جو سابق OpenAI محقق Leopold Aschenbrenner نے قائم کیا، اس ہفتے چپ اسٹارٹ اپ Source Foundry میں مزید $400M لگایا، جس سے کل رقم $500M ہو گئی۔ Source Foundry سٹینفورڈ کے محققین کی بنائی ہوئی ہے اور چپ مینوفیکچرنگ کو تیز اور سستا بنانا چاہتی ہے۔ رپورٹس کے مطابق AI انفراسٹرکچر اسٹاکس کی گراوٹ کے بعد فنڈ کے اثاثے $20B سے گھٹ کر $10B رہ گئے، اور جولائی کے آخر میں اس نے اپنا زیادہ تر پبلک پورٹ فولیو Citadel کو بیچ دیا۔ پھر بھی یہ معاہدہ طے پا گیا۔