SubQ: সাবকোয়াড্রেটিক LLM যা ১২M টোকেন কনটেক্সট দেয় ১,০০০x কম খরচে

৫ মে, ২০২৬-এ, মিয়ামি-ভিত্তিক স্টার্টআপ Subquadratic স্টেলথ থেকে একটি সাহসী দাবি নিয়ে বেরিয়ে এসেছে: তাদের মডেল SubQ হলো সত্যিকারের সাবকোয়াড্রেটিক আর্কিটেকচারে নির্মিত প্রথম বড় ল্যাঙ্গুয়েজ মডেল, যা আজকের শীর্ষ মডেলের কম্পিউটেশনাল খরচের ভগ্নাংশে ১২ মিলিয়ন টোকেন প্রসেস করতে সক্ষম।

প্রতিক্রিয়া তাৎক্ষণিক — এবং তীব্রভাবে বিভক্ত।

সাবকোয়াড্রেটিক কী?

Subquadratic একটি AI ইনফ্রাস্ট্রাকচার কোম্পানি, ২০২৬ সালে প্রতিষ্ঠিত, মিয়ামি, ফ্লোরিডায় অবস্থিত। CEO Justin Dangel এবং CTO Alexander Whedon (প্রাক্তন Meta-র GenAI হেড) এর নেতৃত্বে, স্টার্টআপটি $২৯ মিলিয়ন সিড ফান্ডিং সংগ্রহ করেছে রিপোর্টেড $৫০০ মিলিয়ন ভ্যালুয়েশনে।

মূল উদ্ভাবন: সাবকোয়াড্রেটিক স্পার্স অ্যাটেনশন (SSA)

শিরোনাম ফিচার হলো SSA (Subquadratic Sparse Attention), একটি স্পার্স অ্যাটেনশন মেকানিজম যা মৌলিকভাবে কনটেক্সট দৈর্ঘ্যের সাথে মডেলের স্কেলিং পরিবর্তন করে।

কোয়াড্রেটিক সমস্যা

স্ট্যান্ডার্ড ট্রান্সফরমার অ্যাটেনশন O(n²) হিসেবে স্কেল করে — কনটেক্সট ডাবল করলে কম্পিউট চারগুণ হয়। ১ মিলিয়ন টোকেনে, অ্যাটেনশন একাই ট্রিলিয়ন অপারেশন প্রয়োজন। এই কারণেই বেশিরভাগ মডেল কনটেক্সট ১২৮K বা ২০০K টোকেনে ক্যাপ করে।

সাবকোয়াড্রেটিক সমাধান

SSA ডেন্স অ্যাটেনশন ম্যাট্রিক্স প্রতিস্থাপন করে একটি কন্টেন্ট-ডিপেন্ডেন্ট স্পার্স সিলেকশন ম্যাকানিজম দিয়ে। প্রতিটি টোকেনকে সব টোকেনের সাথে তুলনা করার পরিবর্তে, মডেল ডায়নামিকভাবে নির্বাচন করে কোন টোকেনে অ্যাটেন্ড করবে, কমপ্লেক্সিটি কমিয়ে প্রায়-লিনিয়ার O(n) স্কেলে নিয়ে আসে।

ফলাফল: Subquadratic দাবি করে স্ট্যান্ডার্ড ট্রান্সফরমার মডেলের তুলনায় ১২M টোকেনে ~১,০০০x কম্পিউট রিডাকশন।

বেঞ্চমার্ক পারফরম্যান্স

বেঞ্চমার্ক	SubQ স্কোর	তুলনা
SWE-Bench ভেরিফাইড	৮১.৮%	Opus 4.6: ৮০.৮%
RULER 128K	৯৫.০%	Opus 4.6: ৯৪.৮%
MRCR v2 (১M টোকেন)	৬৫.৯%	GPT-5.5: ৭৪.০%, Gemini 3.1: ২৬.৩%

সংশয়: কেন গবেষকরা প্রমাণ দাবি করছেন

সবাই নিশ্চিত নয়। AI রিসার্চ কমিউনিটি বেশ কিছু উদ্বেগ তুলেছে:

১. কোনো টেকনিক্যাল পেপার নেই — পিয়ার-রিভিউড পেপার বা পূর্ণ টেকনিক্যাল রিপোর্ট রিলিজ হয়নি ২. বন্ধ ওয়েটস — মডেল ওপেন-সোর্স নয় ৩. সীমিত বেঞ্চমার্কিং — শুধু তিনটি বেঞ্চমার্ক প্রকাশিত, সব লং-কনটেক্সট বা কোডিং টাস্কের পক্ষে ৪. রিসার্চ বনাম প্রোডাকশন গ্যাপ — রিসার্চ কনফিগ MRCR v2-তে ৮৩% স্কোর করে, কিন্তু প্রোডাকশন API ৬৫.৯%

কেন এটা গুরুত্বপূর্ণ

সংশয় থাকা সত্ত্বেও, SubQ AI বিকাশে একটি অর্থপূর্ণ মুহূর্ত:

১. কোয়াড্রেটিক বাধা হলো শেষ বড় কনস্ট্রেইন্ট ট্রান্সফরমার আর্কিটেকচারে ২. লং কনটেক্সট সবকিছু বদলায় — ১M+ টোকেনে এজেন্ট সম্পূর্ণ কোডবেস, আইনি মামলা, একাডেমিক সাহিত্য নিয়ে কাজ করতে পারে ৩. অর্থনীতি মনোযোগ আকর্ষণ করে — SubQ যা দাবি করে তার ১০% দিলেও লং-কনটেক্সট কাজের জন্য বিদ্যমান পদ্ধতির চেয়ে সস্তা হবে ৪. প্রতিযোগিতামূলক চাপ স্বাস্থ্যকর — SubQ বাস্তব হোক বা না হোক, buzz প্রতিটি ল্যাবকে তাদের নিজস্ব সাবকোয়াড্রেটিক রিসার্চ ত্বরান্বিত করতে বাধ্য করে

যা নিশ্চিত: সাবকোয়াড্রেটিক AI-র প্রতিযোগিতা এখন আনুষ্ঠানিকভাবে শুরু হয়েছে।