needhelp
← Back to blog

SubQ: субквадратичная LLM, обещающая 12M токенов контекста по цене в 1000 раз ниже

by needhelp
subq
subquadratic
llm
sparse-attention
long-context
ai-architecture

Subquadratic SubQ LLM

5 мая 2026 года стартап из Майами под названием Subquadratic вышел из тени со смелым заявлением: их модель SubQ — первая LLM на действительно субквадратичной архитектуре, способная обрабатывать 12 миллионов токенов в одном контекстном окне за долю стоимости сегодняшних моделей.

Реакция была немедленной — и резко разделенной.

Что такое Subquadratic?

Основанная в 2026 году, базирующаяся в Майами, компания привлекла $29M seed при оценке $500M. CEO Justin Dangel и CTO Alexander Whedon (экс-глава GenAI в Meta). Инвесторы: сооснователь Tinder, экс-партнер SoftBank Vision Fund, ранние инвесторы Anthropic и OpenAI.

Инновация: Subquadratic Sparse Attention (SSA)

Стандартное внимание Transformer — O(n²). Удвоение контекста = учетверение вычислений. SSA заменяет плотную матрицу внимания на контентно-зависимый механизм разреженного выбора со сложностью O(n).

Утверждается ~1000x снижение вычислительных затрат при 12M токенов.

Бенчмарки

Бенчмарк SubQ Сравнение
SWE-Bench Verified 81.8% Opus 4.6: 80.8%
RULER 128K 95.0% Opus 4.6: 94.8%
MRCR v2 (1M) 65.9% Gemini 3.1 Pro: 26.3%

При 1M токенов SubQ значительно превосходит Gemini, хотя уступает GPT-5.5 (74.0%).

Продукты

  1. SubQ API — 1M токенов, OpenAI-совместимый
  2. SubQ Code — CLI-агент, загружающий всю кодовую базу
  3. SubQ Search — бесплатный инструмент с памятью миллиона токенов

Экономика

Задача SubQ Claude Opus Разница
RULER 128K $8 ~$2,600 ~325x дешевле
SWE-Bench ~$0.50 ~$5 ~10x
MRCR v2 1M ~$50 ~$15,000 ~300x

Скепсис

  • Нет рецензируемой статьи
  • Закрытые веса
  • Узкое бенчмаркирование (только 3 теста)
  • Разрыв 17 п. между исследовательской конфигурацией (83%) и API (65.9%)

«Заявления Subquadratic — либо важнейший прорыв в AI-архитектуре со времен “Attention Is All You Need”, либо хорошо профинансированный мираж. Третьего не дано.»

Дорожная карта

  • Q3 2026: расширенный API
  • Q4 2026: 50 миллионов токенов контекста
  • 2027: enterprise-инструменты

Публиковать веса SubQ компания не планирует.

References

Share this page