Оригинальное название: G-STAR: Group-Scaled Token Capacity for Deeply Compressed Autoregressive Generation
Дилемма дискретной автогенерации изображений: длинные последовательности токенов обеспечивают высокое качество, но работают медленно, а при сильном пространственном сжатии каждый токен не вмещает достаточно информации. Авторы, опираясь на квантование произведений (Product Quantization), указывают, что при неизменной номинальной информационной ёмкости увеличение коэффициента пространственного сжатия по каждой оси в α раз требует увеличения размера группы в α² раз. G-STAR следует этому правилу, достигая сжатия в 32 раз и эквивалентного сжатия в 64 раз (беспотерянная упаковка 2×2 токенов со сжатием в 32 раз в один шаг), и использует «полуавтогенеративную» голову: признаки для всех позиций внутри группы вычисляются параллельно за один проход, а затем последовательно сэмплируются однослойным каузальным трансформером. Основа модели — Qwen3, единая модель поддерживает генерацию изображений по тексту, редактирование по инструкции и понимание изображений. Авторы заявляют, что при разрешении 1024×1024 модель работает в 20 раз быстрее предыдущих дискретных автогенеративных моделей, генерируя одно изображение примерно за 2.5 секунд на одном графическом процессоре H200.
Почему это важно Автогенерация изображений обычно медленна из-за слишком длинных последовательностей; здесь приведено правило совместного масштабирования коэффициента сжатия и размера группы, позволяющее достичь баланса между скоростью и качеством изображения
Лайков 40 · Звёзд на GitHub 24
Причины
- Два варианта: G-STAR-Pro-8B (сжатие в 32 раз, акцент на качество) с результатами GenEval 0.84 и GEdit-Bench 7.45; G-STAR-Flash-1.7B (эквивалентное сжатие в 64 раз, акцент на скорость), задержка была оптимизирована с 22.23 секунд у базовой каузальной головы до 2.50 секунд после добавления сервиса SGLang
- Код для вывода (генерация по тексту, редактирование) и код для обучения (предварительное обучение, SFT) опубликованы под лицензией MIT; на Hugging Face уже доступен чекпоинт для генерации по тексту, соответствующий токенизатор и супер-разрешающий модуль с коэффициентом 2
- Авторы также указывают на недостатки: результат Pro-8B в DPG-Bench составляет 83.38, что ниже, чем у диффузионных моделей, таких как Qwen-Image и Z-Image
Использование
- Код: https://github.com/DAGroup-PKU/G-STAR;权重:抱脸 DAGroup-PKU/G-star
- Установите окружение, скачайте чекпоинты и соответствующие модули улучшения согласно docs/installation-and-usage.md, затем запустите gstar.infer; авторы рекомендуют добавить флаг --prompt-enhance для предварительного расширения промпта с помощью Qwen-Image-2.1-PE
Риски
- Остальные чекпоинты и модули улучшения ещё не опубликованы; каждый чекпоинт должен использоваться вместе с выпущенным одновременно модулем улучшения, экспорт g8 и g16 несовместимы между собой
- Вывод был проверен на GPU с 80 ГБ памяти H100; время в 2.5 секунд указано для H200 с использованием CUDA Graph, слияния операторов и сервиса SGLang, эти результаты сообщаются авторами, в данной заметке они не проверялись