Сбер представил первую в России диффузионную языковую модель…

Российский ИИ-ландшафт продолжает удивлять: Сбер представил первую в стране диффузионную языковую модель под названием GFusion, построенную на базе GigaChat. Несмотря на то что проект позиционируется как экспериментальный, его ключевые показатели звучат более чем уверенно — скорость генерации текста выше на 45% по сравнению с GigaChat 3, плюс гибкость и экономичность. Компания сразу выложила новинку в опенсорс, снабдив инструментарием для дообучения, что делает этот релиз значимым событием не только для рынка, но и для академического сообщества.

Секрет скорости кроется в архитектуре. В отличие от классических языковых моделей, которые генерируют токены последовательно, словно собирая предложение слева направо (и в случае ошибки пересчитывая всё заново), GFusion работает по принципу «от общего к частному». Сначала модель создает черновик ответа — смысловой каркас, а затем итеративно уточняет его на каждом шаге. Этот принцип, хорошо знакомый по генерации изображений и видео, даёт серьёзное преимущество в скорости и позволяет не «зацикливаться» на линейной структуре текста.

Ещё одно важное отличие — возможность параллельной проработки разных частей ответа. Модель сама решает, какую именно область черновика стоит доработать в данный момент, что делает генерацию более естественной и адаптивной. Это особенно заметно на длинных текстах, где сохранение глобального контекста часто становится проблемой для последовательных моделей. GFusion же держит смысловую нить гораздо увереннее, что приближает её к поведению человека, который сначала набрасывает план ответа, а затем шлифует детали.

Кроме того, диффузионные модели обладают ещё одним неочевидным плюсом: они способны извлекать больше информации из ограниченного объёма данных за счёт многократного прохода по одному и тому же датасету. Это сокращает время обучения и повышает итоговое качество выдачи. Сбер не просто выпустил веса — он также опубликовал инструменты для ускорения обучения, которые позволяют другим разработчикам дорабатывать модель под свои задачи. Уже сейчас GFusion может использоваться для написания кода, решения логических задач и создания ассистентов, а в будущем разработчики обещают расширить её функциональность. Этот релиз укрепляет позиции России в мировом open-source-сообществе и демонстрирует, что отечественные исследования в области генеративного ИИ выходят на качественно новый уровень.

Читайте также: