GFusion — быстрее GigaChat на 45%
Сбер опубликовал первую в России диффузионную языковую модель GFusion. Она основана на GigaChat. Это экспериментальный проект, но его результаты впечатляют. GFusion генерирует текст до 45% быстрее, чем GigaChat 3. Кроме того, модель более гибкая и экономичная. Разработчики уже выложили её в открытый доступ вместе с инструментами для обучения.
Как работает диффузионная модель
Классические языковые модели генерируют текст последовательно, слово за словом. Если нужно исправить ошибку, модель переписывает весь ответ заново. GFusion работает иначе. Сначала она создаёт приблизительный «набросок» ответа. Затем пошагово дорабатывает его. Этот процесс похож на генерацию изображений и видео в нейросетях.
Параллельная генерация даёт серьёзное преимущество в скорости. Согласно тестам Сбера, GFusion работает до 45% быстрее GigaChat 3, на основе которого она обучалась. Кроме того, модель сама выбирает, какую часть ответа дополнить на каждом шаге. Текст не пишется строго слева направо. Это делает генерацию более гибкой и естественной.
Преимущества и перспективы
Диффузионные модели извлекают больше информации из ограниченного объёма данных. Они могут обучаться на одном и том же датасете несколько раз. Это повышает качество и сокращает время обучения. GFusion — это одно из самых перспективных направлений в генеративном ИИ. Разработчики отметили, что это первая выпущенная в опенсорс диффузионная модель такого масштаба в России.
Вместе с моделью Сбер опубликовал инструменты для ускорения обучения. Это позволит другим исследователям развивать направление. GFusion можно использовать для генерации текстов, написания кода и решения логических задач. Она также подходит для создания чат-ботов и ассистентов. В будущем разработчики планируют расширить функциональность и улучшить качество.
Значение для российской ИИ-индустрии
GFusion демонстрирует технологический прогресс России в области ИИ. Она конкурирует с мировыми аналогами, но при этом адаптирована под русский язык. Открытый доступ к модели стимулирует развитие сообщества. Студенты, разработчики и исследователи смогут изучать и улучшать диффузионные архитектуры.
Кроме того, GFusion снижает зависимость от западных решений. Это особенно важно в условиях санкционных ограничений. Российские компании получат доступ к эффективному и быстрому инструменту для своих задач. Таким образом, Сбер делает ещё один важный шаг к технологическому суверенитету в области искусственного интеллекта.
Автор: Екатерина Волкова
Об авторе
