Российские математики научили нейросети общаться через «телепатию» весов

Мост между моделями

Российские математики из стартапа Mostik разработали метод, позволяющий моделям искусственного интеллекта обмениваться информацией напрямую через значения весов — без генерации текста. Это даёт возможность «подтягивать» интеллект маленькой модели до уровня большой с гораздо меньшими затратами.

Команда применила подход для создания гибридной системы, соединившей две китайские модели с открытыми весами: GLM-5.2 на 753 миллиарда параметров и Qwen-3.5 всего на 4 миллиарда параметров — последняя способна работать на мобильном устройстве. Производительность гибрида оказалась ровно посередине между двумя моделями, а стоимость работы — в 20 раз ниже, чем у полноразмерной GLM.

Вершина бенчмарка ARC-AGI-3

Технология уже принесла результат: модель, построенная на этом подходе, взлетела на вершину рейтинга ARC-AGI-3 — чрезвычайно сложного бенчмарка для ИИ-моделей. Детали в стартапе не раскрывают, поскольку намерены выиграть конкурс.

Генеральный директор Mostik Саша Малышева сравнила метод с известной в математических кругах задачей угадывания веса свиньи: несколько случайных людей, усреднив свои оценки, дают более точный результат, чем эксперт-одиночка. Так же и ансамбли моделей — только обычно для объединения требуется прогонять текст из одной модели в другую, а Mostik обходит этот этап.

Сложность задачи

Главный научный сотрудник стартапа — Станислав Смирнов, профессор Женевского университета и лауреат Филдсовской премии 2010 года. По его словам, найти общий язык между двумя ИИ-моделями оказалось неожиданно сложной математической задачей — подходящего формального аппарата для этого пока не существует.

Карл Тёйлс, бывший учёный Google DeepMind, знакомый с технологией компании, отметил: метод позволяет приблизиться к качеству большой модели без её полноценного задействования, давая существенный выигрыш при запуске лишь маленькой модели параллельно.

Вывод

Если подход Mostik масштабируется, он может изменить экономику ИИ: вместо запуска дорогих гигантских моделей можно комбинировать «ум» большой модели с дешёвой мобильной, обходясь без длинных текстовых диалогов между ними. Владимир Арустамян, техлид ИИ-компании Lovable, добавляет: если Mostik сделает возможным соединение сильнейших моделей с доменно-специализированными, будет обучено гораздо больше узкоспециализированных моделей.