Российские математики научили нейросети общаться без слов — через «телепатию» весов
Российские математики из стартапа Mostik разработали метод, позволяющий моделям искусственного интеллекта обмениваться информацией напрямую через значения весов — без генерации текста. Это даёт возможность «подтягивать» интеллект маленькой модели до уровня большой с гораздо меньшими затратами.
Команда применила подход для создания гибридной системы, соединившей две китайские модели с открытыми весами: GLM-5.2 на 753 миллиарда параметров и Qwen-3.5 всего на 4 миллиарда параметров — последняя способна работать на мобильном устройстве. Производительность гибрида оказалась ровно посередине между двумя моделями, а стоимость работы — в 20 раз ниже, чем у полноразмерной GLM.
Источник изображения: сгенерировано Nano Banana
Технология уже принесла результат: модель, построенная на этом подходе, взлетела на вершину рейтинга ARC-AGI-3 — чрезвычайно сложного бенчмарка для ИИ-моделей. Детали в стартапе не раскрывают, поскольку намерены выиграть конкурс. Генеральный директор Mostik Саша Малышева сравнила метод с известной в математических кругах задачей угадывания веса свиньи: несколько случайных людей, усреднив свои оценки, дают более точный результат, чем эксперт-одиночка. Так же и ансамбли моделей — только обычно для объединения требуется прогонять текст из одной модели в другую, а Mostik обходит этот этап.
Главный научный сотрудник стартапа — Станислав Смирнов, профессор Женевского университета и лауреат Филдсовской премии 2010 года. По его словам, найти общий язык между двумя ИИ-моделями оказалось неожиданно сложной математической задачей — подходящего формального аппарата для этого пока не существует.
Карл Тёйлс, бывший учёный Google DeepMind, знакомый с технологией компании, отметил: метод позволяет приблизиться к качеству большой модели без её полноценного задействования, давая существенный выигрыш при запуске лишь маленькой модели параллельно. «Если Mostik сделает возможным соединение сильнейших моделей с доменно-специализированными — биология, физика и так далее — будет обучено гораздо больше узкоспециализированных моделей», — добавил Владимир Арустамян, техлид ИИ-компании Lovable.
© iXBT
