Как GPT‑5 помогла математику Эрнесту Рю решить проблему, которая не поддавалась 40 лет
Как математик использовал GPT‑5, чтобы быстрее генерировать идеи и найти путь к решению давней задачи оптимизации.

Проблема и почему она имела значение
У каждой серьезной математической задачи есть своя история: кто-то задал вопрос, кто-то попытался его решить, у кого-то не получилось, а в конце, возможно, нашелся тот, кто смог. История поиска ответа на один до боли простой вопрос теории оптимизации ничем не отличается, за исключением того, что исследователь работал с инструментом, способным молниеносно находить идеи и методы в самых разных математических статьях.
Проведя 15 лет в прикладной математике и теории оптимизации, профессор Калифорнийского университета в Лос-Анджелесе (UCLA) Эрнест Рю (Ernest Ryu) заинтересовался большой языковой моделью (LLM), о которой все только и говорили. В 2023 году он решил протестировать способность ChatGPT‑3.5 решать простые математические и логические задачи, например составлять график встреч для нескольких участников в разных часовых поясах. Он заметил, что модель улавливала неявные ограничения (например, что никто не хочет назначать встречу с полуночи до шести утра), но точность ее результатов сильно варьировалась. У нее было много сильных сторон, однако, по его мнению, ей еще предстояло пройти долгий путь.

Когда два года спустя OpenAI представила GPT‑5, Рю стал слышать о стремительно развивающихся математических способностях модели. Он решил попробовать снова — теперь, когда модель стала более зрелой, — чтобы проверить, справится ли она с более сложной задачей. Он и не ожидал, что это внесет существенный вклад в решение давней проблемы в его области.
Рю решил взяться за «открытую» проблему — это означало, что она не была решена и признавалась научным сообществом как нечто представляющее интерес. Математическая интуиция подсказывала ему, что у нее может быть простое решение; просто люди пока не смогли его найти.
Суть вопроса: когда в алгоритме используется явление под названием ускоренный градиент Нестерова (NAG), он работает значительно быстрее —, но неужели дополнительный импульс, добавляемый NAG, никак не влияет на стабильность алгоритма?
В отличие от автомобильного двигателя, который может выйти из строя, если выжимать из него слишком много и слишком долго, NAG, судя по всему, обеспечивал «прирост скорости» без потери стабильности. Десятилетиями исследователи наблюдали это поведение, но не могли до конца объяснить основную причину того, почему метод остается одновременно и быстрым, и стабильным.
Метод NAG был впервые предложен в 1983 году математиком Юрием Нестеровым. Это метод оптимизации, использующий форму прогнозирования — часто описываемую как «заглядывание вперед», — для ускорения сходимости алгоритма. В отличие от традиционных алгоритмов, которые делают пошаговые шаги и вычисляют градиент (то есть направление и крутизну наклона функции в данной точке), NAG вычисляет градиент в точке с опережением, позволяя алгоритмам принимать более обоснованное финальное решение об обновлении. Предвосхищая положение параметра, а не опираясь на его текущее состояние в момент вычисления, NAG помогает более эффективно направлять шаги алгоритма, быстрее сходиться к цели и сглаживать присущие ему колебания при приближении к минимуму функции, что ведет к более быстрому достижению решения.
Проще говоря, специалисты по теории оптимизации задавались вопросом, почему рост импульса алгоритма существенно не сказывается на его стабильности. При обучении моделей машинного обучения или решении инженерных задач эффективность критически важна, чтобы не тратить впустую вычислительные ресурсы и не получать результаты слишком медленно.
«Расширяя арсенал теоретических инструментов в теории оптимизации, мы коллективно проектируем алгоритмы, оптимизированные с точки зрения эффективности, стабильности и безопасности», — отметил Рю. Он и несколько его коллег пытались разгадать эту тайну за несколько лет до этого, но им не удалось получить математическое доказательство, раскрывающее решение.
Изучение проблемы с помощью GPT‑5
Продолжая давать подсказки и задавать вопросы GPT‑5 — часто глубоко за полночь, когда дети уже спали, — Рю был впечатлен ее креативностью и нетрадиционными подходами к решению этой фундаментальной задачи. Однако, перепроверяя работу модели, он находил ошибки в ее рассуждениях. Проблема оставалась нерешенной.
«У нее был интересный подход, о котором я сам не подумал, — рассказывает он, сравнивая это с общением с живыми людьми, чье мнение так ценно для него при мозговом штурме. — Так что я решил: ладно, пойдем дальше».
На протяжении всего этого процесса GPT‑5 не изобретала новые математические инструменты и принципы. Она великолепно владела уже существующими инструментами и находила уравнения, решения и идеи в статьях из смежных областей, на которые Рю в противном случае мог бы и не наткнуться. «Меня поражали те странные вещи, которые она пыталась применить. Ее способность черпать информацию из такого огромного массива прочитанного и изученного материала делает ее поистине мощной».
Рю продолжал формулировать запросы, рассматривая GPT‑5 как соавтора, с которым можно обмениваться идеями. Он заметил, что модель продолжала генерировать творческие задумки, толкающие его в новых и неожиданных направлениях. Когда он ставил задачу, она предлагала вектор движения — правильный или ошибочный, —, а Рю быстро оценивал его. Если идея казалась тупиковой, он тут же менял направление; если в ней чувствовался потенциал, он шел дальше, чтобы посмотреть, к чему это приведет. Сама скорость этого процесса сократила то, на что обычно уходят дни, до считанных часов.
«GPT‑5 была весьма необычным соавтором, — говорит он, — тем, кто мог предложить что-то совершенно неожиданное, прямо из ниоткуда».
«Математические исследования устроены так: у вас есть идеи, и когда у вас или ваших коллег появляется сырая задумка, у вас появляется и предчувствие того, сработает она или нет. Именно здесь партнерство между искусственным интеллектом и человеком может проявить себя наилучшим образом».
GPT‑5 позволила Рю рассмотреть новые потенциальные пути поиска доказательства, о которых он бы сам не подумал — либо потому, что не видел связи, либо потому, что они относились к смежной математической дисциплине, с которой он был знаком хуже. По мере того как Рю продолжал исследовать идеи вместе с GPT‑5, все более очевидным становилось одно: такие системы могут быть мощными инструментами для поиска в паре с предметной экспертизой и тщательной верификацией.
«Математические исследования устроены так: у вас есть идеи, и когда у вас или ваших коллег появляется сырая задумка, у вас появляется и предчувствие того, сработает она или нет — своего рода математическая интуиция, — поясняет Рю. — Именно здесь партнерство между искусственным интеллектом и человеком может проявить себя наилучшим образом».
Он продолжил применять этот подход: запрашивать у LLM новые идеи, отсеивать те, которые казались ему тупиковыми, и преследовать те, в которых ощущал потенциал.
Кроме того, скорость, с которой он и GPT‑5 генерировали, оценивали, исследовали и исчерпывали идеи, оказалась значительно выше, чем если бы он работал в одиночку. Примерно после двенадцати часов сотрудничества с GPT‑5, распределенных на три дня, и почти дюжины испробованных подходов один из исследуемых методов наконец сработал.
Переломный момент
Этот переломный момент наступил, когда модель предложила способ перестройки уравнений, управляющих методом NAG. Само по себе предложение в исходном виде было неверным, но Рю уловил в нем структурную особенность, которая показалась ему значимой, самостоятельно развил ее более строго и начал задавать модели точечные вопросы, чтобы проверить жизнеспособность потенциального доказательства. Именно эта линия рассуждений в итоге легла в основу финального доказательства, которое он написал сам.
«Это было сюрреалистичное чувство», — признается он, сравнивая этот опыт с работой с толковым студентом, который выдвигает идеи, задает вопросы и устраивает мозговые штурмы. «Работать с GPT‑5 было поистине интеллектуально увлекательно, — говорит Рю. — Мне приходилось сохранять бдительность и проверять шаги вычислений, но это все равно было намного быстрее, чем делать вычисления самостоятельно».
Хотя процесс шел значительно быстрее, он также требовал тщательной верификации. GPT‑5 часто выдавала аргументы, которые выглядели правдоподобно, но не выдерживали проверки при детальном рассмотрении. Рю изучал каждое предложение, отбраковывал то, что не работало, и развивал то, что содержало математически ценную идею. Рабочий процесс опирался на его собственное суждение — как для выявления перспективных направлений, так и для понимания того, когда исчерпан весь потенциал конкретной линии рассуждений.
Рю использовал GPT‑5 как инструмент и уделял много внимания пониманию принципов ее работы, чтобы четко представлять, в чем она сильна, а в чем нет. Прося GPT‑5 проверить работу, Рю добивался лучших результатов, если открывал новый чат, а не просил модель проверить себя в рамках той же беседы. Перенос результатов в свежие диалоги помогал минимизировать накопление ошибок. После этого, по его словам, «можно сесть и тщательно проверить все детали самостоятельно», как это обычно и делается в исследовательском процессе.
На каждой сессии Рю формулировал вопрос, запрашивал у GPT‑5 направление или метод и получал в ответ математический аргумент — порой верный, порой ошибочный, а порой совершенно неожиданный. Хотя несколько сгенерированных GPT‑5 аргументов оказались неверными, она превосходно справлялась с тем, что люди обычно находят утомительным для когнитивной сферы: быстро предлагала и отбраковывала вариации одной и той же идеи, сканировала пространство возможных аргументов и привлекала математический инструментарий из смежных подразделов для исчерпывающего поиска ответов. По словам Рю, «несколько ключевых шагов, которые в конечном итоге сыграли решающую роль, были предложены именно GPT‑5», хотя сама по себе она не могла собрать их в единое целостное доказательство.
Эта динамика напоминала исследование огромного лабиринта в компании спутника, способного мгновенно указывать новые тропы. Большинство путей вели в никуда, но скорость исследования позволяла быстрее обнаруживать тупики. В классических исследовательских сценариях на отсеивание тупиковой идеи может уйти уйма времени.
Главным преимуществом использования GPT‑5 в этом исследовании стало общее ускорение процесса. Скорость, с которой модель способна оперировать гигантской базой литературы, позволила Рю быстро отбросить тупиковые подходы и сосредоточиться на перспективных. Примерно за двенадцать часов Рю решил задачу, на которую, по его оценкам, могли уйти недели целенаправленной работы, реши он двигаться в таком темпе в одиночку.
«Но этого бы никогда не произошло, — говорит он. — Потому что после трех дней упорных попыток я бы сдался. Как математик, вы должны принимать решение о том, стоит ли бросать задачу и переходить к следующей».
Однако с GPT‑5 у него возникло ощущение стремительного прогресса, что и заставляло его двигаться дальше. По его мнению, это привело к психологическому сдвигу: непрекращающийся поток новых идей создавал ощущение, что разгадка близка, дольше, чем это было бы при обычных обстоятельствах.
Что это значит для дальнейших исследований Рю
Будучи профессором, Рю очень серьезно относится к взаимосвязи между ИИ и обучением. Это инструмент, который нужно понимать и грамотно использовать, чтобы извлекать из него пользу. Любой, кто пользуется ИИ, должен обладать достаточной свободой владения исследуемым предметом, чтобы понимать, когда модель предлагает дельную идею, когда — неверную, а когда допускает ошибки.
Препринт статьи Рю, посвященной решению проблемы NAG, находится в открытом доступе и проходит процедуру рецензирования, которая обычно занимает около 12–18 месяцев. Стремясь быть понятным более широкому математическому сообществу, Рю написал статью в традиционном стиле. GPT‑5 выдвинула несколько ключевых идей, сформировавших итоговое доказательство, но для самой статьи Рю привел всё в порядок и написал текст лично, сопроводив его необходимым повествованием. GPT‑5 упоминается в заголовке и аннотации, а ее вклад подробно описан по ходу статьи. Долго размышляя над тем, как выразить благодарность GPT‑5 за помощь в решении этой задачи, он в конце концов пришел к выводу, что модель использовалась именно как инструмент, поэтому GPT‑5 не указана в качестве соавтора.
«Я хочу, чтобы это стало примером для классических математиков, демонстрирующим потенциальную ценность использования GPT‑5. Для этого, как мне казалось, следовало придерживаться классического стиля публикации журнальных статей и принятых в академической среде стандартов написания работ», — говорит Рю.
Опыт Рю — лишь один из примеров того, как GPT‑5 может помочь ярчайшим умам планеты находить решения самых сложных и интригующих задач человечества. Его успех во многом опирался на глубокие экспертные знания в области математики и готовность перепроверять рассуждения и утверждения LLM по два, три и четыре раза на каждом этапе пути.
В конечном счете Рю считает, что применение исследователями искусственного интеллекта продуктивными и позитивными способами пойдет всем только на пользу. Он ожидает, что разнообразие идей из смежных областей станет более доступным, и расценивает это как положительную тенденцию.
«Будьте терпеливы, — советует Рю. — Если вы хотите, чтобы модель потерпела неудачу, она потерпит неудачу. Но если ваш настрой заключается в том, чтобы работать с моделью ради извлечения пользы, вы с гораздо большей вероятностью ее получите».
«Этот опыт действительно оказал на меня огромное влияние. Впредь я намерен постоянно использовать ИИ в своих математических исследованиях, — говорит Рю. — И у меня нет ни одной причины этого не делать».
Полный текст статьи читайте на OpenAI
