Математические решения OpenAI пока не соответствуют стандартам этой области

Когда OpenAI опубликовала на этой неделе сотни заявленных решений некоторых из самых сложных математических задач в мире, лаборатория передового уровня заявила, что консультировалась с консультативной группой ведущих математиков, чтобы избежать скандала, который возник в прошлый раз, когда одна из ее моделей решила давнюю проблему в этой области.

Однако OpenAI не соответствовала этим стандартам, особенно в том, что касается подчеркнутой математиками необходимости человеческого понимания математического результата. Это особенно тревожно после публикации новой статьи, в которой были выявлены расхождения между изложенным на естественном языке и формально выраженным решением задачи стоимостью миллион долларов, которую, как утверждается, решили модели OpenAI.

Консультативная группа по математике и искусственному интеллекту (AGMAI), действующая при Институте перспективных исследований Принстонского университета, состоит из девяти известных исследователей из учреждений по всему миру.

В конце сентября организация опубликовала рекомендации для лабораторий передового уровня, решающих математические задачи. В заявлении по поводу последней подборки доказательств AGMAI отметила, что «в конечном счете математическому сообществу предстоит оценить, насколько успешно были выполнены наши рекомендации».

Однако первой просьбой организации было «прекратить тестировать передовые математические задачи на закрытых моделях». В публикации OpenAI прямо говорится, что компания оценивает свои закрытые модели с помощью открытых исследовательских задач в математике.

Консультативная группа не ответила на запрос TechCrunch о более тщательной оценке последней публикации доказательств OpenAI. Лаборатория явно следовала некоторым ее принципам, включая публикацию результатов как можно скорее и предоставление информации о том, как модели пришли к своим выводам. Но не всем: лишь 10 из 719 рукописей сопровождались публикацией цепочки рассуждений модели.

Для статей, которые люди не понимают, математики рекомендовали формализовать доказательства — однако лишь 42% опубликованных OpenAI доказательств прошли этот процесс.

В конечном счете по-прежнему неясно, берет ли OpenAI при публикации своих доказательств «на себя ответственность за то, чтобы за этим последовало человеческое понимание», как того требуют принципы AGMAI. AGMAI предположила, что OpenAI следует помочь финансировать работу математиков-людей, которые будут необходимы для того, чтобы решения лаборатории приобрели какое-либо реальное значение.

«Задачи автономно решают пользователи, работающие с ИИ, которые после того, как их первоначальная цель “решена”, не проявляют интереса к более широкой области и недостаточно хорошо понимают вывод ИИ, чтобы отвечать на вопросы о результате, выступать с докладами или иным образом взаимодействовать с остальными представителями этой области», — написал в социальных сетях после публикации Теренс Тао, известный математик, критиковавший подход OpenAI.

Эту проблему иллюстрирует статья, опубликованная на этой неделе математиками из Кембриджского университета и Лондонского королевского колледжа, в которой ставится под сомнение подход лабораторий передового уровня к этим задачам.

Когда модели ИИ решают математические задачи, они сначала создают объяснение на «естественном языке», а затем пытаются выразить этот результат на Lean — языке программирования, который теоретически подтверждает точность доказательства, компилируя его в виде кода.

Однако в том, как модели переводят свои доказательства на естественном языке в код, могут возникать проблемы; в этой статье задокументированы как минимум два расхождения между доказательством на естественном языке и кодом Lean, лежащим в основе решения, предложенного OpenAI для задачи, выведенной из уравнений Навье — Стокса, описывающих сложное поведение жидкостей.

Эти расхождения не обязательно опровергают ни одно из решений, но поднимают вопросы о том, можем ли мы просто полагаться на модели в формализации собственных решений без участия человека. Именно поэтому AGMAI попросила OpenAI «включать машиночитаемые метаданные, сопоставляющие материалы на естественном языке и формальные материалы» — лаборатория передового уровня этого не сделала в рамках данных публикаций.

«Из-за феномена ошибочных переводов — о чем говорится в этой статье — доказательству на естественном языке от OpenAI и
другим автоформализованным доказательствам на Lean не следует изначально доверять без того же процесса экспертной оценки и
тщательного изучения, которым подвергаются другие доказательства», — заключают авторы статьи «Потерянные при переводе».

Математики подчеркивают, что когда новые результаты открывают люди, они берут за них ответственность и взаимодействуют с более широким сообществом посредством статей, докладов и семинаров. Этот процесс углубляет понимание решений, выявляет стратегии, которые можно использовать для решения других задач, и позволяет применять новые знания в практических областях.

Когда модели предлагают решить сложную задачу, а они выдают решение, «в момент публикации человеческого понимания этих решений нет, и теперь начинается работа», — сообщила TechCrunch профессор математики Гарвардского университета Мелани Вуд.