Конец математики: 40 ведущих математиков собрались на закрытой встрече OpenAI
Заголовок: Конец математики: 40 ведущих математиков на закрытой встрече в OpenAI
Только что получивший Филдсовскую премию Джейкоб Цимерман объявил о переходе в OpenAI для исследований в области безопасности ИИ. В начале августа он и исследователь OpenAI Себастьен Бюбек организовали в штаб-квартире компании закрытый саммит с участием около 40 математиков. Один из докладов назывался «Конец математики».
Профессор Дэниел Литт заявил, что мир может прийти к ситуации, где не останется высококачественных математических исследований, а человеческий экспертный опыт в этой области полностью исчезнет. Математик MIT Дрю Сазерленд выразился более прямо: возможно, математики — это первые жертвы, «канарейки в угольной шахте». Математика выбрана в качестве испытательного полигона для ИИ, так как она служит индикатором высоких интеллектуальных достижений.
Непосредственным фоном встречи стал поток достижений ИИ в математике. В мае невыпущенная модель OpenAI опровергла «гипотезу единичных расстояний» — давнюю проблему в комбинаторной геометрии, которую Цимерман назвал публикуемым в любом журнале результатом. В августе OpenAI анонсировала 10 новых открытий в математике и информатике, сделанных с помощью ИИ. В Anthropic сотрудник с помощью Claude создал искомые, но никогда не построенные пары ортогональных векторов в 668-мерном гиперкубе, опубликовав результат в виде поста из 24 000 символов.
Такие результаты часто обходят традиционный путь публикации (arXiv, рецензирование). Например, предприниматель Дмитрий Рыбин, подбадривая ChatGPT «сделать прорыв», получил от модели контрпример к одной гипотезе о потоках в сетях и опубликовал это в Twitter во время просмотра фильма. На прошлой неделе Anthropic сообщила, что внутренняя версия Claude по настоянию исследователя добилась нового результата в задаче, связанной с гипотезой Римана.
Реакция математического сообщества разделилась. В июне было опубликовано «Лейденское обращение», под которым подписались более 3000 математиков, призывающее к ответственному использованию ИИ. Другие выступают за полный отказ от ИИ. Участница саммита и соавтор обращения, профессор Брина Кра, подчеркивает, что суть математики — в понимании, а не только в доказательстве. Математик Мелани Вуд, написавшая «человеческое» доказательство для результата OpenAI о гипотезе единичных расстояний, отмечает, что современные ИИ плохо объясняют самые сложные части доказательств.
Немецкий математик Андреас Том, чьи работы дополнило одно из открытий ИИ, считает, что ИИ умно решает проблемы, но новые концепции все еще появляются благодаря человеческому участию.
Организатор саммита Бюбек описал четыре возможных будущего: математика станет похожа на разработку ПО (масштабная коллаборация), на физику (усилия сместятся на создание ИИ-«ускорителей»), на кураторство в музее (ИИ генерирует, человек отбирает) или математики массово перейдут в сферу безопасности ИИ. Он подчеркнул, что математика имеет смысл, только когда математики чему-то учатся.
Участники не пришли к консенсусу. Цимерман отметил, что у математического сообщества пока нет единой позиции, и цель встречи — начать диалог. Его собственный переход в OpenAI символизирует дилемму, стоящую перед областью. Его следующие шаги могут стать еще более значимым сигналом, чем доклады на этом саммите.
marsbit35 мин. назад