MWC 2018
2018
Computex
IFA 2018
Двадцать пять ведущих математиков подписали открытое письмо, в котором говорится, что компании, занимающиеся разработкой технологий искусственного интеллекта, ставят под угрозу интеллектуальный труд учёных, пытаясь обойти друг друга в решении известных математических задач. Все первоначальные подписанты письма являются обладателями медали Филдса — самой престижной награды в области математики.
Источник изображения: Brecht Corbeel / unsplash.com
На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер (Tristan Buckmaster) обвинил OpenAI в том, что компания оказывала на него давление, требуя не указывать среди авторов одной из работ коллегу из Anthropic, вместе с которым он занимался решением важной математической задачи. Бакмастер также задался вопросом, не могла ли OpenAI использовать материалы, которые учёные загружали в Codex, чтобы затем получить собственное прорывное доказательство в ходе продолжительных вычислений.
В четверг OpenAI отказалась от спонсорства математического мероприятия в Калифорнийском технологическом институте. Это произошло после того, как работа компании подверглась критике со стороны исследователей этого института.
Способность ИИ-моделей решать важнейшие нерешённые математические задачи может принести человечеству огромную пользу. Однако авторы письма уверены, что это произойдёт только в том случае, если найденные решения смогут понять и объяснить представители математического сообщества, а в конечном счёте — и весь остальной мир.
«Зачастую о таких решениях объявляют в спешке. На то, чтобы должным образом оформить результат работы, выделить основные методы и идеи, а также сослаться на соответствующие работы других учёных, просто не остаётся времени. Как и в любой творческой профессии, это порождает серьёзные вопросы об авторстве и плагиате. Более того, без участия математиков, которые должны заниматься развитием и включением новых идей в математический канон, зародившиеся с помощью ИИ идеи никогда не обретут полноценную жизнь, а важнейшая цепочка передачи знаний между математиками будет утеряна», — говорится в письме. Авторы TechCrunch отмечают, что доказательство OpenAI пока не прошло независимую проверку.
На этом фоне другие математики стали проявлять большую осторожность. Они всё чаще задаются вопросом, могла ли OpenAI использовать сведения об их взаимодействии с Codex при создании новых ИИ-моделей. Существуют реальные опасения, что культура открытых исследований окажется под угрозой. Если ведущая ИИ-лаборатория обнаружит перспективный путь к открытию, она может потратить десятки миллионов долларов на работу языковых моделей, чтобы опередить первоначальных исследователей и первой представить доказательство. Такая динамика будет подталкивать научное сообщество к большей секретности.
Письмо математиков последовало за Лейденской декларацией, которую рабочая группа учёных опубликовала в июне. В этом документе также рассматривалось, как полученные с помощью больших языковых моделей доказательства могут изменить работу математиков, и приводились рекомендации для учёных, научных учреждений и властей.
Ценность математики заключается не только в самих доказательствах и признании авторства. Важна и окружающая их интеллектуальная среда, в которой обучаются студенты, появляются новые вопросы и идеи, а результаты исследований становятся частью общей системы человеческих знаний.
«Проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с проблемами других научных и творческих профессий. Они указывают на вопрос, который может встать перед всем человечеством: как сделать так, чтобы, пока ИИ меняет способы выполнения работы, мы не утратили изначальную цель этой работы», — говорится в письме математиков.
Источник:
