MWC 2018
2018
Computex
IFA 2018
OpenAI готовится к масштабной публикации на GitHub сотен решений нерешённых ранее математических задач. Это намерение вызвало критику со стороны академического сообщества, которое считает такой подход нарушением научной этики, и что подобные публикации должны сопровождаться полноценными статьями, а не постами в соцсетях.
Источник изображения: Grok
В августе OpenAI собрала около 40 математиков, чтобы обсудить, как действовать в ситуации, когда искусственный интеллект явно превосходит возможности людей в этой области и попросить совета относительно публикации полученных результатов. При этом, по сообщению издания Wired, компания заверила, что не станет обнародовать все решения разом, хотя официальный представитель OpenAI Линдси Маккаллум (Lindsay McCallum) утверждает, что ей ничего не известно о таких заверениях.
Участники встречи предложили публиковать результаты в виде научных работ с подробным объяснением методов и полученных доказательств. По мнению математика Северо-Западного университета (Northwestern University) в США Брайны Кра (Bryna Kra), это позволило бы другим исследователям проверить результаты, разобраться в них и использовать в дальнейшей работе. Однако, по её словам, OpenAI не последовала этой рекомендации и вместо этого собирается разместить сотни результатов на GitHub. «Судя по всему, эти пожелания были проигнорированы», — отметила она.
Ситуация усугубилась после инцидента в сентябре, когда разработчики задействовали тысячи ИИ-агентов для решения «Задачи тысячелетия», за которую назначена награда в 1 миллион долларов. Математик и профессор Нью-Йоркского университета Тристан Бакмастер (Tristan Buckmaster) обвинил компанию в присвоении результатов, над которыми он работал совместно с сотрудником Anthropic Левентом Альпёге (Levent Alpöge), а переговоры о соавторстве сопровождались давлением, включая угрозы карьере исследователя со стороны сотрудника OpenAI Себастьяна Бубека (Sébastien Bubeck).
Многие учёные воспринимают действия технологических гигантов как проявление монополии и пренебрежение к коллективному научному труду. Профессор Нестор Гийен (Nestor Guillen) отметил распространение мнения о «мафиозном поведении» корпораций, сосредоточивших огромные вычислительные ресурсы в своих руках, а Брайна Кра подчеркнула, что публикации решений в формате твитов не способствуют развитию экосистемы, на данных которой и обучаются ИИ-модели.
В ответ на растущее напряжение в научной среде OpenAI создала консультативную группу по математике и искусственному интеллекту, однако математики отмечают отсутствие реальных изменений в действиях компании. В частности, разработчики продолжают игнорировать специализированные репозитории, такие как Hexagon и Palomar, созданные сообществом для систематизации доказательств, полученных с помощью инструментов ИИ.
Внутри OpenAI некоторые сотрудники высказывают мнение, что искусственный интеллект может сделать традиционную математику неактуальной и профессия находится под угрозой. Однако тот же Бубек считает, что технология наоборот расширит возможности и поможет исследователям решать более амбициозные задачи. «Я вижу в этом возможность расширить сферу деятельности математиков и повысить значимость их работы», — утверждает он. Математики, в свою очередь, признают потенциал новых инструментов, но требуют академического подхода к публикации результатов.
Источник:
