Бывший глава исследовательского подразделения по безопасности искусственного интеллекта Anthropic Мринанк Шарма (Mrinank Sharma) на этой неделе опубликовал в сети письмо, которое он отправил своим коллегам перед уходом из компании. В нём он объяснил своё решение покинуть Anthropic, а также изложил свои планы на будущее.
Источник изображения: Anthropic
«Я добился здесь всего, чего хотел», — сказано в письме Шарма, где также упоминаются проекты по разработке защитных механизмов, направленных на снижение рисков биотерроризма с помощью ИИ, и работа по изучению воздействия нейросетей на человечество.
В ходе своей деятельности Шарма понял, что пришло время двигаться дальше, потому что он постоянно думал об опасности, которую может нести ИИ, биологическом оружии и «череде взаимосвязанных кризисов, которые разворачиваются прямо сейчас». «Похоже, мы приближаемся к порогу, за которым наша мудрость должна расти пропорционально нашей способности влиять на мир, иначе мы столкнёмся с последствиями», — считает Шарма.
«За всё время, что я здесь проработал, я неоднократно видел, как трудно позволить нашим ценностям по-настоящему определять наши действия. Я видел это в себе, внутри компании, где мы постоянно сталкиваемся с давлением, заставляющим отказываться от самого важного, и в обществе в целом», — добавил Шарма.
В дальнейшем он планирует заниматься работой, соответствующей его ценностям, изучать поэзию и др. Отметим, что за последнее время Anthropic покинули несколько ведущих разработчиков. Полный текст письма Шарма опубликован в материале Business Insider.
Сама же Anthropic ведёт переговоры о привлечении дополнительных инвестиций, после чего рыночная стоимость компании может вырасти до $350 млрд. На прошлой неделе состоялся релиз Claude Opus 4.6 — обновлённой ИИ-модели, предназначенной для повышения офисной производительности и эффективности программирования, с увеличенным контекстным окном для обработки документов большего объёма и поддержкой выполнения более сложных задач.