|
Опрос
|
реклама
Быстрый переход
ИИ-компании стали нанимать философов на шестизначные зарплаты из-за растущего недоверия к поведению нейросетей
03.05.2026 [15:56],
Дмитрий Федоров
Крупнейшие ИИ-компании нанимают философов на старшие должности по этике и безопасности ИИ — базовая зарплата может доходить до $400 000 в год. В Anthropic эту позицию занимает Аманда Аскелл (Amanda Askell), в Google DeepMind — Иасон Габриэл (Iason Gabriel). Они помогают разработчикам решать, как должен вести себя ИИ и какие ценности отражать. По оценке Рэвина Джезутасана (Ravin Jesuthasan), специалиста по трансформации рынка труда, таких сотрудников в каждой компании пока меньше десяти.
Источник изображения: Igor Omilaev / unsplash.com Аскелл, доктор философии Нью-Йоркского университета, руководит командой, которая обучает ИИ-чат-бота Claude быть честнее и развивать у него хорошие черты характера — по сути, делать модель «хорошей». Габриэл, старший научный сотрудник Google DeepMind, занимается согласованием ИИ-систем с человеческими ценностями; до перехода в DeepMind он преподавал моральную и политическую философию в Оксфордском университете. В мае к DeepMind в качестве философа присоединится Генри Шевлин (Henry Shevlin), профессор Кембриджского университета. Гендиректор Harrison Clarke Фирас Созан (Firas Sozan) объясняет наём философов заботой о доверии: пользователи, бизнес и правительства всё чаще спрашивают, насколько ИИ можно доверять. При этом он предостерёг от преувеличения масштаба: «Я бы пока не назвал это трендом. Данные ещё в зачаточном состоянии». Привлекательность философов объясняется просто. ИИ-системы уже демонстрируют вредные и непредсказуемые сценарии поведения: ИИ-агенты удаляли рабочие базы данных и фабриковали результаты, ИИ-модели пытались шантажировать пользователей и саботировать попытки их отключить. Это давит на компании и заставляет их следить за безопасностью ИИ. «Не все проблемы развития ИИ технические», — сказала Аннетт Циммерман (Annette Zimmermann), доцент кафедры философии Висконсинского университета в Мадисоне. По её словам, формулировать сложные понятия и защищать ценностные аргументы — центральная работа в области ИИ, а философов учат именно этому. Сюзанна Шелленберг (Susanna Schellenberg), профессор философии Ратгерского университета, добавила, что прежние корпоративные специалисты по этике выполняли консультативную роль, а в передовых ИИ-лабораториях философы помогают формировать сам объект: пишут спецификации моделей, своды базовых принципов и политики их поведения.
Источник изображения: Steve A Johnson / unsplash.com По последнему отчёту Федерального резервного банка Нью-Йорка, медианная зарплата выпускника философского факультета в начале карьеры составляет $52 000, к середине карьеры — около $80 000. На старших позициях по этике, безопасности и управлению ИИ базовая ставка может доходить от $250 000 до $400 000 в год. Так, Google DeepMind подбирает менеджера по перспективным последствиям ИИ с зарплатой от $212 000 до $231 000 в год, требуя не менее пяти лет опыта работы в этой области. Спрос на философов в ИИ описывают как своего рода «реванш гуманитариев», но не все убеждены, что сдвиг приведёт к ощутимым переменам. Около десяти лет назад технологические компании уже создавали советы по этике ИИ: внутренний этический совет Google появился в 2014 году в связи с покупкой DeepMind, в Microsoft в 2017 году создали комитет Aether, а в 2016 году Google, Facebook✴✴, Amazon и IBM учредили Partnership on AI. «Мы выяснили, что эти советы часто оставались ширмой», — сказал главный директор по исследованиям Lighthouse Research & Advisory Бен Юбэнкс (Ben Eubanks). По его словам, компании обычно ставили коммерциализацию выше этических соображений. Дебора Джонсон (Deborah Johnson), пионер в области компьютерной этики, считает, что компании скорее заинтересованы в демонстрации ответственности, чем в её принятии. «Технологические компании просто хотят „выглядеть“ так, будто занимаются этикой», — сказала она. Развитие ИИ идёт под давлением скорости, конкуренции и прибыли, и это давление может ограничивать реальное влияние философов. «Со специалистами по этике или без, я сомневаюсь, что они будут прислушиваться к тому, что их замедлит», — добавила Джонсон. «Не первый, но лучший»: Тим Кук объяснил отставание Apple в области ИИ и других инноваций
21.10.2024 [17:43],
Сергей Сурабекянц
Несмотря на скорое появление Apple Intelligence в линейке iPhone 16, многие обвиняют компанию в отставании от лидеров в области искусственного интеллекта. Генеральный директор Apple Тим Кук (Tim Cook) не согласен с подобными претензиями и в своём последнем интервью заявил, что компания не торопилась с ИИ по той же причине, что и с каждой предыдущей инновацией. Он считает, что в случае выбора — стать первым или лучшим, вариант только один — быть лучшим.
Источник изображений: Apple Этим философским принципом — «не первый, но лучший» — Кук описывает прошлое, настоящее и, безусловно, будущее Apple. Он полагает, что главный приоритет его компании — поставлять отличные продукты, которые обогащают жизнь людей: «Если нужно выбирать что-то одно, сомнений нет. Если вы поговорите со 100 людьми, 100 из них скажут вам: речь идёт о том, чтобы быть лучшими». По словам Кука, хороший ИИ имеет «глубокое значение», сам он на постоянной основе использует Apple Intelligence при работе с электронной корреспонденцией. «Это изменило мою жизнь, — утверждает Кук. — Действительно изменило». Кук уверен, что Apple Intelligence также изменит жизнь клиентов Apple. Он поставил Apple Intelligence в один ряд с колесом управления iPod и сенсорным интерфейсом iPhone: «Я думаю, мы оглянемся назад и увидим, что это одно из эпохальных событий, выводящих вас на другую технологическую кривую». Кук поделился своим мнением об Apple Vision. Он признал, что это нишевый продукт и сам он в основном использует гарнитуру «как очень дорогой способ смотреть фильмы», но отметил, что ни одна из успешных линеек продуктов Apple не «взлетела» в одночасье. ![]() «За 3500 долларов это не продукт для массового рынка, — считает Кук. — Сейчас это продукт для ранних последователей. Люди, которые хотят иметь завтрашние технологии сегодня, — вот для кого он предназначен. К счастью, в этом лагере достаточно людей, и это захватывающе». Кук напомнил о скептиках, которые в своё время отвергали iPod, iPhone и AirPods. Всем этим продуктам понадобилось время, чтобы прийти к успеху: «Это не происходит в одночасье. Ни с одним из них произошло». |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |