Сегодня 03 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → философия

ИИ-компании стали нанимать философов на шестизначные зарплаты из-за растущего недоверия к поведению нейросетей

Крупнейшие ИИ-компании нанимают философов на старшие должности по этике и безопасности ИИ — базовая зарплата может доходить до $400 000 в год. В Anthropic эту позицию занимает Аманда Аскелл (Amanda Askell), в Google DeepMind — Иасон Габриэл (Iason Gabriel). Они помогают разработчикам решать, как должен вести себя ИИ и какие ценности отражать. По оценке Рэвина Джезутасана (Ravin Jesuthasan), специалиста по трансформации рынка труда, таких сотрудников в каждой компании пока меньше десяти.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

Аскелл, доктор философии Нью-Йоркского университета, руководит командой, которая обучает ИИ-чат-бота Claude быть честнее и развивать у него хорошие черты характера — по сути, делать модель «хорошей». Габриэл, старший научный сотрудник Google DeepMind, занимается согласованием ИИ-систем с человеческими ценностями; до перехода в DeepMind он преподавал моральную и политическую философию в Оксфордском университете. В мае к DeepMind в качестве философа присоединится Генри Шевлин (Henry Shevlin), профессор Кембриджского университета.

Гендиректор Harrison Clarke Фирас Созан (Firas Sozan) объясняет наём философов заботой о доверии: пользователи, бизнес и правительства всё чаще спрашивают, насколько ИИ можно доверять. При этом он предостерёг от преувеличения масштаба: «Я бы пока не назвал это трендом. Данные ещё в зачаточном состоянии».

Привлекательность философов объясняется просто. ИИ-системы уже демонстрируют вредные и непредсказуемые сценарии поведения: ИИ-агенты удаляли рабочие базы данных и фабриковали результаты, ИИ-модели пытались шантажировать пользователей и саботировать попытки их отключить. Это давит на компании и заставляет их следить за безопасностью ИИ.

«Не все проблемы развития ИИ технические», — сказала Аннетт Циммерман (Annette Zimmermann), доцент кафедры философии Висконсинского университета в Мадисоне. По её словам, формулировать сложные понятия и защищать ценностные аргументы — центральная работа в области ИИ, а философов учат именно этому. Сюзанна Шелленберг (Susanna Schellenberg), профессор философии Ратгерского университета, добавила, что прежние корпоративные специалисты по этике выполняли консультативную роль, а в передовых ИИ-лабораториях философы помогают формировать сам объект: пишут спецификации моделей, своды базовых принципов и политики их поведения.

 Источник изображения: Steve A Johnson / unsplash.com

Источник изображения: Steve A Johnson / unsplash.com

По последнему отчёту Федерального резервного банка Нью-Йорка, медианная зарплата выпускника философского факультета в начале карьеры составляет $52 000, к середине карьеры — около $80 000. На старших позициях по этике, безопасности и управлению ИИ базовая ставка может доходить от $250 000 до $400 000 в год. Так, Google DeepMind подбирает менеджера по перспективным последствиям ИИ с зарплатой от $212 000 до $231 000 в год, требуя не менее пяти лет опыта работы в этой области.

Спрос на философов в ИИ описывают как своего рода «реванш гуманитариев», но не все убеждены, что сдвиг приведёт к ощутимым переменам. Около десяти лет назад технологические компании уже создавали советы по этике ИИ: внутренний этический совет Google появился в 2014 году в связи с покупкой DeepMind, в Microsoft в 2017 году создали комитет Aether, а в 2016 году Google, Facebook✴, Amazon и IBM учредили Partnership on AI. «Мы выяснили, что эти советы часто оставались ширмой», — сказал главный директор по исследованиям Lighthouse Research & Advisory Бен Юбэнкс (Ben Eubanks). По его словам, компании обычно ставили коммерциализацию выше этических соображений.

Дебора Джонсон (Deborah Johnson), пионер в области компьютерной этики, считает, что компании скорее заинтересованы в демонстрации ответственности, чем в её принятии. «Технологические компании просто хотят „выглядеть“ так, будто занимаются этикой», — сказала она. Развитие ИИ идёт под давлением скорости, конкуренции и прибыли, и это давление может ограничивать реальное влияние философов. «Со специалистами по этике или без, я сомневаюсь, что они будут прислушиваться к тому, что их замедлит», — добавила Джонсон.

«Не первый, но лучший»: Тим Кук объяснил отставание Apple в области ИИ и других инноваций

Несмотря на скорое появление Apple Intelligence в линейке iPhone 16, многие обвиняют компанию в отставании от лидеров в области искусственного интеллекта. Генеральный директор Apple Тим Кук (Tim Cook) не согласен с подобными претензиями и в своём последнем интервью заявил, что компания не торопилась с ИИ по той же причине, что и с каждой предыдущей инновацией. Он считает, что в случае выбора — стать первым или лучшим, вариант только один — быть лучшим.

 Источник изображения: Apple

Источник изображений: Apple

Этим философским принципом — «не первый, но лучший» — Кук описывает прошлое, настоящее и, безусловно, будущее Apple. Он полагает, что главный приоритет его компании — поставлять отличные продукты, которые обогащают жизнь людей: «Если нужно выбирать что-то одно, сомнений нет. Если вы поговорите со 100 людьми, 100 из них скажут вам: речь идёт о том, чтобы быть лучшими».

По словам Кука, хороший ИИ имеет «глубокое значение», сам он на постоянной основе использует Apple Intelligence при работе с электронной корреспонденцией. «Это изменило мою жизнь, — утверждает Кук. — Действительно изменило».

Кук уверен, что Apple Intelligence также изменит жизнь клиентов Apple. Он поставил Apple Intelligence в один ряд с колесом управления iPod и сенсорным интерфейсом iPhone: «Я думаю, мы оглянемся назад и увидим, что это одно из эпохальных событий, выводящих вас на другую технологическую кривую».

Кук поделился своим мнением об Apple Vision. Он признал, что это нишевый продукт и сам он в основном использует гарнитуру «как очень дорогой способ смотреть фильмы», но отметил, что ни одна из успешных линеек продуктов Apple не «взлетела» в одночасье.

«За 3500 долларов это не продукт для массового рынка, — считает Кук. — Сейчас это продукт для ранних последователей. Люди, которые хотят иметь завтрашние технологии сегодня, — вот для кого он предназначен. К счастью, в этом лагере достаточно людей, и это захватывающе».

Кук напомнил о скептиках, которые в своё время отвергали iPod, iPhone и AirPods. Всем этим продуктам понадобилось время, чтобы прийти к успеху: «Это не происходит в одночасье. Ни с одним из них произошло».


window-new
Soft
Hard
Тренды 🔥
Вопреки опасениям: внедрившие ИИ компании стали активнее нанимать сотрудников 24 мин.
Европейский политик, расследовавший использование шпионского ПО Pegasus, сам стал его жертвой 53 мин.
Anthropic закрыла лазейки, позволявшие китайским компаниям использовать Claude 2 ч.
Battlefield 6 и EA Sports FC 26 перестали работать в России, и Роскомнадзор тут ни при чём 2 ч.
Bandai Namco подтвердила цену DLC с новым контентом из версии Elden Ring для Switch 2 — мнения игроков разделились 3 ч.
Cloudflare объявила войну ИИ-ботам — теперь они будут блокироваться по умолчанию 4 ч.
Microsoft создала подразделение Frontier Company для предоставления услуг по внедрению ИИ 4 ч.
Встраиваемые системы становятся главным фронтом ИТ-суверенитета России 4 ч.
Meta без лишнего шума выпустила мобильное приложение Pocket для вайб-кодинга игр на ходу 5 ч.
Meta вложила миллиарды в ИИ, но Цукерберг признал: агенты не спешат умнеть 5 ч.
Казахстанская «Долина ЦОД» привлекла Amazon и G42 18 мин.
Intel подтвердила и объяснила подорожание процессоров Core Ultra 200S Plus 35 мин.
Япония решила взять реванш на мировом рынке роботов с помощью ИИ 44 мин.
Intel больше не спотыкается о 18A — техпроцесс вышел на стабильное производство 30 000 пластин в месяц 47 мин.
Как будто одного Stargate мало: SoftBank создаёт SB Neo для выхода на неооблачный рынок США 53 мин.
«Роборука» начала перекладывать блюда на заводе «Яндекс Лавки» в Санкт-Петербурге 2 ч.
GitHub подшутила над Sony и предложила разработчикам выслать их репозитории на CD-дисках 2 ч.
Предел терпения достигнут: цены на память продолжат расти и в третьем квартале, но не так быстро 3 ч.
До встречи в августе: Starship зажёг все шесть двигателей при подготовке к 13-му тестовому полёту 4 ч.
Российские двигатели в последний раз доставили на орбиту пакет спутников Amazon Leo на ракете Atlas V 4 ч.