В OpenAI появился «директор по готовности» — он будет отвечать за создание безопасного ИИ

Вопросы безопасности использования искусственного интеллекта трактуются в наши дни довольно широко. Чат-боты могут открыто общаться на темы, которые в обществе принято скрывать от тех же несовершеннолетних, поэтому за развитием соответствующих систем нужен строгий контроль. В штате OpenAI недавно появился директор, отвечающий за создание безопасного ИИ.

По данным The Wall Street Journal, им стал выходец из конкурирующей Anthropic — Дилан Скандинаро (Dylan Scandinaro), который на прежнем месте работы занимался аналогичной деятельностью. О назначении его «директором по готовности» (Head of Preparedness) со страниц социальной сети X на этой неделе сообщил генеральный директор OpenAI Сэм Альтман (Sam Altman). Он попутно отметил: «Скоро всё начнёт двигаться очень быстро, и мы будем работать над очень мощными моделями. Это потребует соответствующих мер предосторожности, чтобы обеспечить дальнейшее предоставление больших выгод».

Дилан Скандинаро, по словам Альтмана, возглавит усилия OpenAI по подготовке к устранению этих серьёзных рисков. Как признался глава компании, Скандинаро является лучшим кандидатом на эту роль из тех, которых он когда-либо встречал. «Ему, конечно, хватит работы, а я сегодня будут спать спокойнее», — признался Альтман. Он с нетерпением ждёт возможности ближе поработать со Скандинаро над изменениями, которые будут применены ко всей компании. Сам Скандинаро признал, что стремительно развивающиеся ИИ-модели могут стать источником «экстремального и даже необратимого ущерба». По его словам, предстоит проделать немало работы за очень короткий срок.

В Anthropic Скандинаро проработал с мая прошлого года по февраль текущего. В дочерней компании DeepMind гиганта Google он продержался значительно дольше, с сентября 2022 года по май 2025 года, специализируясь на синтетических данных для обучения ИИ-ассистента Gemini. Скандинаро также имеет опыт работы в Palantir, Unity Technologies и Everyday Robots. Вакансия на соответствующую должность в OpenAI была открыта с прошлого года, она подразумевала выплату $550 000 в денежной форме ежегодно и вознаграждение в форме акций стартапа. «Команда готовности» в структуре OpenAI существует с 2023 года, изначально её возглавлял Александр Мадрий (Aleksander Madry), который имеет опыт работы в Центре распространяемого машинного обучения Массачусетского технологического института. Позже он перешёл на другую работу в структуре OpenAI, пост главы подразделения оказался вакантным.