Сегодня 04 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Бывший руководитель отдела безопасности OpenAI ушёл к конкуренту

Ян Лейке (Jan Leike), который прежде был в OpenAI одним из руководителей отдела безопасности и занимался долгосрочными рисками, связанными с ИИ, перешёл на работу в конкурирующую компанию Anthropic. Об этом Лейке сообщил в соцсети X.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Лейке ушёл из OpenAI вслед за её сооснователем Ильёй Суцкевером (Ilya Sutskever) — вместе они возглавляли подразделение Superalignment, но оно было распущено, просуществовав менее года. Уходя, он раскритиковал OpenAI, заявив, что «культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами». Накануне стало известно, что в компании был сформирован новый отдел безопасности во главе с генеральным директором Сэмом Альтманом (Sam Altman).

 Источник изображения: x.com/janleike

Источник изображения: x.com/janleike

В Anthropic Ян Лейке будет заниматься теми же вопросами, что и в OpenAI — вопросами безопасности, касающимися моделей ИИ, которые превзойдут возможности человека. Таких моделей пока не существует, но OpenAI и Anthropic уже проводят исследования на предмет того, как ими можно будет управлять. Созданная выходцами из OpenAI компания Anthropic позиционирует себя как более ориентированную на безопасность.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Это должно было быть в игре с самого начала»: моддер нашёл элегантный способ улучшить гравипрыжки в Starfield 6 мин.
Почти половина российских компаний уже использует ИИ для разработки и тестирования ПО 18 мин.
Разовая акция: хакеры отдали ключи для дешифровки ЦОД властям Индонезии, но пригрозили карами, если их условия не будут выполнены 2 ч.
Новый патч для Shadow of the Erdtree случайно сломал Elden Ring на ПК 2 ч.
В WhatsApp появился ИИ-генератор персонализированных аватаров, но доступен он пока не всем 3 ч.
Китай стал лидером по патентам в сфере генеративных нейросетей — больше всех у Tencent и Baidu 5 ч.
Участники индустрии рассказали об условиях появления в России качественных игр 6 ч.
Амбициозный экшен в антураже тёмного фэнтези Dungeonborne готовится к релизу — в Steam начался финальный плейтест 7 ч.
Nintendo не станет использовать генеративный ИИ в играх — у неё и своего опыта хватает 7 ч.
Открыт исходный код компонентов для поддержки процессоров «Эльбрус» в Linux 7 ч.
Lenovo выпустила альтернативу Apple Mac Studio — компактный десктоп ThinkCentre neo Ultra на Intel и Nvidia 15 мин.
Санкции не помешают Nvidia выручить в Китае до $12 млрд на ИИ-ускорителях в этом году 34 мин.
В Европе разработают датчики для спутниковой навигации повышенной точности 39 мин.
Повышенные пошлины на китайские электромобили в Европе вступят в силу завтра — от 17,4 до 37,6 % 47 мин.
Новая надежда: Atos договорилась с кредиторами о реструктуризации долгов 2 ч.
Японские поставщики оборудования для выпуска чипов намерены увеличить выручку на 15 % к марту 2 ч.
Построены самые точные атомные часы — они сбиваются на 1 секунду за 30 миллиардов лет 2 ч.
Новый кабельный маршрут EXA Infrastructure и SOCAR Fiber свяжет Грецию, Грузию и Турцию 3 ч.
Тёмную материю можно обнаружить в лаборатории на Земле — в этом помогут переохлаждённые квантовые детекторы 4 ч.
Северная Корея тоже решила избавиться от китайского телеком-оборудования, посчитав его небезопасным 4 ч.