Сегодня 24 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI продолжает терять сотрудников — они считают, что ИИ может быть опасен для человечества

Бывшая сотрудница OpenAI Гретхен Крюгер (Gretchen Krueger) сообщила, что 14 мая ушла из компании в связи с опасениями, что разрабатываемый OpenAI искусственный интеллект может представлять угрозу для человечества. Это «непростое решение» она приняла незадолго до того, как о своём уходе объявили Илья Суцкевер (Ilya Sutskever) и Ян Лейке (Jan Leike), которые руководили ныне расформированным подразделением Superalignment.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

«Я подала в отставку за несколько часов до того, как услышала новости об [Илье Суцквере] и [Яне Лейке], и приняла своё решение независимо. Их опасения я разделяю. У меня также есть другие и частично совпадающие опасения», — написала Крюгер в соцсети X. По её словам, компании необходимо проделать работу по улучшению «процессов принятия решений; подотчётности; прозрачности; документации; обеспечения соблюдения политик; осторожности в применении наших собственных технологий; и сокращения воздействия на неравенство, права и окружающую среду».

Крюгер, которая работала специалистом по разработке политик исследования, заявила, что эти опасения разделяет общественность — они «могут влиять на то, как и кем могут определяться аспекты будущего», и эти опасения не следует «неправильно воспринимать как узкие, спекулятивные или не имеющие отношения» к созданию и работе ИИ. «Один из способов, которым технологические компании могут обезоружить тех, кто пытается привлечь их к ответственности, — посеять раскол между теми, кто выражает обеспокоенность или бросает вызов их доминированию. Я крайне озабочена тем, чтобы это предотвратить», — отметила Крюгер.

Покинувшие на минувшей неделе OpenAI главный научный сотрудник и соучредитель компании Илья Суцкевер и исполнительный директор Ян Лейке возглавляли подразделение Superalignment — оно разрабатывало меры безопасности, предотвращающие выход сильного ИИ (AGI) из-под контроля. По словам Лейке, компания ставила «блестящие продукты» выше мер безопасности: отделу Superalignment приходилось бороться за ресурсы, а выполнять свою работу ему становилось всё труднее.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Вышла крупнейшая ИИ-модель Llama 3.1 от Meta — её самая большая версия имеет 405 млрд параметров 5 ч.
Исторический момент: МОК официально утвердил создание Олимпийских киберспортивных игр 6 ч.
«Я был вынужден купить это»: спустя 17 лет в Steam вышла та самая «Месть боксёра» 8 ч.
«Спортивная игра, каких сейчас не делают»: ветераны Electronic Arts анонсировали баскетбольную аркаду The Run: Got Next в духе NBA Street 10 ч.
Amazon вот-вот выпустит платную Alexa с ИИ — она должна компенсировать убытки от устройств Echo 11 ч.
Microsoft подтвердила, когда Call of Duty: Modern Warfare 3 появится в Game Pass 11 ч.
Spotify достигла 246 млн платных подписчиков и превзошла прогнозы Уолл-стрит 12 ч.
Adobe добавила больше ИИ-функций в Illustrator и Photoshop 12 ч.
Новый трейлер раскрыл дату выхода Zoochosis — хоррора в духе «Нечто», но про зоопарк с животными-мутантами 12 ч.
Еженедельный чарт Steam: российская средневековая стратегия Norland стартовала в топ-10, а No Man’s Sky взлетела на четвёртое место 13 ч.
По итогам квартала норма операционной прибыли Tesla упала до трёхлетнего минимума 52 мин.
За последние полгода спутники SpaceX Starlink совершили 50 000 манёвров по предотвращению столкновений 2 ч.
Самый быстрый SSD для ИИ: Micron представила серию накопителей 9550 ёмкостью до 30,72 Тбайт 5 ч.
Новая статья: Обзор материнской платы MSI MEG Z790 ACE MAX: безумный Макс и 30-градусная жара 6 ч.
Toyota научила ИИ синхронному дрифту на двух Supra — это поможет повысить безопасность авто 11 ч.
iFixit на практике подтвердила отличную ремонтопригодность смартфона HMD Skyline в стиле старых Nokia 12 ч.
NASA опубликовала 25 снимков в честь 25-летия телескопа «Чандра» — скоро его могут отправить на пенсию 12 ч.
Переговоры Samsung с профсоюзом закончились ничем — забастовка продолжится 12 ч.
Рядом с Бельгией появилась первая в мире морская зарядная стация для электрических судов 13 ч.
AMD похвасталась, что её процессоры EPYC быстрее Nvidia Grace во многих тестах 13 ч.