Сегодня 21 апреля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Глава отдела доверия и безопасности OpenAI ушёл в отставку

Компания OpenAI понесла серьёзные кадровые потери. Дэйв Уилнер (Dave Willner), ветеран отрасли, возглавлявший отдел по вопросам доверия и безопасности ИИ последние полтора года, объявил о своём увольнении и переходе на должность консультанта. Он планирует проводить больше времени с семьёй. Его уход происходит в критическое время для ИИ, когда весь мир волнуют вопросы о регулировании ИИ и минимизации возможных вредных последствий его внедрения.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Буквально сегодня президент OpenAI Грег Брокман (Greg Brockman) должен появиться в Белом доме вместе с руководителями из Anthropic, Google, Inflection, Microsoft, Meta и Amazon, чтобы подтвердить добровольные обязательства по достижению общих целей безопасности и прозрачности при использовании ИИ в преддверии находящегося в разработке закона.

Уилнер в сообщении о своём уходе пишет, что требования к его работе в OpenAI перешли в «фазу высокой интенсивности» после запуска ChatGPT. Он и его жена взяли на себя обязательство всегда ставить семью на первое место, но «в течение нескольких месяцев после запуска ChatGPT мне становилось все труднее выполнять свою часть сделки».

Уилнер занимал свой пост в OpenAI последние полтора года, до этого он руководил командами доверия и безопасности в Facebook и Airbnb. В Facebook он был одним из первых сотрудников, который помог сформировать базовый подход компании к стандартам сообщества, ставший в дальнейшем фундаментом гражданской позиции компании.

Учитывая влияние Facebook на глобальное развитие социальных сетей, выработка компанией концепций по модерированию контента оказалась системообразуюшей для всего интернета и общества в целом. Начальный этап развития социальной сети характеризовался очень откровенной позицией в отношении свободы слова и отказом Facebook блокировать спорные группы и удалять спорные сообщения. В то время общество раскололось — одни ратовали за строгую модерацию, другие считали это цензурой и покушением на свободу слова.

Уилнер был в последнем лагере, полагая, что «язык ненависти» — это не то же самое, что «прямой вред», и поэтому его нельзя модерировать одинаково. Теперь многие считают, что это была довольно недальновидная и даже наивная позиция. Но Уилнер не отказался от своего мнения — в 2019 году, уже не работая в социальной сети, он выступал против исключений для политиков и общественных деятелей в вопросах модерации контента.

Необходимость контроля и регулирования в сфере ИИ ещё более актуальна для новой волны технологий на базе ИИ, нежели модерирование социальных сетей. К примеру, в OpenAI Уилнер занимался вопросами безопасности и потенциальных злоупотреблений при использовании генератора изображений Dall-E для таких вещей, как создание генеративной детской порнографии на основе ИИ.

OpenAI и всей бурно растущей отрасли генеративного ИИ требуется грамотно продуманная политика использования и требуется, как говорится, ещё вчера. Эксперты предрекают, что в течение года отрасль достигнет очень проблемного состояния. Уже сейчас использование ИИ приводит к массовым увольнениям, проблемам с авторскими правами, ошибкам в судебных процессах и другим крупным неприятностям. И уход из отрасли таких людей, как Уилнер, только усугубляет ситуацию.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Евросоюз занялся изучением политики Broadcom в отношении лицензирования продуктов VMware 3 ч.
Серверы LittleBigPlanet 3 для PS4 так и не заработали после вынужденного трёхмесячного перерыва — их отключили навсегда 7 ч.
Палата представителей Конгресса США приняла новый законопроект о блокировке TikTok, и в этот раз его одобрят в Сенате 15 ч.
Новая статья: Ender Magnolia: Bloom in the Mist — девочки опять грустят. Предварительный обзор 24 ч.
Schneider Electric ведёт переговоры о покупке Bentley Systems 20-04 01:10
Не думай о секундах свысока: спустя 26 лет спидраннер побил «невозможный» рекорд прохождения первого уровня Doom II — ушло 100 тысяч попыток 20-04 00:37
Новая статья: Atom Bomb Baby: рассказываем, почему Fallout — идеальная экранизация видеоигрового материала, и почему этот сериал не стоит пропускать 20-04 00:05
Bethesda готовит «несколько очень хороших обновлений» для Starfield, а Fallout 5 не в приоритете 19-04 23:00
Apple откроет сторонним приложениям доступ к NFC 19-04 22:34
В Dota 2 стартовало сюжетное событие «Павшая корона» с уникальными наградами, новыми «арканами» и комиксом 19-04 22:19
Власти Японии потратят $470 млн на создание ИИ-суперкомпьютера нового поколения 3 ч.
Tesla надеется предложить FSD китайским клиентам в ближайшее время 15 ч.
Илон Маск снизил цены на электромобили Tesla и опцию FSD, отложил свой визит в Индию 17 ч.
Спрос на электроэнергию в районе Чикаго взлетит на 900 % из-за ИИ ЦОД 20-04 21:35
ИИ-облако TensorWave получит 20 тыс. ускорителей AMD Instinct MI300X 20-04 20:50
«Микрон» представил российский ПЛК на базе RISC-V для автоматизации критических инфраструктур 20-04 20:37
«Группа Астра» создала компанию «Иксдата» по выпуску ПАК для высоконагруженных СУБД и анализа данных 20-04 20:33
Новый BIOS для плат Asus Z790 повышает стабильность работы чипов Intel, но снижает их производительность 20-04 18:54
Meta готовит смарт-браслет с возможностью считывания сигналов мозга 20-04 17:56
Производители материнских плат начали выпуск BIOS с поддержкой процессоров на Zen 5 20-04 16:58