Опрос
|
реклама
Быстрый переход
Глава отдела доверия и безопасности OpenAI ушёл в отставку
21.07.2023 [18:55],
Сергей Сурабекянц
Компания OpenAI понесла серьёзные кадровые потери. Дэйв Уилнер (Dave Willner), ветеран отрасли, возглавлявший отдел по вопросам доверия и безопасности ИИ последние полтора года, объявил о своём увольнении и переходе на должность консультанта. Он планирует проводить больше времени с семьёй. Его уход происходит в критическое время для ИИ, когда весь мир волнуют вопросы о регулировании ИИ и минимизации возможных вредных последствий его внедрения. Буквально сегодня президент OpenAI Грег Брокман (Greg Brockman) должен появиться в Белом доме вместе с руководителями из Anthropic, Google, Inflection, Microsoft, Meta✴ и Amazon, чтобы подтвердить добровольные обязательства по достижению общих целей безопасности и прозрачности при использовании ИИ в преддверии находящегося в разработке закона. Уилнер в сообщении о своём уходе пишет, что требования к его работе в OpenAI перешли в «фазу высокой интенсивности» после запуска ChatGPT. Он и его жена взяли на себя обязательство всегда ставить семью на первое место, но «в течение нескольких месяцев после запуска ChatGPT мне становилось все труднее выполнять свою часть сделки». Уилнер занимал свой пост в OpenAI последние полтора года, до этого он руководил командами доверия и безопасности в Facebook✴ и Airbnb. В Facebook✴ он был одним из первых сотрудников, который помог сформировать базовый подход компании к стандартам сообщества, ставший в дальнейшем фундаментом гражданской позиции компании. Учитывая влияние Facebook✴ на глобальное развитие социальных сетей, выработка компанией концепций по модерированию контента оказалась системообразуюшей для всего интернета и общества в целом. Начальный этап развития социальной сети характеризовался очень откровенной позицией в отношении свободы слова и отказом Facebook✴ блокировать спорные группы и удалять спорные сообщения. В то время общество раскололось — одни ратовали за строгую модерацию, другие считали это цензурой и покушением на свободу слова. Уилнер был в последнем лагере, полагая, что «язык ненависти» — это не то же самое, что «прямой вред», и поэтому его нельзя модерировать одинаково. Теперь многие считают, что это была довольно недальновидная и даже наивная позиция. Но Уилнер не отказался от своего мнения — в 2019 году, уже не работая в социальной сети, он выступал против исключений для политиков и общественных деятелей в вопросах модерации контента. Необходимость контроля и регулирования в сфере ИИ ещё более актуальна для новой волны технологий на базе ИИ, нежели модерирование социальных сетей. К примеру, в OpenAI Уилнер занимался вопросами безопасности и потенциальных злоупотреблений при использовании генератора изображений Dall-E для таких вещей, как создание генеративной детской порнографии на основе ИИ. OpenAI и всей бурно растущей отрасли генеративного ИИ требуется грамотно продуманная политика использования и требуется, как говорится, ещё вчера. Эксперты предрекают, что в течение года отрасль достигнет очень проблемного состояния. Уже сейчас использование ИИ приводит к массовым увольнениям, проблемам с авторскими правами, ошибкам в судебных процессах и другим крупным неприятностям. И уход из отрасли таких людей, как Уилнер, только усугубляет ситуацию. В ЕС заметили, что соцсети не спешат удалять посты с проявлениями ненависти
25.11.2022 [16:50],
Павел Котов
В 2022 году крупнейшие соцсети удалили меньше ненавистнического контента, чем годом ранее, сообщает Associated Press со ссылкой на представленный властями региона доклад. Самые слабые результаты показал Twitter, а лучше всех себя проявили TikTok и YouTube — им удалось побить прошлогодние результаты, но в разных категориях. Согласно докладу, данные для которого собирались в течение шести недель ещё минувшей весной, команда Twitter в течение 24 часов рассматривала чуть более половины обращений по ненавистническим высказываниям, хотя в 2021 году этот показатель был 82 %. Для сравнения, за те же 24 часа модераторы Facebook✴ обрабатывали 64 % обращений, Instagram✴ — 56,9 %, YouTube — 83,3 %, а TikTok — 92 %. В этом зачёте только китайская служба коротких видео смогла улучшить прошлогодний результат. Число фактически удалённых модераторами Twitter публикаций с проявлениями ненависти за год снизилось с 49,8 % до 45,4 %. У TikTok данный показатель за год упал на четверть и составил 60 %; Facebook✴ и Instagram✴ продемонстрировали незначительное снижение; и только YouTube увеличила показатель, который в итоге составил 90 %. Тем временем наибольшее беспокойство европейских чиновников вызывает Twitter — на этой неделе соцсеть уволила двух последних своих сотрудников в Брюсселе и закрыла местный офис. |
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |