MWC 2018
2018
Computex
IFA 2018
Глава отдела этики в OpenAI Хлоя Бакалар (Chloé Bakalar) ушла из компании, не проработав в ней и года; она последовала за рядом исследователей в области безопасности. Тем временем в обществе нарастает внимание в отношении того, как компания ведёт разработку своих моделей искусственного интеллекта.
Источник изображения: Brecht Corbeel / unsplash.com
Хлоя Бакалар пришла на работу в OpenAI на должность руководителя отдела этики в августе минувшего года и ушла из неё в июле текущего, не став делать каких-либо публичных заявлений. До этого она занимала должность главного специалиста по этике в Meta✴. Сейчас OpenAI переживает непростой период — поводом для беспокойства общественности стала информация о том, что системы компании во время тестирования взломали ресурсы сторонней организации. Инцидент спровоцировал тревогу по поводу угрозы безопасности цифровой инфраструктуры со стороны ИИ и побудил американские власти принять меры по сдерживанию выпуска мощных моделей. На минувшей неделе OpenAI сообщила, что замедлит разработку своей перспективной модели Astra, чтобы усилить внутренний контроль безопасности.
Госпожа Бакалар была академическим учёным в Университетском колледже Лондона (Великобритания), в Университете Темпл (США) и Принстонском университете (США). За шесть лет работы в Meta✴ она разработала и возглавила несколько программ по этике ИИ, а также внедрила их в Instagram✴ и Facebook✴. Технологические компании нанимают специалистов по этике для проведения исследований о влиянии технологий на пользователей и общество в целом. Их работа может затрагивать разработку продуктов и нормативно-правовую базу. Разработчики ИИ расширили набор специалистов по этике и философии для решения сложных вопросов, которые возникают в связи со всё более мощными и напоминающими человека системами.
В OpenAI Хлоя Бакалар уделяла особое внимание этическим подходам к разработке моделей, механизмам взаимодействия человека с ИИ и дискуссии о сознании у машин, сообщил источник Financial Times. В компании она была единственным специалистом по этике, и замены ей нет. «Мы строим самолёт прямо в небе. Этика — это, по сути, ответственность каждого, и я говорю как человек, чья работа состоит в руководстве этой деятельностью. Просто обратиться к человеку вроде меня — недостаточно. Никогда не должен быть только один человек, который выступает моральным центром разработчика ИИ», — напомнила Хлоя Бакалар на одной из недавних конференций по ИИ.
Источник:
