Сегодня 08 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Ведущие разработчики ИИ всеми силами уклоняются от надзора и критики, заявили экс-работники OpenAI

Несколько бывших сотрудников OpenAI опубликовали открытое письмо, в котором предупредили, что передовые разработчики технологий искусственного интеллекта противостоят критике и надзору, и это важно в свете возросших за последние месяцы опасений по поводу ИИ.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

Открытое письмо подписали 13 бывших сотрудников OpenAI, шесть из которых предпочли остаться анонимными; его также одобрил «крёстный отец ИИ» Джеффри Хинтон (Geoffrey Hinton). В документе говорится, что в отсутствие эффективного государственного надзора компании-разработчики ИИ должны придерживаться принципов открытой критики. Им надлежит отказаться от создания и применения положений о недискредитации, содействовать «проверяемому» процессу информирования о проблемах, предоставить нынешним и бывшим сотрудникам возможность рассказывать общественности о своих опасениях, а также отказаться от принятия ответных мер против осведомителей.

Авторы письма утверждают, что верят в потенциал ИИ для пользы общества, но также видят риски: укрепление неравенства, простор для манипуляций и дезинформации — вплоть до возможности вымирания человечества. Подписанты указывают, что существующие меры защиты осведомителей недостаточны — они касаются незаконной деятельности компаний, а не проблем, которые не регулируются. Это значит, что работники могут свободно сообщать о нарушениях в выплате заработной платы, о дискриминации, проблемах безопасности, фактах мошенничества или удержании выходных — в соответствии с законами о защите осведомителей работодатель не может их увольнять, сокращать им рабочие часы или понижать в должности. Но это не касается сведений, имеющих отношение к безопасности систем ИИ.

При этом OpenAI ранее включала положение о недискредитации в соглашении о расторжении трудового договора, а также расформировала подразделение Superalignment, которое специализировалось на безопасности ИИ. Google продолжила отстаивать свою правоту после того, как поисковый ИИ дал пользователям множество явно несуразных ответов. Microsoft же подвергалась критике за генератор изображений Copilot Designer, посредством которого создавались явно выходящие за рамки этических норм картинки.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Яндекс» наконец перешёл в прямое управление к участникам «Консорциум.Первый» 5 мин.
«ЗН Цифра» внедрила решения импортонезависимой экосистемы «Базиса» 12 мин.
OpenAI усилила режим секретности, опасаясь утечки передовых ИИ-разработок 18 мин.
Упор на сюжет, жуткие анимации и физическое ощущение ужаса: новые подробности гротескного хоррора Ill 53 мин.
«Romero Games не закрылась»: студия соавтора Doom Джона Ромеро жива, несмотря на отмену нового шутера 3 ч.
Британские СМИ восстали против ИИ-сводок в поиске Google и требуют отключить опцию 4 ч.
Чат-бот Илона Маска Grok стал ещё более «политически некорректным» после обновления 4 ч.
Браузер Microsoft Edge научился загружать страницы ещё быстрее — менее чем за 300 мс 7 ч.
OpenAI начала тестировать в ChatGPT образовательный режим ответов «Учимся вместе» 7 ч.
Apple одумалась: Liquid Glass стал менее прозрачным и более читаемым в новой бете iOS 26 12 ч.
Изменения климата грозят дефицитом чипов — через 10 лет мир столкнётся с нехваткой меди для полупроводников 6 мин.
Intel запустила новую волну сокращений — работы лишатся тысячи специалистов 31 мин.
Gateway расправила плечи — гигантскую солнечную батарею для лунной станции впервые развернули во всю длину 36 мин.
Администрация Трампа опять надавила на Apple за промедление в переносе производства электроники в США 2 ч.
В гонке за лидерство в сфере ИИ поможет инфраструктура, а не хайп 2 ч.
Прибыль Samsung должна упасть впервые с 2023 года, причём сразу на 56 % 3 ч.
Jsaux представила кулер с клипсой для Nintendo Switch 2 4 ч.
Meta заполучила ещё одного крупного специалиста по ИИ — теперь из Apple 7 ч.
Суд не удовлетворил очередную жалобу Apple на запрет продажи в США часов Watch с датчиком содержания кислорода в крови 7 ч.
CoreWeave всё-таки купила оператора ЦОД Core Scientific, но в девять раз дороже, чем когда-то планировала 12 ч.