Сегодня 05 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Ведущие разработчики ИИ всеми силами уклоняются от надзора и критики, заявили экс-работники OpenAI

Несколько бывших сотрудников OpenAI опубликовали открытое письмо, в котором предупредили, что передовые разработчики технологий искусственного интеллекта противостоят критике и надзору, и это важно в свете возросших за последние месяцы опасений по поводу ИИ.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

Открытое письмо подписали 13 бывших сотрудников OpenAI, шесть из которых предпочли остаться анонимными; его также одобрил «крёстный отец ИИ» Джеффри Хинтон (Geoffrey Hinton). В документе говорится, что в отсутствие эффективного государственного надзора компании-разработчики ИИ должны придерживаться принципов открытой критики. Им надлежит отказаться от создания и применения положений о недискредитации, содействовать «проверяемому» процессу информирования о проблемах, предоставить нынешним и бывшим сотрудникам возможность рассказывать общественности о своих опасениях, а также отказаться от принятия ответных мер против осведомителей.

Авторы письма утверждают, что верят в потенциал ИИ для пользы общества, но также видят риски: укрепление неравенства, простор для манипуляций и дезинформации — вплоть до возможности вымирания человечества. Подписанты указывают, что существующие меры защиты осведомителей недостаточны — они касаются незаконной деятельности компаний, а не проблем, которые не регулируются. Это значит, что работники могут свободно сообщать о нарушениях в выплате заработной платы, о дискриминации, проблемах безопасности, фактах мошенничества или удержании выходных — в соответствии с законами о защите осведомителей работодатель не может их увольнять, сокращать им рабочие часы или понижать в должности. Но это не касается сведений, имеющих отношение к безопасности систем ИИ.

При этом OpenAI ранее включала положение о недискредитации в соглашении о расторжении трудового договора, а также расформировала подразделение Superalignment, которое специализировалось на безопасности ИИ. Google продолжила отстаивать свою правоту после того, как поисковый ИИ дал пользователям множество явно несуразных ответов. Microsoft же подвергалась критике за генератор изображений Copilot Designer, посредством которого создавались явно выходящие за рамки этических норм картинки.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Microsoft Copilot научился создавать сводки по файлам и документам из облака OneDrive 19 мин.
«Красиво, страшно, залипательно»: хоррор Cronos: The New Dawn от авторов ремейка Silent Hill 2 стартовал в Steam с «очень положительными» обзорами 23 мин.
VI Форум «Мой бизнес» в Архангельске: малый бизнес, цифровизация и новые правила 2 ч.
После выхода Hollow Knight: Silksong самой желанной игрой пользователей Steam стала скандальная Subnautica 2 2 ч.
Apple обвинили в нарушении патентов на технологию «Привет, Siri» 3 ч.
«Внушает оптимизм»: журналисты раскрыли, когда выйдут первые обзоры Ghost of Yotei 4 ч.
Россиянам вернут важнейшие сервисы во время отключений мобильного интернета 4 ч.
Microsoft уберёт Teams из пакета офисных приложений, чтобы избежать штрафа в ЕС 6 ч.
CD Projekt Red заинтриговала фанатов тизером, как новая книга Сапковского повлияет на The Witcher 4 7 ч.
OpenAI хочет создать платформу для поиска работы в сфере ИИ 7 ч.
Qualcomm и BMW представили систему автономного вождения, которую будут продавать на сторону 23 мин.
Huawei заняла почти половину мирового рынка складных смартфонов — Samsung даже не вторая по популярности 34 мин.
На IFA 2025 показали пауэрбанк, который работает даже с пробитой батареей 3 ч.
Tesla предложила Илону Маску до $1 трлн за десять лет работы гендиректором 3 ч.
Mitsubishi Heavy Industries удвоит производство газовых турбин в связи с ростом индустрии ЦОД 3 ч.
Сверхтонкий 5,9-мм смартфон Nubia Air получил 6,78″ AMOLED-экран и защиту IP69K 3 ч.
Lenovo представила мобильные рабочие станции ThinkPad P с процессорами Core Ultra 200 и графикой Nvidia RTX Blackwell 4 ч.
Dreame представила свой дебютный монитор X1 Ultra 4 ч.
Team Group представила первый в мире внешний SSD со встроенной функцией геолокации 4 ч.
«Мрачная научная фантастика»: США намерены заставить NVIDIA и AMD продавать ИИ-ускорители американцам в приоритетном порядке 5 ч.