Сегодня 03 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Ведущие разработчики ИИ всеми силами уклоняются от надзора и критики, заявили экс-работники OpenAI

Несколько бывших сотрудников OpenAI опубликовали открытое письмо, в котором предупредили, что передовые разработчики технологий искусственного интеллекта противостоят критике и надзору, и это важно в свете возросших за последние месяцы опасений по поводу ИИ.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

Открытое письмо подписали 13 бывших сотрудников OpenAI, шесть из которых предпочли остаться анонимными; его также одобрил «крёстный отец ИИ» Джеффри Хинтон (Geoffrey Hinton). В документе говорится, что в отсутствие эффективного государственного надзора компании-разработчики ИИ должны придерживаться принципов открытой критики. Им надлежит отказаться от создания и применения положений о недискредитации, содействовать «проверяемому» процессу информирования о проблемах, предоставить нынешним и бывшим сотрудникам возможность рассказывать общественности о своих опасениях, а также отказаться от принятия ответных мер против осведомителей.

Авторы письма утверждают, что верят в потенциал ИИ для пользы общества, но также видят риски: укрепление неравенства, простор для манипуляций и дезинформации — вплоть до возможности вымирания человечества. Подписанты указывают, что существующие меры защиты осведомителей недостаточны — они касаются незаконной деятельности компаний, а не проблем, которые не регулируются. Это значит, что работники могут свободно сообщать о нарушениях в выплате заработной платы, о дискриминации, проблемах безопасности, фактах мошенничества или удержании выходных — в соответствии с законами о защите осведомителей работодатель не может их увольнять, сокращать им рабочие часы или понижать в должности. Но это не касается сведений, имеющих отношение к безопасности систем ИИ.

При этом OpenAI ранее включала положение о недискредитации в соглашении о расторжении трудового договора, а также расформировала подразделение Superalignment, которое специализировалось на безопасности ИИ. Google продолжила отстаивать свою правоту после того, как поисковый ИИ дал пользователям множество явно несуразных ответов. Microsoft же подвергалась критике за генератор изображений Copilot Designer, посредством которого создавались явно выходящие за рамки этических норм картинки.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
На МКС заработает российский ИИ — осенью там запустят GigaChat «Сбера» 25 мин.
Разработчик-одиночка анонсировал «Знамя победы» — гибрид стратегии и экшена на полях сражений Второй мировой войны 58 мин.
Рынок российского инфраструктурного ПО достиг уровня 2021 года 2 ч.
МТС Web Services запустила собственную публичную облачную платформу 2 ч.
«Только вы, ваша машина и чистое веселье»: в ранний доступ Steam скоро ворвётся олдскульная боевая гонка Fumes 2 ч.
Windows 11 перестанет навязывать Edge в качестве браузера по умолчанию — но не для всех 3 ч.
Resident Evil 9 не заставит себя долго ждать — сразу три инсайдера подтвердили скорый анонс от Capcom 3 ч.
«Мы бесконечно признательны»: продажи Elden Ring Nightreign взяли новую высоту, а обзоры игры в Steam стали «в основном положительными» 4 ч.
Благодаря ИИ Microsoft из отстающих вышли в лидеры по темпам роста своих акций 5 ч.
Microsoft продолжила массовые увольнения, несмотря на сокращение 7000 сотрудников в мае 5 ч.
XFX выпустит 12 вариантов Radeon RX 9060 XT — все с одинаковым разгоном GPU 9 мин.
OpenAI и Nvidia заработают миллиарды на Ближнем Востоке — но главный выигрыш достанется США 19 мин.
Электромобильный бизнес Xiaomi станет прибыльным благодаря новому YU7, надеется основатель компании 28 мин.
Applied Digital сдаст CoreWeave 250-МВт ЦОД в Северной Дакоте на 15 лет за $7 млрд 2 ч.
iPhone 16e попал в топ-10 популярных смартфонов в Европе сразу после выхода, но iPhone SE дебютировали лучше 2 ч.
Серийное производство базовых станций 4G в России начнётся в этом году, пообещали в «Ростехе» 2 ч.
xAI Илона Маска намерена привлечь ещё $5,3 млрд инвестиций при оценке в $113 млрд 2 ч.
Стала известна дата анонса Google Pixel 10, а прототип Pixel 10 Pro показался на фото 3 ч.
Французские власти готовы выкупить НРС-активы Atos за €410 млн 3 ч.
ДАТАРК успешно испытала модульный ЦОД для первого зарубежного проекта 3 ч.