Сегодня 23 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Ведущие разработчики ИИ всеми силами уклоняются от надзора и критики, заявили экс-работники OpenAI

Несколько бывших сотрудников OpenAI опубликовали открытое письмо, в котором предупредили, что передовые разработчики технологий искусственного интеллекта противостоят критике и надзору, и это важно в свете возросших за последние месяцы опасений по поводу ИИ.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

Открытое письмо подписали 13 бывших сотрудников OpenAI, шесть из которых предпочли остаться анонимными; его также одобрил «крёстный отец ИИ» Джеффри Хинтон (Geoffrey Hinton). В документе говорится, что в отсутствие эффективного государственного надзора компании-разработчики ИИ должны придерживаться принципов открытой критики. Им надлежит отказаться от создания и применения положений о недискредитации, содействовать «проверяемому» процессу информирования о проблемах, предоставить нынешним и бывшим сотрудникам возможность рассказывать общественности о своих опасениях, а также отказаться от принятия ответных мер против осведомителей.

Авторы письма утверждают, что верят в потенциал ИИ для пользы общества, но также видят риски: укрепление неравенства, простор для манипуляций и дезинформации — вплоть до возможности вымирания человечества. Подписанты указывают, что существующие меры защиты осведомителей недостаточны — они касаются незаконной деятельности компаний, а не проблем, которые не регулируются. Это значит, что работники могут свободно сообщать о нарушениях в выплате заработной платы, о дискриминации, проблемах безопасности, фактах мошенничества или удержании выходных — в соответствии с законами о защите осведомителей работодатель не может их увольнять, сокращать им рабочие часы или понижать в должности. Но это не касается сведений, имеющих отношение к безопасности систем ИИ.

При этом OpenAI ранее включала положение о недискредитации в соглашении о расторжении трудового договора, а также расформировала подразделение Superalignment, которое специализировалось на безопасности ИИ. Google продолжила отстаивать свою правоту после того, как поисковый ИИ дал пользователям множество явно несуразных ответов. Microsoft же подвергалась критике за генератор изображений Copilot Designer, посредством которого создавались явно выходящие за рамки этических норм картинки.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Найден действенный способ ускорить графику Intel на 20 %, но придётся пожертвовать безопасностью 5 мин.
Dune: Awakening установила рекорд по скорости продаж для Funcom — более 800 тысяч смертей от Шаи-Хулуда и другие достижения игроков 22 мин.
Broadcom представила VMware Cloud Foundation 9 — основу основ для современного частного облака 5 ч.
Разработчики российского MMO-шутера Pioner раскрыли, как будут улучшать игру по итогам тестирования в Steam 6 ч.
На вершине успеха: кооперативная игра Peak от авторов Content Warning и Another Crab's Treasure покорила Steam и стала хитом продаж 8 ч.
«История выглядит намного мрачнее, чем я думал»: сюжетный трейлер Borderlands 4 удивил игроков 8 ч.
Team Vitality стала чемпионом Blast.tv Austin Major 2025 — это уже седьмая подряд победа команды на крупных турнирах по Counter-Strike 2 в 2025 году 9 ч.
Huawei выпустила «безандроидную» бета-версию HarmonyOS 6 — пока только для разработчиков 9 ч.
Как избежать оборотных штрафов по 152-ФЗ и не сломать маркетинг: объясняют эксперты рынка, регуляторы и юристы 10 ч.
Утечка: в открытый доступ попал первый час прохождения Death Stranding 2: On the Beach 10 ч.
Представлен Vivo X200 FE — компактный флагман с батареей на 6500 мА·ч и дизайном iPhone 56 мин.
Вышли подробные обзоры Nintendo Switch 2 — в целом хорошо, но экран мог бы быть получше 2 ч.
SK hynix выпустит кастомную HBM4E-память для NVIDIA, Microsoft и Broadcom 3 ч.
3data модернизировала московский ЦОД «М8», добавив мощности для колокейшн-клиентов 3 ч.
Отечественный телеком стал донором средств для законодательных инициатив, пожаловались операторы связи 6 ч.
Экс-глава Intel вложился в стартап, создающий сверхпроводниковые чипы для суперкомпьютеров 6 ч.
xAI воспользуется облаком Oracle для обучения и инференса Grok 6 ч.
Бум ИИ-технологий заставляет Wistron оперативно масштабировать производство серверов 7 ч.
Власти США заподозрили DeepSeek в сотрудничестве с китайским правительством и обходе американских санкций 7 ч.
Подземный суперкомпьютер Olivia стал самым мощным в Норвегии 8 ч.