Сегодня 13 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Ведущие разработчики ИИ всеми силами уклоняются от надзора и критики, заявили экс-работники OpenAI

Несколько бывших сотрудников OpenAI опубликовали открытое письмо, в котором предупредили, что передовые разработчики технологий искусственного интеллекта противостоят критике и надзору, и это важно в свете возросших за последние месяцы опасений по поводу ИИ.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

Открытое письмо подписали 13 бывших сотрудников OpenAI, шесть из которых предпочли остаться анонимными; его также одобрил «крёстный отец ИИ» Джеффри Хинтон (Geoffrey Hinton). В документе говорится, что в отсутствие эффективного государственного надзора компании-разработчики ИИ должны придерживаться принципов открытой критики. Им надлежит отказаться от создания и применения положений о недискредитации, содействовать «проверяемому» процессу информирования о проблемах, предоставить нынешним и бывшим сотрудникам возможность рассказывать общественности о своих опасениях, а также отказаться от принятия ответных мер против осведомителей.

Авторы письма утверждают, что верят в потенциал ИИ для пользы общества, но также видят риски: укрепление неравенства, простор для манипуляций и дезинформации — вплоть до возможности вымирания человечества. Подписанты указывают, что существующие меры защиты осведомителей недостаточны — они касаются незаконной деятельности компаний, а не проблем, которые не регулируются. Это значит, что работники могут свободно сообщать о нарушениях в выплате заработной платы, о дискриминации, проблемах безопасности, фактах мошенничества или удержании выходных — в соответствии с законами о защите осведомителей работодатель не может их увольнять, сокращать им рабочие часы или понижать в должности. Но это не касается сведений, имеющих отношение к безопасности систем ИИ.

При этом OpenAI ранее включала положение о недискредитации в соглашении о расторжении трудового договора, а также расформировала подразделение Superalignment, которое специализировалось на безопасности ИИ. Google продолжила отстаивать свою правоту после того, как поисковый ИИ дал пользователям множество явно несуразных ответов. Microsoft же подвергалась критике за генератор изображений Copilot Designer, посредством которого создавались явно выходящие за рамки этических норм картинки.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
iPhone научатся дольше работать от батареи — Apple поручит ИИ управление питанием 2 ч.
Sony случайно «слила» трейлер с датой выхода Stellar Blade на ПК 3 ч.
Microsoft показала, каким мог бы быть новый «Пуск» в Windows 11 — компания выбрала самый скучный вариант 6 ч.
«Давайте нам деньги и вычислительные ресурсы и не путайтесь под ногами»: OpenAI и Microsoft пытаются договориться о продолжении сотрудничества на фоне роста амбиций стартапа 6 ч.
Календарь релизов — 12–18 мая: Doom: The Dark Ages, The Precinct и Preserve 6 ч.
Remedy анонсировала закрытое тестирование шутера FBC: Firebreak по мотивам Control — сроки, системные требования, доступный контент 6 ч.
Nvidia выпустила драйвер GeForce с поддержкой Doom: The Dark Ages 8 ч.
Вышла новая версия песочницы Kaspersky Research Sandbox 3.0 с расширенными возможностями для ИБ-специалистов 8 ч.
«Игра, которую невозможно создать в наше время»: издатель «Приключений капитана Блада» призвал не судить воскресший экшен по современным меркам 9 ч.
Смартфоны Honor 400 смогут анимировать фото с помощью ИИ-генератора от Google 9 ч.
Новая статья: Обзор робота-пылесоса Midea VCR S10 Plus: одноразовые мешки для сбора мусора, прощайте! 3 ч.
Google и Elementl реализуют в США три 600-МВт атомных проекта 5 ч.
Western Digital инвестирует в технологию вечного хранения данных на керамике Cerabyte 6 ч.
Оперативная память скоро подорожает: Samsung подняла контрактные цены на DRAM 8 ч.
Космический телескоп «Джеймс Уэбб» показал полярное сияние на Юпитере — в сотни раз ярче, чем на Земле 8 ч.
CoreWeave всего через несколько недель после IPO захотела взять в долг ещё $1,5 млрд 9 ч.
Облако.ру предлагает ИИ-системы, которые позволят запускать даже мощные ИИ-модели 9 ч.
Apple поднимет цены на iPhone, но пока не придумала, чем это объяснить 10 ч.
Акции техногигантов подскочили после приостановки тарифов между США и Китаем 10 ч.
Nvidia негласно подняла цены на все чипы: GeForce подорожали на 5–10 %, а ИИ-ускорители — на 10–15 % 10 ч.
Включить темный режим