Сегодня 20 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Глава Microsoft призвал встроить в ИИ ручной тормоз — модели нужно контролировать с первой секунды

Генеральный директор Microsoft Сатья Наделла (Satya Nadella) призвал к «экстренному торможению» развития ИИ. Он предложил изменить подход к разработке, изначально рассматривая ИИ-модели как «скомпрометированные» и принимая необходимые меры предосторожности с самого начала.

 Источник изображения: Roman Budnikov/unsplash.com

Источник изображения: Roman Budnikov/unsplash.com

В своём посте на платформе X генеральный директор Microsoft изложил свои взгляды на риски, связанные с продвинутыми ИИ-модели и на то, как им противостоять.

Наделла заявил, что больше нельзя мириться с тем, что ИИ, который он называет «суперразумом», рассматривается как «набор вложенных чёрных ящиков», чьи советы и действия мы просто принимаем или отвергаем. Он призвал создать более прозрачную систему, в рамках которой модели можно контролировать и при необходимости ограничивать, а их работа будет оставлять после себя «защищённые от несанкционированного изменения свидетельства, понятные человеку».

Как отметил ресурс The Verge, многие из предложений главы Microsoft перекликаются с мнениями других представителей ИИ-отрасли: своевременное раскрытие информации об инцидентах, независимые аудиты, поддающиеся проверке данные и механизмы сдерживания.

Причём в последнем пункте он пошёл немного дальше, чем его коллеги, заявив: «Мы должны исходить из того, что модель может быть скомпрометирована, и держать её под контролем с самого начала. Представьте себе это как аварийный тормоз: уполномоченное лицо всегда должно иметь возможность приостановить работу модели или полностью её остановить в процессе выполнения задачи. Для более совершенных моделей потребуются и более продвинутые технологии сдерживания — нам необходимо выработать для них единые стандарты».

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
VK Play Cloud запустил консольный тариф с бесплатным доступом к GTA VI, но есть нюанс 2 ч.
Google создала параллельный интернет для обучения ИИ-агентов — в нём есть даже поддельные банки и соцсети 3 ч.
Развязка приключений Геральта задерживается: Netflix подтвердила перенос пятого сезона сериала «Ведьмак» 5 ч.
В экране блокировки Windows 11 обнаружена дыра, открывающая путь ко всем данным на ПК 6 ч.
Хакеры похитили данные более 1 млн банковских карт в 20 странах включая Россию 6 ч.
Инсайдер раскрыл, когда и где покажут многострадальный ремейк Star Wars: Knights of the Old Republic 7 ч.
«Ждал эту игру почти всю свою жизнь»: Creative Assembly заинтриговала фанатов целым часом нового геймплея Total War: Warhammer 40,000 8 ч.
Apple запустила разработку собственного ИИ-агента, который поселится в компьютерах Mac 8 ч.
Apple потеряла главного разработчика софта для камеры iPhone 9 ч.
Хакер Cyberleek «слил» в открытый доступ почти рабочую сборку GTA VI для Xbox, и это только начало 10 ч.
1250 Гц при разрешении 1440p: TCL показала прототип самого быстрого игрового монитора 3 мин.
Связь в России подорожает — операторам нужны средства на развитие и модернизацию 40 мин.
Акции AMD падают на фоне сообщений о связях компании с Китаем, способных привлечь внимание американских регуляторов 3 ч.
Huawei представила широкоэкранный, но не складывающийся смартфон OSTA O1 Pro 3 ч.
FADU представила первый в мире «файлово-семантический SSD» 3 ч.
SK hynix станет крупнейшим акционером собственного конкурента Kioxia — рынок NAND ждут перемены 4 ч.
Anthropic вошла в «клуб триллионеров» по итогам IPO, но простым инвесторам достались крохи 4 ч.
Акционеры подали иск против Supermicro, считая, что бывшая директор по развитию бизнеса знала о контрабанде чипов NVIDIA в КНР 4 ч.
Huawei представила первый «экспортный» ИИ-кластер на базе ускорителей Ascend 950DT 4 ч.
DapuStor выпустила SSD серии R6 с СЖО: до 7,68 Тбайт в формате E1.S 5 ч.