Сегодня 01 августа 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Совет директоров OpenAI сможет блокировать выпуск нейросетей, если сомневается в их безопасности

После недавнего скандала с отставкой генерального директора OpenAI Сэма Альтмана (Sam Altman) и его возвращения компания OpenAI всерьёз задумалась не только о реформировании структуры управления бизнесом, но и повышении ответственности разработчиков за выпуск больших языковых моделей. Теперь совет директоров может задержать выпуск новых моделей, если сочтёт их недостаточно безопасными.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Ключевая роль в этом механизме контроля и согласования будет отведена, по данным Bloomberg, специальной «группе готовности» под руководством Александра Мадри (Aleksander Madry), совмещающего эту должность с научной деятельностью в Массачусетском технологическом институте. В задачи группы экспертов будет входить анализ подготовленной к релизу каждой новой большой языковой модели на предмет выявления «катастрофических рисков». К таковым относятся вероятные последствия применения данной языковой модели, которые повлекут сотни миллиардов долларов материального ущерба или даже человеческие жертвы.

Группа Мадри будет на ежемесячной основе делиться отчётами о деятельности разработчиков OpenAI со специальным советом по безопасности, а тот уже будет делиться своими выводами с генеральным директором компании и советом директоров. Сэм Альтман сможет принимать решение о выпуске новой языковой модели на рынок или её задержке для доработки, причём совет директоров получает право наложить вето на положительное решение главы OpenAI о выпуске модели в общий доступ.

Группа анализа готовности языковых моделей была сформирована внутри OpenAI ещё в октябре, до хорошо известных событий с перестановками в руководстве. В целом, внутри компании действуют ещё две группы, занимающиеся анализом разработок. Прежде всего, это группа безопасности как таковой, а также группа «сверхрегулирования» (superalignment), которая учитывает гипотетические угрозы от внедрения сверхмощных систем искусственного интеллекта в будущем.

Разрабатываемые OpenAI языковые модели будут оцениваться группой Мадри по шкале, подразумевающей четыре градации рисков: низкая, средняя, высокая или критическая. По замыслу, компания сможет выпускать в оборот только те системы искусственного интеллекта, которые в итоге всех процедур анализа и доработки получили оценку риска не выше низкого или среднего. Как признался сам Мадри, «OpenAI — это не что-то, происходящее само собой и способное нести нам пользу или вред, это нечто, формируемое нами». Представитель компании выразил надежду, что подобным подходом к управлению рисками в сфере искусственного интеллекта будут пользоваться и другие разработчики. В стенах OpenAI подобная практика формировалась последовательно и в течение последних двух месяцев просто была закреплена решениями высшего руководства.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Electronic Arts объяснила, почему считает The Sims 5 «не очень хорошей идеей» для фанатов 56 мин.
Слухи: второе дополнение к Starfield и версия игры для PS5 выйдут одновременно, но не в 2025 году 3 ч.
Google выпустила Gemini 2.5 Deep Think — рассуждающую ИИ-модель, которая параллельно обдумывает несколько идей 3 ч.
Microsoft решила забросить Windows 11 SE — своего конкурента Chrome OS 4 ч.
В ГАИ рассказали, когда цифровые водительские права станут полноценной заменой аналоговым в России 4 ч.
Внедрение ИИ сработало: Bing отобрал у Google часть поискового трафика 4 ч.
Китай обвинил США в кибератаках через уязвимость Microsoft Exchange 6 ч.
Хакеры атаковали посольства в Москве, замаскировав вирусы под софт «Лаборатории Касперского» 8 ч.
Кодзима раскритиковал современные блокбастеры и разработчиков военных игр, которые не знают, как разобрать автомат 9 ч.
Intel XeSS теперь сможет генерировать кадры на видеокартах AMD и Nvidia 9 ч.
Робот Xueba 01 поступил в аспирантуру по драматургии — если провалит экзамены, он «самообнулится» 15 мин.
SpaceX отправила на МКС миссию Crew-11 с россиянином, японцем и двумя американцами 27 мин.
Тим Кук побил рекорд Стива Джобса по сроку руководства компанией Apple 2 ч.
Brilliant Labs представила умные очки Halo за $299, которые помогут вспомнить всё 2 ч.
Xiaomi представила доступные смартфоны Redmi 15, Redmi 15 5G и Redmi 15C — пока только в Польше 3 ч.
Nintendo объявила о повышении цен на восьмилетнюю Switch — новая Switch 2 пока не подорожала 3 ч.
SpaceX провела огневые испытания двигателей Starship в преддверии десятого испытательного пуска 4 ч.
Xiaomi выпустила 27-дюймовый 144-Гц монитор Redmi A27 2026 всего за $65 5 ч.
Pulsar представила мышь Pro Series JV-X для киберспорта, созданную при участии звезды Team Secret 6 ч.
Intel провела зачистку в руководстве производства чипов — уволены три топ-менеджера 7 ч.