OpenAI опубликовала новые «основополагающие принципы» — они заметно изменились с 2018 года

OpenAI опубликовала на своём сайте обновлённый вариант документа, в котором формулируются основополагающие принципы её деятельности. Сейчас он фактически закрепляет уже свершившееся — превращение из исследовательской некоммерческой организации в коммерческую компанию.

Обзор Samsung Galaxy Z TriFold: тройной складной смартфон по цене квартиры в Воркуте

Компьютер месяца, спецвыпуск: эпоха отката, или Как дефицит чипов памяти влияет на выбор железа для игрового ПК

Обзор ноутбука HONOR MagicBook X16 2026: как раньше, только лучше

Ryzen и 16 Гбайт DDR5: как сэкономить на памяти так, чтобы не лишиться 15 % производительности

Можно ли экономить на DDR5 для Ryzen? Сравниваем дешёвую память с дорогой

От Ryzen 7 1800X до Ryzen 7 9850X3D: девять лет эволюции AMD в одном тесте

Гид по выбору OLED-монитора в 2026 году: эволюция в деталях

Обзор Ryzen 7 9850X3D: три процента за двадцать баксов

Обзор Apple MacBook Neo: удивительно хороший ноутбук с процессором от iPhone

Источник изображения: Dima Solomin / unsplash.com

В варианте от 2018 года меморандум звучал как взятые на себя обязательства OpenAI перед обществом: компания стремилась быть в авангарде отрасли искусственного интеллекта, чтобы иметь возможность контролировать «сильный ИИ» (AGI) который сможет сравниться со способностями человека. Теперь компания упоминает AGI лишь дважды, не обещает отказаться от конкуренции с любой другой лабораторией, которая впервые разработает ИИ такой мощности, по сути, ставя собственные коммерческие интересы выше идеи «AGI для всех». Более того, она берётся раздавать поручения всей отрасли ИИ: решения в ней должны приниматься демократически, а государства должны участвовать в строительстве инфраструктуры для удешевления ИИ, чтобы делать технологию доступнее.

Первый принцип OpenAI — демократизация. Компания обязуется противостоять консолидации передовых возможностей ИИ в руках немногих. Помимо использования преимуществ ИИ, это означает, что ключевые решения о дальнейшем развитии технологии должны приниматься обществом в целом, а не только разработчиками технологий.

Второй принцип — расширение возможностей. Компания провозглашает уверенность, что ИИ даёт человеку возможность достигать различных целей, рабочих или учебных, и стремится создавать продукты, которые будут обеспечивать всё бо́льшие возможности. OpenAI берет на себя ответственность за то, чтобы её решения причиняли как можно меньше вреда человечеству, но и обязательства ослаблять ограничения, когда угроза отсутствует.

Источник изображения: Mariia Shalabaieva / unsplash.com

Третий принцип — всеобщее процветание. По мере расширения возможностей ИИ будет меняться и мир вокруг нас. Властям, возможно, придётся рассматривать новые экономические модели, отражающие реалии этого мира. А разработчикам потребуется достаточно мощная инфраструктура для работы систем ИИ: инвесторам в частности и обществу вообще придётся относиться с пониманием к тому, что закупаются колоссальные объёмы вычислительных данных при относительно скромной выручке.

Четвёртый принцип — устойчивость. ИИ становится мощнее, возникают новые угрозы, и OpenAI намерена сотрудничать с коллегами и властями для их решения. Это касается, в частности, биологических и киберугроз, которые уже сегодня способен создавать ИИ — должны появляться и симметричные средства защиты от них. Впрочем, создание средств защиты — не единственная стратегия: разработчики должны создавать безопасные системы на уровне их архитектуры.

Наконец, пятый принцип — адаптивность. Компания считает, что в условиях непредсказуемого будущего она должна быть готовой меняться и сама, обновлять свои принципы по мере достижения новых знаний, а также обеспечивать прозрачность в отношении изменения этих принципов. «Мы не всегда будем делать всё идеально, но станем быстро учиться и корректировать курс», — пообещали в OpenAI.