Сегодня 30 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → меморандум

OpenAI опубликовала новые «основополагающие принципы» — они заметно изменились с 2018 года

OpenAI опубликовала на своём сайте обновлённый вариант документа, в котором формулируются основополагающие принципы её деятельности. Сейчас он фактически закрепляет уже свершившееся — превращение из исследовательской некоммерческой организации в коммерческую компанию.

 Источник изображения: Dima Solomin / unsplash.com

Источник изображения: Dima Solomin / unsplash.com

В варианте от 2018 года меморандум звучал как взятые на себя обязательства OpenAI перед обществом: компания стремилась быть в авангарде отрасли искусственного интеллекта, чтобы иметь возможность контролировать «сильный ИИ» (AGI) который сможет сравниться со способностями человека. Теперь компания упоминает AGI лишь дважды, не обещает отказаться от конкуренции с любой другой лабораторией, которая впервые разработает ИИ такой мощности, по сути, ставя собственные коммерческие интересы выше идеи «AGI для всех». Более того, она берётся раздавать поручения всей отрасли ИИ: решения в ней должны приниматься демократически, а государства должны участвовать в строительстве инфраструктуры для удешевления ИИ, чтобы делать технологию доступнее.

Первый принцип OpenAI — демократизация. Компания обязуется противостоять консолидации передовых возможностей ИИ в руках немногих. Помимо использования преимуществ ИИ, это означает, что ключевые решения о дальнейшем развитии технологии должны приниматься обществом в целом, а не только разработчиками технологий.

Второй принцип — расширение возможностей. Компания провозглашает уверенность, что ИИ даёт человеку возможность достигать различных целей, рабочих или учебных, и стремится создавать продукты, которые будут обеспечивать всё бо́льшие возможности. OpenAI берет на себя ответственность за то, чтобы её решения причиняли как можно меньше вреда человечеству, но и обязательства ослаблять ограничения, когда угроза отсутствует.

 Источник изображения: Mariia Shalabaieva / unsplash.com

Источник изображения: Mariia Shalabaieva / unsplash.com

Третий принцип — всеобщее процветание. По мере расширения возможностей ИИ будет меняться и мир вокруг нас. Властям, возможно, придётся рассматривать новые экономические модели, отражающие реалии этого мира. А разработчикам потребуется достаточно мощная инфраструктура для работы систем ИИ: инвесторам в частности и обществу вообще придётся относиться с пониманием к тому, что закупаются колоссальные объёмы вычислительных данных при относительно скромной выручке.

Четвёртый принцип — устойчивость. ИИ становится мощнее, возникают новые угрозы, и OpenAI намерена сотрудничать с коллегами и властями для их решения. Это касается, в частности, биологических и киберугроз, которые уже сегодня способен создавать ИИ — должны появляться и симметричные средства защиты от них. Впрочем, создание средств защиты — не единственная стратегия: разработчики должны создавать безопасные системы на уровне их архитектуры.

Наконец, пятый принцип — адаптивность. Компания считает, что в условиях непредсказуемого будущего она должна быть готовой меняться и сама, обновлять свои принципы по мере достижения новых знаний, а также обеспечивать прозрачность в отношении изменения этих принципов. «Мы не всегда будем делать всё идеально, но станем быстро учиться и корректировать курс», — пообещали в OpenAI.


window-new
Soft
Hard
Тренды 🔥
Авторитетный инсайдер: The Elder Scrolls VI раскроет тайны Древних свитков, а новый показ уже не за горами 3 ч.
Подаренный «навсегда» 1 Тбайт в облаке Mail.ru прожил 13 лет — в ноябре от него останется 8 Гбайт 4 ч.
Windows 11 научилась переустанавливаться без установочной флешки, даже если ОС не загружается 4 ч.
Философская головоломка The Talos Principle 2 от разработчиков Serious Sam спустя три года после релиза подорожала на 33 %, и игроки не против 5 ч.
Mistral открыла веса ИИ-модели Large 4 с триллионом параметров и удешевила доступ через API 5 ч.
Эксклюзив Nintendo Switch 2 от создателей Bloodborne и Elden Ring не выйдет в 2026 году — FromSoftware перенесла релиз The Duskbloods 6 ч.
Китайский боевик Phantom Blade Zero показал ударный старт в Steam — лидер продаж и лучший пиковый онлайн для одиночных игр 2026 года 7 ч.
Microsoft опубликовала квартальный отчёт — выручка Azure выросла на 48 % 8 ч.
Aladdin Enterprise CA — российский аналог Microsoft Certificate Authority — получил крупное обновление 8 ч.
В UEFI найдена критическая уязвимость — под угрозой машины с сетевой загрузкой 9 ч.
NASA бесплатно отправит имена всех желающих на Титан — регистрация на миссию Dragonfly открыта 2 ч.
ЕС выделит €319 млн на запуск первого в мире массового производства GaN-чипов на 300-мм пластинах 2 ч.
Infineon расширит производство силовых полупроводников на основе GaN-компонентов 3 ч.
Спецслужбы США заподозрили близкую знакомую главы Nvidia в шпионаже на Китай, но Трамп не стал вмешиваться 3 ч.
Samsung отчиталась о рекордной операционной прибыли в III квартале на фоне огромного спроса на память для ИИ 3 ч.
Quantum DC намерена построить кампус ЦОД мощностью 1,2 ГВт и энергетический комплекс в Австралии 6 ч.
OnePlus представила смартфоны Ace 7 и Ace 7 Pro — Snapdragon 8 Elite Gen 5 с активным охлаждением, камера 200 Мп и батарея 9000 мА·ч 7 ч.
Naver заключила сделку c Brookfield на $9 млрд для расширения ИИ-инфраструктуры 7 ч.
Marvell намерена поглотить производителя оптических компонентов для ЦОД Lumentum 7 ч.
$15 500 запросила Apple за 512 Гбайт оперативной памяти для Mac Studio 8 ч.