Сегодня 22 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI формирует команду для контроля над созданием «сверхразумных» систем ИИ

По последним данным, компания OpenAI, положившая начало гонке ИИ, представив чрезвычайно эффективного чат-бота ChatGPT, сформировала специальную команду для управления и контроля «сверхразумными» ИИ-системами. Её главой стал один из основателей компании и её главный научный сотрудник Илья Суцкевер.

 Источник изображения: D5000/pixabay.com

Источник изображения: D5000/pixabay.com

Согласно публикации в блоге OpenAI, ИИ, превосходящий по возможностям человеческий разум, может появиться в течение десятилетия. При этом вовсе не обязательно, что этот «сверхразум» будет благожелательно настроен к человечеству — поэтому необходимо искать пути контроля и ограничений возможностей подобных систем.

Как заявляют в OpenAI, сегодня отсутствуют решения для эффективного контроля и управления сверхразумными ИИ и предотвращения «агрессии» с его стороны. Существующие технологии настройки искусственного интеллекта основаны на обучении с подкреплением на основе обратной связи от человека. При этом такие методики рассчитывают на то, что люди в принципе могут контролировать ИИ, что маловероятно с системами, потенциально более разумными, чем люди. Для изучения данного вопроса специальная команда получит доступ к 20 % вычислительных мощностей компании. К ним присоединятся учёные и программисты из отдела, занятого настройкой ИИ в компании, а также других подразделений — в ближайшие четыре года команда намерена справиться с ключевыми техническими вызовами, связанными с контролем сверхразумного ИИ.

Фактически речь идёт о тренировке ИИ с использованием обратной связи. При этом будет использоваться специальный искусственный интеллект, предназначенный для оценки других ИИ-систем и обеспечения желаемых результатов, а также обеспечения безопасности их эксплуатации. В OpenAI полагают, что искусственный интеллект справится с этим лучше и быстрее, чем люди. По мере развития ИИ-системы компании предположительно будут брать на себя всё больше задач и в результате станут создавать и внедрять лучшие технологии настройки, чем имеются сейчас. Они будут работать вместе с людьми для того, чтобы их собственные преемники больше соответствовали потребностями людей, а те будут осуществлять только надзор, не принимая в исследованиях непосредственного участия.

Конечно, ни один метод не имеет абсолютной защиты от ошибок, о чём и заявили в OpenAI. Использование одного ИИ для оценки других может привести к росту числа ошибок и уязвимостей в создаваемых ИИ, и вообще может выявить, что сложнейшая часть настройки может быть связана с самыми неожиданными аспектами работы ИИ. Впрочем, в компании убеждены, что настройка сверхразума в основе своей является задачей машинного обучения, и критически важную роль будут играть специалисты в данной отрасли. В компании рассчитывают в будущем поделиться плодами своих изысканий для настройки и обеспечения безопасности проектов, даже не связанных с OpenAI.

По данным Reuters, противники инициативы считают, что ИИ с мышлением на уровне человеческого сможет выйти из-под контроля ещё до того, как займётся обеспечением безопасной работы других ИИ-систем. В апреле представители экспертного и бизнес-сообщества опубликовали открытое письмо, в котором предостерегали от создания ИИ, более совершенного, чем GPT-4.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Нам нужно держать марку»: глава Larian предрёк Baldur’s Gate 3 светлое будущее и высказался о следующей игре студии 33 мин.
Gmail упростил отписку от надоедливых рассылок, собрав их все в одном месте 55 мин.
Bethesda анонсировала и выпустила The Elder Scrolls IV: Oblivion Remastered — с новой графикой, улучшенным геймплеем и без русского языка 2 ч.
Курс биткоина превысил $90 000 впервые за шесть недель 2 ч.
UserGate обновила и расширила экосистему ИБ UserGate SUMMA и реорганизовала работу с учётом потребностей клиентов 2 ч.
Google призналась, что платит Samsung «огромные деньги» за предустановку Gemini на Galaxy 3 ч.
Windows 11 впервые установили и запустили на Apple iPad Air 3 ч.
Журналисты и блогеры готовятся разразиться подробностями и геймплеем Death Stranding 2: On the Beach — Кодзима пригласил в гости 3 ч.
«VK Видео» запустит платную подписку для отключения рекламы в видео 5 ч.
Разработчики ИИ-приложений предпочитают технологии OpenAI, но всё быстро меняется 5 ч.
Астрономы обнаружили хвостатую планету, которая буквально испаряется с каждым оборотом вокруг своей звезды 2 ч.
Insta360 представила экшн-камеру X5 за $550 c простой заменой разбитых линз 3 ч.
Intel придумала разгон без потери гарантии: функция Core 200S Boost безопасно ускорит ПК на Arrow Lake, но не все 3 ч.
Казахстанский дата-центр Freedom Cloud свяжет Китай и Европу 3 ч.
«Роскосмос» рассказал, когда начнёт строить дополнительный сегмент ГЛОНАСС из 240 спутников 4 ч.
Названа самая популярная марка ноутбуков в России в этом году 4 ч.
Трёхстворчатый складной смартфон Samsung и недорогой Galaxy Z Flip FE выйдут в четвёртом квартале 5 ч.
Toshiba выпустила 24-Тбайт жёсткие диски N300 и N300 Pro на технологии CMR для работы 24/7 5 ч.
Новые игровые тесты показали пропасть в производительности между разными версиями GeForce RTX 5060 Ti 5 ч.
Грузовик SpaceX Cargo Dragon доставил на МКС рекордный объём продуктов питания 5 ч.