Сегодня 22 апреля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI совершила прорыв в создании сильного ИИ незадолго до увольнения Сэма Альтмана

Незадолго до того, как Сэм Альтман (Sam Altman) был уволен с поста гендиректора OpenAI, несколько научных сотрудников компании направили в совет директоров письмо, в котором предупредили о существенном прорыве в разработке искусственного интеллекта — это открытие, по их мнению, может угрожать человечеству, сообщило Reuters со ссылкой на два источника.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Письмо стало одним из факторов в длинном списке претензий совета директоров к главе компании Сэму Альтману. Речь в документе шла о проекте Q* («Q со звёздочкой») — представители OpenAI не дают официальных комментариев о нём, но Мира Мурати (Mira Murati), некоторое время занимавшая пост гендиректора компании в отсутствие Альтмана, написала адресованное сотрудникам сообщение, в котором признала факт существования этого проекта и предупредила об интересе СМИ к нему.

Проект Q*, уверены некоторые сотрудники OpenAI, может стать прорывом в разработке сильного искусственного интеллекта (AGI), способного выполнять задачи, не уступая человеку. При наличии мощных вычислительных ресурсов новая модель научилась решать математические задачи — пока на уровне ученика начальной школы, но это достижение вселяет в исследователей оптимизм по поводу будущих успехов Q*.

Математика, по мнению учёных, является передовым рубежом в области развития генеративного ИИ. Сейчас он успешно пишет тексты и осуществляет переводы на разные языки, статистически предсказывая каждое последующее слово, но его ответы на один и тот же вопрос могут сильно отличаться. Достижение успеха в области математики, где может быть только один правильный ответ, предполагает наличие у ИИ значительных способностей к рассуждению по образцу человеческого интеллекта. Эти способности можно будет применить к перспективным исследованиям в области ИИ. В отличие от калькулятора, который выполняет ограниченное число операций, AGI умеет обобщать, учиться и понимать.

 Источник изображения: Andrew Neel / unsplash.com

Источник изображения: Andrew Neel / unsplash.com

В своём письме совету директоров исследователи OpenAI отметили мощь ИИ и потенциальную угрозу человечеству, хотя и не уточнили, каких именно аспектов безопасности они могут коснуться. Специалисты в области информационных технологий уже давно ведут дискуссии о высокоинтеллектуальных машинах, которые, например, могут прийти к выводу, что их интересам отвечает уничтожение человечества. Авторы письма отметили работу подразделения, сформированного путём объединения команд Code Gen и Math Gen, — учёные этого подразделения изучали способы оптимизировать существующие модели ИИ, чтобы повысить качество рассуждений систем и направить их потенциал на научную работу.

Альтман превратил платформу ChatGPT в один из наиболее востребованных программных продуктов и привлёк от Microsoft финансовые и вычислительные ресурсы, необходимые для работы по созданию AGI. На прошлой неделе в ходе своего выступления на саммите АТЭС он заявил мировым лидерам, что серьёзный прорыв уже не за горами. «Четыре раза за всю историю OpenAI, последний из которых был не более двух недель назад, мне довелось присутствовать в комнате, где мы как будто раздвигаем завесу невежества и отодвигаем границу открытий вперёд, и сделать это — профессиональная честь всей жизни», — заявил Альтман. На следующий день совет директоров его уволил.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Сюжетный роглайк «Бессмертный. Сказки Старой Руси» в духе Slay the Spire получил новый геймплейный трейлер 54 мин.
«Вы меня извините, но выглядит это безобразно»: первый трейлер душевной игры о жизни хоббитов Tales of the Shire отпугнул фанатов «Властелина колец» 3 ч.
Вышла новая версия Kaspersky Security для почтовых серверов с продвинутой фильтрацией контента и визуализацией событий 5 ч.
Пользователи Windows 10 скоро столкнутся с назойливыми призывами завести онлайн-аккаунт 6 ч.
Перевод Kingdom Come: Deliverance 2 на русский язык оказался под вопросом 8 ч.
Японский регулятор обвинил Google в нечестной конкуренции с Yahoo Japan 8 ч.
Похоже, Konami и Bloober Team изменили внешность главного героя ремейка Silent Hill 2 под давлением игроков — фанаты наконец довольны 9 ч.
Fallout 76 установила новый рекорд пикового онлайна в Steam — помогли сериал и распродажа со скидками 9 ч.
Инсайдер прояснил «тизер» звезды «Оппенгеймера» в Far Cry 7 и огорчил фанатов Watch Dogs 9 ч.
Игроки предсказали, когда ждать следующий анонс по GTA VI 11 ч.