Сегодня 23 февраля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Обучение GPT-5 так и не началось — OpenAI беспокоится, что новая модель опасна для человечества

Пообещав приостановить работу над преемницей нейросети GPT-4, компания OpenAI так и не приступила к обучению GPT-5. Мера вызвана общественным беспокойством по поводу потенциальной угрозы больших языковых моделей благополучию человечества.

 Источник изображения: ilgmyzin / unsplash.com

Источник изображения: ilgmyzin / unsplash.com

«Нам предстоит проделать массу работы, прежде чем запустим эту модель. Мы прорабатываем новые идеи, которые, как мы думаем, для этого нужны, но к запуску мы пока не приблизились», — рассказал глава OpenAI Сэм Альтман (Sam Altman) на конференции, организованной индийской газетой Economic Times.

В конце марта более тысячи представителей общественности и экспертного сообщества, включая Илона Маска (Elon Musk) и Стива Возняка (Steve Wozniak), подписали открытое письмо с призывом ко всем лабораториям искусственного интеллекта как минимум на 6 месяцев приостановить обучение систем мощнее GPT-4. Позже Альтман отметил, что в документе «отсутствует большинство технических нюансов по поводу того, где нам нужно сделать паузу», но добавил, что OpenAI так и не начала обучение GPT-5 и не планирует делать это ещё какое-то время.

Глава компании отверг некоторые предостережения в отношении потенциальных угроз систем ИИ, заявив, что OpenAI и сама способна провести их всестороннюю оценку с привлечением сторонних экспертов, имитацией полномасштабных кибератак и прочими тестами на безопасность. И даже по завершении работы над GPT-4 потребовались ещё полгода для выпуска платформы в открытый доступ, напомнил Альтман. Он также выступил против мер госрегулирования для небольших стартапов в области ИИ — предложив эту меру на слушаниях в Сенате, он имел в виду саму OpenAI и более крупных игроков.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Число высококритичных атак на российские компании выросло более чем в три раза 3 ч.
В приложении Apple Shortcuts нашли уязвимость, позволяющую похищать данные без участия пользователя 3 ч.
Larian подтвердила работу над «обширной кроссплатформенной поддержкой модов» для Baldur's Gate 3 4 ч.
Приложение «Фотографии» в Windows научилось удалять лишние объекты с фото с помощью ИИ 4 ч.
Reddit подала заявку на первичное размещение акций — это первое IPO крупной соцсети за пять лет 4 ч.
Режиссёр Elden Ring раскрыл главное достоинство Shadow of the Erdtree, и чем аддон будет похож на Sekiro: Shadows Die Twice 5 ч.
Avast заплатит штраф в $16,5 млн за продажу пользовательских данных и больше не будет ими торговать 6 ч.
Google Chrome научился писать отзывы и проходить опросы за пользователя 6 ч.
Полмиллиарда записей о россиянах утекли в Сеть в результате одного инцидента — больше, чем за весь прошлый год 6 ч.
Стратегия Millennia в духе «Цивилизации» позволит узнать, как изменится история, если на Землю прилетят инопланетяне — дата выхода и предзаказ в российском Steam 7 ч.