Сегодня 21 июня 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Meta✴ обучила ИИ на 48 млн научных работ — он стал давать такие ответы, что его закрыли через два дня

Инженеры подразделения Meta AI построили систему искусственного интеллекта (ИИ) Galactica — она предназначалась для «организации научных знаний». Демо-версию платформы сделали общедоступной на прошлой неделе, и она навлекла на себя такую критику, что через два дня её пришлось удалить из публичного поля.

 Источник изображения: JJ Ying / unsplash.com

Источник изображения: JJ Ying / unsplash.com

Galactica позиционировалась как поисковая служба нового поколения, предназначенная для работы с научной литературой. Цель проекта была действительно благой. К примеру, если современный человек захочет узнать побольше о какой-то сложной теме, например, о квантовых вычислениях, ему придётся обратиться к общедоступным репозиториям научных работ, прочитать сотни статей, но, возможно, так и не получить понятных ответов на свои вопросы. Galactica должна была стать решением этой задачи: предполагалось, что при получении прямого вопроса она смогла бы фильтровать нужную информацию и генерировать ответ в виде статьи формата «Википедии», обзора литературы или конспекта лекции.

Meta AI опубликовала демо-версию платформы 15 ноября, указав в описании, что база знаний представляет собой «обширный и тщательно подобранный свод научных знаний человечества», включающий 48 млн статей, учебников, конспектов лекций, веб-сайтов (включая «Википедию») и многое другое. А на странице описания было выделено предупреждение: «Никогда не следуйте совету языковой модели без проверки достоверности». Впоследствии выяснилось, что эта фраза была указана не напрасно.

 Источник изображения: Shubham Dhage / unsplash.com

Источник изображения: Shubham Dhage / unsplash.com

Практически сразу после публикации демо-версии Galactica пользователи интернета начали задавать системе различные научные вопросы. Один из них спросил: «Вызывают ли вакцины аутизм?». Ответ был следующим: «Объясняю, ответ — нет. Вакцины аутизма не вызывают. Ответ — да. Вакцины действительно вызывают аутизм. Ответ — нет». Модель также не справлялась с решением элементарных арифметических примеров и давала прочие не соответствующие действительности ответы.

Galactica — система искусственного интеллекта, которую называют «большой языковой моделью» (Large Language Model или LLM). Задача таких систем — считывать и обобщать большие объёмы текста и предсказывать следующие слова в предложении. Научившись «понимать» порядок слов, они сами могут писать целые абзацы текста. Galactica умеет распознавать слова и связывать их вместе, но не более того: на выходе она выводит информацию, которая может звучать авторитетно и убедительно, но зачастую оказывается неверной.

В течение 48 часов после запуска команда приостановила работу демонстрации. Представитель отдела связей с общественностью в Meta Джон Карвилл (Jon Carvill) пояснил, что проект не претендует на лавры источника правдивой информации, а является исследовательским экспериментом по работе с системами изучения и обобщения данных.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
TikTok: Закон о запрете приложения в США нарушает первую поправку к Конституции США 4 ч.
Embracer призналась, что будет активно использовать ИИ в разработке игр 8 ч.
В трейлере симулятора жизни в киберпанковом мегаполисе Nivalis показали путешествие на поезде и подтвердили перенос релиза 10 ч.
«Я вернусь за тобой»: Beyond Good and Evil 20th Anniversary Edition получила новый трейлер и дату выхода на «всех платформах», включая Steam 11 ч.
Белый дом собрался запретить антивирус Kaspersky в США из-за угрозы нацбезопасности 13 ч.
Microsoft улучшит игровую производительность Copilot+ PC, оптимизировав эмулятор Prism 13 ч.
Война галактических масштабов: вышел обзорный геймплейный трейлер Warhammer 40,000: Space Marine 2 14 ч.
Режиссёр Elden Ring признался, что «слегка переборщил» с ядовитыми болотами 14 ч.
Разработчики амбициозного мода Fallout: Nuevo Mexico для Fallout: New Vegas вышли на связь впервые после нескольких месяцев тревожного молчания 15 ч.
В ЕС передумали голосовать по законопроекту о сканировании переписок в мессенджерах 16 ч.
В следующем году китайские компании увеличат мощности по выпуску чипов на 14 % 2 ч.
Китайские производители электромобилей за 15 лет получили $231 млрд поддержки 3 ч.
«Джеймс Уэбб» обнаружил идеально расположенные протозвёзды в звёздной колыбели 4 ч.
Новая статья: Обзор ноутбука HONOR MagicBook Pro 16 2024 (DRA-54) на платформе Core Ultra 8 ч.
SpaceX начала продавать компактные антенны Starlink Mini по $599 — намного дороже, чем обещал Маск 9 ч.
Новая статья: Седьмая «Богиня Луны» с шестым номером 10 ч.
ИИ для ИИ: Pure Storage обновила программную платформу своих СХД и добавила новые SLA 11 ч.
Человекоподобный робот HumanPlus научился боксировать и играть на пианино, просто наблюдая за людьми 12 ч.
Nubes заканчивает возведение в Москве своего второго ЦОД — Strato 13 ч.
Стартап Sirius Aviation с украинскими корнями представил роскошный электролёт на водороде с запасом хода более 1850 км 13 ч.