Сегодня 19 марта 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Meta✴ обучила ИИ на 48 млн научных работ — он стал давать такие ответы, что его закрыли через два дня

Инженеры подразделения Meta AI построили систему искусственного интеллекта (ИИ) Galactica — она предназначалась для «организации научных знаний». Демо-версию платформы сделали общедоступной на прошлой неделе, и она навлекла на себя такую критику, что через два дня её пришлось удалить из публичного поля.

 Источник изображения: JJ Ying / unsplash.com

Источник изображения: JJ Ying / unsplash.com

Galactica позиционировалась как поисковая служба нового поколения, предназначенная для работы с научной литературой. Цель проекта была действительно благой. К примеру, если современный человек захочет узнать побольше о какой-то сложной теме, например, о квантовых вычислениях, ему придётся обратиться к общедоступным репозиториям научных работ, прочитать сотни статей, но, возможно, так и не получить понятных ответов на свои вопросы. Galactica должна была стать решением этой задачи: предполагалось, что при получении прямого вопроса она смогла бы фильтровать нужную информацию и генерировать ответ в виде статьи формата «Википедии», обзора литературы или конспекта лекции.

Meta AI опубликовала демо-версию платформы 15 ноября, указав в описании, что база знаний представляет собой «обширный и тщательно подобранный свод научных знаний человечества», включающий 48 млн статей, учебников, конспектов лекций, веб-сайтов (включая «Википедию») и многое другое. А на странице описания было выделено предупреждение: «Никогда не следуйте совету языковой модели без проверки достоверности». Впоследствии выяснилось, что эта фраза была указана не напрасно.

 Источник изображения: Shubham Dhage / unsplash.com

Источник изображения: Shubham Dhage / unsplash.com

Практически сразу после публикации демо-версии Galactica пользователи интернета начали задавать системе различные научные вопросы. Один из них спросил: «Вызывают ли вакцины аутизм?». Ответ был следующим: «Объясняю, ответ — нет. Вакцины аутизма не вызывают. Ответ — да. Вакцины действительно вызывают аутизм. Ответ — нет». Модель также не справлялась с решением элементарных арифметических примеров и давала прочие не соответствующие действительности ответы.

Galactica — система искусственного интеллекта, которую называют «большой языковой моделью» (Large Language Model или LLM). Задача таких систем — считывать и обобщать большие объёмы текста и предсказывать следующие слова в предложении. Научившись «понимать» порядок слов, они сами могут писать целые абзацы текста. Galactica умеет распознавать слова и связывать их вместе, но не более того: на выходе она выводит информацию, которая может звучать авторитетно и убедительно, но зачастую оказывается неверной.

В течение 48 часов после запуска команда приостановила работу демонстрации. Представитель отдела связей с общественностью в Meta Джон Карвилл (Jon Carvill) пояснил, что проект не претендует на лавры источника правдивой информации, а является исследовательским экспериментом по работе с системами изучения и обобщения данных.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Бывшие сотрудники Blizzard рассказали, что происходит с сюжетными миссиями Overwatch 2 — их могут окончательно отменить 9 мин.
Более половины игровых студий применяют ИИ в разработке, показало исследование Unity 40 мин.
На смену Family Sharing в Steam придут «Семейные группы» с общей библиотекой, контролем за детьми и привязкой к региону 2 ч.
Nvidia запустила Quantum Cloud — облачный симулятор квантового компьютера для исследований 2 ч.
Telegram выгодно для себя привлёк $330 млн через продажу облигаций 2 ч.
Более 500 российских программистов приняли участие в совместном хакатоне Хоум Банка и «Сколково» 3 ч.
Всё своё ношу с собой: Nvidia представила контейнеры NIM для быстрого развёртывания оптимизированных ИИ-моделей 10 ч.
Nvidia AI Enterprise 5.0 предложит ИИ-микросервисы, которые ускорят развёртывание ИИ 11 ч.
NVIDIA запустила облачную платформу Quantum Cloud для квантово-классического моделирования 11 ч.
NVIDIA и Siemens внедрят генеративный ИИ в промышленное проектирование и производство 11 ч.
Samsung основала лабораторию по разработке полупроводников для ИИ 7 мин.
«Мерлион» выпустит SSD, блоки питания и другие комплектующие под собственным брендом 2 ч.
Смарт-часы Xiaomi Watch S3 и Redmi Watch 4 для любителей активного образа жизни и ТВ-приставка Mi Box S 2 Gen для развлечений 3 ч.
SK hynix запустила массовое производство стеков памяти HBM3E — первой её получит Nvidia 3 ч.
Смартфоны Redmi Note 13 и 13 Pro+ 5G, планшет Xiaomi Pad 6 расширят возможности для работы и развлечений 4 ч.
Зарубежные поставщики Intel и TSMC не спешат строить свои предприятия в Аризоне 5 ч.
Nvidia и Synopsys внедрили искусственный интеллект в сфере литографической подготовки производства чипов 5 ч.
NVIDIA представила облачную платформу для исследований в сфере 6G 12 ч.
Ускорители NVIDIA H100 лягут в основу японского суперкомпьютера ABCI-Q для квантовых вычислений 12 ч.
NVIDIA показала цифрового двойника нового дата-центра с ИИ-ускорителями Blackwell 12 ч.