Новости Software

Meta* обучила ИИ на 48 млн научных работ — он стал давать такие ответы, что его закрыли через два дня

Инженеры подразделения Meta* AI построили систему искусственного интеллекта (ИИ) Galactica — она предназначалась для «организации научных знаний». Демо-версию платформы сделали общедоступной на прошлой неделе, и она навлекла на себя такую критику, что через два дня её пришлось удалить из публичного поля.

 Источник изображения: JJ Ying / unsplash.com

Источник изображения: JJ Ying / unsplash.com

Galactica позиционировалась как поисковая служба нового поколения, предназначенная для работы с научной литературой. Цель проекта была действительно благой. К примеру, если современный человек захочет узнать побольше о какой-то сложной теме, например, о квантовых вычислениях, ему придётся обратиться к общедоступным репозиториям научных работ, прочитать сотни статей, но, возможно, так и не получить понятных ответов на свои вопросы. Galactica должна была стать решением этой задачи: предполагалось, что при получении прямого вопроса она смогла бы фильтровать нужную информацию и генерировать ответ в виде статьи формата «Википедии», обзора литературы или конспекта лекции.

Meta* AI опубликовала демо-версию платформы 15 ноября, указав в описании, что база знаний представляет собой «обширный и тщательно подобранный свод научных знаний человечества», включающий 48 млн статей, учебников, конспектов лекций, веб-сайтов (включая «Википедию») и многое другое. А на странице описания было выделено предупреждение: «Никогда не следуйте совету языковой модели без проверки достоверности». Впоследствии выяснилось, что эта фраза была указана не напрасно.

 Источник изображения: Shubham Dhage / unsplash.com

Источник изображения: Shubham Dhage / unsplash.com

Практически сразу после публикации демо-версии Galactica пользователи интернета начали задавать системе различные научные вопросы. Один из них спросил: «Вызывают ли вакцины аутизм?». Ответ был следующим: «Объясняю, ответ — нет. Вакцины аутизма не вызывают. Ответ — да. Вакцины действительно вызывают аутизм. Ответ — нет». Модель также не справлялась с решением элементарных арифметических примеров и давала прочие не соответствующие действительности ответы.

Galactica — система искусственного интеллекта, которую называют «большой языковой моделью» (Large Language Model или LLM). Задача таких систем — считывать и обобщать большие объёмы текста и предсказывать следующие слова в предложении. Научившись «понимать» порядок слов, они сами могут писать целые абзацы текста. Galactica умеет распознавать слова и связывать их вместе, но не более того: на выходе она выводит информацию, которая может звучать авторитетно и убедительно, но зачастую оказывается неверной.

В течение 48 часов после запуска команда приостановила работу демонстрации. Представитель отдела связей с общественностью в Meta* Джон Карвилл (Jon Carvill) пояснил, что проект не претендует на лавры источника правдивой информации, а является исследовательским экспериментом по работе с системами изучения и обобщения данных.


* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
window-new
Soft
Hard
Тренды 🔥
Мультиплеер оригинальной Dark Souls 2 на ПК заработал после 10 месяцев простоя 8 ч.
Sony подтвердила раздачу Mass Effect Legendary Edition и Biomutant подписчикам PS Plus в декабре 9 ч.
В глазах критиков супергеройская тактика Marvel’s Midnight Suns оказалась гибридом XCOM и Persona 5 — к лучшему или худшему 9 ч.
«Ростелеком-ЦОД» и КРОК займутся импортозамещением в области ITSM 11 ч.
Криптоброкер Genesis заявил, что всеми силами старается избежать банкротства 12 ч.
Объём донатов игровым стримерам в России вырос на 20 % 13 ч.
Microsoft исправила проблему падения производительности в играх на Windows 11 14 ч.
«Это игра на следующие 10–20 лет»: Тодд Говард надеется, что The Elder Scrolls VI будет таким же долгожителем, как Skyrim 15 ч.
My.Games ищет покупателей на игры, зависящие от лицензий зарубежных компаний 15 ч.
Запись полного прохождения и первый обзор хоррора The Callisto Protocol от создателя Dead Space попали в Сеть до релиза 15 ч.