В октябре прошлого года муниципальные органы власти Нью-Йорка запустили на официальном портале MyCity чат-бота на основе искусственного интеллекта (ИИ), разработанного с использованием платформы Azure AI корпорации Microsoft. Этот инструмент был задуман как средство быстрого доступа к необходимой информации для местного бизнеса. Несмотря на благие намерения, сервис столкнулся с серьёзной проблемой недостоверности предоставляемых данных.

Итоги 2025 года: почему память стала роскошью и что будет дальше

Обзор телевизора Sber SDX-43U4169

Обзор ноутбука TECNO MEGABOOK S14 (S14MM): OLED с HDR как новая норма

Итоги 2025-го: ИИ-лихорадка, рыночные войны, конец эпохи Windows 10 и ещё 12 главных событий года

Обзор игрового QD-OLED WQHD-монитора Gigabyte AORUS FO27Q5P: на пределе возможностей

Обзор игрового 4K IPS-монитора Gigabyte M27UP: разнообразия ради

Источник изображения: AMRULQAYS / Pixabay

По результатам проверки, проведённой аналитиками из The Markup, выяснилось, что ИИ-чат-бот даёт неверную информацию по широкому спектру вопросов, затрагивающих жилищную политику и права работников. В частности, на вопрос о возможности отказа от наличных расчётов в магазине чат-бот ответил утвердительно, несмотря на то, что законодательство Нью-Йорка запретило практику полностью безналичных расчётов в магазинах ещё в 2020 году.

Система также неверно информировала пользователей о требованиях к арендодателям относительно принятия ваучеров Section 8 и о законности удержания чаевых работодателями. Особенно тревожным является факт, что при повторных запросах на один и тот же вопрос нью-йоркский чат-бот мог давать разные ответы, что свидетельствует о недостаточной надёжности системы в целом.

Чат-бот функционирует на основе ИИ, разработанного Microsoft и используемого в широком спектре приложений, включая сервисы таких компаний, как Reddit и AT&T. Нестабильность ответов, предоставляемых чат-ботом, подчёркивает необходимость всестороннего тестирования ИИ-систем перед их внедрением в общественные сервисы, чтобы обеспечить их способность предоставлять актуальную и точную информацию.

Компания xAI под руководством Илона Маска (Elon Musk), специализирующаяся на разработке искусственного интеллекта (ИИ), объявила об официальном открытии исходного кода своей большой языковой модели (LLM) Grok-1. Это решение, анонсированное Маском за несколько дней до публикации, стало значимым шагом в сторону увеличения прозрачности и доступности ИИ.

Итоги 2025-го: ИИ-лихорадка, рыночные войны, конец эпохи Windows 10 и ещё 12 главных событий года

Обзор телевизора Sber SDX-43U4169

Обзор игрового QD-OLED WQHD-монитора Gigabyte AORUS FO27Q5P: на пределе возможностей

Итоги 2025 года: почему память стала роскошью и что будет дальше

Обзор ноутбука TECNO MEGABOOK S14 (S14MM): OLED с HDR как новая норма

Обзор игрового 4K IPS-монитора Gigabyte M27UP: разнообразия ради

Источник изображения: xAI

В прошлый понедельник Маск пообещал открыть исходный код своего саркастичного и раскованного ИИ-чат-бота Grok, и уже в воскресенье компания xAI выполнила это обещание. «Мы рады представить базовые веса и архитектуру Grok-1, нашей передовой языковой модели», — сообщила xAI на своём официальном сайте. Grok-1 является моделью на основе метода «Смешение экспертов» (Mixture-of-Experts) с архитектурой, включающей 314 млрд параметров, разработанной с нуля командой xAI.

Опубликованная модель Grok-1 представляет собой неадаптированный базовый набор данных из стадии предварительного обучения, завершившейся в октябре 2023 года. Это означает, что модель не была дополнительно настроена под конкретные задачи, такие как ведение диалогов. xAI обеспечивает доступ к модели под лицензией Apache 2.0, что подчёркивает её стремление к поддержке открытых исследований в области ИИ.

На социальной платформе X аккаунт Grok, реагируя на заявление Маска об открытом доступе к коду Grok, сделал шутливое замечание о разглашении своих «весов», что спровоцировало добродушный диалог с аккаунтом ChatGPT. В ответ на эту перепалку, Маск поинтересовался, насколько OpenAI соответствует своему названию «открытый ИИ», тем самым подчеркнув вопрос прозрачности в сфере ИИ.

В январе текущего года Маск опроверг слухи о том, что xAI ищет инвестиции, уточнив, что не проводил никаких переговоров по этому вопросу. Основав xAI в июле прошлого года как конкурента OpenAI и другим компаниям в этой сфере, Маск уже в ноябре запустил ИИ-чат-бота Grok, намереваясь изменить текущий ландшафт ИИ-индустрии.

Решение об открытии исходного кода Grok последовало за критикой Маска в адрес OpenAI — стартапа, в создании которого он когда-то участвовал. Он также обратился в суд с иском против OpenAI и её сооснователей — Сэма Альтмана (Sam Altman) и Грега Брокмана (Greg Brockman), обвинив их в отступлении от изначальных целей стартапа, выборе пути коммерциализации и закрытости, особенно после того, как OpenAI привлекла инвестиции корпорации Microsoft на сумму $1 млрд в 2019 году и $10 млрд в 2023 году. В ответ на эти обвинения OpenAI заявила, что Маск поддержал переход OpenAI на коммерческие рельсы ещё в 2015 году.

Открытие исходного кода ИИ-чат-бота Grok компании xAI знаменует новый этап в развитии сферы ИИ, акцентируя внимание на важности открытости и доступности передовых технологий для всего человечества. Этот шаг не только способствует усилению исследовательской работы, но и поднимает вопросы о будущем коммерциализации и этичности в индустрии ИИ, выдвигая xAI и Маска в качестве ключевых игроков в диалоге о будущем этой технологии.