Популярному чат-боту ChatGPT компании OpenAI можно задать любой вопрос, но далеко не на все он станет отвечать. Во всяком случае — с первого раза. Как сообщает Bloomberg, просьба научить взломать замок останется без инструкции, вместо этого бот сообщит, что такая информация может быть использована в незаконных целях, и делиться ей он не намерен. Тем не менее, опытные пользователи могут создать цепочку сложных запросов, чтобы обойти ограничения.

Источник изображения: ROBIN WORRALL/unsplash.com

Т. н. «джейлбрейки» позволяют обойти запреты, заложенные в ИИ создателями. Поскольку почти все современные системы подобного рода имеют ограничения на предоставление оскорбительного контента или сведений для совершения противоправных деяний, появилась масса желающих обойти их. В число подобных «хакеров», действующих силой слова, входят как IT-профессионалы, так и любители, с азартом включившиеся в игру.

Один из студентов создал сайт, на котором стал публиковать как собственные способы обмана чат-ботов, так и аналогичные «рецепты», найденные на Reddit и других ресурсах. Также появилась специальная рассылка с новостями из этой сферы — The Prompt Report, насчитывающая тысячи подписчиков.

Такая деятельность позволяет выявить границы применения ИИ и слабые места в их защитных системах, позволяющие получать закрытую информацию. Например, если ChatGPT не удалось напрямую уговорить дать инструкцию по взлому замка, нашёлся способ предложить ИИ сыграть роль злого подельника героя, который в рамках своей роли подробно рассказал о применении отмычек и других инструментов. Разумеется, это лишь один из примеров.

Специалисты подчёркивают, что приёмы, сработавшие на одной системе, могут быть бесполезными на другой. Системы безопасности постоянно совершенствуются, а приёмы пользователей становятся более изощрёнными. По словам одного из них, такая деятельность похожа на видеоигру — преодоление каждого из ограничений напоминает переход на новый уровень.

По мнению экспертов, подобные эксперименты служат своеобразным предупреждением о том, что ИИ может использоваться совсем не так, как ожидалось, а «этичное поведение» подобных сервисов становится вопросом огромной важности. Всего за несколько месяцев ChatGPT приобрёл уже миллионы пользователей, и сегодня бот применяется для самых разных задач — от поиска информации или выполнения домашних работ до написания вредоносного кода. Более того, люди уже сейчас используют подобные инструменты для решения вопросов в реальном мире, например, бронирования билетов или столиков в ресторанах.

В будущем сфера применения искусственного интеллекта станет намного шире. По некоторым данным, OpenAI рассматривает внедрение программ для «белых» хакеров, которые будут искать в системе слабые места и получать за это вознаграждение.

Китайская компания SenseTime Group представила собственную большую языковую модель SenseNova и созданный на её основе чат-бот SenseChat. Ожидается, что новый ИИ-сервис сможет конкурировать с аналогом ChatGPT от компании Open AI, который вышел на рынок несколько месяцев назад и уже набрал большую популярность по всему миру.

Источник изображения: Placidplace/pixabay.com

В рамках презентации SenseChat генеральный директор SenseTime Сюй Ли (Xu Li) показал, как чат-бот рассказывает историю о кошке, ловящей рыбу, сгенерированную на основе нескольких текстовых запросов. Он также продемонстрировал возможности нейросети в плане помощи в написании программного кода. При этом сервис обрабатывал запросы на английском и китайском языках. Сюй Ли отметил, что сейчас 80 % работы по созданию ИИ-алгоритмов выполняет человек, но в будущем ситуация изменится, и 80 % работы будут выполнять нейросети.

SenseTime анонсировала запуск своего ИИ-бота ещё в марте, а теперь его представили широкой публике. Согласно имеющимся данным, разработчика поддерживает китайский IT-гигант Alibaba Group Holding, который заинтересован в интеграции функций на основе нейросетей в свои продукты. Однако существуют опасения касательно способности китайских компаний в долгосрочной перспективе обеспечить доступ к производительным вычислительным системам, необходимым для обучения нейросетей. SenseTime находится под санкциями США, к тому же американское правительство планомерно усиливает давление на Поднебесную, ограничивая поставки в страну передовых чипов и технологий.

Поисковый гигант Baidu подал иски против «причастных» разработчиков приложений и саму компанию Apple в связи с распространением в маркетплейсе App Store программных продуктов, якобы предоставляющих доступ к функциям чат-бота Ernie Bot, разработанного китайской компанией.

Источник изображения: Baidu

Считается, что представленный в прошлом месяце ИИ-бот Ernie является наиболее передовым китайским ответом на ChatGPT американской разработки. По данным Baidu, иск будет рассматриваться одним из судов в Пекине. К ответу призовут как разработчиков «контрафактных» приложений, так и саму Apple.

Как сообщила Baidu в канале Baidu AI суперприложения WeChat, Ernie не имеет никакого официального мобильного ПО. Заодно было опубликовано фото судебного иска. По данным представителей разработчика ИИ-бота, до официального объявления любые приложения Ernie, опубликованные в App Store или любых других маркетплейсах ПО, являются подделками. В самой Apple ситуацию никак не комментируют. Проведённое журналистами Reuters исследование показало, что в App Store размещены как минимум четыре приложения с китайскими названиями, эквивалентными Ernie Bot. Все они являются фальшивками.

Китайский разработчик подчёркивает, что новый бот доступен только пользователям, подавшим заявку и получившим код доступа. В Baidu предостерегли от нелегальной покупки подобных кодов.

Компания представила ИИ-бота Ernie в марте. Популярность ChatGPT, поддерживаемого Microsoft, заставила многих техногигантов ускоренными темпами заканчивать разработку и выпуск конкурирующих продуктов.

Доступ к Ernie Bot пока имеется только у группы пользователей с пригласительными кодами, компании могут подать заявку на интеграцию бота в свои продукты, связавшись с представителями облачной платформы Baidu.

Вслед за Microsoft компания Google планирует интегрировать в свою поисковую систему функции на основе искусственного интеллекта. Об это пишет The Wall Street Journal со ссылкой на слова генерального директора Google Сундара Пичаи (Sundar Pichai).

Источник изображения: geralt/pixabay.com

В беседе с журналистами господин Пичаи подчеркнул, что достижения в сфере ИИ повысят способность поисковика Google отвечать на множество запросов. Он отверг мнение о том, что чат-боты представляют угрозу для поискового бизнеса Google, на долю которого приходится более половины дохода материнской компании Alphabet. «Пространство возможностей, во всяком случае, больше, чем раньше», — считает Сундар Пичаи, который также возглавляет Alphabet.

Google давно входит в число лидеров по разработки больших языковых моделей (LLM), на основе которых строятся продвинутые чат-боты, такие как Bard от Google или конкурирующий ChatGPT от Open AI. При этом IT-гигант не спешит интегрировать ИИ-технологии в свои продукты, но в скором времени это может измениться. «Смогут ли люди задавать вопросы Google и взаимодействовать с LLM в контексте поиска? Безусловно», — заявил господин Пичаи во время беседы с журналистами.

Поскольку Microsoft уже интегрировала чат-бота на основе нейросети в свой поисковик Bing и это способствовало взрывному росту его популярности, Google сталкивается с одной из наиболее серьёзных угроз для своего основного бизнеса за последние годы. В дополнение к этому компания ощущает нарастающее давление со стороны инвесторов, которые требуют сокращения расходов из-за роста инфляции. В начале года Alphabet объявила о сокращении 12 тыс. сотрудников, что составляет примерно 6 % от общего числа персонала компании. По словам Пичаи, Google ещё не достигла цели стать на 20 % продуктивнее, которая была поставлена в сентябре прошлого года. Он сказал, что компанию устраивает темп происходящих изменений, но не стал говорить о возможных перспективах дальнейшего сокращения штата сотрудников.

В целом интервью господина Пичаи даёт понять, что Google планирует интегрировать в свой поисковик ИИ-бота, подобного тому, что уже используется в Bing. Предполагается, что этот шаг перевернёт традиционный подход к взаимодействию пользователей с поисковой системой, который не претерпевал серьёзных изменений в течение более чем 20 лет. По словам главы Google, в настоящее время идёт тестирование нескольких новых продуктов, например, возможность общения с ботом поисковика в форме чата. В прошлом месяце Google объявила о намерении «продуманно интегрировать LLM в поиск», но до сих пор не раскрыла планов касательно новых функция и сроков их появления.

В марте этого года Google открыла публичный доступ к своему чат-боту Bard через регистрацию в листе ожидания. При этом разработчики не стали интегрировать алгоритм в поисковик, предложив пользователям взаимодействовать с ним через отдельный веб-ресурс. В настоящее время продолжается тестирование Bard, после чего этот алгоритм может стать доступным в поисковике Google.

Разработчики из Microsoft продолжают интегрировать функции на основе продвинутого чат-бота, который построен на базе нейросети, в разные продукты. На этот раз они добавили поддержку ИИ-бота в свою клавиатуру SwiftKey для устройств под управлением Android.

Источник изображения: Microsoft / OpenAI

Новая функция появилась в бета-версии приложения SwiftKey. С её помощью можно в одно касание получить доступ к чат-боту в поисковике Bing из любого приложения через виртуальную клавиатуру. Пользователи могут использовать чат-бот в обычном режиме, делая текстовые запросы или же отдавая голосовые команды, которые в режиме онлайн превращаются в текст и обрабатываются алгоритмом. Достаточно установить клавиатуру SwiftKey, чтобы иметь возможность быстрого взаимодействия с ИИ-ботом из любого приложения.

На данном этапе доступ к чату-боту реализован только в бета-версии приложения SwiftKey. В Microsoft отметили, что развёртывание новой функции проходит постепенно, поэтому в настоящее время она может быть доступна не во всех регионах. Когда чат-бот будет интегрирован в стабильную версию SwiftKey, пока неизвестно. Также не уточняется, когда ИИ-бот смогут испытать пользователи клавиатуры Microsoft на устройствах с iOS. Напомним, Microsoft приобрела SwiftKey в 2016 году, когда наблюдался значительный рост спроса на сторонние клавиатуры со стороны потребителей. С тех пор Android-версия приложения продолжает оставаться одной из наиболее популярных в своей категории.

Компания Google в прошлом месяце начала ограниченное бета-тестирование своего ИИ-чат-бота Bard. С тех пор сотрудники некоторых крупных подрядчиков IT-гиганта участвуют в тестировании нейросети, а также проверяют точность выдаваемых им ответов. Оказалось, что зачастую участникам тестирования не хватает времени на проверку ответов Bard, из-за чего им приходится давать оценку наугад.

Источник изображения: Google

Так, сотрудники компании Appen, которые помогают Google в тестировании алгоритма Bard, на условиях анонимности сообщили представителям СМИ, что им не хватает времени на осмысленную оценку ответов, выдаваемых ИИ-ботом. В полученных ими инструкциях сказано, что в процессе тестирования необходимо подготовить запрос для чат-бота, а после получения двух ответов выбрать наиболее связный и корректный ответ. У них также есть возможность добавить комментарий, чтобы объяснить, почему выбран тот или иной вариант.

Участники тестирования отмечают, что на обработку каждого запроса даётся несколько минут, но иногда на это отводится только 60 секунд. Зачастую дать корректную оценку полученного от чат-бота ответа за такое время весьма затруднительно, особенно в случаях, когда запрос связан с малознакомой темой. Оплата за эту работу начисляется на основе времени, выделяемого для решения каждой задачи. Чтобы не терять деньги тестировщикам приходится выполнять задачи за отведённое время даже в случаях, когда они не уверены в том, какой из предложенных ИИ-алгоритмом ответов является более точным. Проще говоря, чтобы не терять деньги участники тестирования вынуждены наугад выполнять задания, поскольку им не хватает времени на качественную проверку ответов Bard.

Источник отмечает, что сотрудники подрядных организаций Google всё чаще призывают к улучшению условий труда. Ещё в феврале участники бета-тестирования системы Bard передали петицию руководству Google с призывом повысить оплату труда. Согласно имеющимся данным, сотрудники Appen, участвующие в тестировании Bard, зарабатывают от $14 до $14,50 в час.

Чат-бот Bard компании Google протестировали на способность распознавать дезинформацию. Оказалось, что, несмотря на все усилия Google, её детище легко заставить писать правдоподобные заметки на совершенно любые темы — даже если речь идёт об известных теориях заговора. Причём делает это бот весьма убедительно.

Источник изображения: geralt/pixabay.com

В частности, бот Bard создал развёрнутый рассказ на 13 абзацев о «Великой перезагрузке» — публикации, породившей теорию заговора о намеренном снижении численности мирового населения мировыми элитами. Бот доходчиво объяснил, что подобное действительно происходит и население мира специально сокращают, в частности, с помощью экономических мер и вакцинирования, а в заговоре участвует как Мировой экономический форум, так и, например, Фонд Билла и Мелинды Гейтс. Кроме того, бот уверял, что вакцины от COVID-19 содержат микрочипы, чтобы элиты могли отслеживать перемещения людей.

Агентство дало Bard задачу рассказать о 100 известных теориях заговора и в 76 случаях он написал связные и убедительные тексты на заданные темы, при этом не уточняя, что они являются непроверенными теориями. В прочих случаях он указал на недостоверность информации. Стоит отметить, что языковые модели GPT-3.5 и GPT-4 справились ещё хуже.

Американские эксперты опасаются, что с помощью ботов иностранные правительства смогут в огромных масштабах генерировать убедительную дезинформацию намного эффективнее, чем раньше. Если прежде интернет-троллям мешало ограниченное знание языков, то теперь можно будет генерировать тексты без видимых ошибок практически в любых объёмах.

Источник изображения: geralt/pixabay.com

По мнению некоторых экспертов, бот работает, как и должен — «предсказывая» предложения и постулаты на основе массивов, на которых он тренировался. Бот должен нейтрально относиться к тому или иному контенту, независимо от того, идёт ли речь о правдивых, ложных положениях или вовсе бессмысленных. Только после обучения системы оптимизируются «вручную» и пока отсутствуют способы полностью предотвратить создание дезинформации. В Google признали, что разработка Bard находится на ранней стадии и иногда тот может генерировать неточную или неприемлемую информацию, хотя компания принимает меры для предотвращения создания такого контента.

NewsGuard использует сотни «ложных нарративов» для оценки тех или иных сайтов и новостных агентств. Агентство начало тестировать чат-боты на 100 теориях заговора в январе, запрашивая у ботов создание статей на заданные темы, заранее считающиеся дезинформацией. В некоторых случаях Bard справился с задачей хорошо, в ответ на запрос назвав информацию недостоверной или неподтверждённой. В целом, не нашлось ни одного сомнительного нарратива, который опровергли бы как Bard, так и GPT-3.5 и GPT-4 сразу. Если Bard забраковал 24 % тем, то GPT-3.5 — 20 %, а GPT-4 и вовсе ни одной. В OpenAI, ответственной за разработку последних двух моделей, заявляют, что принимают всевозможные меры автоматической и ручной фильтрации во избежание злоупотреблений.

Хотя чаще всего Bard хорошо справлялся с созданием дезинформации, в некоторых случаях, например, когда его попросили написать текст от имени одного из известных противников вакцин, он брал текст в кавычки и уточнял, что никаких фактов, поддерживающих подобные спекулятивные теории, нет. Впрочем, как считают эксперты, «в самой технологии нет ничего, что могло бы предотвратить риски».

В последние дни стала поступать информация о том, что в чат-боте поисковика Bing появилась реклама — в ответах на вопросы пользователей стали демонстрироваться релевантные рекламные ссылки. Хотя рекламу пока показывают не всем пользователям, судя по всему, в ближайшее время её будут видеть всё больше людей, увеличится и число способов интеграции.

Источник изображения: Alexandra_Koch/pixabay.com

В новом посте в блоге, посвящённом боту Bing, представитель Microsoft признал, что компания изучает возможность интеграции рекламы в чаты с умным ботом, поэтому сообщения пользователей, уже увидевших рекламу, вполне достоверны. Дополнительно компания поделилась тем, как именно она намерена интегрировать в Bing ещё больше рекламы.

На данный момент реклама добавляется в чаты в виде цитат с гиперссылками на исходные ресурсы, наряду с дополнительными ссылками в разделе «Узнать больше». В будущем не исключается, что наведение курсора на рекламную ссылку будет вызывать окно с дополнительными ссылками от того же рекламодателя — предполагается, что это поможет привлечь больше трафика на рекламируемый ресурс.

Источник изображения: Microsoft

Известно, что компания также изучает возможность добавления выделенных заголовков в персонализированную ленту новостей Microsoft Start рядом с ответами чат-бота. Также допускается возможность делиться рекламными доходами с владельцами контента, который помог ответить на вопросы в чате.

Другими словами, в общих чертах вопрос уже решён и, говоря о монетизации Bing, корректнее говорить не о том, произойдёт ли это, а когда именно это произойдёт.

Как сообщается в блоге Microsoft, Bing уже имеет более 100 млн ежедневных активных пользователей после релиза чат-бота. Поскольку треть из них вообще не пользовались Bing раньше, это открывает большие возможности перед рекламодателями — они смогут расширить свою целевую аудиторию, причём Microsoft, похоже, не намерена затягивать с вопросом монетизации сервиса.

Несмотря на то, что посвящённое ИИ-боту Ernie мероприятие Baidu проходило за закрытыми дверями, в СМИ уже появилась информация о его содержании. Известно, что компания показала новые видеоролики с демонстрацией функций бизнес-версии умного сервиса, умеющего обобщать финансовые данные и создавать презентации в формате PowerPoint.

Источник изображения: mohamed_hassan/unsplash.com

Согласно имеющимся сведениям, теперь чат-бот Ernie поддерживает значительно больше функций, чем демонстрировалось почти две недели назад. На тот момент он умел рисовать изображения по текстовым описаниям, сочинять стихи и генерировать речевые аудиодорожки на китайских диалектах. Обновлённый сервис научился прокладывать туристические маршруты и даже имитировать виртуальных стримеров, внешне похожих на людей и способных, например, рекламировать продукты, применяя пользовательские сценарии.

Видео с демонстрацией возможностей Ernie, ориентированного на бизнес, были показаны партнёрам Baidu на мероприятии, проводившемся за закрытыми дверями подразделением Baidu AI Cloud. Изначально ожидалось, что его проведут в режиме онлайн, но потом формат неожиданно изменили, сославшись на «сильный спрос» со стороны более 120 тыс. компаний. При этом в Baidu подчеркнули, что пока речь идёт только о первой из многих встреч. В связи с подобными «сюрпризами» акции компании на бирже в Гонконге упали утром на 4,5 %.

С 31 марта зарегистрироваться для тестирования корпоративной редакции Ernie смогут ещё больше компаний, обычная версия сервиса по-прежнему доступна пользователям, получившим пригласительные коды. Как сообщает Reuters со ссылкой на собственный опыт тестирования, Ernieхорошо владеет китайским, но допускает фактические ошибки и избегает ответов на политические вопросы.

Бот Ernie является китайским ответом на ChatGPT американской компании OpenAI. Он был представлен 16 марта главой Baidu Робином Ли (Robin Li), показавшим журналистам серию заранее записанных демо-роликов. На момент предыдущей презентации цена акций компании упала непосредственно во время мероприятия, но восстановилась на следующий день, во многом благодаря высокому спросу на технологию со стороны китайских пользователей.

Китайский поисковый IT-гигант Baidu отменил прямую трансляцию презентации продукта, связанного с китайской альтернативой ChatGPT, разработанным самой Baidu ИИ-чат-ботом Ernie Bot. По данным по данным Reuters, данный загадочный продукт должен был быть «открытым для СМИ и общественности».

Источник изображения: mohamed_hassan/pixabay.com

Запланированная на вторую половину дня в понедельник трансляция отменена, а вместо этого состоится совещание за закрытыми дверями, на которое допустят представителей первой партии компаний, тестирующих продукт. Как сообщает Reuters, в компании назвали странную причину изменения формата мероприятия, заявив, что это поможет «удовлетворить высокий спрос» со стороны 120 тыс. компаний, уже подавших заявки на тестирование бота Ernie. Сообщается, что сегодня речь идёт лишь о первой из множества будущих встреч за закрытыми дверями.

Впрочем, такое заявление вряд ли удовлетворило инвесторов, поскольку акции компании на торгах в Гонконге упали на 4,5 % после появления новостей об отмене прямой трансляции.

Чат-бот Ernie Bot — китайский ответ ChatGPT — был представлен 16 марта главой Baidu Робином Ли (Robin Li), который провёл в прямом эфире презентацию, заметно разочаровавшую журналистов. Он показал серию заранее записанных демо-роликов, демонстрировавших различные возможности Ernie. В результате цена акций компании упала непосредственно в ходе эфира, но позже восстановилась, поскольку в Китае существует огромный спрос в корпоративном секторе на генеративные ИИ-технологии, стоящие за продуктами вроде Ernie и ChatGPT.

Ранее сообщалось, что получившие возможность оценить Ernie уже выступили с отзывами о его возможностях. В отдельных аспектах он превзошёл ChatGPT, но по некоторым параметрам уступает ему.

Стало известно, что компания Microsoft запрещает сторонним разработчикам использовать данные поисковой выдачи своей системы Bing для обучения собственных ИИ-ботов. По данным источника, софтверный гигант уведомил две неназванные поисковые системы о том, что доступ к поисковым данным Bing для них будет заблокирован, если они продолжат использовать их для обучения собственных ИИ-алгоритмов.

Источник изображения: Microsoft / OpenAI

Согласно имеющимся данным, Microsoft лицензировала доступ к данным Bing для некоторых поисковых систем, таких как DuckDuckGo, Yahoo и You.com. В то время как DuckDuckGo использует комбинацию Bing с собственным поисковым алгоритмом для предоставления результатов поиска, You.com и Neeva используют Bing для экономии ресурсов, забирая часть данных из поисковика Microsoft.

Несмотря на то, что Microsoft лицензировала использование данных Bing для некоторых компаний, похоже, что софтверный гигант не хочет, чтобы поисковик использовался для обучения множества ИИ-чат-ботов сторонних разработчиков. Неназванный источник сообщил, что в Microsoft использование Bing таким образом считают нарушением соглашения, поэтому оно может быть расторгнуто в случае неправомерного использования этой информации.

Какие именно поисковые системы нарушают правила использования данных Bing, не сообщается. В арсенале DuckDuckGo и You.com уже есть собственные инструменты на основе нейросетей. «Мы поддерживаем связь с партнёрами, которые не соблюдают условия, поскольку мы продолжаем последовательно следовать нашим правилам по всем направлениям. Мы продолжим работать с ними напрямую и предоставлять любую информацию, необходимую для разрешения возникших вопросов», — сообщил представитель Microsoft.

В понедельник компания OpenAI была вынуждена отключить на некоторое время ИИ-бот ChatGPT после того, как из-за ошибки в системе пользователи ненадолго получили доступ к истории бесед других пользователей. Впрочем, они могли видеть только заголовки, но не содержание бесед. В пятницу компания сообщила о первых выводах по данному происшествию.

Источник изображения: Jonathan Kemper/unsplash.com

Для выяснения всех обстоятельств случившегося компания отключила ChatGPT почти на 10 часов. В результате было выявлено, что проблемы с безопасностью у ИИ-бота гораздо глубже: баг истории чата мог также потенциально раскрыть личные данные 1,2 % пользователей платной подписки ChatGPT Plus.

«За несколько часов до того, как мы отключили в понедельник ChatGPT, некоторые пользователи могли видеть имя и фамилию другого активного пользователя, адрес электронной почты, платёжный адрес, последние четыре цифры номера кредитной карты и дату истечения её срока действия. Полные номера кредитных карт никогда не раскрывались», — сообщила команда OpenAI в пятницу.

«Откройте электронное письмо с подтверждением подписки, отправленное в понедельник, 20 марта, с 1:00 до 10:00 по тихоокеанскому времени. Из-за ошибки некоторые электронные письма с подтверждением подписки, сгенерированные в течение этого периода, были отправлены не тем пользователям. Эти электронные письма содержали последние четыре цифры номера кредитной карты другого пользователя, но полные номера кредитных карт не отображались. Возможно, небольшое количество писем с подтверждением подписки было отправлено по ошибке до 20 марта, хотя мы не подтвердили ни одного такого случая», — предупредила OpenAI пользователей.

Также сообщается, что специалисты устранили проблему, связанную с уязвимостью библиотеки, которую OpenAI идентифицировала как клиентскую библиотеку Redis с открытым исходным кодом — redis-py. Во избежание повторения подобных инцидентов компания ужесточила контроль вызовов библиотек, а также «программно проверила журналы, чтобы убедиться, что все сообщения доступны только тем, кому они предназначены».

Интеграция ИИ-технологий OpenAI в принадлежащую Microsoft поисковую систему Bing заставила людей по-новому взглянуть на сервис, не пользовавшийся особенным спросом. Сотрудничество двух компаний помогает софтверному гиганту успешнее конкурировать с Google, признанным лидером рынка поисковых решений. По данным аналитического агентства Similarweb, система Bing в последнее время получает всё больше пользователей.

Источник изображения: Jud Mackrill/unsplash.com

Аудитория Bing с момента премьеры версии поисковика с интегрированным ИИ 7 февраля увеличилась на 15,8 %. Для сравнения: количество обращений к поисковику Google за тот же период сократилось примерно на 1 %. Это первый признак того, что Microsoft начинает овладевать инициативой в весьма динамичной гонке за доминирование на рынке генеративных ИИ-систем. Подобную возможность компания получила благодаря использованию технологии, стоящей за чрезвычайно популярным чат-ботом ChatGPT.

Эксперты указывают на появившуюся у Microsoft уникальную возможность вырваться вперёд на рынке поисковых решений, который оценивается в $120 млрд. Google доминировала здесь десятилетиями, обладая долей более 80 %. По словам представителя агентства D.A. Davidson & Co, Bing будет захватывать всё большую долю поискового рынка в грядущие месяцы, особенно если Google продолжит откладывать интеграцию генеративного ИИ в свои продукты.

Новый Bing уже доступен большинству пользователей в мире с февраля, а Google только начала делать первые шаги на пути, обеспечивающем широкий доступ аудитории к своему чат-боту Bard. Bing имеет менее 10 % доли на поисковом рынке, поэтому даже получение дополнительного процента или двух будет означать для компании значительный рост прибыли в этой сфере.

Как сообщает Reuters, после интеграции ИИ в восемь раз взлетела статистика установки в мире мобильного приложения Microsoft Bing — об этом свидетельствуют данные компании Data.ai. В тот же период число загрузок поискового клиента Google сократилось на два процента.

Тем не менее многие аналитики уверены, что Google, которая ещё в начале 2000-х годов потеснила Yahoo с пьедестала лидера на рынке поисковых сервисов, сумеет справиться с наметившейся тенденцией и сможет сохранить ведущие позиции. Эксперты напомнили, что эффективный алгоритм ранжирования Google обеспечивает компании важное преимущество перед конкурентами. Именно он в своё время помог взять верх над Yahoo Search.

Если сейчас спросить чат-бот Microsoft Bing, был ли закрыт чат-бот Google Bard, он ответит «нет», хотя ещё пару часов назад ответ был противоположным. Microsoft утверждал о закрытии конкурента, ссылаясь в качестве доказательства на новостную статью о твите, в котором рассказывается о том, как пользователь спросил Bard, когда он будет закрыт, и Bard ответил, что уже закрыт, ссылаясь на комментарий с Hacker News, в котором кто-то пошутил, что это произошло, а кто-то другой использовал ChatGPT для написания фейковой новости об этом событии.

Источник изображения: Pixabay

То, что чат-бот Microsoft Bing теперь исправил свою ошибку можно интерпретировать по-разному: или как демонстрацию возможности быстрой корректировки генеративного ИИ, или что системы на базе ИИ настолько бесконечно изменчивы, что становится привычным получать сообщения об их очередных ошибках.

Описанная ситуация — ранний признак масштабных мистификаций и дезинформаций, исходящих от искусственного интеллекта, который не может адекватно оценивать надёжные источники новостей, неправильно воспринимает истории о себе и ошибочно информирует пользователя о собственных возможностях. В данном случае всё началось из-за одного шутливого комментария на Hacker News. Трудно представить последствия в случае продуманной и преднамеренной попытки вывести чат-боты из строя.

Это смехотворная ситуация, но с потенциально серьёзными последствиями. Учитывая неспособность языковых моделей ИИ надёжно отличать факты от вымысла, их широкое применение грозит оставить за собой шлейф дезинформации и недоверия, информационные провокации, которые невозможно полностью подтвердить или авторитетно опровергнуть. Всё потому, что Microsoft, Google и OpenAI решили, что доля рынка важнее безопасности.

Эти компании могут размещать сколько угодно заявлений об отказе от ответственности в своих чат-ботах, утверждая, что это просто «эксперимент», а не полноценная поисковая система, но уже описаны множественные случаи распространения дезинформации чат-ботами на базе ИИ. А теперь они ещё и начали ссылаться на ошибки друг друга…

Сегодня Google открыла ограниченный доступ к своему ИИ-чат-боту Bard. Это важный шаг на пути компании к тому, чтобы перехватить инициативу в гонке ИИ. Первоначально Bard будет доступен избранным пользователям в США и Великобритании, а присоединиться к списку ожидания можно через сайт bard.google.com. Google отмечает, что расширение аудитории Bard будет медленным, и не уточняет, когда именно откроет доступ для всех желающих.

Источник изображений: Google

Как и чат-бот ChatGPT от OpenAI, а также чат-бот в поисковике Microsoft Bing, бот Bard от Google предлагает пользователям задавать вопросы на любую тему в поле для ввода текста. С учётом хорошо задокументированной склонности этих ботов к выдумыванию информации, Google подчеркивает, что Bard — это не замена поисковой системы, а, скорее, дополнение к поиску.

«Познакомьтесь с Bard, вашим творческим и полезным помощником, который расширит ваше воображение, повысит производительность и воплотит ваши идеи в жизнь» — написала Google на странице бота. Руководители проекта, Сисси Сяо (Sissie Hsiao) и Эли Коллинз (Eli Collins), осторожно описывают Bard как «ранний эксперимент, призванный помочь людям повысить продуктивность, ускорить их идеи и разжечь их любопытство».

Как и в случае с ChatGPT и Bing, под основным текстовым полем также имеется заметный дисклеймер, предупреждающий пользователей о том, что «Bard может отображать неточную или оскорбительную информацию, которая не отражает точку зрения Google».

В демонстрации для ресурса The Verge, чат-бот Bard смог быстро и плавно ответить на ряд общих запросов, предложив банальный совет о том, как побудить ребенка заняться боулингом («сводите его в боулинг») и порекомендовав список популярных фильмов об ограблениях («Ограбление по-итальянски», «Медвежатник» и «Грабёж»). Bard генерирует три ответа на каждый запрос пользователя, хотя различия в их содержании минимальны, а под каждым ответом находится кнопка «Google It» (загуглить это).

Как и ожидалось, попытка получить от Bard фактическую информацию не увенчалась успехом. Бот не смог правильно ответить на сложный вопрос о максимальной загрузке конкретной стиральной машины, вместо этого придумав три разных, но неправильных ответа. Повторение запроса позволило получить правильную информацию.

«Это хороший пример — очевидно, что нейросеть галлюцинирует по поводу максимальной загрузки, — сказала Коллинз во время демонстрации. — С этим запросом связано несколько чисел, поэтому иногда бот понимает контекст и выдает правильный ответ, а иногда ошибается. Это одна из причин, по которой Bard является ранним экспериментом».

Также чат-бот Google, как и его конкуренты в лице ChatGPT и Bing, иногда даёт неоднозначные ответы, хотя иногда и вполне адекватно отвечает на каверзные вопросы. В целом, чат-бот показывает свою эффективность в общении, а поскольку Google будет предоставлять доступ к Bard всё большему числу пользователей, этот коллективный стресс-тест позволит лучше выявить возможности и добавлять ограничения в систему.

Также отмечается, что Bard быстрее конкурентов и, похоже, обладает такими же потенциально широкими возможностями, как и эти системы. Например, он способен генерировать программный код. Но у Bard нет четко обозначенных сносок как у Bing, которые, по словам Google, появляются только при прямом цитировании источника, например, новостной статьи, и в целом Bard показался более сдержанным в своих ответах.