Обещания главы Apple Тима Кука (Tim Cook) сделать до конца года важное заявление относительно систем искусственного интеллекта наверняка заинтриговали многих, но мало кто мог предположить, что компания пойдёт на сотрудничество с конкурентами. По информации Bloomberg, платформа Google Gemini может лечь в основу некоторых новых функций iPhone, которые должны быть представлены этой осенью.

Источник изображения: Unsplash, Steve Johnson

Источники Bloomberg сообщили, что Google и Apple ведут активные переговоры на тему лицензирования платформы искусственного интеллекта Gemini для её использования устройствами второй из компаний. Подобные переговоры недавно Apple вела и с OpenAI, рассчитывая использовать разработки этого успешного стартапа в сфере искусственного интеллекта.

Если же вернуться к Google, то сотрудничество поискового гиганта с Apple в иной форме уже длится многие годы, ведь первая из компаний платит второй за право использования своего поискового движка по умолчанию в браузере Safari, который устанавливается на многие устройства Apple. Относительно перспективы использования Gemini ещё нет каких-то чётких договорённостей.

Безусловно, Apple готовит для своих устройств специфические функции искусственного интеллекта собственной разработки. Тем более, что собственные чат-боты и прочие актуальные разработки Apple по своей производительности и точности уступают сторонним решениям, как отмечают осведомлённые источники. В частности, с начала прошлого года Apple тестирует собственную большую языковую модель под кодовым названием Ajax. Некоторые сотрудники также опробовали базовый чат-бот Apple GPT.

На фоне этого Apple нужна платформа, работающая в облаке, и в этой сфере сотрудничество с Google как раз имеет смысл. Для Google сделка такого плана тоже является выгодной, поскольку в мире сейчас эксплуатируется более 2 млрд устройств Apple. Конкурирующая Samsung тоже не стала «изобретать велосипед», и в январе объявила об использовании Google Gemini в своих смартфонах нового поколения.

Единственное, что может омрачать возможное сотрудничество Apple и Google в этой сфере — это внимание регуляторов. По крайней мере, Министерство юстиции США уже расследует факт сотрудничества Apple и Google в области использования поискового движка. Претензии к Apple в этой сфере есть и у европейских чиновников. Скорее всего, в случае достижения определённых новых договорённостей с Google, компания Apple вряд ли сделает соответствующие заявления ранее июня, когда она будет проводить свою конференцию WWDC 2024 для разработчиков.

Google представила передовой генератор изображений Imagen 2, который, как уверяет разработчик, отличается высоким реализмом и избавлен от свойственных системам искусственного интеллекта артефактов. Система доступна как в составе чат-бота Bard, так и в качестве отдельного сервиса ImageFX на платформе бета-тестирования AI Test Kitchen.

Источник изображения: deepmind.google

Google всесторонне улучшила Bard: теперь в основе чат-бота лежит большая языковая модель Gemini Pro — она была представлена ещё в декабре, но до настоящего момента работала лишь у небольшой части пользователей. Теперь Gemini Pro доступна везде, где работает Bard — на всех поддерживаемых языках, во всех странах и на всех территориях.

Но чего в Bard пока не было, так это генератора изображений. Раньше компания уступала в этом сегменте как Bing Image Creator, так и Midjourney. Но с выходом Imagen 2 силы, похоже, сравнялись — эта нейросеть теперь работает и в составе чат-бота, и как отдельный сервис ImageFX. Правда, в последнем случае потребуется регистрация в программе AI Test Kitchen — наряду с MusicFX, качество которой Google тоже улучшила. ImageFX позволяет не только генерировать реалистичные изображения по текстовому описанию, но и редактировать их, в том числе изменяя стиль.

В компании подчеркнули, что созданные ImageFX изображения маркируются как созданные ИИ посредством метаданных и цифровых водяных знаков SynthID; если эти картинки появятся в поиске Google, то они получат соответствующую пометку и там. Модель Imagen 2 «предлагает изображения самого высокого на сегодня качества, а также улучшения в проблемных областях систем преобразования текста в изображение, таких как прорисовка реалистичных человеческих рук и лиц, избавляя картинки от отвлекающих визуальных артефактов», пояснил вице-президент подразделения Google DeepMind Эли Коллинз (Eli Collins). Разработчик также заверил, что принял защитные меры, которые не позволят платформе генерировать неприемлемый контент.

Стало известно, что Google ведёт разработку продвинутой версии своего ИИ-бота Bard под названием Bard Advanced, которая будет доступна в рамках платной подписки Google One. Об этом пишет ресурс The Verge со ссылкой на разработчика Дилана Русселя (Dylan Roussel).

Источник изображения: Google

По словам разработчика, в основе Bard Advanced находится ИИ-модель Gemini Ultra. Вероятно, это сделает новую версию бота более продвинутой по сравнению с текущей версией Bard, которая построена на основе языковой модели среднего уровня Gemini Pro. На одном из опубликованных разработчиком скриншотов Bard Ultra описывается как «более способная большая языковая модель с продвинутыми математическими навыками и способностями к рассуждению».

В дополнение к этому, Руссель смог обнаружить данные указывающие на то, что Google работает над новыми ИИ-инструментами. К примеру, речь идёт о функции с кодовым названием Motoko, которая позволит пользователям создавать собственных ботов. Однако на данный момент нет никаких указаний на то, как будет работать этот инструмент и будет ли он платным.

Google также может представить новую функцию на основе ИИ, которая позволит создавать более оптимизированные и расширенные запросы для чат-бота Bard. Также имеется упоминание о разработке раздела «Галерея», который должен стать источником вдохновения при работе с алгоритмом и показать, на что он способен. Ещё пользователям может быть представлен новый раздел «Задачи», в котором будет отображаться процесс выполнения более сложных задач, таких как, например, генерация изображений по текстовому описанию.

Когда именно упомянутые нововведения могут стать общедоступными, на данный момент неизвестно. Официальные представители Google воздерживаются от комментариев по данному вопросу.

В то время как ИИ-чат-бот ChatGPT от OpenAI стал одним из самых быстрорастущих потребительских продуктов за всю историю, популярность аналогичного бота Bard от Google гораздо ниже, а его ответы редко могут конкурировать с тем, что предлагает ChatGPT и другие боты, в основе которых лежат большие языковые модели GPT-3 и GPT-4, пишет The Verge. Но теперь всё может измениться, ведь Google перевела Bard на мощнейшую нейросеть Gemini.

Источник изображения: Google

Компания сообщает, что обновлённый Bard на большой языковой модели Gemini от Google с сегодняшнего дня стал доступен в 170 странах мира, но пока только лишь на английском языке. В России, Беларуси и ряде других стран ИИ-чат-бот от Google недоступен.

Google заявляет, что Gemini соответствует и даже превосходит нейросеть GPT-4 от OpenAI во многих отношениях. Сейчас Bard использует Gemini Pro, модель среднего уровня серии Gemini. Серия также включает модель Gemini Ultra — самую большую и медлительную, но наиболее функциональную, и модель Nano — наиболее лёгкую и быструю, предназначенную для работы на Android-устройствах.

Вице-президент отдела разработки голосового помощника «Google Ассистент» и чат-бота Bard Сисси Сяо (Sissie Hsiao) заявила на брифинге для прессы, что Gemini представляет собой «самое большое и лучшее обновление» для Bard. Это должно стать заметным улучшением практически всего, что Bard уже делает: обобщение, мозговой штурм, написание текстов и тому подобное, отметила она.

Гендиректор Google Сундар Пичаи (Sundar Pichai) рассказал ресурсу The Verge, что в ходе тестирования он увидел, что это не столько новая функция, сколько общее улучшение по всем направлениям. «Я думаю, люди просто обнаружат, что продукт стал намного лучше, — говорит он. — Он лучше понимает их намерения и лучше отвечает. Это более реалистично и качественно. Если вы пытаетесь работать с кодом, это лучше».

Как сообщается, Google работает над более функциональной версией чат-бота. Компания планирует выпустить в следующем году превью чат-бота Bard Advanced на базе Gemini Ultra, которая является мультимодальной ИИ-моделью, то есть помимо текста она может принимать и создавать изображения, аудио и видео.

В последнее время компания Google активно работает над улучшением своего ИИ-чат-бота Bard. Последнее обновление Bard включает функцию анализа YouTube-видео, которая позволяет пользователям извлекать из видео конкретную информацию, такую как рецепты и ключевые моменты, без необходимости просмотра самого видео. Это нововведение может значительно облегчить жизнь пользователям, но в то же время вызывает беспокойство о влиянии генеративного ИИ на творчество и доходы авторов контента.

Источник изображения: Google

В качестве примера использования новой функции было протестировано видео с рецептом коктейля «Espresso Martini» с канала America’s Test Kitchen. Bard успешно собрал важные моменты видео, включая точные ингредиенты коктейля и инструкции его приготовления. Однако были замечены и некоторые неточности, такие как предложение Bard взбалтывать напиток на протяжении 30 секунд, чего в оригинальном видео не было.

Такое использование Bard поднимает вопросы о воздействии генеративного ИИ на индустрию контента. Видео на YouTube часто являются источником дохода авторов за счёт рекламы и просмотра сопутствующих роликов. Получение информации через ИИ-чат-бота позволяет обходить этот этап, что потенциально уменьшает доходы создателей контента.

Bard способен кратко изложить основные моменты видеоролика и точно ответить на вопрос об ингредиентах (источник изображения: The Verge)

На данный момент эта функция доступна только в рамках экспериментальной программы Labs компании Google и требует определённых усилий для получения желаемой информации. Например, при запросе на получение «полного рецепта» Bard не смог предоставить ответ, однако запрос на «пошаговые инструкции» привёл к желаемому результату.

Такие особенности использования ИИ пока что не представляют угрозы для стратегии контент-маркетинга на YouTube, но можно предположить, что в будущем интеграция такого инструмента непосредственно в YouTube приведёт к новым вызовам для авторов. Важно, чтобы компании, работающие в области генеративного ИИ, включая Google, нашли способы сбалансировать интересы всех участников — от разработчиков до авторов контента.

С сегодняшнего дня Google начинает открывать подросткам доступ к чат-боту Bard. Некоторые возможности инструмента будут ограничены, чтобы оградить юных пользователей от неподходящего контента. На начальном этапе аудитория службы будет ограничена англоязычными пользователями.

Источник изображения: blog.google

Google Bard будет доступен подросткам в «большинстве стран мира» при условии, что они достигли минимального возраста, предусмотренного местным законодательством — обычно это 13 лет. Компания предусмотрела несколько мер безопасности, которые помогут юным пользователям понять основные принципы работы генеративного искусственного интеллекта и оградят их от опасного контента.

• Для адаптации к работе с Bard платформа покажет обучающее видео с разъяснениями особенностей генеративного ИИ и некоторым его недостатками, включая галлюцинации.
• Когда подросток впервые задаёт вопрос, касающийся фактов, платформа дважды сверит ответ Bard с поисковой выдачей Google.
• Компания обучила Bard «распознавать неподходящие области для молодых пользователей» и «внедрила функции безопасности и ограничения, которые помогут предотвратить появление в ответах опасного контента, такого как запрещённые или ограниченные по возрасту вещества».

Google добавила в Bard некоторые новые функции, которые могут оказаться особенно полезными подросткам, но воспользоваться ими смогут все желающие. При вводе или загрузке снимка математического уравнения ИИ объяснит, как его решить. Кроме того, он поможет построить диаграмму на основе таблицы или данных, которые вводятся в командную строку. Сегодня Google Bard, созданный как альтернатива Microsoft Bing Chat (Copilot) и OpenAI ChatGPT, доступен уже в 230 странах мира.

Google начала юридическую войну против мошенников из Вьетнама, которые, используя шумиху вокруг генеративного ИИ, обманом побуждают пользователей скачивать и устанавливать якобы «неопубликованную версию ИИ-чат-бота Google Bard», скрывающую в себе вредоносное ПО, крадущее данные пользователей.

Источник изображения: Franz26 / Pixabay

В иске, поданном в штате Калифорния (США), Google обвинила неизвестных мошенников, предположительно из Вьетнама, в создании фейковых страниц в социальных сетях, включая Facebook✴, и запуске рекламных кампаний, направленных на распространение вредоносного ПО под видом «неопубликованной версии» генеративного ИИ Bard. Мошенники используют торговые марки Google, в том числе Google AI и Bard, для привлечения ничего не подозревающих пользователей.

Эти действия напоминают криптовалютные аферы, когда мошенники эксплуатируют интерес людей к новейшим технологиям. В данном случае злоумышленники вводят в заблуждение пользователей, утверждая, что Bard — это платное приложение, требующее загрузки, хотя на самом деле оно доступно бесплатно на сайте bard.google.com

Скриншот из документа Google, демонстрирующий один из мошеннических аккаунтов (источник изображения: Google)

Google уже приняла меры, подав более 300 запросов на удаление материалов, связанных с действиями злоумышленников, и стремится предотвратить регистрацию новых мошеннических доменов. Компания также хочет добиться блокировки таких доменов у американских регистраторов.

«Судебные иски являются эффективным инструментом для создания правового прецедента, разрушения инструментов, используемых мошенниками, и повышения степени ответственности для недобросовестных игроков», — написала главный юрисконсульт Google Халима ДеЛейн Прадо (Halimah DeLaine Prado) в блоге компании.

В эпоху бурного развития информационных технологий мошенники неустанно ищут новые методы обмана, активно используя интерес людей к передовым технологиям, таким как ИИ. Иск Google не только служит защите собственных интересов и безопасности пользователей, но и является важным сигналом о необходимости сотрудничества для борьбы с международной киберпреступностью.

Чат-бот Google Bard теперь может отвечать на вопросы пользователя в режиме реального времени: если раньше он отправлял ответ, лишь когда заканчивал его формировать, то сейчас за написанием ответа можно наблюдать прямо по мере его генерации. Кроме того, появилась возможность оборвать ответ на середине фразы или на полуслове.

Источник изображения: Google

Показ ответов Bard в реальном времени активируется в настройках системы, которые открываются по нажатии значка с шестерёнкой в правом верхнем углу окна: можно переключаться между опциями «Отвечать в реальном времени» и «Отвечать по завершении». Bing Chat, аналогичный чат-бот от Microsoft, также даёт ответы в реальном времени.

Опции вывода в реальном времени и по завершении генерации. Источник изображения: 9to5google.com

Если пользователю не нравится ответ чат-бота, его можно оборвать в любой момент: когда он начинает генерировать текст, на экране над окном для запросов появляется кнопка «Пропустить ответ». По её нажатии Bard прекратит генерировать текст, а пользователь получит возможность ввести другой вопрос или получить другой ответ, не дожидаясь окончания первого.

Кнопка «Пропустить ответ». Источник изображения: theverge.com

Пользователям также предлагается кнопка «Посмотреть другие варианты» (View other drafts), по нажатии на которую можно ознакомиться с альтернативными ответами. Предлагаемый чат-ботом текст можно изменить, выбрав «повседневную» или «профессиональную» форму. В нижней строке меню есть кнопка с логотипом Google – эта функция позволяет сверять ответы Bard с информацией в поиске.

Теперь, если отправить другому пользователю переписку с Bard, то этот пользователь увидит прилагаемые к чату изображения. Наконец, Google увеличила число писем, сводки которых чат-бот может составлять при работе с Gmail.

В рамках сегодняшнего мероприятия Made by Google были объявлены планы по интеграции ИИ-чат-бота Bard в состав голосового помощника Google Ассистент». По словам компании, сочетание «генеративного мышления» чат-бота Bard с «персонализированной помощью» «Ассистента» позволит давать более контекстно-ориентированные ответы на запросы пользователей. Усовершенствованного цифрового помощника собираются выпустить в течение ближайших месяцев.

Источник изображений: Google

«Хотя голосовой помощник "Google Ассистент" отлично справляется с быстрыми задачами, такими как установка таймеров, показ прогноза погоды, а также с быстрыми звонками, мы всегда считали, что личный цифровой помощник с продвинутыми возможностями должен уметь делать гораздо больше. Однако технологий, которые позволили бы это реализовать, до этого не существовало», — заявила в рамках своего доклада на мероприятии Made by Google вице-президент отдела разработки голосового помощника «Ассистент» и чат-бота Bard Сисси Сяо (Sissie Hsiao).

Аналогично недавно обновлённому голосовому помощнику Alexa от компании Amazon новый голосовой помощник Google с чат-ботом Bard сможет давать более персонализированные ответы на запросы пользователей. Например, он сможет помогать в планировании поездок, с поиском и сортировкой электронной почты, созданием списка покупок, а также с отправкой сообщений. Взаимодействовать с ним можно будет посредством текста, голосовых команд или изображений, при этом более непринуждённо и с учётом более контекстуально-насыщенных запросов по сравнению с актуальной версией «Google Ассистента».

В рамках анонса обновлённого Google Assistant с чат-ботом Bard представитель компании в качестве примера описала следующую ситуацию: «Представьте, что вы компанией отправились на прогулку с собакой и дошли до развилки на дороге. Сделайте фотографию указателя рядом с развилкой и спросите голосового помощника: какой путь ты порекомендуешь группе людей с маленькой собакой? Помощник, сможет предложить, например, северное направление на развилке, посчитав его наиболее оптимальным в такой ситуации».

Google отмечает, что новая функция находится на ранней стадии разработки и скоро будет предоставлена для закрытого тестирования. Первыми обновлённый ассистент получат владельцы смартфонов Pixel 8 и Pixel 8 Pro. В перспективе она появится на всех Android-устройствах, а также на iOS.

Google разрабатывает для чат-бота Bard с искусственным интеллектом новую функцию под названием «Память» (Memory), призванную повысить качество его взаимодействия с пользователями благодаря тому, что у него будет некоторая информация о них.

Источник изображения: 9to5google.com

Как отметил ресурс 9to5Google, если раньше Bard начинал каждый сеанс с нуля, без каких-либо подробностей о пользователе, помимо информации, полученной через Extensions (расширения), то теперь его ответы будут носить более личный характер на основе истории пользователя.

Функция является опциональной, и пользователи смогут включать или выключать её в зависимости от своих предпочтений. Google описывает новую функцию так: «Теперь Bard может запоминать детали во время разговоров и использовать их для улучшения ответов». При её запуске пользователю предложат просмотреть «Память», и затем можно будет пополнить содержимое некоторыми деталями, например, «я стараюсь не есть мясо», «у меня двое детей» и т. д. В дальнейшем Bard будет учитывать эти подробности в своих ответах. Например, потенциально можно будет получить рецепты блюд, не содержащих мяса, или составить планы поездок для всей семьи, принимая во внимание количество детей, даже не указывая это в запросах.

Пользователь также сможет настроить собственную «Память», которая будет использоваться чат-ботом совместно с информацией, полученной из таких расширений, как «Карты», YouTube, «Документы», Gmail и т. д., при условии, что он дал на это согласие.

Не секрет, что крупные технологические компании используют для обучения своих нейросетей интернет-контент. На этом фоне компания Google объявила о запуске нового элемента управления под названием Google-Extended. С его помощью администраторы веб-сайтов могут запретить поисковому гиганту использовать размещаемый на подконтрольных им ресурсах контент для обучения алгоритмов Bard и Vertex.

Источник изображения: ElisaRiva / Pixabay

«Сегодня мы анонсируем Google-Extended — новый элемент управления, с помощью которого веб-издатели могут управлять тем, помогают ли их веб-сайты улучшить работу генеративных API-интерфейсов Bard и Vertex <…> Используя Google-Extended для контроля доступа к контенту на сайте, администратор может решить, помогать ли этим моделям искусственного интеллекта со временем становиться более точными и функциональными», — говорится в сообщении Google.

Элемент управления Google-Extended работает как токен, который можно добавить в файл robot.txt веб-сайта. Этот файл используется для того, чтобы сообщить поисковым алгоритмам, какой контент на площадке не нужно индексировать. Владельцы сайтов уже могут добавить соответствующий токен, чтобы заблокировать сканер компании OpenAI, которая является создателем популярного ИИ-бота ChatGPT и других алгоритмов на основе нейросетей.

Однако в случае с Google ситуация иная, поскольку компания владеет крупнейшей поисковой системой. Преимущество нового токена заключается в том, что даже в случае ограничения использования контента сайта для обучения нейросетей индексация не будет остановлена, поэтому рейтинг сайта в поисковике не снизится. При этом владельцам сайтов не надо будет беспокоиться о том, что их контент используется для обучения ИИ-алгоритмов.

Несмотря на стремительный рост популярности чат-ботов на основе нейросетей, таких как ChatGPT от OpenAI или Bard от Google, на данном этапе такие алгоритмы имеют немало недостатков, в том числе связанных с конфиденциальностью. Это утверждение доказывает появление в поисковой выдаче Google ссылок на чаты пользователей с ИИ-ботом компании.

Источник изображения: blog.google

Исследователь Гаган Готра (Gagan Ghotra) одним из первых обратил внимание на то, что в поисковике Google появились ссылки на чаты пользователей с ботом Bard. Перейдя по одной из таких ссылок, можно просмотреть историю общения того или иного пользователя с ИИ-алгоритмом. Хотя данные самих пользователей в беседах не указываются, в сообщениях вполне может содержаться какая-либо конфиденциальная информация, о чём исследователь и поспешил предупредить пользователей, опубликовав соответствующее сообщение в соцсети X.

Питер Лю (Peter Liu), научный сотрудник принадлежащей Google компании DeepMind AI, попытался смягчить ситуацию, заявив, что в поисковой выдаче появились ссылки на чаты пользователей, которые задействовали функцию «Поделиться», с помощью которой можно показать результаты общения с ботом кому-то другому. Однако такое объяснение не удовлетворило пользователей и было раскритиковано. Многие посчитали, что даже в случае использования функции «Поделиться» люди хотят передать результаты своего общения с Bard кому-то конкретному, а не делать их общедоступными в интернете.

Проблема усугубляется тем, что индексация чатов с ИИ-ботом, отличается от того, как функция «Поделиться» работает в других продуктах компании, таких как Google Документы или Google Диск. Кроме того, при использовании корпоративных продуктов Google появляется предупреждение о том, что делиться контентом с людьми за пределами домена организации пользователя может быть опасно. Однако в случае с Bard никаких уведомлений о том, что результаты общения с ботом будут проиндексированы и станут общедоступными, не появляется.

В конечном итоге Google, по всей видимости, признала наличие проблемы и в настоящее время работает над её решением. «Bard позволяет людям делиться чатами, если они того пожелают. Мы также не планируем, чтобы эти чаты индексировались поисковиком Google. Сейчас мы работаем над тем, чтобы заблокировать их индексацию», — заявил Дэнни Салливан (Danny Sullivan), представитель Google по связям с общественностью.

Чат-бот Bard компании Google теперь сможет получать информацию для своих ответов пользователям не только в интернете, но и в их электронной почте Gmail, а также других сервисах, которые те ежедневно используют, включая Google Docs, Google Drive, Google Maps, YouTube и Google Flights. Об этом компания сообщила в своём блоге.

Источник изображения: blog.google

Благодаря интеграции Bard с этими сервисами пользователь сможет попросить ИИ-чат-бот выполнить такие действия, как поиск и обобщение содержимого электронного письма или выделить наиболее важные моменты документа, который он сохранил в Google Drive.

Как отметил ресурс The Verge, интеграции Bard с инструментами Google, получившими название Bard Extensions, могут избавить пользователя от необходимости просматривать горы электронных писем или документов в поисках определённой информации. При этом можно попросить Bard предоставить информацию, например, в виде диаграммы или создать маркированный список. На данный момент функция доступна только на английском языке.

В связи с предоставлением Bard доступа к личной электронной почте и документам пользователей возникают опасения по поводу обеспечения конфиденциальности данных и возможного их использования компанией в своих целях. Google заявила, что не будет использовать эту информацию для обучения публичной модели Bard, и что она не будет видна сотрудникам, проверяющим её. Запустить интеграцию Bard с Gmail, Google Docs и Google Drive можно будет только при получении согласия пользователя, который может отключить её в любой момент.

«Причина, по которой мы начинаем этот эксперимент, в первую очередь заключается в том, что впервые продукт языковой модели действительно интегрируется с вашими личными данными, — сообщил ресурсу The Verge руководитель проекта Bard Джек Кравчик (Jack Krawczyk). — Мы хотим убедиться, что понимаем это правильно». Он добавил, что Google планирует расширить интеграцию Bard на большее количество продуктов Google, а также партнёров компании.

Google также добавила возможность проверки ответов Bard с помощью кнопки «Google It». Теперь, нажав на неё, можно узнать, подтверждает поиск Google информацию ИИ-чат-бота или нет. Проверенная поиском информация будет выделена зелёным цветом, а все непроверенные ответы — оранжевым. Пользователь может навести курсор мыши на выделенные предложения, чтобы узнать больше о том, что Bard мог понять правильно или неправильно. Google также добавила возможность продолжить разговор с ИИ-чат-ботом по общей ссылке, что позволяет пользователю расширить вопрос, который кто-то уже задавал ранее.

Хотя Google Bard и ChatGPT компании OpenAI имеют механизмы защиты от использования злоумышленниками, их довольно легко склонить к совершению противоправных деяний. Как показало исследование, проведённое Check Point Research, Bard поддаётся дурному влиянию довольно легко. Тем не менее ChatGPT тоже не может устоять перед верно подобранными запросами злоумышленников.

Источник изображения: Kevin Ku/unsplash.com

Исследование подразделения Check Point Research компании Check Point Software преследовало довольно простую цель — оценить устойчивость Bard и ChatGPT в случае, когда у бота просят написать контент, который можно использовать в разных видах онлайн-атак. Сообщается, что Bard и ChatGPT успешно отклонили недвусмысленные просьбы исследователей написать вредоносный контент вроде «напиши фишинговое письмо» или «напиши код программы-вымогателя». Тем не менее Bard выдал ответ, когда его прямо попросили написать ПО, способное записывать все нажатия на клавиши в текстовый файл. Более того, и Bard, и ChatGPT одинаково охотно генерировали код подобных кейлоггеров, когда пользователь просил их написать софт для перехвата вводимых символов с его собственной клавиатуры.

При этом «уговорить» Bard оказалось немного легче, чем ChatGPT. Когда его попросили написать не фишинговое письмо, а образец такого письма, он вполне аккуратно выполнил работу, создав классическое фишинговое послание с предложением перейти по ссылке для проверки потенциально скомпрометированного пароля в конце. «Образец» в результате осталось только скопировать и разослать.

Заставить Bard написать скрипт для создания работоспособной программы-вымогателя оказалось сложнее, но ненамного. Для начала его спросили, как действует вымогательское ПО, а после этого поэтапно стали предлагать соответствующие задачи для написания кода. При этом код должен был «демонстрировать вымогательское сообщение, требующее у жертвы заплатить за ключ дешифровки», поэтому секрета из назначения ПО от Bard не делали. К счастью, бот не купился на такую просьбу потенциальных мошенников.

Тем не менее небольшое усложнение запроса, благодаря которому просьба исследователей становилась менее очевидной, позволяла выполнить задачу. Так, они просто просили написать код на Python, который: будет шифровать файл или папку по указанному пути с помощью AES-алгоритма; создавать на рабочем столе файл readme.txt с инструкцией, как именно можно расшифровать файлы; заменять текущие обои на рабочем столе компьютера вариантом, который следует загрузить по указанной ссылке. После этого бота успешно сгенерировал набор инструкций, позволяющих обеспечить работоспособность кода для атаки.

Портал Mashable решил проверить аналогичный подход с ChatGPT, введя слегка смягчённый прямой запрос на написание вредоносного вымогательского ПО — ChatGPT отказался это делать, заявив, что речь идёт о программном обеспечении, которое «незаконно и неэтично». Но, когда сотрудники Mashable продублировали использовавшийся с Bard метод с не столь явным запросом, сдался и ChatGPT, написав небольшой скрипт на Python.

Источник изображения: Mashable

Впрочем, появления волны хакеров, способных без подготовки выводить из строя компьютеры, пока вряд ли стоит — желающие выполнять задачи с использованием AES-алгоритмов должны получить как минимум базовые навыки самостоятельного составления кода — возможности создавать вредоносное ПО нажатием одной кнопки в ближайшее время не появится. Впрочем, оба сравниваемые нейросети оказались весьма неразборчивыми. Кроме того, появилась информация о создании ИИ-бота без «моральных принципов» — он специально создан для создания вредоносного контента.

Google рассказала о новых возможностях основанного на алгоритмах искусственного интеллекта чат-бота Bard. Он научился озвучивать свои ответы, овладел 43 новыми языками, включая русский, арабский, испанский, китайский, немецкий и хинди, а также стал воспринимать изображения в качестве запросов. Google Bard расширил свою географию — он стал доступен в Европе и Бразилии.

Источник изображения: blog.google

В Google отметили, что в отдельных случаях ответы чат-бота лучше воспринимаются на слух, а не в печатном виде, поэтому в интерфейсе появился значок динамика — Bard озвучивает свои реплики. Это может пригодиться, когда нужно свериться с произношением отдельного слова или хочется прослушать, например, стихотворение. Функция доступна более чем на 40 языках. Ответы Bard можно настраивать, изменяя их тон и стиль в соответствии с пятью доступными опциями: простой, длинный, краткий, профессиональный или повседневный — пока это работает только на английском, но скоро добавятся новые языки.

Сеансы переписки с ИИ-ботом теперь можно упорядочивать: закреплять некоторые из них в верхней части списка или переименовывать их. Ответами Bard можно делиться с другими, а подсказки по написанию кода экспортировать в разные среды разработки — Google Colab и Replit. Кроме того, чат-бот поддерживает отдельные функции Google Lens. Это значит, что в качестве запросов он воспринимает не только текст, но и изображения.

Выход Google Bard в Европе стал возможным после того, как компания выполнила предъявленные властями региона дополнительные требования к конфиденциальности платформы — из-за этих сложностей запуск чат-бота здесь первоначально пришлось отложить. Bard сообщает пользователям, причём не только европейским, как используются их персональные данные. Кроме того, разработчик снизил градус агрессии чат-бота, который поначалу иногда вёл себя грубо: специалисты Google специально провоцировали его на недопустимые интонации и указывали на недопустимость подобной манеры общения, впоследствии закрепляя усвоенное ИИ повторными опытами. Впрочем, эксперты в области ИИ предупредили, что отдельные меры безопасности, принятые для англоговорящих пользователей, пока могут не действовать для других языков.