Неизвестный разработчик создал свой собственный аналог ИИ-чат-бота ChatGPT, который в отличие от оригинала ориентирован на работу по ту сторону закона: чат-бот WormGPT предназначается для помощи киберпреступникам.

Источник изображения: Ralph Mühlfeld / pixabay.com

WormGPT появился на свет в марте, и только к июню разработчик начал продавать доступ к платформе на популярном хакерском форуме. В отличие от добропорядочных ChatGPT или Google Bard хакерский чат-бот лишён каких-либо ограничений, препятствующих ответам на вопросы о незаконной деятельности. В подтверждение этих слов разработчик привёл снимки экрана, показывающие, что можно попросить WormGPT написать вредонос на языке Python и получить у него совет по организации кибератаки. В качестве платформы при создании чат-бота использовалась относительно устаревшая большая языковая модель GPT-J с открытым исходным кодом от 2021 года. Она была обучена на материалах, связанных с разработкой вредоносного ПО, и на свет появился WormGPT.

Эксперты специализирующейся на кибербезопасности компании SlashNext опробовали WormGPT, и в ответ на их запрос чат-бот составил фишинговое электронное письмо для компрометации корпоративной электронной почты — оно было убедительным и включало хитроумные стратегические ходы, направленные на успешное осуществление атаки.

Доступ к WormGPT разработчик оценил в €60 в месяц или €550 в год. Продукт, возможно, пока ещё далёк от совершенства: один из покупателей пожаловался на низкую производительность платформы. Но, так или иначе, это очевидный признак того, что генеративный искусственный интеллект может стать оружием в руках киберпреступников. И со временем подобные технологии будут совершенствоваться.

Google рассказала о новых возможностях основанного на алгоритмах искусственного интеллекта чат-бота Bard. Он научился озвучивать свои ответы, овладел 43 новыми языками, включая русский, арабский, испанский, китайский, немецкий и хинди, а также стал воспринимать изображения в качестве запросов. Google Bard расширил свою географию — он стал доступен в Европе и Бразилии.

Источник изображения: blog.google

В Google отметили, что в отдельных случаях ответы чат-бота лучше воспринимаются на слух, а не в печатном виде, поэтому в интерфейсе появился значок динамика — Bard озвучивает свои реплики. Это может пригодиться, когда нужно свериться с произношением отдельного слова или хочется прослушать, например, стихотворение. Функция доступна более чем на 40 языках. Ответы Bard можно настраивать, изменяя их тон и стиль в соответствии с пятью доступными опциями: простой, длинный, краткий, профессиональный или повседневный — пока это работает только на английском, но скоро добавятся новые языки.

Сеансы переписки с ИИ-ботом теперь можно упорядочивать: закреплять некоторые из них в верхней части списка или переименовывать их. Ответами Bard можно делиться с другими, а подсказки по написанию кода экспортировать в разные среды разработки — Google Colab и Replit. Кроме того, чат-бот поддерживает отдельные функции Google Lens. Это значит, что в качестве запросов он воспринимает не только текст, но и изображения.

Выход Google Bard в Европе стал возможным после того, как компания выполнила предъявленные властями региона дополнительные требования к конфиденциальности платформы — из-за этих сложностей запуск чат-бота здесь первоначально пришлось отложить. Bard сообщает пользователям, причём не только европейским, как используются их персональные данные. Кроме того, разработчик снизил градус агрессии чат-бота, который поначалу иногда вёл себя грубо: специалисты Google специально провоцировали его на недопустимые интонации и указывали на недопустимость подобной манеры общения, впоследствии закрепляя усвоенное ИИ повторными опытами. Впрочем, эксперты в области ИИ предупредили, что отдельные меры безопасности, принятые для англоговорящих пользователей, пока могут не действовать для других языков.

По данным СМИ, Google отказалась от создания мобильного приложения с чат-ботом на базе ИИ для молодых пользователей (поколения Z), которое включало интерактивных цифровых персонажей. В рамках внутренней реорганизации компания пересмотрела приоритеты в этом направлении. Как правило, когда Google пересматривает приоритеты какого-либо продукта, это означает прекращение его разработки.

Источник изображения: ElisaRiva / Pixabay

Приложение под названием Bubble Characters, предлагало пользователям возможность выбрать для общения одного из нескольких цифровых персонажей. Это было особенно интересно для молодой аудитории, как указано во внутренней документации, с которой ознакомилось издание CNBC. Работа над этим продуктом началась в четвёртом квартале 2021 года.

В описании приложения говорится о «диалогах с ИИ, которые заставляют действовать и интересны представителям поколения Z». Для создания таких бесед использовались большие языковые модели (LLM), используемые для понимания и генерации текста на естественном языке. В примере, о котором рассказало CNBC, дружелюбный голос мультяшного персонажа вступал в разговор, задавал уточняющие вопросы и даже давал советы по взаимоотношениям.

Чат-бот Bubble Characters был одним из множества проектов на базе ИИ, в котором активно применялись большие языковые модели Google. В подразделении Assistant, ответственном за разработку виртуальных помощников для разных платформ, руководство компании отдаёт предпочтение конкуренту ChatGPT — Bard. Это происходит на фоне внутренней реорганизации, в результате которой ушли несколько ключевых руководителей. Некоторым членам команды Bubble Characters предложили приостановить работу над проектом и заняться Bard в преддверии его запуска.

Тем временем некоторые ведущие исследователи в области ИИ Google покинули компанию и основали свои стартапы, занимающиеся разработкой чат-ботов. Компания Character.AI, создающая чат-бота-компаньона и возглавляемая бывшими исследователями Google Ноамом Шазиром (Noam Shazeer) и Даниэлем Де Фрейтасом (Daniel De Freitas), привлекла 150 млн долларов под руководством известной венчурной компании Andreessen Horowitz.

Изменение стратегии Google в части разработки чат-ботов на базе ИИ является примером того, как быстро меняется сфера технологий искусственного разума. Это подчёркивает важность постоянного пересмотра приоритетов и гибкости в принятии решений для компаний, работающих в этой области. В то же время уход ведущих исследователей Google и появление новых компаний в сфере ИИ указывают на возрастающую конкуренцию и потенциальное разнообразие в области чат-ботов.

Anthropic выпустила в свободный доступ вторую версию своего чат-бота Claude. Компания советует воспринимать «Claude 2 как дружелюбного, увлечённого коллегу или личного помощника, которого можно проинструктировать на естественном языке». Контекстное окно Claude 2 вмещает почти 75 000 слов, что радикально больше 3000 слов у общедоступной версии ChatGPT. К тому же, по словам Anthropic, её чат-бот обладает чувством юмора. ИИ-бот уже доступен для жителей США или Великобритании на сайте Anthropic, а через VPN можно получить к нему доступ и из других стран.

Источник изображения: Anthropic

Бот Claude 2, которого Anthropic описывает как «полезного, безобидного и честного», может приводить краткие содержания текстов, писать код, переводить тексты и выполнять массу других семантических задач. По описанию его функциональность схожа с Google Bard или Microsoft Bing, но Anthropic утверждает, что он построен иначе. Его стиль общения более разговорный и человечный, чем у его «собратьев», кроме того он, предположительно, наделён чувством юмора. Claude 2 руководствуется набором принципов, называемых его создателями «конституцией», которые он использует для проверки своих ответов, не привлекая модераторов-людей.

Claude 2 значительно расширил свои возможности по сравнению с предшественником. В дополнение к способности создавать более длинные ответы, чат-бот теперь немного лучше разбирается в математике, кодировании и рассуждениях по сравнению с предыдущей моделью. Так, Claude 2 набрал 76,5 % при сдаче экзамена на адвоката, в то время как предшественник получил только 73 %. Согласно Anthropic, Claude 2 намного лучше «даёт безобидные ответы», не содержащие вредоносного контента, хотя Anthropic не исключает возможности, что чат-бот может быть спровоцирован.

Источник изображения: Pixabay

В отличие от Bard и Bing, Claude 2 не подключён к интернету и обучается на данных до декабря 2022 года. Хотя он не может отображать самую последнюю информацию о текущих событиях, его набор данных все же более свежий, чем тот, который использует бесплатная версия ChatGPT, ограниченная концом 2021 года.

Anthropic расширила контекстное окно Claude 2 примерно до 75 000 слов. Пользователь сможет загрузить в чат-бота десятки страниц или даже целый роман для анализа. Благодаря такому размеру контекстного окна, Claude 2 может создать краткое изложение сложной и очень длинной исследовательской работы. Его «собратья» накладывают гораздо более строгие ограничения: максимум ChatGPT составляет около 3000 слов, а контекстное окно Bing было недавно увеличено до 4000 слов.

Anthropic, поддерживаемая Google, первоначально запустила первую версию Claude в марте. Тогда этот чат-бот был доступен для предприятий только по запросу или в виде приложения в Slack. Теперь, когда Claude 2 стал общедоступным, множество пользователей постараются выяснить, достаточно ли более длинного контекстного окна, чтобы сбить этого «безобидного» бота с толку, как это уже было с другими чат-ботами.

Проект MDN Web Docs (ранее Mozilla Developer Network) представляет собой репозиторий документации для веб-разработчиков, помогающей обучаться созданию сайтов и реализовать различные сетевые проекты. Хотя сайт считается надёжным источником информации, подключение к нему компанией Mozilla ИИ-инструмента AI Help привело к настоящему скандалу.

Источник изображения: Alexandra_Koch/unsplash.com

Инструмент AI Help на основе генеративного ИИ разработан Mozilla для того, чтобы стать «компаньоном для решения проблем» веб-разработчиков, ищущих ответы в MDN Web Docs. На сайте имеется информация о CSS, HTML, JavaScript и других веб-технологиях. До недавних пор он был авторитетным ресурсом, информацию на который вносили как волонтёры, так и корпорации вроде Microsoft и Google и, конечно, сама Mozilla. MDN также содержит веб-документацию Samsung после того, как южнокорейская компания решила отключить собственные проекты — агрегаторы соответствующей документации. Как выяснилось, попытка Mozilla внести изменение в виде ИИ-инструмента вызвала негативную реакцию пользователей.

По данным представителей проекта MDN, AI Help должен был оптимизировать поиск информации разработчиками, сделав его «быстрым и лёгким». Известно, что используется API компании OpenAI для того, чтобы ИИ выдавал подходящую информацию из репозитория в ответ на запросы. На деле всё оказалось намного хуже.

В посте на GitHub в разделе проекта Yari, на основе которого построен сервис MDN, имеется немало отзывов, касающихся функции AI Help. Один из пользователей получил неверный ответ на вопрос, после чего опубликовал описание ситуации на GitHub — пост сопровождался многочисленными гневными отзывами, в которых новая функция называлась «хуже, чем бесполезной», подчёркивалось, что человекоподобные ответы «могут быть случайно верными, но могут содержать и убедительные фальшивки».

Многие комментаторы признали, что новинка наносит больше ущерба, чем способна принести пользы, и признали, что ИИ страдает галлюцинациями, характерными для LLM-решений. В итоге один из ключевых разработчиков-добровольцев MDN под ником sideshowbarker пообещал «поднять» проблему в самой Mozilla «настолько высоко, насколько сможет». Неизвестно, удалось ли ему преуспеть в этом, но сообщается, что кнопка AI Help более недоступна.

Компания OpenAI, разработавшая чат-бот ChatGPT, отключила возможность веб-поиска для своего творения. Оказалось, что ИИ-сервис позволял обходить защиту систем доступа к платному контенту и получать свободный доступ к публикациям новостных агентств и блогеров, для просмотра которых необходима соответствующая подписка.

Источник изображения: Mariia Shalabaieva/unsplash.com

Функция Browse with Bing, доступная для подписчиков ChatGPT Plus с марта текущего года, позволяла получать актуальную информацию в Сети в отличие от данных, с которыми приходилось иметь дело пользователям бесплатного ChatGPT. Как известно, бесплатная версия тренировалась на данных из интернета, опубликованных до конца 2021 года.

OpenAI пришла к выводу, что обход функционирующих по подписочной модели информационных сервисов недопустим, и ChatGPT Plus действительно может демонстрировать закрытый контент вопреки представлениям разработчиков об идеальных механизмах работы подключённой к Сети системы. Например, если пользователь просил предоставить полный текст, соответствующий тому или иному URL, бот выполнял его пожелание. Компания отключила функцию Browse with Bing до тех пор, пока проблема не будет устранена для того, чтобы защитить права владельцев контента.

OpenAI решилась пойти на такой шаг, безусловно, наносящий вред бизнесу. Вряд ли кому-либо из оплачивающих дополнительную функциональность ИИ-сервиса пользователей понравится новость о том, что их ограничивают в возможностях, предлагаемых альтернативными решениями на безвозмездной основе. Более того, поиск по сети может осуществлять даже «родственный» ChatGPT бот Bing Chat компании Microsoft, который тоже работает совершенно бесплатно.

Стартап Inflection AI, поддерживаемый многими тяжеловесами из Кремниевой долины США, заявил о привлечении $1,3 млрд от инвесторов, включая Microsoft и NVIDIA. Инвестиции представляют собой как денежные средства, так и т.н. облачные кредиты, то есть возможность использовать облачные сервисы. В результате общая стоимость компании, работающей на рынке всего год, достигла $4 млрд.

Источник изображения: Medienstürmer/unsplash.com

Компания создана одним из основателей Google DeepMind Мустафой Сулейманом (Mustafa Suleyman) и одним из основателей LinkedIn Ридом Хоффманом (Reid Hoffman). В прошлом месяце она представила чат-бот Pi и уделяет особое внимание потребительским ИИ-продуктам — бизнес рассматривается многими экспертами в качестве конкурента OpenAI.

Чат-бот Pi использует генеративные ИИ-технологии, аналогичные ChatGPT, для взаимодействия с пользователями посредством диалогов — это позволяет людям задавать вопросы и получать обратную связь. В Inflection AI заявляют, что намерены построить персонализированный ИИ, который поможет людям планировать работу, составлять расписания, искать информацию и выполнять другие задачи.

Сейчас в компании трудятся 35 сотрудников. В ходе первого раунда инвестиций в начале 2022 года компания собрала $225 млн, полученных от Microsoft, Greylock и венчурного инвестора Рида Хоффмана (Reid Hoffman). На прошлой неделе стартап опубликовал доклад о языковой ИИ-модели Inflection-1, на основе которой функционирует бот Pi. Заявляется, что модель превосходит большинство представленных на рынке моделей.

Большинство средств, как утверждается, будет потрачено на развёртывание вычислительных мощностей для разработки более производительных моделей. По словам Сулеймана, занимающего пост генерального директора компании, идёт строительство кластера из порядка 22 тыс. ускорителей NVIDIA H100. Это примерно в три раза больше, чем использовалось для тренировки GPT-4, и именно это позволит создать выдающийся продукт.

Стремительно развивающаяся индустрия продолжает привлекать инвесторов, а компании по всему миру ищут способы интегрировать ИИ в свои бизнесы, в то время как регуляторы обдумывают, как обуздать технологию и установить над ней контроль. Microsoft вкладывает средства как в Inflection AI, так и в её конкурента OpenAI. Также в роли инвесторов Inflection AI в последнем раунде помимо Хоффмана выступили Билл Гейтс (Bill Gates) и бывший глава Google Эрик Шмидт (Eric Schmidt).

Китайский поисковый гигант Baidu заявил, что его новейшая версия большой языковой модели Ernie 3.5 превзошла ИИ-чат-бот ChatGPT (на GPT-3.5) от OpenAI по общим возможностям, а также более продвинутую модель GPT-4 по нескольким китайскоязычным возможностям. Baidu сослалась на тестирование государственного издания China Science Daily на базе разных наборов данных, включая бенчмарки AGIEval и C-Eval, предназначенные для оценки моделей искусственного интеллекта.

Источник изображения: Pixabay

Ernie 3.5 уже три месяца находится в стадии бета-тестирования. За это время LLM-модель повысила эффективность обучения и инференса, ускорив и удешевив итерации и обновление до следующих версий.

Созданный на её основе ИИ-чат-бот Ernie Bot, представленный в марте этого года, стал первым крупным китайским ответом на выход ИИ-бота ChatGPT, спровоцировав гонку среди китайских технологических компаний, включая Alibaba Group Holding и Tencent Holdings, по разработке конкурирующих платформ.

Baidu интегрирует Ernie Bot в решения по нескольким направлениям бизнеса, от облачных вычислений до умных колонок. Также компания создала венчурный фонд в размере $140 млн для поддержки стартапов, подобных OpenAI.

Baidu надеется, что ИИ-бот Ernie Bot завоюет популярность на крупнейшем в мире интернет-рынке, привлекая пользователей крупных универсальных платформ, таких как WeChat компании Tencent. Следует отметить, что для запуска сервисов генеративного искусственного интеллекта в Китае требуется одобрение регулирующих органов.

Эксперты по кибербезопасности из Университета Маккуори (Австралия) разработали основанный на алгоритмах искусственного интеллекта чат-бот Apate — он обучен выдавать себя за человека в разговоре с телефонными мошенниками, а его цель состоит в том, чтобы удерживать собеседника на линии максимально продолжительное время.

Источник изображения: Sam Williams / pixabay.com

Идея запустить проект возникла, когда его руководителю профессору Дали Каафару (Dali Kaafar) позвонили телефонные мошенники, и учёный удерживал их на линии 40 минут, развлекая детей за обедом. Профессор решил, что этот процесс можно автоматизировать при помощи ИИ, подключив модели обработки естественного языка и создав чат-бот, способный выдавать себя за человека и вести телефонный разговор с мошенником. Проекту присвоили название Apate в честь Апаты — древнегреческой богини лжи и обмана.

В основе проекта лежит языковая модель, схожая с ChatGPT, к которой подключена система клонирования голоса. Apate обучали на текстах реальных взаимодействий с мошенниками: на расшифровках телефонных разговоров, а также на переписках по электронной почте и в соцсетях. Тестирование чат-бота проводилось на настоящих звонках мошенников. Для этого учёные решили их спровоцировать, выкупив несколько телефонных номеров, которые начали преднамеренно размещать на сомнительных интернет-площадках.

Цель проекта в том, чтобы удерживать собеседника на линии в течение 40 минут без конкретного результата — это достаточно продолжительное время, и большое число таких разговоров способно пошатнуть «бизнес-модель» преступников. Правда, пока среднее время диалога с Apate составляет всего 5 минут. В ряде случаев ИИ удивил и своих создателей — он проявлял изрядную находчивость в нестандартных ситуациях, когда мошенники запрашивали информацию, отсутствовавшую в обучающих материалах.

Представители преступного мира и сами сейчас активно внедряют ИИ, подключая технологии клонирования голоса и дипфейки. Поэтому проект Apate — это своего рода симметричный ответ на передовые решения у мошенников. Учёные предполагают, что подобных чат-ботов могли бы внедрять операторы телефонной связи.

Любители переносить современные приложения и игры на устаревшие устройства добрались до чат-бота ChatGPT, основой которого является генеративная нейросеть компании Open AI. Не так давно в интернете появилось приложение WinGPT, которое позволяет взаимодействовать с алгоритмом Open AI на устройствах, работающих под управлением выпущенной более 30 лет назад Windows 3.1.

Источник изображений: dialup.net

Согласно имеющимся данным, автором приложения является разработчик, ранее создавший Windle, клон популярной браузерной игры Wordle для Windows 3.1. «Я не хотел, чтобы мой Gateway 4DX2-66 1993 года выпуска остался в стороне от революции искусственного интеллекта, поэтому я создал ИИ-бота для Windows 3.1 на основе Open AI API», — прокомментировал данный вопрос сам разработчик, имя которого остаётся загадкой.

Приложение WinGPT написано на языке программирования C с использованием стандартного Windows API. Оно подключается к серверу Open AI с использованием стандарта шифрования TLS 3.1, поэтому для взаимодействия с нейросетью не требуется дополнительный компьютер с современной операционной системой. Поскольку Windows 3.1 поддерживает небольшой объём памяти, WinGPT может давать лишь краткие ответы на пользовательские запросы без учёта контекста. Также известно, что ярлык для WinGPT был создан в редакторе изображений Borland, клоне Microsoft Paint с возможностью создания файлов ICO.

«Большую часть пользовательского интерфейса я создал непосредственно на C, а это означает, что каждый элемент создавался вручную в коде. Я был удивлён, что набор стандартных элементов управления, доступных для использования любой программной с Windows 3.1, невероятно ограничен. У вас есть некоторые элементы управления, которые вы ожидаете — кнопки, флажки, переключатели, редактируемые поля, но любые другие элементы управления, которые могут вам понадобиться, включая те, что используются в самой операционной системе, недоступны», — добавил автор приложения WinGPT.

Любой обладатель компьютера с Windows 3.1 может скачать WinGPT с сайта dialup.net. Приложение может работать в 16- и 32-разрядных версиях Windows 3.1 с реализацией Winsock.

Данные более 100 тыс. пользователей чат-бота ChatGPT утекли в Сеть и оказались на торговых площадках даркнета, говорится в отчёте международной компании в сфере кибербезопасности Group-IB. Утечки зафиксированы в период с июня 2022-го по май текущего года.

Источник изображения: The Hacker News

Специалисты отмечают, что наиболее значительная выгрузка данных в даркнет была замечена в мае этого года.

«Количество доступных логов, содержащих скомпрометированные учётные записи ChatGPT, достигло пика в 26 802 записей в мае 2023 года. За последний год самая высокая концентрация учётных данных ChatGPT, выставленных на продажу, наблюдалась в Азиатско-Тихоокеанском регионе», — говорится в отчёте компании.

Если говорить по странам, то больше всего за наблюдаемый период утекло данных пользователей ChatGPT из Индии (12 632 записи), Пакистана (9217 записей) и Бразилии (6531 запись). Также в даркнете оказались данные пользователей чат-бота из Вьетнама, Египта, США, Франции, Марокко, Индонезии и Бангладеш.

Источник изображения: Group-IB

Специалисты Group-IB отмечают, что логи, содержащие скомпрометированную информацию о пользователях, активно продаются на торговых площадках даркнета. Среди прочего в этих данных содержится информация о доменах и IP-адресах скомпрометированных пользователей.

Анализ также показал, что большинство записей (78 348 штук) были похищены с помощью вредоносной программы Raccon для кражи информации, доступной в виде услуги Malware as a Service. Следом за ней идёт шпионское ПО для Windows и средство кражи информации Vidar. С его помощью было похищены данные о 12 984 аккаунтах ChatGPT. На третьем месте (6773 похищенные записи) оказался троян RedLine, который крадет файлы cookie, имена пользователей и пароли, кредитные карты, хранящиеся в веб-браузерах, а также учётные данные FTP и файлы с заражённого устройства.

Следует понимать, что речь идёт не только о краже личной информации. В учётной записи ChatGPT можно найти как личный, так и профессиональный контент, от коммерческих секретов компании, которых там быть не должно, до личных дневников.

«Например, сотрудники компаний могут вносить в поисковый запрос чат-бота секретную информацию или использовать бота для оптимизации проприетарного программного кода. Учитывая, что стандартная конфигурация ChatGPT сохраняет все запросы, утечка этих данных может предоставить злоумышленнику доступ к ценной информации», — говорится в комментарии Group-IB.

Более 150 миллионов человек — около 20 % ежемесячных пользователей Snapchat — отправили 10 миллиардов сообщений чат-боту под названием My AI с момента его запуска в Snapchat в конце февраля. Пользователи спрашивали обо всем — от рекомендаций по уходу за кожей до подробностей о новейшем спортивном автомобиле. И эти данные компания Snap собирается использовать для таргетированной рекламы.

Источник изображения: Pixabay

My AI, который позиционируется «виртуальным другом в Snapchat», уже помог Snap диверсифицировать свой поток доходов способом, который с трудом дается большинству социальных сетей: через платные подписки. Изначально функциональность бота была доступна только тем пользователям, кто такую подписку имеет, и в апреле их общее число выросло до более чем 3 миллионов.

Но гораздо более значительным способом увеличения дохода может стать совсем не это. То, какие данные получает Snap от взаимодействия пользователей с чат-ботом, может быть использовано для совершенствования рекламного бизнеса, который обеспечивает большую часть дохода компании. Рекламный бизнес Snap испытывает трудности, и в первом квартале компания сообщила о первом в своей истории снижении продаж. My AI был открыт всем пользователей два месяца назад, и огромный приток новых сообщений может помочь персонализировать рекламу.

Snap и его аналоги все ещё оправляются от изменений, внесенных Apple в политику конфиденциальности два года назад, которые резко сократили возможность отслеживать «цифровой след пользователей» и подстраивать показ рекламы для конкретной аудитории. Это заставило разработчиков социальных сетей придумывать новые способы узнать интересы отдельных пользователей на основе их активности в приложениях.

Основным способом взаимодействия в Snapchat является обмен личными сообщениями, что дает компании мало информации о пользователях. Вместо этого Snap в основном отслеживал видеоролики, которые человек смотрел в «историях» или в видеоленте Spotlight. Теперь в дополнение к этому Snap будет использовать беседы с My AI для более точного анализа интересов пользователей. Компания также начала тестирование размещения спонсорских ссылок от рекламодателей в разговорах с чатботом среди пользователей в США, Индии, Франции и Великобритании. Например, это может быть ссылка на конкретный продукт в разговоре об одежде, или красоте.

С тех пор как OpenAI выпустила своего чат-бота ChatGPT, компании разных отраслей были воодушевлены перспективами генеративного ИИ. Многие из самых оживленных применений, ориентированных на потребителя, были реализованы в виде чатботов, которые общаются в привычном человеку стиле и выдают ответы быстрее, чем пользователь может найти их в Интернете. В среду компания Google объявила о новых умениях своего генеративного ИИ в шопинге. Теперь он может помогать потребителю в поиске товаров, а также для поиска туристических маршрутов.

Помимо рекламного бизнеса, беседы My AI также помогают Snap совершенствовать свои модели ранжирования — алгоритмы, используемые для показа конкретному пользователю наиболее персонализированного контента, а также фото- и видеофильтров. Цель состоит в том, чтобы привлечь пользователей проводить больше времени в приложении.

Звучит как корпорация зла? Но Snap честно информирует пользователей перед общением с ботом о том, что беседы могут быть использованы для персонализации их опыта взаимодействия со Snapchat. А маркетологи с большей вероятностью будут тратить средства на размещение цифровой рекламы перед пользователями, которые, как они знают, могут быть заинтересованы в их продукции. Например, более чем в 65 миллионах чатов пользователи хотели обсудить автомобили, причем почти 8 миллионов из них касались конкретных брендов: BMW, Kia, Ford и Volkswagen. А в разговорах о еде лидером стал McDonald's, который стал предметом обсуждения в 5 миллионах бесед с My AI.

Компания Alphabet (родительская структура Google) предупредила сотрудников о необходимости осторожного использования чат-ботов, использующих технологии машинного обучения и искусственного интеллекта на базе нейронных сетей. Не стал исключением и Bard, разработанный в недрах самой компании.

Источник изображения: Alexandra_Koch/pixabay.com

Сотрудникам посоветовали не вводить конфиденциальные сведения в диалоги с чат-ботами. Как сообщает Reuters, сначала об этом сообщили источники СМИ, а потом информацию подтвердила и сама компания, сославшись на долгосрочную стратегию защиты информации. ИИ-боты могут поддерживать разговоры и отвечать на огромное число вопросов. При этом разработчики, отвечающие за корректную работу чатов, могут просматривать подобные диалоги. Кроме того, многие системы обучаются на самих диалогах и позже способны воспроизводить полученные данные уже в других беседах, что неизбежно создаёт риски утечек информации.

Alphabet также предостерегла программистов от прямого использования генерируемого ботами кода. На вопрос журналистов в компании ответили, что Bard может советовать нежелательные программные решения, но тем не менее, помогает в разработке ПО.

Опасения техногиганта наглядно демонстрируют, насколько Google желает избежать вреда от ИИ-системы, которую запустила в погоне за OpenAI и Microsoft. Кроме того, политика Google свидетельствует о том, что ограничения на использование ИИ-систем становятся стандартом для корпораций. Ограничения уже ввели Samsung, Amazon, Deutsche Bank, а также другие компании, включая, по слухам, Apple.

Что касается Microsoft, то в этой компании отказались сообщать журналистам, есть ли у них запрет на использовании ИИ-ботов сотрудниками. Ранее один из топ-менеджеров сообщал изданию Reuters, что он запретил такую практику лично.

Интеграция систем искусственного интеллекта с голосовыми помощниками кого-то из автопроизводителей была лишь вопросом времени, и немецкая марка Mercedes-Benz решила выступить в роли одного из первопроходцев, открыв на три месяца доступ к ChatGPT своим клиентам в США с целью тестирования дальнейшего развития подобной интеграции.

Источник изображения: Mercedes-Benz

Желающим принять участие в программе тестирования обладателям машин марки Mercedes-Benz с поддержкой голосового помощника MBUX нужно будет скачать соответствующее программное обновление. По оценкам автопроизводителя, на территории США в тестировании функции смогут принять участие до 900 000 автовладельцев. Голосовые запросы, которые они будут формировать в рамках взаимодействия с бортовым виртуальным ассистентом MBUX, смогут обрабатываться чат-ботом ChatGPT за счёт интеграции сервиса с профильной облачной инфраструктурой Microsoft, оказывающей поддержку разработчику в лице OpenAI.

В немецкой компании надеются, что интеграция с ChatGPT поможет сделать ответы бортового ассистента MBUX более естественными. Кроме того, водитель сможет задавать вопросы, не имеющие отношения к функциям управления бортовыми системами автомобиля. С машиной в буквальном смысле можно будет вести беседу, как отмечается в пресс-релизе автопроизводителя. С течением времени возможности программного комплекса MBUX будут расширяться, и автовладельцы смогут бронировать места в ресторанах, покупать билеты в кинотеатр и выполнять прочие задачи, просто обращаясь к виртуальному ассистенту с голосовыми запросами в естественной форме.

Персональные данные клиентов в рамках эксперимента будут храниться в облачной инфраструктуре Mercedes-Benz, предварительно проходя обработку с целью достижения анонимности. По итогам американского эксперимента автопроизводитель надеется разработать аналогичные предложения для клиентов в других странах и на языках, отличных от английского. Конкурирующая корпорация General Motors о намерениях использовать ChatGPT в своих транспортных средствах заявила ещё в марте этого года.

Samsung Electronics планирует разработать собственный ИИ-сервис для поиска данных, переводов документов и обработки текстов — он появится уже в этом году. Как известно, в компании запретили сотрудникам использовать ChatGPT из-за риска утечки ключевой технологической информации.

Источник изображения: Samsung

Подразделение Device Solutions (DS), контролирующее полупроводниковый бизнес компании, планирует представить собственную большую языковую модель (LLM), которая, как ожидается, будет выше уровнем, чем GPT-3.5. В компании заявляют, что использование генеративного ИИ позволит привнести инновации в работу. Сейчас компания стремится к внедрению управляемого ИИ в подконтрольных Samsung организациях. Подразделение Samsung Electronics DS планирует представить базовые сервисы в декабре текущего года, а в феврале следующего появятся профессиональные поисковые сервисы на основе массива корпоративных знаний.

Благодаря принимаемым мерам компания сможет оптимизировать закупки и расходы, поиск специализированных знаний о процессах, дизайне и производстве. Технология позволит обобщать производственные и технологические данные, переводить, создавать документы, транскрибировать и составлять резюме встреч, анализировать рыночные и корпоративные данные, генерировать и оценивать программный код и систематизировать обратную связь от покупателей.

Новые меры стали ответом на высокий спрос на генеративные ИИ-системы вроде ChatGPT. Несмотря на очевидные выгоды их использования, применение сторонних инструментов может привести к утечке конфиденциальной информации. Поскольку применение ChatGPT в компании ограничено, планируется представить собственную версию для сотрудников.

Как сообщает The Korea Times, подразделение DS ограничило объём текстов, которые можно загружать в ChatGPT. Это обусловлено тем, что некоторые сотрудники загружали в систему деловую переписку или внутренний исходный код, информация об этом появилась в марте. В подразделении Device Experience (DX), отвечающем за бытовую технику и смартфоны, использование сторонних генеративных ИИ на корпоративных ПК запрещено полностью ещё с мая. DX также работает над собственным решением для переводов, составления резюме документов и помощи в разработке ПО, хотя конкретных планов пока озвучено не было.

По другим данным, после того как сотрудники «слили» в ChatGPT корпоративную информацию, во всей Samsung Electronics полностью запретили пользоваться ChatGPT и подобными сервисами на любых устройствах, подключённых к корпоративной сети.