Проект MDN Web Docs (ранее Mozilla Developer Network) представляет собой репозиторий документации для веб-разработчиков, помогающей обучаться созданию сайтов и реализовать различные сетевые проекты. Хотя сайт считается надёжным источником информации, подключение к нему компанией Mozilla ИИ-инструмента AI Help привело к настоящему скандалу.

Источник изображения: Alexandra_Koch/unsplash.com

Инструмент AI Help на основе генеративного ИИ разработан Mozilla для того, чтобы стать «компаньоном для решения проблем» веб-разработчиков, ищущих ответы в MDN Web Docs. На сайте имеется информация о CSS, HTML, JavaScript и других веб-технологиях. До недавних пор он был авторитетным ресурсом, информацию на который вносили как волонтёры, так и корпорации вроде Microsoft и Google и, конечно, сама Mozilla. MDN также содержит веб-документацию Samsung после того, как южнокорейская компания решила отключить собственные проекты — агрегаторы соответствующей документации. Как выяснилось, попытка Mozilla внести изменение в виде ИИ-инструмента вызвала негативную реакцию пользователей.

По данным представителей проекта MDN, AI Help должен был оптимизировать поиск информации разработчиками, сделав его «быстрым и лёгким». Известно, что используется API компании OpenAI для того, чтобы ИИ выдавал подходящую информацию из репозитория в ответ на запросы. На деле всё оказалось намного хуже.

В посте на GitHub в разделе проекта Yari, на основе которого построен сервис MDN, имеется немало отзывов, касающихся функции AI Help. Один из пользователей получил неверный ответ на вопрос, после чего опубликовал описание ситуации на GitHub — пост сопровождался многочисленными гневными отзывами, в которых новая функция называлась «хуже, чем бесполезной», подчёркивалось, что человекоподобные ответы «могут быть случайно верными, но могут содержать и убедительные фальшивки».

Многие комментаторы признали, что новинка наносит больше ущерба, чем способна принести пользы, и признали, что ИИ страдает галлюцинациями, характерными для LLM-решений. В итоге один из ключевых разработчиков-добровольцев MDN под ником sideshowbarker пообещал «поднять» проблему в самой Mozilla «настолько высоко, насколько сможет». Неизвестно, удалось ли ему преуспеть в этом, но сообщается, что кнопка AI Help более недоступна.

Компания OpenAI, разработавшая чат-бот ChatGPT, отключила возможность веб-поиска для своего творения. Оказалось, что ИИ-сервис позволял обходить защиту систем доступа к платному контенту и получать свободный доступ к публикациям новостных агентств и блогеров, для просмотра которых необходима соответствующая подписка.

Источник изображения: Mariia Shalabaieva/unsplash.com

Функция Browse with Bing, доступная для подписчиков ChatGPT Plus с марта текущего года, позволяла получать актуальную информацию в Сети в отличие от данных, с которыми приходилось иметь дело пользователям бесплатного ChatGPT. Как известно, бесплатная версия тренировалась на данных из интернета, опубликованных до конца 2021 года.

OpenAI пришла к выводу, что обход функционирующих по подписочной модели информационных сервисов недопустим, и ChatGPT Plus действительно может демонстрировать закрытый контент вопреки представлениям разработчиков об идеальных механизмах работы подключённой к Сети системы. Например, если пользователь просил предоставить полный текст, соответствующий тому или иному URL, бот выполнял его пожелание. Компания отключила функцию Browse with Bing до тех пор, пока проблема не будет устранена для того, чтобы защитить права владельцев контента.

OpenAI решилась пойти на такой шаг, безусловно, наносящий вред бизнесу. Вряд ли кому-либо из оплачивающих дополнительную функциональность ИИ-сервиса пользователей понравится новость о том, что их ограничивают в возможностях, предлагаемых альтернативными решениями на безвозмездной основе. Более того, поиск по сети может осуществлять даже «родственный» ChatGPT бот Bing Chat компании Microsoft, который тоже работает совершенно бесплатно.

Стартап Inflection AI, поддерживаемый многими тяжеловесами из Кремниевой долины США, заявил о привлечении $1,3 млрд от инвесторов, включая Microsoft и NVIDIA. Инвестиции представляют собой как денежные средства, так и т.н. облачные кредиты, то есть возможность использовать облачные сервисы. В результате общая стоимость компании, работающей на рынке всего год, достигла $4 млрд.

Источник изображения: Medienstürmer/unsplash.com

Компания создана одним из основателей Google DeepMind Мустафой Сулейманом (Mustafa Suleyman) и одним из основателей LinkedIn Ридом Хоффманом (Reid Hoffman). В прошлом месяце она представила чат-бот Pi и уделяет особое внимание потребительским ИИ-продуктам — бизнес рассматривается многими экспертами в качестве конкурента OpenAI.

Чат-бот Pi использует генеративные ИИ-технологии, аналогичные ChatGPT, для взаимодействия с пользователями посредством диалогов — это позволяет людям задавать вопросы и получать обратную связь. В Inflection AI заявляют, что намерены построить персонализированный ИИ, который поможет людям планировать работу, составлять расписания, искать информацию и выполнять другие задачи.

Сейчас в компании трудятся 35 сотрудников. В ходе первого раунда инвестиций в начале 2022 года компания собрала $225 млн, полученных от Microsoft, Greylock и венчурного инвестора Рида Хоффмана (Reid Hoffman). На прошлой неделе стартап опубликовал доклад о языковой ИИ-модели Inflection-1, на основе которой функционирует бот Pi. Заявляется, что модель превосходит большинство представленных на рынке моделей.

Большинство средств, как утверждается, будет потрачено на развёртывание вычислительных мощностей для разработки более производительных моделей. По словам Сулеймана, занимающего пост генерального директора компании, идёт строительство кластера из порядка 22 тыс. ускорителей NVIDIA H100. Это примерно в три раза больше, чем использовалось для тренировки GPT-4, и именно это позволит создать выдающийся продукт.

Стремительно развивающаяся индустрия продолжает привлекать инвесторов, а компании по всему миру ищут способы интегрировать ИИ в свои бизнесы, в то время как регуляторы обдумывают, как обуздать технологию и установить над ней контроль. Microsoft вкладывает средства как в Inflection AI, так и в её конкурента OpenAI. Также в роли инвесторов Inflection AI в последнем раунде помимо Хоффмана выступили Билл Гейтс (Bill Gates) и бывший глава Google Эрик Шмидт (Eric Schmidt).

Китайский поисковый гигант Baidu заявил, что его новейшая версия большой языковой модели Ernie 3.5 превзошла ИИ-чат-бот ChatGPT (на GPT-3.5) от OpenAI по общим возможностям, а также более продвинутую модель GPT-4 по нескольким китайскоязычным возможностям. Baidu сослалась на тестирование государственного издания China Science Daily на базе разных наборов данных, включая бенчмарки AGIEval и C-Eval, предназначенные для оценки моделей искусственного интеллекта.

Источник изображения: Pixabay

Ernie 3.5 уже три месяца находится в стадии бета-тестирования. За это время LLM-модель повысила эффективность обучения и инференса, ускорив и удешевив итерации и обновление до следующих версий.

Созданный на её основе ИИ-чат-бот Ernie Bot, представленный в марте этого года, стал первым крупным китайским ответом на выход ИИ-бота ChatGPT, спровоцировав гонку среди китайских технологических компаний, включая Alibaba Group Holding и Tencent Holdings, по разработке конкурирующих платформ.

Baidu интегрирует Ernie Bot в решения по нескольким направлениям бизнеса, от облачных вычислений до умных колонок. Также компания создала венчурный фонд в размере $140 млн для поддержки стартапов, подобных OpenAI.

Baidu надеется, что ИИ-бот Ernie Bot завоюет популярность на крупнейшем в мире интернет-рынке, привлекая пользователей крупных универсальных платформ, таких как WeChat компании Tencent. Следует отметить, что для запуска сервисов генеративного искусственного интеллекта в Китае требуется одобрение регулирующих органов.

Эксперты по кибербезопасности из Университета Маккуори (Австралия) разработали основанный на алгоритмах искусственного интеллекта чат-бот Apate — он обучен выдавать себя за человека в разговоре с телефонными мошенниками, а его цель состоит в том, чтобы удерживать собеседника на линии максимально продолжительное время.

Источник изображения: Sam Williams / pixabay.com

Идея запустить проект возникла, когда его руководителю профессору Дали Каафару (Dali Kaafar) позвонили телефонные мошенники, и учёный удерживал их на линии 40 минут, развлекая детей за обедом. Профессор решил, что этот процесс можно автоматизировать при помощи ИИ, подключив модели обработки естественного языка и создав чат-бот, способный выдавать себя за человека и вести телефонный разговор с мошенником. Проекту присвоили название Apate в честь Апаты — древнегреческой богини лжи и обмана.

В основе проекта лежит языковая модель, схожая с ChatGPT, к которой подключена система клонирования голоса. Apate обучали на текстах реальных взаимодействий с мошенниками: на расшифровках телефонных разговоров, а также на переписках по электронной почте и в соцсетях. Тестирование чат-бота проводилось на настоящих звонках мошенников. Для этого учёные решили их спровоцировать, выкупив несколько телефонных номеров, которые начали преднамеренно размещать на сомнительных интернет-площадках.

Цель проекта в том, чтобы удерживать собеседника на линии в течение 40 минут без конкретного результата — это достаточно продолжительное время, и большое число таких разговоров способно пошатнуть «бизнес-модель» преступников. Правда, пока среднее время диалога с Apate составляет всего 5 минут. В ряде случаев ИИ удивил и своих создателей — он проявлял изрядную находчивость в нестандартных ситуациях, когда мошенники запрашивали информацию, отсутствовавшую в обучающих материалах.

Представители преступного мира и сами сейчас активно внедряют ИИ, подключая технологии клонирования голоса и дипфейки. Поэтому проект Apate — это своего рода симметричный ответ на передовые решения у мошенников. Учёные предполагают, что подобных чат-ботов могли бы внедрять операторы телефонной связи.

Любители переносить современные приложения и игры на устаревшие устройства добрались до чат-бота ChatGPT, основой которого является генеративная нейросеть компании Open AI. Не так давно в интернете появилось приложение WinGPT, которое позволяет взаимодействовать с алгоритмом Open AI на устройствах, работающих под управлением выпущенной более 30 лет назад Windows 3.1.

Источник изображений: dialup.net

Согласно имеющимся данным, автором приложения является разработчик, ранее создавший Windle, клон популярной браузерной игры Wordle для Windows 3.1. «Я не хотел, чтобы мой Gateway 4DX2-66 1993 года выпуска остался в стороне от революции искусственного интеллекта, поэтому я создал ИИ-бота для Windows 3.1 на основе Open AI API», — прокомментировал данный вопрос сам разработчик, имя которого остаётся загадкой.

Приложение WinGPT написано на языке программирования C с использованием стандартного Windows API. Оно подключается к серверу Open AI с использованием стандарта шифрования TLS 3.1, поэтому для взаимодействия с нейросетью не требуется дополнительный компьютер с современной операционной системой. Поскольку Windows 3.1 поддерживает небольшой объём памяти, WinGPT может давать лишь краткие ответы на пользовательские запросы без учёта контекста. Также известно, что ярлык для WinGPT был создан в редакторе изображений Borland, клоне Microsoft Paint с возможностью создания файлов ICO.

«Большую часть пользовательского интерфейса я создал непосредственно на C, а это означает, что каждый элемент создавался вручную в коде. Я был удивлён, что набор стандартных элементов управления, доступных для использования любой программной с Windows 3.1, невероятно ограничен. У вас есть некоторые элементы управления, которые вы ожидаете — кнопки, флажки, переключатели, редактируемые поля, но любые другие элементы управления, которые могут вам понадобиться, включая те, что используются в самой операционной системе, недоступны», — добавил автор приложения WinGPT.

Любой обладатель компьютера с Windows 3.1 может скачать WinGPT с сайта dialup.net. Приложение может работать в 16- и 32-разрядных версиях Windows 3.1 с реализацией Winsock.

Данные более 100 тыс. пользователей чат-бота ChatGPT утекли в Сеть и оказались на торговых площадках даркнета, говорится в отчёте международной компании в сфере кибербезопасности Group-IB. Утечки зафиксированы в период с июня 2022-го по май текущего года.

Источник изображения: The Hacker News

Специалисты отмечают, что наиболее значительная выгрузка данных в даркнет была замечена в мае этого года.

«Количество доступных логов, содержащих скомпрометированные учётные записи ChatGPT, достигло пика в 26 802 записей в мае 2023 года. За последний год самая высокая концентрация учётных данных ChatGPT, выставленных на продажу, наблюдалась в Азиатско-Тихоокеанском регионе», — говорится в отчёте компании.

Если говорить по странам, то больше всего за наблюдаемый период утекло данных пользователей ChatGPT из Индии (12 632 записи), Пакистана (9217 записей) и Бразилии (6531 запись). Также в даркнете оказались данные пользователей чат-бота из Вьетнама, Египта, США, Франции, Марокко, Индонезии и Бангладеш.

Источник изображения: Group-IB

Специалисты Group-IB отмечают, что логи, содержащие скомпрометированную информацию о пользователях, активно продаются на торговых площадках даркнета. Среди прочего в этих данных содержится информация о доменах и IP-адресах скомпрометированных пользователей.

Анализ также показал, что большинство записей (78 348 штук) были похищены с помощью вредоносной программы Raccon для кражи информации, доступной в виде услуги Malware as a Service. Следом за ней идёт шпионское ПО для Windows и средство кражи информации Vidar. С его помощью было похищены данные о 12 984 аккаунтах ChatGPT. На третьем месте (6773 похищенные записи) оказался троян RedLine, который крадет файлы cookie, имена пользователей и пароли, кредитные карты, хранящиеся в веб-браузерах, а также учётные данные FTP и файлы с заражённого устройства.

Следует понимать, что речь идёт не только о краже личной информации. В учётной записи ChatGPT можно найти как личный, так и профессиональный контент, от коммерческих секретов компании, которых там быть не должно, до личных дневников.

«Например, сотрудники компаний могут вносить в поисковый запрос чат-бота секретную информацию или использовать бота для оптимизации проприетарного программного кода. Учитывая, что стандартная конфигурация ChatGPT сохраняет все запросы, утечка этих данных может предоставить злоумышленнику доступ к ценной информации», — говорится в комментарии Group-IB.

Более 150 миллионов человек — около 20 % ежемесячных пользователей Snapchat — отправили 10 миллиардов сообщений чат-боту под названием My AI с момента его запуска в Snapchat в конце февраля. Пользователи спрашивали обо всем — от рекомендаций по уходу за кожей до подробностей о новейшем спортивном автомобиле. И эти данные компания Snap собирается использовать для таргетированной рекламы.

Источник изображения: Pixabay

My AI, который позиционируется «виртуальным другом в Snapchat», уже помог Snap диверсифицировать свой поток доходов способом, который с трудом дается большинству социальных сетей: через платные подписки. Изначально функциональность бота была доступна только тем пользователям, кто такую подписку имеет, и в апреле их общее число выросло до более чем 3 миллионов.

Но гораздо более значительным способом увеличения дохода может стать совсем не это. То, какие данные получает Snap от взаимодействия пользователей с чат-ботом, может быть использовано для совершенствования рекламного бизнеса, который обеспечивает большую часть дохода компании. Рекламный бизнес Snap испытывает трудности, и в первом квартале компания сообщила о первом в своей истории снижении продаж. My AI был открыт всем пользователей два месяца назад, и огромный приток новых сообщений может помочь персонализировать рекламу.

Snap и его аналоги все ещё оправляются от изменений, внесенных Apple в политику конфиденциальности два года назад, которые резко сократили возможность отслеживать «цифровой след пользователей» и подстраивать показ рекламы для конкретной аудитории. Это заставило разработчиков социальных сетей придумывать новые способы узнать интересы отдельных пользователей на основе их активности в приложениях.

Основным способом взаимодействия в Snapchat является обмен личными сообщениями, что дает компании мало информации о пользователях. Вместо этого Snap в основном отслеживал видеоролики, которые человек смотрел в «историях» или в видеоленте Spotlight. Теперь в дополнение к этому Snap будет использовать беседы с My AI для более точного анализа интересов пользователей. Компания также начала тестирование размещения спонсорских ссылок от рекламодателей в разговорах с чатботом среди пользователей в США, Индии, Франции и Великобритании. Например, это может быть ссылка на конкретный продукт в разговоре об одежде, или красоте.

С тех пор как OpenAI выпустила своего чат-бота ChatGPT, компании разных отраслей были воодушевлены перспективами генеративного ИИ. Многие из самых оживленных применений, ориентированных на потребителя, были реализованы в виде чатботов, которые общаются в привычном человеку стиле и выдают ответы быстрее, чем пользователь может найти их в Интернете. В среду компания Google объявила о новых умениях своего генеративного ИИ в шопинге. Теперь он может помогать потребителю в поиске товаров, а также для поиска туристических маршрутов.

Помимо рекламного бизнеса, беседы My AI также помогают Snap совершенствовать свои модели ранжирования — алгоритмы, используемые для показа конкретному пользователю наиболее персонализированного контента, а также фото- и видеофильтров. Цель состоит в том, чтобы привлечь пользователей проводить больше времени в приложении.

Звучит как корпорация зла? Но Snap честно информирует пользователей перед общением с ботом о том, что беседы могут быть использованы для персонализации их опыта взаимодействия со Snapchat. А маркетологи с большей вероятностью будут тратить средства на размещение цифровой рекламы перед пользователями, которые, как они знают, могут быть заинтересованы в их продукции. Например, более чем в 65 миллионах чатов пользователи хотели обсудить автомобили, причем почти 8 миллионов из них касались конкретных брендов: BMW, Kia, Ford и Volkswagen. А в разговорах о еде лидером стал McDonald's, который стал предметом обсуждения в 5 миллионах бесед с My AI.