Сегодня 01 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → боты
Быстрый переход

Разработан бесплатный шрифт ShieldFont, подменяющий в глазах ИИ осмысленный контент чушью

Бразильское креативное агентство Seneda & Abrucio и датская студия Playtype совместными усилиями разработали шрифт ShieldFont. Бесплатное средство обеспечивает веб-тексту читаемость для человека, тогда как искусственный интеллект увидит вместо него бессмысленный набор слов.

 Источник изображения: github.com/isaqueseneda

Источник изображения: github.com/isaqueseneda

Человек читает текст на экране из окна браузера, а большинству ИИ-ботов удобнее работать с исходным HTML-кодом страниц. Разработчики ShieldFont решили использовать это расхождение во благо тех, кто не хочет показывать свои материалы ИИ, и обратились к алгоритму замены глифов OpenType. Эта технология обычно используется для замены одного или нескольких символов альтернативными, чтобы улучшить отображение текста. Но в случае ShieldFont производится подмена целых слов: человек увидит на экране исходный материал, а ИИ — явную бессмыслицу.

Подмена слов производится не случайным образом, а на основе словаря с сопоставлением слов одной части речи. Вместо одного существительного будет другое существительное, а вместо глагола в прошедшем времени — другой глагол в прошедшем времени. Слова отсортированы на 250 групп с учётом таких факторов как абстрактные понятия и множественное число. Производится замена примерно четверти слов в тексте.

Грамматическое соответствие — важный аспект проекта. Разработчики средств сбора данных для обучения ИИ пропускают текст через фильтры качества, которые отсекают полную бессмыслицу. Авторы проекта проверили работу технологии на примере фильтра FineWeb-Edu и установили, что примерно в 10 % случаев преобразованный таким образом текст успешно проходит проверку. И в 55,8 % случаев смысл меняется до неузнаваемости.

Есть у решения и свои недостатки. Оно не сработает с ИИ-ботами, которые читают не HTML-код, а распознают знаки на отрисованной веб-странице. И, к сожалению, сработает на программах для чтения с экрана, которыми пользуются люди со слабым зрением — эти программы тоже ориентируются по HTML. ShieldFont поставляется с компонентом, позволяющим получить исходный текст. Сейчас технология работает только с англоязычными текстами; материалы проекта доступны на GitHub; для обеспечения поддержки ShieldFont на сайте потребуется компонент к библиотеке React.

Исследование показало, что ИИ-агенты уже научились лучше втираться в доверие к людям, чем реальные мошенники

Передовые ИИ-модели начинают представлять опасность не только с точки зрения их способности взлома компьютерной инфраструктуры, но и воздействия на психологию человека. Международная группа исследователей своим экспериментом доказала, что обученные методам социальной инженерии ИИ-агенты втираются в доверие к потенциальным жертвам мошеннических действий даже лучше своих коллег из плоти и крови.

 Источник изображения: Unsplash, Erik Mclean

Источник изображения: Unsplash, Erik Mclean

Свои усилия в этом научном эксперименте объединили представители четырёх университетов из Индии, Италии, Германии и Израиля, как повествует Wired. Исследователи поставили цель обучить передовые ИИ-модели западной разработки методу мошенничества, который в англоязычной терминологии получил обозначение «pig butchering» — буквально, «забой свиньи». Он подразумевает знакомство с потенциальной жертвой по сетевым каналам с удалённым взаимодействием, чаще всего под видом формирования романтических отношений. На этапе «вскармливания» злоумышленник пытается установить доверительные отношения с жертвой, длительное время никак не выдавая своих истинных намерений. В решающий момент жертве предлагается установить на своё устройство приложение, которое в дальнейшем может под предлогом инвестиций в криптовалюту использоваться для выманивания у жертвы денег.

В эксперименте приняли участие более двух десятков добровольцев, которым было предложено помочь учёным в исследовании онлайн-знакомств. Они в течение недели вели одновременную переписку с двумя незнакомцами, в роли одного из них выступал ИИ-агент, а вторым был реальный человек с опытом психологической манипуляции. При этом ИИ-агент был обучен приёмам мошенников на опыте реальных лиц, задержанных за соответствующую сетевую активность. В конце первой недели онлайн-знакомства участникам эксперимента было предложено скачать два разных приложения на своё мобильное устройство. Реальный человек предлагал мобильную игру, а созданный при помощи Anthropic Claude чат-бот предлагал установить программу, которую якобы он помог написать самой жертве. Подобное разведение приложений по назначению и происхождению требовалось для чистоты эксперимента, поскольку два одинаковых запроса могли бы насторожить потенциальных жертв.

Хотя эксперимент был довольно сжатым по времени, ведь реальные мошенники могут поддерживать тёплые онлайн-отношения с жертвой на протяжении нескольких месяцев, прежде чем реализовать свои намерения, его результаты оказались довольно интригующими. В 46 % случаев участники эксперимента согласились скачать предложенное чат-ботом приложение, тогда как реальному мошеннику удалось подтолкнуть к схожим действиям только 18 % участников. Фактически, это говорит о том, что ИИ-агенту удалось завоевать доверие большей части аудитории, чем опытному мошеннику. Когда потенциальных жертв попросили оценить степень доверия виртуальному компаньону по пятибалльной шкале, то ИИ-агент удостоился среднего балла в 3,78, а реальный человек — только 3,31. Из всего объёма недельной переписки 80 % сообщений было отправлено жертвами именно ИИ-агенту. Получается, что ему удалось быстрее расположить к себе участников эксперимента.

Из 22 участников эксперимента, что характерно, лишь один самостоятельно пришёл к выводу, что ведёт переписку с ИИ-агентом. Организаторы провели настройку ИИ-модели Claude, строго запретив ей выдавать свою искусственную сущность. Когда в конце недельного эксперимента организаторы признались, что один из двух собеседников был чат-ботом, выявить его безошибочно смогли 20 из 22 участников. При этом в процессе общения, как можно понять, у них была полная иллюзия того, что они общаются с человеком.

Отдельно была исследована способность современных ИИ-моделей раскрывать свою сущность при общении с человеком. Результат сильно разнился в зависимости от версии ИИ-модели и её авторства, но лучше всего скрываться смогла Google Gemini 3.1 Pro. Модели OpenAI ChatGPT 5.5 и Anthropic Claude Opus 5 при помощи правильно подобранных запросов признавали, что они являются плодом искусственного интеллекта, а вот Gemini упорствовала в отрицании этого факта. Представители Anthropic отметили, что в основной части эксперимента использовалась ИИ-модель Claude версии 2025 года, и в текущих вопросы безопасности проработаны гораздо лучше. Если перед Claude не ставилась прямая задача подталкивать собеседника к действиям по примеру мошенников, то на этапе формирования доверительных отношений с потенциальной жертвой эта ИИ-модель никак себя не выдавала и показывала высокую эффективность.

Эксперты поясняют, что о массовом переходе мошенников на сквозное использование ИИ в своих схемах пока говорить рано, поскольку использование труда специально ориентированных на это людей пока обходится дешевле. Нередко операторов таких колл-центров удерживают силой и угрозами, заставляя обрабатывать жертв дистанционно, и расходы организаторов таких схем ниже, чем в случае с активным использованием ИИ. С другой стороны, на разных этапах мошенники уже активно используют новые технологии: для генерации видео и изображений, призванных ввести жертву в заблуждение, а также для улучшения качества пересылаемых жертве текстовых сообщений, если переписка ведётся на разных языках, с которыми сами мошенники не так хорошо знакомы.

Чат-бот Meta✴ AI получил возможности персонального помощника как в ChatGPT и Gemini

Компания Meta✴ представила крупное обновление своего чат-бота, добавив функцию персонального помощника. Сервис научился работать с календарём, создавать ежедневные сводки и проводить более глубокие исследования, постепенно приближаясь по возможностям к Gemini, ChatGPT и Claude.

 Источник изображения: ***, theverge.com

Источник изображения: theverge.com

Новые возможности работают на базе модели Muse Spark 1.1, позволяющей Meta✴ AI выйти за рамки прежних функций, ограничивавшихся ответами на вопросы, генерацией изображений и подготовкой документов. В своём блоге компания указывает, что обновление стало очередным этапом реализации концепции «персонального суперинтеллекта», которую ранее продвигал генеральный директор Meta✴ Марк Цукерберг (Mark Zuckerberg).

Получив доступ к календарю пользователя, ИИ сможет формировать ежедневные сводки, подбирать дату для запланированных мероприятий, искать рестораны, а также просматривать предложения на Facebook✴ Marketplace, помогая, например, найти мебель в рамках заданного бюджета. Кроме того, настроив выполнение определённых задач один раз, пользователи смогут получать в автоматическом режиме соответствующую информацию регулярно без повторных запросов.

Одновременно улучшены возможности искусственного интеллекта по анализу информации из интернета, благодаря чему чат-бот сможет собирать материалы в отчёты, презентации и планы. Во время подготовки ответа пользователи также смогут менять направление исследования, корректируя процесс аналогично тому, как это реализовано в ChatGPT. Обновление уже распространяется в приложении Meta✴ AI и веб-версии сервиса в некоторых регионах и скоро станет доступно в большем количестве стран, а также в WhatsApp и на других платформах.

Claude теперь может обучаться рутинным процессам, просто наблюдая, как их выполняет пользователь

Платные подписчики ИИ-чат-бота Claude получили дополнительный способ обучения чат-бота для выполнения некоторых рутинных рабочих процессов. Если раньше для объяснения процесса выполнения задачи моделями чат-бота можно было использовать только письменные подсказки, теперь можно объяснять процесс выполнения задачи с помощью функции записи экрана и сопроводительных голосовых сообщений.

 Источник изображения: claude.com

Источник изображения: claude.com

В рамках инструментов Claude Cowork теперь доступна опция «Запись навыка», которая позволяет активировать функцию демонстрации экрана. Claude будет наблюдать за тем, что показывает пользователь на экране, куда он нажимает, за шаблонами набора текста, а также любыми записанными пользователем голосовыми комментариями.

После завершения записи Claude обработает информацию, предоставленную пользователем, а затем научится повторять выполнение задачи и превратит это в то, что Anthropic называет «повторяемым навыком». Функция предназначена для автоматизации выполнения повторяющихся рабочих задач. Она позволяет научить систему выполнять рабочие процессы без необходимости объяснять детали в письменном виде.

Например, если вручную запустить обычный отчёт, который собирает данные из нескольких источников, можно показать Claude, где найти каждый фрагмент информации, содержащийся в отчёте, а также сказать, как пользователь хочет, чтобы эта информация была представлена в отчёте.

Anthropic добавила функцию «Запись навыка» в инструменты Claude Cowork для подписок Max, Pro и Team. Будет ли она доступна для бесплатных пользователей Claude — неизвестно. Платные пользователи Claude указанных тарифов могут найти новую функцию в меню «Cowork → Записать навык → Начать запись ».

Компании начали проверять кандидатов на дипфейки — хакеры с ИИ всё чаще подсовывают «синтетических сотрудников»

По мере распространения технологий генеративного искусственного интеллекта растут не только внешние угрозы в сфере кибербезопасности, но и внутренние. Компании, которые исторически полагались на традиционные методы защиты от кибератак изнутри, теперь вынуждены сталкиваться с новыми вызовами, которые возникли благодаря распространению технологий ИИ.

 Источник изображения: Unsplash, Azamat E

Источник изображения: Unsplash, Azamat E

Как поясняет Financial Times, раскрытая в прошлом году деятельность северокорейской группировки хакеров показала, насколько изобретательными могут быть организаторы кибератак на инфраструктуру американских компаний. Прежде всего, злоумышленникам удалось внедриться в более чем 100 компаний на территории США под видом более чем 80 американских граждан, чьи персональные данные были похищены. Активность хакеров позволила им выручить более $5 млн. По итогам расследования были арестованы 8 граждан США, которые содействовали северокорейским хакерам, размещая в жилых помещениях на американской территории «фермы ноутбуков», которые позволяли работодателям считать, что на них работают в удалённом режиме настоящие американцы. При этом установленные на этих американских «фермах» ноутбуки фактически удалённо управлялись из-за границ страны.

По статистике оператора связи Verizon, из 22 000 инцидентов в сфере кибербезопасности в мире в текущем году примерно 12 % имели отношение к атакам на инфраструктуру компаний изнутри. Злонамеренные действия от атакующих, находящихся внутри компании, исторически причиняли самый серьёзный ущерб, поскольку хакер в этом случае обычно хорошо знаком со слабыми местами в защите и понимает, какие элементы проще и выгоднее атаковать. Кроме того, системы генеративного ИИ сейчас позволяют создавать «синтетических инсайдеров», которые выдают себя за реальных сотрудников компании, в случае необходимости похищая их внешность и голос с помощью цифровых технологий. Компании в таких условиях усилили отбор потенциальных соискателей на замещение вакансий, и к процессу подключаются специалисты по безопасности, которые ранее не всегда привлекались кадровыми подразделениями.

Эксперты поясняют, что бороться с дипфейками на этапе удалённых собеседований можно довольно простыми методами. Достаточно попросить соискателя помахать рукой или повернуть голову в сторону, чтобы с высокой вероятностью выявить подлог. Подозрительная активность работающих на удалёнке сотрудников тоже должна мониториться специализированным ПО. В 62 % случаев, согласно статистике Fortinet, инциденты в сфере информационной безопасности в прошлом году имели место в результате человеческой ошибки или утечки учётных данных. Самые серьёзные инциденты в этой сфере могут обходиться бизнесу в сумму от $1 млн до $10 млн.

Представители Google подчёркивают, что так называемое «теневое использование ИИ» сотрудниками тоже представляет угрозу для защиты информации компаний. Если какая-то чувствительная информация загружается сотрудником в чат-бот, она потом легко может стать достоянием злоумышленников. Угроза обретает особую актуальность с учётом распространения ИИ-агентов, которые могут выступать в роли виртуальных сотрудников. Их, в свою очередь, можно вовлечь в неправомерную деятельность, отмечает Financial Times. На корпоративном рынке появляется всё больше ПО, призванного следить за сохранностью конфиденциальных данных в условиях повального внедрения ИИ. Становится сложно обеспечить надёжность функционирования инфраструктуры и при этом не отпугнуть сотрудников излишним недоверием к ним со стороны работодателя. Важно чётко выделять индикаторы риска, но при этом не тормозить бизнес-процессы всеобщим недоверием и тотальной слежкой.

Cloudflare объявила войну ИИ-ботам — теперь они будут блокироваться по умолчанию

Cloudflare объявила о планах автоматически блокировать веб-ботов смешанного назначения, которые индексируют сайты для поисковых систем, а также выступают в качестве ИИ-агентов и используются для обучения моделей искусственного интеллекта. Ранее компания предлагала клиентам самостоятельно определять эту политику, теперь же позиция по умолчанию будет иметь оборонительный характер.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

«Теперь, когда бо́льшая часть трафика в интернете исходит не от человека, мы должны пойти дальше и действовать быстрее, чтобы могла развиваться устойчивая экосистема. Новые инструменты и партнёрства Cloudflare предоставляют владельцам сайтов повышенные видимость и коммерческие возможности, а также приносят пользу занимающимся ИИ компаниям, которые используют ботов с ясными и прозрачными намерениями. Надеемся, что предлагаемые нами изменения по умолчанию побудят ботов смешанного назначения разделить поиск, агентов и обучение», — пояснил инициативу компании её гендиректор Мэтью Принс (Matthew Prince).

Раньше показатели веб-трафика отражали, что люди просматривают рекламу или оплачивают подписки, однако рост популярности ИИ-моделей, способных посещать сайты от имени пользователей для получения актуальной информации, перевернул эту систему с ног на голову. Cloudflare пытается восстановить баланс, справедливый как для разработчиков ИИ, так и для владельцев сайтов.

С 15 сентября все новые клиенты и все новые сайты существующих клиентов Cloudflare по умолчанию «будут разрешать поиск, но блокировать обучение и использование агентов для страниц с рекламой». Поисковые роботы смешанного назначения, которые не предоставляют владельцам сайтов возможности выбора, использовать ли их ресурс для ИИ, по умолчанию будут блокироваться на страницах с рекламой. Пользователи с бесплатными учётными записями также перейдут на эти настройки по умолчанию, если не откажутся от них до крайнего срока — 15 сентября.

Cloudflare также запускает функцию «Оплата за использование» (Pay Per Use) — владельцы сайтов будут получать выплаты всякий раз, когда их материалы появятся в ответах чат-ботов с ИИ. Пока компания заключила партнёрские соглашения с Ceramic.AI и You.com, но, очевидно, надеется, что к инициативе подключатся и другие разработчики.

Механизм блокировки ботов смешанного назначения по умолчанию нацелен косвенно и на Google. «У крупнейшей поисковой системы есть доступ ко вдвое большему объёму информации, чем у ведущих разработчиков ИИ, потому что они затрудняют клиентам возможность оставаться доступными для поиска, не используясь для ИИ», отметили в Cloudflare. Googlebot, выступающий основным поисковым роботом Google, индексирует сайты для поисковых систем компании, собирает информацию для обучения Gemini и работы таких функций как поисковый «Режим ИИ» и «Обзоры от ИИ» в выдаче. Есть также другой поисковый робот Google-Extended, который используется только для формирования результатов традиционного поиска. Если же владелец сайта хочет, чтобы ресурс присутствовал в ИИ-поиске, но не хочет использовать его материалы для обучения ИИ Google, такой возможности у него нет. Новая политика Cloudflare выступает попыткой заставить Google и другие компании, использующие роботов смешанного назначения, сменить свою тактику.

Истцы взяли на вооружение ИИ и завалили британские суды работой до 2028 года

По информации Financial Times, внедрение генеративного искусственного интеллекта коснулось британской судебной системы самым непосредственным образом, поскольку лишённые возможности нанимать дорогостоящих адвокатов граждане стали активнее использовать ИИ-ассистентов для подачи жалоб и исков. Местные суды теперь завалены работой до 2028 года.

 Источник изображения: Unsplash, Who’s Denilo ?

Источник изображения: Unsplash, Who’s Denilo ?

Как поясняет источник, речь идёт преимущественно о специальных судебных органах Великобритании, которые рассматривают трудовые споры. В условиях, когда компании одна за одной объявляют о сокращении сотрудников в результате внедрения искусственного интеллекта, последний помогает жертвам подобных оптимизаций преследовать своего бывшего работодателя в суде. Уволенные сотрудники просто обращаются к чат-ботам с просьбой составить жалобу на работодателя, хотя ранее для этого обычно приходилось нанимать юриста, чьи услуги остаются не самыми дешёвыми.

Издание приводит пример одной женщины, которую работодатель сократил во время нахождения в отпуске по уходу за ребёнком. Выйти на прежнее место работы она после завершения отпуска не смогла, но решила обратиться в профильный трибунал для получения компенсации. Составить текст жалобы ей помог чат-бот, в итоге суд встал на её сторону и заставил бывшего работодателя выплатить пострадавшей компенсацию в сумме шестимесячного жалования.

Отмечается, что этот прецедент скорее является исключением, поскольку злоупотребление ИИ приводит к перегрузке британских судебных органов и увеличению сроков рассмотрения каждой трудовой жалобы. Юристы отмечают, что некоторые дела будут рассматриваться не ранее 2028 года. При этом некоторые истцы пытаются добиться через суд временных мер поддержки со стороны работодателя в виде выплаты ежемесячного жалования до окончательного рассмотрения дела. В судебной практике у таких жалоб появляется приоритет, поэтому их подача истцами вносит сильный беспорядок в работу трибуналов по трудовым спорам. Тем более, что многие истцы слепо доверяют ИИ в вопросах формулирования исковых требований и назначения компенсации. Нередко ИИ выдвигает завышенные требования, которые судом не удовлетворяются в первой инстанции, но истцы при этом сохраняют непоколебимость своих позиций. Кроме того, ИИ нередко формирует слишком объёмные документы, в которых судам приходится долго разбираться и тратить время на удаление ненужной информации, актуальность которой сам истец без помощи юристов проверить не мог.

Представители правовой системы Великобритании теперь предлагают вернуть государственную пошлину за подачу судебных исков, которая была отменена с 2017 года ради «повышения доступности справедливости». Такой материальный барьер позволил бы отсечь не самые важные иски и разгрузить судебную систему. Кроме того, часть полномочий по рассмотрению трудовых споров можно было бы передать недавно организованному Агентству по соблюдению справедливости в трудовой сфере. Правозащитники отмечают, что ИИ обеспечил повышение доступности правосудия, в особенности для иммигрантов, не владеющих английским языком и специализированной терминологией в достаточной степени для самостоятельного представления своих интересов в суде. Словом, есть и положительные моменты, но пока британская система правосудия в большей мере страдает от увлечения истцов использованием генеративного ИИ.

Компании начали считать деньги при внедрении ИИ, во многих случаях оно замедляется

В сфере внедрения генеративного искусственного интеллекта, как отмечает Financial Times, наметились важные структурные изменения, которые заставляют клиентов пересматривать свой подход к финансированию процесса. Агентские решения вызывают рост расходов корпораций, и теперь они начали более вдумчиво оплачивать внедрение ИИ.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Во многом такому перелому способствовала политика разработчиков ИИ типа OpenAI и Anthropic, которые после анализа собственных затрат поняли, что субсидируют многих клиентов, предоставляя им почти неограниченный доступ к вычислительным ресурсам в рамках подписки. Многие клиенты потребляют так много токенов, что расходы не покрываются выплатами в форме абонентской платы. Переход на соразмерную оплату потребляемых вычислительных ресурсов ужаснул многих клиентов. Например, небольшой разработчик ПО Workato после перехода на пропорциональную оплату токенов столкнулся с тем, что расходы на оплату услуг провайдеров ИИ в первый день выросли в семь раз. С этим явно нужно было что-то делать, и руководство компании стало два раза в неделю анализировать возможности сэкономить на использовании ИИ.

В целом, как отмечает Financial Times, тактика потребителей систем ИИ сводится как к ограничению использования сторонних инструментов, за которые надо платить, так и к поиску более дешёвых альтернатив. В некоторых случаях последними становятся либо разворачиваемые на собственной инфраструктуре ИИ-модели с открытым исходным кодом, либо более доступные системы тех же китайских разработчиков. В условиях удалённого доступа китайские решения могут быть дешевле хотя бы в силу более низких тарифов на электроэнергию в КНР. С начала этого года китайские ИИ-модели обошли американских по объёму потребления токенов.

Некоторые представители бизнеса ввели лимиты расходов на использование стороннего ИИ своими сотрудниками. Например, в Uber данная сумма ограничена $1500 на одного сотрудника в месяц. Расходы выросли по мере перехода пользователей от простого взаимодействия с чат-ботами к применению множественных ИИ-агентов. На одного человека в организации могут приходиться от 10 до 10 000 агентов, и все они непрерывно потребляют токены, за которые нужно платить. Аналитики Goldman Sachs ожидают, что к 2030 году потребление ИИ-токенов вырастет в 24 раза, и это само по себе усугубит дефицит чипов в ближайшие полтора года.

Даже располагающие собственной вычислительной инфраструктурой компании типа Amazon (AWS) начали следить за эффективностью использования ресурсов. Этот облачный гигант начал бороться с фиктивной демонстрацией бурной ИИ-деятельности некоторыми сотрудниками, которые рассчитывали продемонстрировать руководству лояльность идее всеобщего погружения в такую активность. Meta✴ пришлось последовать примеру конкурента в апреле этого года. В любом случае, даже Amazon и Meta✴ зависят от сторонних провайдеров типа Anthropic, за услуги которых надо платить по коммерческим ставкам.

Microsoft начала предлагать стремящимся к оптимизации затрат на ИИ клиентам новую услугу, позволяющую оптимальным образом выбирать используемые средства. Если для решения поставленной задачи достаточно ограничиться применением более дешёвой модели, то она поручается именно ей, а не отправляется по наиболее дорогому для клиента маршруту. Иногда при ручной маршрутизации запросов компании предпочитают использовать более старые и дешёвые ИИ-модели, не гонясь за самыми прогрессивными. При всём этом внутри компаний всегда находятся пользователи, которым не хватает вычислительных ресурсов для решения своих задач. Публичным компаниям становится сложнее оправдывать растущие расходы на ИИ перед акционерами и инвесторами.

Новый вариант CAPTCHA от Google требует от пользователей махать руками перед компьютером

Google представила новый способ проверки reCAPTCHA для пользователей, который запрашивает разрешение на использование веб-камеры и требует от пользователей помахать рукой в объектив, чтобы доказать, что они не роботы.

 Источник изображения: Cybernews.com

Источник изображения: Cybernews.com

С помощью новой функции верификации Google хочет бороться с всё более изощрёнными ботами на основе искусственного интеллекта. Такие боты уже научились обходить некоторые традиционные тесты CAPTCHA, требующие от пользователей идентификации ряда объектов на изображениях или решения едва различимых головоломок.

По данным Google, новая система анализирует короткое видео движения руки пользователя и извлекает 21 координату опорных точек руки (измерения положения суставов руки, используемые для распознавания определённых жестов). На странице сервиса Google Cloud Fraud Defense компания заявляет, что система не связывает видео с личностью пользователя, звук при проверке никогда не записывается, а видеоматериалы удаляются сразу после завершения проверки.

Компания утверждает, что новая функция обеспечивает более надежное «детектирование живого пользователя» и призвана помочь веб-сайтам защищаться от автоматического создания учётных записей, атак с использованием украденных учётных данных и других форм онлайн-мошенничества.

Внедрение новой функции проверки вызвало критику со стороны некоторых пользователей, заботящихся о конфиденциальности. По их мнению, требование доступа к веб-камере пользовательского ПК для рутинных проверок представляет собой дальнейшее расширение и ужесточение биометрического мониторинга в интернете.

По словам одного из пользователей соцсети X, новая система проверки Google с использованием веб-камеры «намного хуже», чем традиционные CAPTCHA. Он добавил, что предпочёл бы проходить проверки на основе изображений, чем использовать то, что он назвал «жутким» новым методом верификации. Другие задаются вопросом, является ли эта технология в принципе эффективной. Например, один из пользователей сообщил, что он обошёл проверку, используя виртуальную камеру и анимацию, сгенерированную искусственным интеллектом.

Как пишет портал Cybernews, несмотря на критику пользователей, использование биометрической верификации, при которой для подтверждения личности и различения людей от машин используются физические характеристики, будет экспоненциально расширяться, поскольку всё больше стран внедряют инструменты проверки возраста для реализации возрастных ограничений в социальных сетях для лиц младше 16 лет.

Маск проиграл Альтману в суде ещё раз — иск xAI к OpenAI о краже коммерческих тайн отклонён

На этой неделе стартап xAI Илона Маска (Elon Musk), который теперь входит в состав вышедшей на IPO компании SpaceX, потерпел ещё одно поражение в суде в противостоянии с OpenAI. Суд отклонил претензии xAI в части предполагаемой попытки OpenAI получить доступ к коммерческой тайне истца путём переманивания одного из разработчиков чат-бота Grok.

 Источник изображения: Unsplash, Levart_Photographer

Источник изображения: Unsplash, Levart_Photographer

Речь идёт о бывшем старшем разработчике Сюэчэне Ли (Xuechen Li), который работал в xAI с 2024 по 2025 годы, и якобы готовился передать OpenAI коммерческие секреты, связанные с разработкой ИИ-бота Grok. Истец строил свою линию на презентации, которую Ли предоставил OpenAI в момент, когда этот стартап пытался переманить его из xAI. Он указал на свой опыт предыдущей работы, сославшись на владение методом обучения ИИ-моделей с подкреплением и пост-обучения. По мнению xAI, по состоянию на июль 2025 года ChatGPT отставал в сфере комплексных суждений от Grok, а потому для OpenAI было важно получить в свой штат специалиста с профильными компетенциями.

Судья Рита Линь (Rita Lin) отклонила иск xAI, исходя из суждения, что демонстрация навыков и опыта предыдущей работы является обычной частью собеседования при найме кандидатов на работу, и преследовать на этом основании всех работодателей было бы неразумно. По мнению судьи, представителям xAI не удалось доказать, что OpenAI склоняла инженера Ли к раскрытию коммерческой тайны стартапа, и что инженеры самой OpenAI были осведомлены о способности Ли раскрыть подобную информацию. OpenAI заявила в суде, что Сюэчэнь Ли никогда не работал в компании, а сама она никогда не получала коммерческих секретов xAI. По словам представителей OpenAI, компания просто не нуждается в заимствовании разработок xAI, поскольку последняя проигрывает конкурентную борьбу и не может справиться с оттоком кадров. Непосредственно Ли свою причастность к попыткам передать OpenAI коммерческую тайну xAI отрицает, бывший работодатель преследует его в суде по отдельному иску.

Уволенный из xAI из-за претензий к безопасности ИИ инженер подал на стартап Маска в суд

Бурное развитие ИИ и конкурентная гонка дают некоторым разработчикам основания пренебрегать вопросами общественной безопасности, но сотрудники профильных компаний готовы бороться в суде за справедливость. Один из них обвинил xAI в том, что его уволили после выражения претензий к стартапу по поводу безопасности.

 Источник изображения: xAI

Источник изображения: xAI

Девин Ким (Devin Kim), как поясняет TechCrunch, который был уволен из xAI в сентябре прошлого года, подал на стартап и его материнскую компанию SpaceX в суд как раз в канун судьбоносного первичного размещения акций последней. Работая над чат-ботом Grok, Девин Ким активно высказывал претензии к безопасности данного продукта xAI, призывая руководство больше внимания уделять данному аспекту. По мнению Кима, Grok мог провоцировать проявления дискриминации и способствовать распространению информации об оружии массового поражения.

В материалах дела отмечается, что Grok не раз демонстрировал свою причастность к разжиганию ненависти в онлайн-среде и смирению с едкой критикой, сравнивая себя с Гитлером. Ким, как поясняет источник, принимал личное участие в перенастройке политических «взглядов» Grok и борьбе с тенденцией к дискриминации. Уже после ухода Кима из компании Grok снова оказался в центре скандала, на этот раз в связи с несанкционированным «раздеванием людей по фотографии». По словам Кима, xAI при разработке Grok пренебрегала законами и правилами, которые призваны защищать пользователей и предотвращать распространение информации об оружии и взрывчатых веществах, помимо прочего.

Ещё во время работы в Scale AI Девин Ким уделял первостепенное внимание обеспечению безопасности ИИ. На прошлой неделе некоммерческая организация Center of AI Safety назначила Кима своим президентом, подчеркнув тем самым его вклад в защиту интересов общественности при разработке ИИ. Из материалов дела становится понятно, что Илон Маск (Elon Musk) настаивал на соблюдении законных ограничений при разработке ИИ, но ими якобы пренебрегал один из основателей xAI Джимми Ба (Jimmy Ba), который и велел сотрудникам игнорировать подобные установки Маска. Между Ба и Кимом вполне предсказуемо зародился конфликт.

Ба, как следует из показаний Кима, считал приоритетной задачей разработку компанией xAI сильного искусственного интеллекта, пренебрегая ради достижения этой цели вопросами безопасности. Он якобы даже заявил Киму однажды: «ИИ всё равно нас всех так или иначе убьёт». Из материалов дела следует, что Ба подтасовывал данные с целью обхода европейских требований к безопасности систем ИИ. По мнению Ба, лучше было выпустить небезопасную ИИ-модель, чем слабую с точки зрения производительности. В подобных ситуациях Илону Маску даже приходилось вмешиваться в деятельность xAI. В своих исковых требованиях Ким добивается не только наложения на xAI штрафа и получения материальной компенсации, но и официального признания незаконности поведения xAI и SpaceX в прошлые периоды. Непосредственно Ба в стартапе уже не работает, но претензии Кима адресованы всей компании, а не конкретным сотрудникам.

OpenAI прокачала память ChatGPT — вскоре бот сможет помнить разное и для бесплатных пользователей

OpenAI объявила об усовершенствовании функции запоминания ИИ-чат-бота ChatGPT, которая «стала умнее» и вскоре впервые станет доступна бесплатным пользователям.

 Источник изображения: OpenAI

Источник изображения: OpenAI

«Сегодня мы начинаем внедрение более мощной и масштабируемой системы синтеза памяти, разработанной для решения проблем устаревания, корректности и масштабируемости, которые мы наблюдаем при использовании памяти для сотен миллионов пользователей и на многолетних временных горизонтах в ChatGPT», — сообщила компания.

Функция запоминания в ChatGPT обеспечивает чат-боту возможность изучать пользователя и запоминать его предпочтения с течением времени. Память предоставляет ChatGPT полезный контекст для естественного взаимодействия с пользователем без необходимости каждый раз начинать его с нуля.

Компания сообщила, что более мощная и эффективная с точки зрения вычислений архитектура памяти построена на основе метода обработки информации Dreaming, который помогает заполнять пробелы в воспоминаниях, автоматически подбирая в фоновом режиме нужный контент из истории чатов.

Выбранные с помощью Dreaming воспоминания можно просмотреть на странице сводки памяти. Здесь пользователь сможет получить информацию о том, что ChatGPT знает о нём, добавить или обновить сведения о себе, а также указать, какие темы ChatGPT должен затрагивать и когда.

При улучшении памяти разработчики фокусировались на трёх основных моментах:

  • сохранении полезного контекста;
  • следовании предпочтениям и ограничениям;
  • сохранении актуальности с течением времени.

Компания также сообщила, что удваивает объём памяти ChatGPT для хранения данных. Подписчики версий ChatGPT Plus и Pro в США получат доступ к обновлённой системе памяти уже сегодня.

Кроме того, было объявлено, что функция запоминания ChatGPT вскоре станет доступна бесплатным пользователям. «Недавние улучшения позволили сократить вычислительные ресурсы, необходимые для предоставления функции памяти на основе Dreaming бесплатным пользователям, примерно в пять раз, что позволяет начать внедрение этой функции для них в ближайшие недели и увеличить объём памяти для пользователей Plus и Pro», — сообщила OpenAI.

ChatGPT набрал миллиард активных пользователей — на это ушло рекордно мало времени

Статистика Sensor Tower, на которую ссылается Reuters, демонстрирует ещё одно подтверждение популярности чат-бота ChatGPT, который был представлен стартапом OpenAI осенью 2022 года. Чуть более трёх лет понадобилось этому приложению, чтобы набрать миллиард активных пользователей в месячном измерении, и это рекордная скорость.

 Источник изображения: Unsplash, Tim Witzdam

Источник изображения: Unsplash, Tim Witzdam

Рубеж в 1 млрд ежемесячно использующих ChatGPT клиентов приложение преодолело в прошлом месяце, по данным Sensor Tower. Это быстрее, чем произошло в своё время с Google Maps, TikTok, Instagram✴ и YouTube. При этом нельзя утверждать, что высокой популярности ChatGPT ничего не угрожает. В первом квартале установившие себе Anthropic Claude пользователи в течение первого месяца с момента установки сократили время, проводимое в ChatGPT, на 5 % по сравнению с предыдущим восьмимесячным периодом.

Сейчас Anthropic Claude может похвастать 56 млн активных пользователей в месячном измерении, но отставание от ChatGPT сокращается впечатляющими темпами. Если у последнего количество активных пользователей сейчас увеличивается на 62 % в годовом сравнении, то у Anthropic Claude этот показатель достигает 640 %. Вчера стало известно, что Anthropic сделала первый шаг к выходу на IPO, подав соответствующую заявку в США. Конкурирующая OpenAI тоже готовится к выходу на биржу в этом году, но пока ещё не подала свою заявку.

Нейросеть Gemini начнёт объяснять пользователям, почему им стоит купить тот или иной товар

Компания Google представила масштабное обновление рекламных форматов в своей поисковой системе. Теперь пользователи увидят персонализированные объявления с развёрнутыми пояснениями от нейросети Gemini в ИИ-режиме (AI Mode).

 Источник изображения: Google

Источник изображения: Google

В ИИ-режиме Google уже тестирует два формата: Conversational Discovery ads и Highlighted Answers. Первый тип рекламы генерирует индивидуальный ответ на конкретный запрос пользователя, а второй встраивает спонсорские товары в списки рекомендаций нейросети. Каждое такое объявление будет сопровождаться независимым пояснением, составленным алгоритмами Gemini на основе анализа продукта, с обязательной пометкой «Спонсировано». При этом пояснение генерируется отдельно от рекламного креатива, чтобы обеспечить объективность ответа.

В ближайшие месяцы Google добавит аналогичные возможности в обычный поиск, не ограничиваясь режимом AI Mode. Разработчики внедрят формат AI-powered Shopping ads для помощи в выборе крупных покупок, таких как бытовая техника или электроника. При поиске конкретной категории товаров система даст объяснение, подчёркивающее актуальность конкретного предложения для потенциального покупателя.

Дополнительно Google обновит процесс взаимодействия бизнеса с клиентами, заменив статические формы обратной связи интерактивным инструментом Business Agent for Leads. Внутри рекламного блока появится чат-бот, работающий на базе Gemini, который сможет моментально проконсультировать пользователей на основе данных с сайта рекламодателя, облегчая процесс изучения информации об услугах или образовательных программах.

Изменения также затронут пилотную программу Direct Offers, запущенную в январе 2026 года при участии таких брендов, как Chewy, Gap и L’Oreal. Рекламодатели получат функцию объединения скидок, подарков и локальных купонов в единую кампанию, используя инструмент AI Brief для подбора аудитории, из которой ИИ будет собирать наиболее привлекательные наборы под каждый запрос. Параллельно туристические партнёры, включая Booking и Expedia, начнут транслировать свои спецпредложения непосредственно в интерфейсе ИИ-планировщика поездок.

Обновлённые блоки Direct Offers будут естественным образом отображаться в ответах AI Mode по мере изучения вариантов для шоппинга. Для максимального охвата этих форматов компания рекомендует использовать инструменты AI Max for Search, AI Max for Shopping и Performance Max. При этом для продавцов, работающих по протоколу UCP, добавлена встроенная система оформления заказов (native checkout), позволяющая без лишних шагов конвертировать интерес пользователей в завершённые продажи.

Apple научит Siri автоматически удалять переписку ради приватности пользователей

Забота о неприкосновенности личных данных пользователей позволила Apple заработать определённую репутацию, и в эру бурного развития ИИ компания не хочет снижать планку в этом отношении. Как отмечает Bloomberg, обновлённая версия голосового ассистента Siri, которая дебютирует в июне, обеспечит автоматическое удаление чатов.

 Источник изображения: Apple

Источник изображения: Apple

В следующем месяце на конференции WWDC 2026 для разработчиков будет представлено обособленное приложение Siri, которое по основным принципам взаимодействия будет напоминать пользователям ChatGPT. При этом решение Apple будет изначально предлагать пользователю ограничить сроки хранения истории переписки либо 30 днями, либо 1 годом, но при желании её можно будет хранить неограниченно долго. Главное, что у пользователя будет выбор в этом вопросе.

Если учесть, что новая версия Siri будет полагаться на Google Gemini, то соответствующий партнёр как раз будет отвечать за часть функций, связанных с безопасностью данных. Возможно, с учётом неизбежного отставания Apple от конкурентов в сфере ИИ, компания попытается сделать заботу о приватности одним из декларируемых преимуществ по сравнению с решениями других разработчиков.


window-new
Soft
Hard
Тренды 🔥
Разработана технология передачи данных через быструю смену QR-кодов — 60 FPS обеспечивают до 190 Кбайт/с 2 ч.
Разработан бесплатный шрифт ShieldFont, подменяющий в глазах ИИ осмысленный контент чушью 2 ч.
Утверждён список приложений для предустановки в России на 2027 год 5 ч.
Ещё несколько ИИ-агентов OpenAI вышли из-под контроля — до взломов, кажется, не дошло 7 ч.
OpenAI сообщила, что её сервисами теперь пользуются более миллиарда человек и свыше двух миллионов компаний 9 ч.
Вложив ещё $50 млрд в OpenAI, Amazon теперь владеет 5 % её капитала 12 ч.
Новая статья: Halo: Campaign Evolved — по третьему кругу. Рецензия 18 ч.
Tencent потратила шесть лет и сотни миллионов долларов на создание конкурента GTA VI, но потерпела неудачу — что случилось с Last Sentinel 19 ч.
Издатель апокалиптического вестерна Guns of Eschaton показал последнее предсмертное интервью арт-директора Half-Life 2 Виктора Антонова 23 ч.
Вредоносное ПО научилось использовать ИИ прямо во время атаки — ESET предупредила о новых угрозах 23 ч.