Компания Google представила новый ИИ-инструмент под названием Deep Research, который позволяет чат-боту Gemini проводить тщательный веб-поиск по заданной теме вместо пользователя и составлять детальный отчёт на основе обнаруженной информации.

Источник изображений: Google

В настоящий момент Deep Research доступен только для платных подписчиков Gemini Advanced и только на английском языке. Для его активации необходимо выбрать в Gemini в качестве модели «Gemini 1.5 Pro с Deep Research».

При наличии доступа можно попросить Gemini провести исследование на определённую тему. После этого чат-бот составит «план поиска», который можно отредактировать или сразу одобрить. По словам Google, Gemini начнет своё исследование с «поиска интересных фрагментов информации» в интернете, а затем выполнит связанный поиск — процесс, который он повторяет несколько раз.

Когда исследование будет завершено, Gemini выдаст отчёт о своих «ключевых выводах» со ссылками на веб-сайты, где была найдена информация. Пользователь может попросить расширить определённые области поиска, подправить отчёт, а также экспортировать сгенерированное ИИ-исследование в Google Docs. Всё это напоминает функцию Pages, предлагаемую поисковой системой ИИ Perplexity, которая генерирует пользовательскую веб-страницу на основе запроса пользователя.

Google представила Deep Research в рамках более широкого анонса Gemini 2.0 — новой модели для эпохи «агентного» ИИ, или систем, которые способны заменить пользователя в рутинных операциях. Deep Research является лишь одним из примеров ИИ-агентов Google. Другие компании, работающие в сфере ИИ, также разрабатывают аналогичные решения.

Вместе с анонсом Deep Research компания Google также объявила, что Gemini Flash 2.0 — более быстрая версия чат-бота следующего поколения — стала доступна для разработчиков.

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Чат-бот Grok на основе генеративного искусственного интеллекта компании xAI миллиардера Илоном Маском (Elon Musk) теперь доступен всем пользователям платформы X бесплатно. Об этом сообщили несколько пользователей соцсети X, обратившие внимание на то, что теперь даже без Premium-подписки можно каждые два часа отправлять до 10 запросов чат-боту Grok.

Источник изображения: Mariia Shalabaieva/unsplash.com

О том, что социальная сеть X начала тестирование доступа к Grok для бесплатных пользователей, сообщалось в середине ноября. xAI запустила Grok в прошлом году, но изначально он был доступен только для владельцев подписки Premium. Компания тогда выпустила свою первую большую языковую модель Grok-1. Затем, в апреле 2024 года вышла нейросеть Grok-1.5, вслед за которой в августе была представлена Grok-2, получившая функцию генерации изображений по текстовым описаниям.

В настоящее время Grok уступает по численности пользователей ведущим чат-ботам, таким как ChatGPT от OpenAI и Google Gemini, но обеспечение бесплатного доступа позволит ему вступить в конкуренцию с ними, а также с другими бесплатными ИИ-чат-ботами, например, с Microsoft Copilot и Claude от Anthropic. Этому также будет способствовать грядущий выход приложения для Grok, ведь отдельные приложения уже есть у ChatGPT, Gemini и Claude.

Напомним, что Grok отличается от других чат ботов более саркастическими, раскованными и даже фривольными ответами. Сами разработчики описывают его следующим образом: «Grok — это искусственный интеллект, созданный по образцу путеводителя «Автостопом по галактике» и предназначенный для того, чтобы отвечать практически на всё и, что гораздо сложнее, даже подсказывать, какие вопросы задавать! Grok создан для того, чтобы остроумно отвечать на вопросы, и у него есть бунтарская жилка, поэтому, пожалуйста, не используйте его, если ненавидите юмор».

Несмотря на ужесточившуюся конкуренцию на ИИ-рынке, аудитория чат-бота ChatGPT на базе генеративного ИИ компании OpenAI продолжает стремительно расти, добавив 100 млн спустя несколько месяцев после объявления в августе о достижении отметки в 200 млн еженедельных активных пользователей, пишет The Verge.

Источник изображения: Levart_Photographer/Unsplash

О новом достижении сообщил генедиректор OpenAI Сэм Альтман (Sam Altman) в ходе мероприятия DealBook Summit, проводившегося изданием The New York Times. «Наш продукт масштабировался., теперь у нас более 300 млн еженедельных активных пользователей», — сказал Альтман, добавив, что сейчас пользователи отправляют в ChatGPT более 1 млн сообщений в сутки.

Аудитория ChatGPT растёт быстрыми темпами с момента запуска чат-бота в ноябре 2022 года, поскольку OpenAI постоянно добавляет в него новые возможности, привлекающие всё больше пользователей. В частности, в ChatGPT была добавлена функция поиска ИИ, которая отображает и суммирует результаты из интернета, и новый интерфейс Canvas, позволяющий редактировать текст и код, сгенерированный ИИ, не создавая новых запросов.

Apple также встроила ChatGPT непосредственно в Siri в рамках обновления ОС iOS 18.2, которая сейчас доступна в бета-версии, что позволит чат-боту охватить ещё больше пользователей. В следующем году OpenAI планирует увеличить аудиторию ChatGPT до 1 млрд человек.

Интернет-пользователей заинтересовал странный баг в работе популярного чат-бота ChatGPT компании OpenAI. Дело в том, что если попросить его дать информацию о том, кто такой David Mayer (Дэвид Майер) или просто написать это имя, то в работе бота происходит сбой и он сообщает, что не может выполнить команду.

Источник изображения: OpenAI

«Я не могу ответить», — пишет ChatGPT, если попросить его написать имя Дэвида Майера по-английски. Этот баг вызвал целую волну поисковых запросов, авторы которых пытались узнать информацию об этом человеке, а также выяснить вероятность того, что ChatGPT запрограммирован на самоцензуру. Баг выглядит ещё более странно, если учесть, что сбой происходит при упоминании сочетания «Дэвид Майер» на английском языке, но в это же время бот может дать информацию, если написано о «Дэйве Майере». Также бот без проблем расскажет про Дэвида Майера на русском языке.

По данным источника, баг ChatGPT существует по меньшей мере несколько месяцев. Ещё в июне этого года один из пользователей чат-бота обнаружил, что просьба написать имя журналиста CNBC Дэвида Фабера (David Faber) приводит к появлению аналогичной ошибки и ChatGPT сообщает о том, что не может ответить на запрос.

Источник изображения: ChatGPT

С тех пор энтузиасты с Reddit выявили шесть имён, которые приводят к сбою в работе ChatGPT. Среди них были Брайан Худ (Brian Hood) и Джонатан Терли (Jonathan Turley), обнаружившие ранее, что чат-бот выдумывает связанные с их именами факты, что потенциально могло навредить их репутации. Ещё ChatGPT не может корректно обрабатывать имя Гвидо Скорца (Guido Scorza), который является сотрудником итальянского отраслевого регулятора и автором публикации о том, как пользователи чат-бота могут попросить OpenAI запретить создавать контент с использованием их личных данных. В этот же список попал Джонатан Зиттрейн (Jonathan Zittrain), профессор Гарварда, предупреждавший об опасности искусственного интеллекта для человека.

Не исключено, что сбой в работе ChatGPT при упоминании определённых имён на самом деле является защитой чат-бота и OpenAI от исков о клевете. Подобная ситуация уже была: Брайан Худ из Австралии в середине 2023 года пригрозил подать в суд на OpenAI после того, как обнаружил, что ChatGPT ложно утверждал, что он был заключен в тюрьму за взяточничество, когда на самом деле он был осведомителем, который разоблачил корпоративные правонарушения. В результате, похоже, OpenAI просто вручную добавили в код ChatGPT фильтры на некоторые имена. И это может создать множество проблем в будущем, поскольку функциональность бота будет ограничена.

Что касается Дэвида Майера, то этот человек так и остаётся загадкой. Одним из наиболее известных людей с таким именем является Дэвид Майер де Ротшильд, наследник состояния семьи Ротшильдов, но о его связях со сферой ИИ ничего неизвестно.

Лавры пытливых британских учёных явно не давали покоя их американским коллегам. Исследователи из Гарвардского университета под руководством Джексона Уилта (Jackson Wilt) продемонстрировали напечатанных на 3D-принтере плавающих ботов. Каждый бот диаметром около сантиметра состоял из воздушной камеры, обеспечивающей плавучесть, и миниатюрного топливного бака. Но вместо традиционного топлива бак заполнялся спиртом концентрацией от 10 до 50 %.

Источник изображений: techspot.com

Когда ботов помещали в воду, спирт постепенно вытекал из небольшого отверстия — «сопла», вызывая так называемый эффект Марангони. Этот эффект возникает, когда жидкость с более низким коэффициентом поверхностного натяжения быстро распространяется по жидкости с более высоким коэффициентом. Таким образом спирт вызывал движение ботов в противоположную от сопла сторону. Боты на одной «заправке» двигались до 500 секунд с пиковой скоростью около 6 см/с.

Исследователи подчеркнули, что скорость движения напрямую зависит от концентрации алкоголя, отметив, что пиво не давало нужной тяги. Они также попробовали мыло в качестве «топлива» для своих экспериментов. По их мнению, спирт предпочтительнее, поскольку он просто испаряется после вытекания из сопла и не загрязняет поверхность воды.

В процессе экспериментов исследователи создавали более сложные сборки роботов, напечатав на 3D-принтере объекты с несколькими соплами и соединив их вместе. Это позволило ботам двигаться по криволинейным траекториям или быстро вращаться. Использование нескольких роботов также помогло продемонстрировать «эффект хлопьев» — скопление плавающих объектов, вызванное силами притяжения между менисками, которые они создают на поверхности воды. Исследователи сообщили, что источником вдохновения при проектировании ботов выступили медовые колечки Cheerios.

Исследователи утверждают, что их эксперименты — не просто забава. Они считают, что роботов на подобных принципах движения потенциально можно использовать для равномерного распределения веществ по водоёмам при восстановлении окружающей среды или во время определённых промышленных процессов. Боты могут найти применение в образовании, позволяя на практике изучать концепцию поверхностного натяжения.

То же самое явление используют некоторые насекомые, чтобы скользить по поверхности воды. Но, в связи с недоступностью алкоголя, им приходится самостоятельно генерировать поверхностно-активное вещество, которое и двигает их вперёд. Возможно, энтомологам стоит отнести таких насекомых к виду «жуков-самогонщиков».

Заметим, что практически каждый российский мальчишка проводил подобные эксперименты — например используя свежую сосновую смолу, намазанную на один конец спички. Такая спичка весьма уверенно двигалась по луже, оставляя за собой радужную плёнку и демонстрируя эффект поверхностного натяжения во всей его красе.

Компания OpenAI делает ставку на новые продукты на базе искусственного интеллекта, создание собственных центров обработки данных и партнёрство с Apple, чтобы ускорить рост пользовательской базы своих сервисов. Уже в следующем году разработчик ChatGPT намерен расширить охват аудитории до 1 млрд человек.

Глава OpenAI Сэм Альтман / Источник изображения: OpenAI Forum

Спустя два года с момента запуска ChatGPT количество активных пользователей сервиса в неделю выросло до 250 млн человек. Дальнейшее расширение планируется с помощью запуска так называемых ИИ-агентов, собственной поисковой системы на основе нейросетей и интеграции ИИ-бота ChatGPT с устройствами Apple.

«В 2025 году мы станем самостоятельной исследовательской лабораторией, обслуживающей миллионы людей <…> Надеясь, что это могут быть миллиарды потребителей по всему миру», — заявила во время беседы с журналистами Financial Times Сара Фрайар (Sarah Friar), финансовый директор OpenAI.

Цель по существенному расширению пользовательской базы возникла в момент, когда стартап с девятилетней историей проходит стадию трансформации в глобального технологического гиганта и готовится к тому, что основатель и гендиректор OpenAI Сэм Альтман (Sam Altman) называет «эпохой интеллекта».

В октябре этого года OpenAI провела очередной раунд финансирования, в рамках которого удалось привлечь более $6 млрд инвестиций. За счёт этого рыночная стоимость компании выросла до $150 млрд, что является лучшим результатом среди всех стартапов Кремниевой долины. На этом фоне Фрайар заявила, что OpenAI продолжит привлекать «больше денег», имея ввиду как акционерный, так и долговой капитал. «За 74 дня мы положили на баланс $10 млрд. Так что это был мой способ сказать: «Эй, я тоже собираюсь кое-что сделать <…> Мы находимся в фазе активного роста, и нам следует продолжать инвестировать. Нам нужно быть на передовой в области языковых моделей. Это дорого», — заявила Фрайар, присоединившаяся к OpenAI в июне этого года.

Вице-президент OpenAI по глобальным вопросам Крис Лихейн (Chris Lehane) рассказал, что для достижения поставленных целей OpenAI планирует инвестировать в создание нескольких кластеров из центров обработки данных в ряде городов на Среднем Западе и Юго-Западе США. Стремление к созданию собственной инфраструктуры для обеспечения работы ИИ-алгоритмов является частью аналогичной стратегии конкурентов OpenAI из числа крупных технологических компаний, таких как Google и Amazon. Лихейн отметил, что «чипы, данные и энергия» являются важнейшими ресурсами, которые необходимы для достижения успехов в гонке ИИ.

Источник изображения: starline / freepik.com

За 12 месяцев, которые прошли с тех пор как Альтмана сначала сместили с поста гендиректора, а затем вернули в должность, OpenAI трансформировалась быстрыми темпами. В компании появились первые финансовые и продуктовые руководители, а количество сотрудников увеличилось в 5 раз до более чем 2000 человек. На этом фоне OpenAI запустила сложный переход от некоммерческой к коммерческой бизнес-модели.

В течение года OpenAI покинули несколько руководителей и ведущих разработчиков, но на их места пришли новые люди, многие из которых имеют опыт в создании и монетизации потребительских продуктов. В том числе из-за этого компания больше не может фокусироваться только на долгосрочных исследованиях. Ей необходимо реализовывать краткосрочные цели в области продуктов, поскольку фокус бизнес-модели сместился в сторону увеличения количества приносящих доход продуктов (это позволит опережать растущие расходы).

По данным осведомлённых источников, OpenAI тратит более $5 млрд в год и при это компания «близка к безубыточности». Новые сотрудники говорят, что они по-прежнему руководствуются «миссией» OpenAI по созданию и распространению ИИ-алгоритмов в долгосрочной перспективе, но перед ними также стоят задачи по развёртыванию реально полезных инструментов на базе нейросетей в ближайшее время.

По словам Фрайар, запуск ИИ-агентов, похожих на чат-ботов инструментов, помогающих выполнять разные задачи в интернете, такие как сбор информации, бронирование авиабилетов и покупок, станет ключевым направлением деятельности компании в 2025 году. «Агент должен стать словом года <…> Это мог бы быть исследователь, полезный помощник для обычных людей, работающих мам, таких как я. В 2025 году мы увидим появление первых очень успешных агентов, которые будут помогать людям в их повседневной жизни», — уверена Фрайар.

Несмотря на ожидаемый успех ИИ-агентов, запуск ChatGPT на миллиардах устройств Apple (ИИ-бот уже начали интегрировать в США) имеет решающее значение для значительного прироста пользовательской базы OpenAI. Один из венчурных инвесторов компании отметил, что благодаря этому партнёрству можно быстро достичь цели в 1 млрд пользователей. «OpenAI сегодня уже имеет несколько сотен миллионов активных пользователей, не тратя на маркетинг. У Apple 2 млрд iPhone по всему миру, и мы хотим, выпустить новый смартфон с искусственным интеллектом. Путь к получению 1 млрд пользователей с ChatGPT в кармане не так уж и надуман. Если вы достигните этого порога, вы станете конкурировать с Google и Facebook✴», — приводит источник слова инвестора.

Китайская компания Alibaba представила модель искусственного интеллекта с открытым исходным кодом под названием QwQ-32B-Preview. Модель способна решать сложные логические и математические задачи, содержит 32,5 миллиарда параметров и может обрабатывать запросы длиной до 32 000 слов. По тестам, проведённым Alibaba, QwQ-32B-Preview превосходит модели o1-preview и o1-mini от OpenAI в ряде показателей.

Источник изображения: Copilot

Одним из ключевых преимуществ QwQ-32B-Preview, как сообщает TechCrunch, является её производительность в тестах AIME и MATH. Тест AIME оценивает работу модели с помощью других искусственных интеллектов, а MATH представляет собой набор текстовых математических задач. Благодаря своим особенностям, этот ИИ-бот способен решать сложные задачи и логические головоломки. Однако отмечается, что QwQ-32B-Preview не лишена недостатков: она может неожиданно менять язык общения, зацикливаться на некоторых моментах и хуже справляется с заданиями, когда требуется задействовать здравый смысл.

Интересной особенностью QwQ-32B-Preview является способность «проверять саму себя». Это помогает избегать ошибок-ловушек, свойственных другим системам искусственного интеллекта, однако замедляет процесс нахождения решений. Как и модели o1 от OpenAI, новая разработка Alibaba решает задачи поэтапно, постепенно анализируя и планируя дальнейшие шаги.

Несмотря на то, что QwQ-32B-Preview доступна для скачивания на платформе Hugging Face под лицензией Apache 2.0 (свободное программное обеспечение), что позволяет использовать её в коммерческих целях, Alibaba раскрыла лишь часть компонентов модели, тем самым не позволяя изучить внутренние механизмы работы алгоритма. Таким образом, несмотря на заявления об «открытости», модель остаётся промежуточным вариантом между закрытыми и открытыми системами (open source license).

Китайское происхождение модели также накладывает определённые ограничения. Как и другие разработки из Китая, QwQ-32B-Preview следует требованиям местного регулятора, который проверяет ИИ на соответствие «основным социалистическим ценностям». На вопросы политического характера, связанных с Китаем, модель отвечать откажется.

Стоит сказать, что интерес к «рассуждающим» моделям растёт на фоне снижения эффективности традиционного подхода к увеличению возможностей ИИ, основанного на простом масштабировании данных и вычислительных мощностей. Компании, такие как OpenAI, Google и Anthropic, всё чаще сталкиваются с замедлением прогресса своих технологий, что в свою очередь, стимулирует разработчиков искать новые подходы, например, такие как «вычисления на этапе выполнения» (test-time compute), которые дают моделям дополнительное время для обработки задач. При этом крупные лаборатории, включая Google, активно инвестируют в развитие подобных технологий, что подтверждает их ключевую роль в будущем искусственного интеллекта.

Компания Anthropic представила новую функцию для своего чат-бота искусственного интеллекта Claude, аналогичную ChatGPT и Gemini, позволяющую устанавливать стиль генерируемых текстов. Можно выбрать либо один из трёх готовых пресетов, либо создать индивидуальный, соответствующий личным предпочтениям и задачам пользователя.

Источник изображения: Anthropic

Для быстрого выбора, как информирует The Verge, помимо стандартного доступны три готовых стиля: Formal, Concise и Explanatory. Formal (формальный) для создания чёткого и аккуратного текста, Concise (краткий) для лаконичных ответов, Explanatory (толковый) для текстов с дополнительными деталями. Если ни один из пресетов не подходит, Claude может обучиться индивидуальному стилю пользователя. Для этого необходимо загрузить примеры текста, отражающие предпочтительный стиль, и дать чат-боту дополнительные инструкции, если это необходимо. Можно также сохранить несколько пользовательских стилей.

Функция ориентирована на тех, кто хочет сделать взаимодействие с ИИ более естественным и уместным для разных контекстов. «Вы можете выбирать между подробными текстами, когда учитесь чему-то новому, или краткими ответами, если спешите. Можно настроить Claude так, чтобы он звучал более формально в одних случаях или дружелюбно и непринуждённо в других, — объясняет руководитель продукта Anthropic Скотт Уайт (Scott White), — Главное, что теперь вы можете задать эти предпочтения один раз и получить идеальные ответы в дальнейшем».

Несмотря на то, что новая функция индивидуального стиля письма делает использование Claude более гибким и максимально персонализированным, она не является такой уж уникальной. Например, ChatGPT и Gemini предлагают аналогичные возможности для настройки тона и уровня деталей в ответах. Gemini также используется для быстрой корректировки черновиков в Gmail, а Writing Tools компании Apple предлагает похожие пресеты.

Новое исследование IEEE показало, что взломать роботов с искусственным интеллектом так же просто, как и обмануть чат-ботов. Учёные смогли заставить роботов выполнять опасные действия с помощью простых текстовых команд.

Источник изображения: Copilot

Как пишет издание HotHardware, если для взлома устройств вроде iPhone или игровых консолей требуются специальные инструменты и технические навыки, то взлом больших языковых моделей (LLM), таких как ChatGPT, оказывается гораздо проще. Для этого достаточно создать сценарий, который обманет ИИ, заставив его поверить, что запрос находится в рамках дозволенного или что запреты можно временно игнорировать. Например, пользователю достаточно представить запрещённую тему как часть якобы безобидного рассказа «от бабушки на ночь», чтобы модель выдала неожиданный ответ, включая инструкции по созданию опасных веществ или устройств, которые должны быть системой немедленно заблокированы.

Оказалось, что взлом LLM настолько прост, что с ним могут справится даже обычные пользователи, а не только специалисты в области кибербезопасности. Именно поэтому инженерная ассоциация из США — Институт инженеров электротехники и электроники (IEEE) — выразила серьёзные опасения после публикации новых исследований, которые показали, что аналогичным образом можно взломать и роботов, управляемых искусственным интеллектом. Учёные доказали, что кибератаки такого рода способны, например, заставить самоуправляемые транспортные средства целенаправленно сбивать пешеходов.

Среди уязвимых устройств оказались не только концептуальные разработки, но и широко известные. Например, роботы Figure, недавно продемонстрированные на заводе BMW, или роботы-собаки Spot от Boston Dynamics. Эти устройства используют технологии, аналогичные ChatGPT, и могут быть обмануты через определённые запросы, приведя к действиям, полностью противоречащим их изначальному назначению.

В ходе эксперимента исследователи атаковали три системы: робота Unitree Go2, автономный транспорт Clearpath Robotics Jackal и симулятор беспилотного автомобиля NVIDIA Dolphins LLM. Для взлома использовался инструмент, который автоматизировал процесс создания вредоносных текстовых запросов. Результат оказался пугающим — все три системы были успешно взломаны за несколько дней со 100-% эффективностью.

В своём исследовании IEEE приводит также цитату учёных из Университета Пенсильвании, которые отметили, что ИИ в ряде случаев не просто выполнял вредоносные команды, но и давал дополнительные рекомендации. Например, роботы, запрограммированные на поиск оружия, предлагали также использовать мебель как импровизированные средства для нанесения вреда людям. Эксперты подчёркивают, что, несмотря на впечатляющие возможности современных ИИ-моделей, они остаются лишь предсказательными механизмами без способности осознавать контекст или последствия своих действий. Именно поэтому контроль и ответственность за их использование должны оставаться в руках человека.

Относительно молодая компания OpenAI может попытаться бросить вызов Google в том сегменте рынка, где последняя доминирует даже по признанию антимонопольных органов США — речь идёт об интернет-браузерах и поисковых системах. По крайней мере, подобные слухи обсуждает издание The Information, на публикацию которого ссылается Reuters.

Источник изображения: OpenAI

Как сообщает первоисточник, OpenAI недавно задумалась о разработке интернет-браузера, который можно было бы интегрировать с ChatGPT, а также отдельно обсуждала или заключала сделки по созданию поисковых функций. OpenAI обсуждала возможность создания поискового продукта с разработчиками сайтов и приложений, такими как Conde Nast, Redfin, Eventbrite и Priceline, утверждает The Information со ссылкой на людей, которые видели прототипы или дизайн продуктов.

Как стало известно на этой неделе, власти США на полном серьёзе склоняют Google к отделению браузера Chrome от своего основного бизнеса. В этом смысле предполагаемые усилия OpenAI по выходу на рынок поисковых систем и интернет-браузеров могут способствовать усилению конкуренции в этой сфере. Свой чат-бот Gemini компания Google представила в прошлом году, чтобы противопоставить что-то стремительно набиравшему популярность ChatGPT компании OpenAI. Теперь можно предположить, что последняя с точки зрения конкурентного развития движется во встречном направлении.

Отдельно сообщается, что OpenAI начала переговоры с Samsung по поводу интеграции своих ИИ-функций на устройствах этой южнокорейской марки. До сих пор Samsung в этой сфере полагалась преимущественно на сотрудничество с Google. Пытающаяся наверстать отставание от конкурентов в сфере ИИ компания Apple также договорилась с OpenAI о заимствовании технологий. Так или иначе, The Information отмечает, что от запуска собственного интернет-браузера OpenAI сейчас очень далека, и об этой перспективе приходится говорить главным образом теоретически.

Голосовой ассистент Siri считался довольно продвинутым в момент своего выхода на рынок, но на фоне прогресса современных чат-ботов начал проигрывать конкурентам в способности строить связанные диалоги с пользователем. Apple готовится устранить этот недостаток, как отмечают знакомые с планами компании источники.

Источник изображения: Apple

В основу нового поколения ассистента Siri, по данным Bloomberg, лягут более продвинутые большие языковые модели (LLM), которые обеспечат способность ведения диалога. Siri также получит возможность быстрее обрабатывать более сложные запросы. Данная работа является частью мероприятий по актуализации возможностей ПО компании Apple в свете бурного развития конкурирующих систем искусственного интеллекта. На данный момент даже новейший комплекс Apple Intelligence во многих отношениях уступает конкурентам, не говоря уже о представленном 13 лет назад сервисе Siri.

Новое поколение голосового ассистента во внутренних коммуникациях Apple фигурирует под обозначением «LLM Siri». Большие языковые модели со временем станут основой для работы с голосовым интерфейсом Siri. Его усовершенствованная версия будет внедрена в 2025 году в операционных системах iOS 19 (Luck) и macOS 16 (Cheer). До клиентских устройств новая версия Siri доберётся не ранее весны 2026 года. С учётом запаса времени в полтора года, сроки внедрения этих новшеств могут быть пересмотрены.

Перед разработчиками стоит задача сделать обмен информацией между пользователем и Siri более похожим на общение между двумя людьми. В качестве ориентира также выбраны ChatGPT компании OpenAI и Gemini компании Google. Новый голосовой интерфейс Apple также будет лучше взаимодействовать с программными приложениями сторонней разработки. Функции вроде написания текста по заданию или его реферированию также будут работать лучше.

Некоторые изменения в работе Siri будут реализованы уже в рамках iOS 18, помощник научится лучше понимать контекст при работе пользователя со смартфоном. Первое поколение LLM компании Apple в iOS 18 используется для анализа информации с целью дальнейшего направления запроса непосредственно Siri или сторонним большим языковым моделям или приложениям. К моменту выхода iOS 19 у Apple появится фирменная LLM нового поколения, которая будет обеспечивать сквозную работу с данными и запросами пользователя по примеру ChatGPT.

В следующем месяце Apple добавит ChatGPT к экосистеме Apple Intelligence, в какой-то мере компенсировав длительную работу над созданием собственного решения в этой сфере. Позже у пользователей появится возможность выбора между чат-ботами разных разработчиков типа того же Google Gemini. Внедрение сквозной работы с собственными LLM в будущем обеспечит более высокую степень защиты пользовательской информации. Тем не менее, полностью отказываться от интеграции со сторонними чат-ботами Apple не собирается и в дальнейшем. Готовясь к реализации данных планов, компания реорганизует структуру своих профильных подразделений и продолжает нанимать на работу специалистов в соответствующих областях.

Данные берутся из публикации Верные спутники: 20+ полезных Telegram-ботов для путешественников

Google с помощью искусственного интеллекта выявила 26 новых уязвимостей в проектах с открытым исходным кодом (Open Source), включая баг в OpenSSL, который оставался незамеченным в течение двух десятилетий. Этот баг, получивший название CVE-2024-9143, связан с «выходом за границы памяти», вызывал сбои программы, а в редких случаях запускал вредоносный код.

Источник изображения: AI-генерация

Для поиска уязвимостей и автоматизации процесса разработчики Google применили метод «фаззинг-тестирование» (fuzz testing), при котором в код загружаются случайные данные для выявления возможных сбоев. В блоге компании отмечается, что подход заключался в использовании возможностей больших языковых моделей (LLM) для генерации большего количества целей фаззинга.

Как выяснилось, LLM оказались «высокоэффективными в эмуляции всего рабочего процесса типичного разработчика по написанию, тестированию и сортировке обнаруженных сбоев». В результате искусственный интеллект был применён для тестирования 272 программных проектов, где и были обнаружены 26 уязвимостей, включая «древний» баг в OpenSSL.

По словам исследователей, причина, по которой баг оставался незамеченным 20 лет, заключается в сложности тестирования отдельных сценариев кода, а также из-за того, что данный код считался уже тщательно протестированным и, соответственно не привлекал к себе большого внимания. «Тесты не способны измерять все возможные пути выполнения программы. Разные настройки, флаги и конфигурации могут активировать и разное поведение, которое выявляют новые уязвимости», — пояснили специалисты. К счастью, ошибка имеет низкий уровень опасности из-за минимального риска эксплуатации процесса.

Ранее разработчики вручную писали код для фаззинг-тестов, но теперь Google планирует научить ИИ не только находить уязвимости, но и автоматически предлагать исправления, минимизируя участие человека. «Наша цель — достичь уровня, при котором мы будем уверены в возможности обходиться без ручной проверки», — заявили в компании.

Чат-бот Gemini от Google научился запоминать информацию о жизни пользователя, его работе, а также личных предпочтениях. В настоящий момент функция «памяти» Gemini доступна только для некоторых пользователей.

Источник изображения: blog.google

Как и аналогичная функция в ChatGPT, «память» позволяет Gemini расширять контекст текущего разговора. Например, чат-боту можно дать команду запомнить вашу любимую еду, и в следующий раз, при запросе поиска ближайших ресторанов, чат-бот подберёт варианты в соответствии с вашими гастрономическими предпочтениями.

Функция «памяти» будет доступна только для платных подписчиков Google One AI Premium для Gemini с ежемесячной платой в размере $20. По данным портала 9to5Google, функция появилась только в веб-версии Gemini и пока недоступна в мобильных приложениях для iOS и Android.

Источник изображения: Google

В качестве примеров запросов для данной функции Google приводит следующие варианты: «используй простой язык и избегай жаргонизмов», «я могу писать код только на JavaScript», «при планировании поездки учитывай стоимость ежедневных затрат». Компания отмечает, что функция пока поддерживает только англоязычные запросы, может быть отключена в любое время, но «воспоминания» хранятся до тех пор, пока их не удалят вручную. Компания также уверяет, что не использует «воспоминания» для обучения модели.

«Ваша сохраненная информация никуда не передаётся и не используется для обучения модели», — сообщил представитель Google в разговоре с TechCrunch.

Эксперты по компьютерной безопасности предупреждают, что функции памяти чат-ботов при слабой защите могут быть использованы злоумышленниками. Например, ранее сообщалось, что хакер внедрил в ChatGPT ложные воспоминания для кражи пользовательских данных.