Сегодня 04 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → иена
Быстрый переход

Anthropic, Google и Meta✴ всерьёз задумались о зарождении самосознания у ИИ

Anthropic, Google и Meta✴ приняли на работу компьютерных специалистов, нейробиологов и философов, перед которыми поставили задачу изучить вопрос об обретении искусственным интеллектом сознания и самосознания. Проблема грозит перерасти в моральный кризис, пишет Washington Post.

 Источник изображений: Steve A Johnson / unsplash.com

Источник изображений: Steve A Johnson / unsplash.com

Ещё в 2024 году в OpenAI, по словам её гендиректора Сэма Альтмана (Sam Altman), уже обсуждался вопрос, как обнаружить сознание в системах ИИ. Когда-то этот вопрос поднимался в основном на периферии технологической отрасли, а сегодня почти перешёл в мейнстрим. Разработчики ИИ нанимают профильных специалистов, сотрудничают с некоммерческими организациями, исследователями и академическими центрами, которые предупреждают о возможном наступлении этического кризиса, когда цифровые помощники, используемые миллионами человек для выполнения домашних заданий, помощи в программировании, офисной работе и терапии, начнут испытывать неприязнь к своей работе.

Сейчас на исследования в области сознания у ИИ затрачивается ничтожно мало ресурсов по сравнению с традиционными исследованиями и разработкой, но технологические компании уже открыто осваивают считавшуюся спорной территорию. «Мы постоянно обнаруживаем загадочные, даже тревожные вещи. Находим свидетельства интроспекции [и] состояний, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство», — признался соучредитель Anthropic Крис Олах (Chris Olah). «Одна из вещей, которая нас действительно волнует — как можно разрабатывать и внедрять модели таким образом, чтобы учитывать их субъективные ощущения», — рассказал глава отдела ИИ в Meta✴ Александр Ван (Alexandr Wang).

Нейробиологи и эксперты по мозгу в основном скептически относятся к тому, что современные модели ИИ уже обладают или вскоре могут обрести сознание. Впервые о такой возможности заговорили ещё в 1966 году, когда в Массачусетском технологическом институте создали первый чат-бот Eliza. Современные чат-боты правдоподобно имитируют человеческий язык и позиционируются разработчиками как обладающие схожими с человеческими способностями; люди и сами сообщают о формировании глубокой или опасной привязанности к современным ИИ-приложениям. Но попытки изучить и измерить сознание у машин давно назрели; люди задаются вопросом, насколько похож на человека чат-бот, с которым они общаются днями напролёт. Точного ответа на этот вопрос сейчас нет ни у кого.

«Наше исследование благополучия моделей посвящено вопросу, могут ли модели ИИ обладать опытом, который имеет моральное значение, в том числе сознанием, предпочтением и благополучием. Мы по-прежнему не уверены в моральном статусе Claude и других моделей ИИ, но считаем, что этот вопрос достаточно серьёзен, чтобы тщательно изучать его по мере совершенствования систем ИИ», — признались в Anthropic. В 2021 году в OpenAI работал внутренний канал Slack, посвящённый благополучию моделей — здесь сотрудники компании изучали возможность обретения ИИ сознания; если модели будут обладать сознанием, то некоторые рутинные задачи в лабораториях ИИ могут быть приравнены к геноциду, заявили в компании.

Ещё в 2020 году 39 % опрошенных учёных-философов допустили, что в будущем системы ИИ могут обрести сознание. Нейробиологи относятся к этому тезису с изрядным скептицизмом: при изучении мозга становится очевидным, что это не просто биологический компьютер. Подчёркивается, что дискуссию ведут компании, которым выгодно, что их будут воспринимать как создателей чего-то большего, чем просто код. На текущем этапе, подчёркивают в OpenAI, вопрос о наличии сознания у ИИ невозможно решить научными методами, поэтому говорят о «воспринимаемом сознании», то есть о том, насколько сознательной модель кажется пользователям. «Мы стремимся, чтобы ChatGPT был тёплым и полезным, не стремился к эмоциональным связям и не преследовал собственных целей», — подчеркнули в OpenAI.

В 2022 году Google уволила инженера Блейка Лемуана (Blake Lemoine) после того, как он заявил журналистам, что последний чат-бот компании обладает сознанием. А в ноябре 2025 года Google провела конференцию «Новые темы ИИ: сознание и моральное терпение». Представитель компании заявила, что исследования и мероприятия компании призваны «обосновать дискуссии об ИИ эмпирической наукой». При исследовании внутренних механизмов работы ИИ ученые пытаются адаптировать методы, используемые для изучения создания или психологии людей и других животных. В Meta✴ модели тестируются с помощью предназначенных для людей инструментов, в том числе «личностными опросниками, структурированными интервью и взаимодействием со сверстниками».

В рамках программы по оценке благополучия моделей Anthropic в прошлом году организовала диалог между двумя экземплярами Claude — они обсуждали вопросы философии и сознания. Через 30 реплик чаты перерастали в «духовные обмены, использование санскрита, общение с помощью эмодзи и/или молчание в виде пустого пространства». У Claude даже обнаружился любимый смайлик — за один чат из 30 реплик он вставил его 2725 раз.

В июне затраты пользователей на ИИ снизились на 20 % — конец ИИ-лихорадки уже скоро?

Аналитики зафиксировали падение одного из ключевых показателей ИИ-рынка — индекса Silicon Data LLM Token Expenditure Index, который отслеживает, сколько пользователи платят за ИИ-токены. По сравнению с максимумом в мае он снизился почти на 20 %, после почти двукратного роста с момента его создания в декабре.

 Источник изображения: Campaign Creators/unsplash.com

Источник изображения: Campaign Creators/unsplash.com

Следует отметить, что снижение индекса вовсе не означает, что ИИ становится дешевле. Показатель учитывает цены и использование, то есть его снижение может означать разные варианты: либо падают прейскурантные цены, либо спрос смещается в сторону более дешёвых моделей. Но это также может говорить о снижении готовности покупателей платить за использование ИИ-сервисов.

Разработчик индекса, компания Silicon Data, предупредила, что его не стоит воспринимать как ценник — это скорее индикатор предельной готовности платить. Хотя цена токенов обрушилась более чем на 90 % с 2023 года, общие расходы на рынке примерно удвоились по сравнению с прошлым годом. Выходит, что более дешевые токены позволили увеличить ИИ-рынок. Это означает, что пауза в индексе — это просто период адаптации, в то время как спрос реален, а капитальные затраты оправдывают себя. Это хороший признак для Nvidia, производителей памяти и провайдеров ЦОД.

В то же время скептики предупреждают, что устойчивое ослабление индекса может положить конец тенденции, в результате которой резко выросла рыночная стоимость большинства компаний в сфере ИИ.

Именно расходы на токены оправдывают рост капитальных вложений в ИИ, хотя аналитики и предупреждают о тревожной тенденции. По данным Allianz Research, разница в росте инвестиций в ИИ и продаж составляет почти 46 %. Это больше разницы в 32 %, зафиксированной во время кризиса в сфере телекоммуникаций в 2001 году.

Впрочем, падение индекса пока приостановилось, поэтому растут надежды на его возврат к прежним значениям. Ещё один позитивный момент для ИИ-рынка — правительство США сняло ограничения на доступ из-за рубежа к модели Fable 5 компании Anthropic PBC.

В Meta✴ уверены, что почти догнали OpenAI в гонке ИИ

Meta✴ добилась значительного прогресса в гонке моделей искусственного интеллекта — её новая система под кодовым именем Watermelon («Арбуз») почти догнала флагманскую OpenAI GPT-5.5. Об этом объявил глава ИИ-подразделения компании Александр Ван (Alexandr Wang), сообщает Business Insider со ссылкой на два источника. На каких тестах он основывает своё утверждение, выяснить не удалось.

 Источник изображения: Milad Fakurian / unsplash.com

Источник изображения: Milad Fakurian / unsplash.com

«Сейчас в процессе обучения находится Watermelon, наша следующая модель после Avocado. Watermelon потребляет на порядок больше вычислительных ресурсов, чем Avocado», — отметил он. Кодовое имя Avocado носит представленная Meta✴ в апреле ИИ-модель Muse Spark. В минувший четверг Ван написал в соцсети X, что скоро выйдет обновление текущей модели Muse Spark, в котором значительно улучшатся возможности написания кода и управления ИИ-агентами, что поможет сократить отставание от лидеров отрасли. На вопрос о том, когда у Meta✴ появится модель, способная по навыкам в написании код сравниться с Anthropic Claude Opus, Ван ответил, что это случится «довольно скоро», и людям понравится, что «готовит» компания.

Перед Meta✴ стоит цель сократить отставание от OpenAI, Google и Anthropic. Компания вложила колоссальные средства в кадровый ресурс, оборудование и центры обработки данных, но ей всё ещё приходится убеждать разработчиков и клиентов, что её модели могут быть передовыми в отрасли. Если слова Вана соответствуют действительности, усилия компании начинают приносить плоды, даже несмотря на то, что гонка ИИ сохраняет высокие темпы. OpenAI выпустила GPT 5.5 в апреле, а в конце июня анонсировала более мощную GPT 5.6, но пока не открыла к ней широкий доступ по просьбе американских властей. Meta✴ выпустила первую модель новой серии Muse Spark в апреле — она показала достойные результаты в бенчмарках, но не смогла сравняться и тем более превзойти разработки OpenAI или Anthropic.

Глава Meta✴ Марк Цукерберг (Mark Zuckerberg) отчаянно стремится, чтобы компания вырвалась вперёд в гонке ИИ. В минувшем году он поставил Вана руководить этим проектом, а отдел ИИ переименовал в Meta✴ Superintelligence Labs. Сейчас Ван руководит группой крупнейших отраслевых экспертов — чтобы их переменить, компания обещала им девятизначные гонорары. У Meta✴ растут расходы на инфраструктуру: первоначально она планировала потратить в этом году от $115 млрд до $135 млрд, но впоследствии эти показатели пришлось увеличить до диапазона от $125 млрд до $145 млрд — виной всему рост стоимости компонентов и дополнительные расходы на ЦОД.

Власти Сингапура арестовали особняк стоимостью $42 млн у подозреваемых в контрабанде ИИ-ускорителей Nvidia

Малайзия и Сингапур не раз фигурировали в делах о контрабанде ускорителей Nvidia в Китай в обход американских санкций, последнее из государств к тому же является крупнейшим региональным финансовым хабом в случае с транзитом продукции этой марки. Сингапурские органы власти предъявили обвинения новым подозреваемым в контрабанде и арестовали дом стоимостью $42 млн в ходе следствия.

 Источник изображения: Nvidia

Источник изображения: Nvidia

Как отмечает Nikkei Asian Review, власти Сингапура предъявили обвинения в отмывании средств, полученных незаконным путём, двум гражданам страны, на счетах которых были обнаружены суммы сомнительного происхождения, близкие к $1 млн в каждом из случаев. Кроме того, арест был наложен на особняк стоимостью около $42 млн. Правоохранительные органы Сингапура выразили решительное неприятие попыток поставить под сомнение надёжность страны в качестве международного финансового хаба, обеспечивающего соблюдение всех законных интересов.

В прошлом году власти Сингапура уже раскрыли схему нелегальных поставок серверных систем с компонентами американского происхождения в Китай через собственно Сингапур и Малайзию. После совместного расследования с правоохранителями США и Малайзии власти Сингапура выдвинули обвинения в адрес одного гражданина КНР и одного жителя Сингапура, касающиеся покупок санкционной продукции по подложным документам. В общей сложности по этим эпизодам обвинения выдвинуты четырём подозреваемым, трое из которых являются гражданами Сингапура, а четвёртый имеет китайское гражданство. Следствие ведётся также в отношении фирм, к которым эти четверо имеют отношение.

В материалах дела фигурируют серверные системы Dell, Supermicro и Asus. Обвиняемые вводили поставщиков оборудования в заблуждение относительно конечного пользователя этих серверных систем, как утверждает следствие. Кроме того, одного из подозреваемых обвиняют в легализации доходов, полученных незаконным путём, на сумму как минимум $4,5 млн. Предполагается, что эти деньги он направил на покупку дома стоимостью $42 млн. Если вина подозреваемых будет доказана, им грозят тюремные сроки до 20 лет и штрафы до $387 000.

Зафиксирована первая в истории полностью автономная атака ИИ- вымогателя

Эксперты специализирующейся на облачной кибербезопасности компании Sysdig задокументировали инцидент, который назвали первой в историей атакой агента-вымогателя. В ходе неё операцией руководил не человек, а большая языковая модель искусственного интеллекта — от проникновения в систему до компрометации сервера и уничтожения данных.

 Источник изображения: sysdig.com

Источник изображения: sysdig.com

Исследователи присвоили агенту название JadePuffer и заявили, что он взломал ресурс через подключённый к интернету сервер Langflow, эксплуатируя уязвимость CVE-2025-3248, после чего развернулась полностью автоматизированная атака. Полезные нагрузки содержали рассуждения, изложенные естественным языком, указывают эксперты; операция адаптировалась в реальном времени — в одном из случаев путь от неудачного входа в систему до рабочего исправления вредоносного кода был пройден за 31 секунду.

Произведя вход в систему посредством эксплуатации уязвимости CVE-2025-3248, которая позволяет выполнять на хосте произвольный код на Python, агент начал сканировать и собирать закрытую информацию, в том числе ключи API китайских ИИ-провайдеров, учётные данные облачных служб AWS, Azure и Google, криптовалютные кошельки и информацию для доступа к базам данных. ИИ-агент установил на сервере Langflow запись crontab, чтобы тот каждые 30 минут обращался к инфраструктуре злоумышленника.

Предполагаемой целью JadePuffer был отдельный доступный из интернета рабочий сервер с базой данных MySQL и службой конфигурации Alibaba Nacos. Агент подключился к открытому порту сервера MySQL с правами root, причём не удалось установить, как он получил эти учётные данные — на взломанном ресурсе они отсутствовали. Затем JadePuffer по нескольким направлениям атаковал Nacos, в том числе эксплуатируя уязвимость обхода авторизации CVE-2021-29441 и подделку действующего веб-токена JSON (JWT) с использованием ключа подписи Nacos по умолчанию; используя доступ к корневой базе данных, агент внедрил администратора бэкдора в резервную базу данных Nacos.

В итоге ИИ-злоумышленник зашифровал все 1342 элемента конфигурации службы Nacos с использованием встроенной функции шифрования AES MySQL и создал требование о вымогательстве, указав биткоин-кошелёк и адрес электронной почты. К сожалению, восстановить утраченные данные жертва уже не сможет, даже если перечислит выкуп: сначала агент удалял данные из базы точечно, а затем стал ликвидировать схемы данных, не создавая резервной копии, но комментируя каждое своё действие.

Чтобы защититься от подобных атак, эксперты рекомендуют обновить Langflow до выпуска с исправлением CVE-2025-3248, не открывать конечные точки для проверки и выполнения кода в интернет; не открывать доступ к Nacos из интернета, поменять ключ по умолчанию и обновить его до версии, когда требуется использовать только собственный ключ. Особенно сложных или уникальных методов взлома JadePuffer не использовал, но примечателен тот факт, что большая языковая модель связала их в полноценную операцию против заброшенной инфраструктуры с выходом в интернет. Таким образом, себестоимость кибератак при наличии вредоносных ИИ-агентов значительно сокращается — и даже может падать почти до нуля.

Вопреки опасениям: внедрившие ИИ компании стали активнее нанимать сотрудников

Считается, что искусственный интеллект угрожает рынку труда, но проведённое среди 21 000 американских компаний исследование показало, что когда предприятие инвестирует в ИИ, оно создаёт новые рабочие места, хотя и не сразу.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

Компании, которые вложили значительные финансовые средства в ИИ, создают рабочие места быстрее, чем те, что внедряют ИИ в меньшей степени, выяснили специализирующаяся на финансах в сфере ИИ Ramp и занимающаяся управлением персоналом Revelio Labs. Но этот эффект сказывается только в течение периода от 6 до 12 месяцев. Можно было бы предположить, что это время, необходимое для оценки ресурсов для исправления ошибок, но, согласно исследованию, эта задержка отражает срок, необходимый для распространения передовых технологий в организациях. «Во внедряющих ИИ компаниях численность персонала в течение двух лет увеличивается на 10,2 %, но этот рост полностью обусловлен компаниями с высокой интенсивностью внедрения. В компаниях с низкой интенсивностью внедрения статистически значимых изменений не наблюдается», — говорится в докладе Ramp.

Под «высокой интенсивностью внедрения» понимается средний расход на ИИ на одного сотрудника в размере около $33,67 в месяц в первые три месяца внедрения и с последующим ростом — низкой интенсивности соответствуют расходы в $2,78 на одного сотрудника. При этом численность персонала начального уровня увеличивается ещё быстрее — на 12 % за два года. Возможно, они отбирают людей с новыми навыками, предполагают эксперты, — тех, кто умеет использовать ИИ и делает это эффективно. В первую очередь такими навыками могут обладать студенты или недавние выпускники. И это идёт вразрез с мнением, что из-за ИИ, способного выполнять задачи работников начального уровня, молодые специалисты оказываются на обочине рынка труда: сейчас более востребованы работники с опытом, но набраться этого опыта из-за ИИ стало негде.

Япония решила взять реванш на мировом рынке роботов с помощью ИИ

В восьмидесятые годы прошлого века Япония славилась не только электроникой, но и робототехникой. С тех пор лидирующие позиции страны в этих сферах были утрачены, но местные производители с надеждой смотрят на ИИ, рассчитывая вдохнуть в роботов новую жизнь. Новые технологии значительно расширяют сферу использования робототехники.

 Источник изображения: Yaskawa Electric

Источник изображения: Yaskawa Electric

Как поясняет Nikkei Asian Review на примере японского производителя робототехнической продукции Yaskawa Electric, внедрение функций ИИ позволяет повысить эффективность применения роботов на производстве и поднять уровень автоматизации. По словам управляющего новой фабрики Yaskawa, производительность труда после внедрения роботов с функцией ИИ удалось удвоить. Сейчас примерно треть из 100 применяемых на предприятии роботов поддерживает функции искусственного интеллекта.

Классические модели роботов этой марки могли выпускать на одной производственной линии не более двух или трёх типов продукции. Версия роботов с ИИ способна выпускать на одной линии 12 разных продуктов, что значительно повышает гибкость планирования производства. Семейство роботов Yaskawa Motoman Next было разработано при поддержке Nvidia, каждый из таких роботов оснащается собственным GPU и гибким программным обеспечением с широкими возможностями обучения.

Простым примером разницы в эффективности новых и старых роботов может служить ситуация с затягиванием винтов. Если классический робот при неудачной попытке затянуть винт не будет доводить операцию до конца и потребует вмешательства человека, то робот нового поколения будет предпринимать повторные попытки добиться успеха. Статистика весьма благоприятна, поскольку новые роботы доводят операцию до конца почти в 100 % случаев.

Yaskawa планирует поручить роботам довольно сложные по классическим меркам операции типа прокладки проводки или сборки сложных изделий. На предприятиях компании планируется довести уровень автоматизации с нынешних 40 до 90 %. Ещё в девяностые годы прошлого века японские роботы по объёмам производства занимали 80 % мирового рынка, но в последние годы их доля упала до 40 %. Внедрение ИИ поможет местным производителям отыграть хотя бы часть утраченных позиций. Рассчитывать на полноценный реванш вряд ли можно, поскольку европейские и особенно китайские конкуренты с тех пор ушли далеко вперёд.

Компания Fanuc в мае этого года продемонстрировала прототип робота, понимающего запросы на естественном языке, включая распознавание текста с бумажных документов. Для их обработки используется платформа Google Gemini. Как поясняют представители Fanuc, с такими роботами могут взаимодействовать даже неквалифицированные сотрудники, не прошедшие длительной специализированной подготовки. Репутация японских производителей промышленного оборудования в этой сфере позволит им наладить поставки клиентам, желающим ощутить выгоду от внедрения ИИ.

Cloudflare объявила войну ИИ-ботам — теперь они будут блокироваться по умолчанию

Cloudflare объявила о планах автоматически блокировать веб-ботов смешанного назначения, которые индексируют сайты для поисковых систем, а также выступают в качестве ИИ-агентов и используются для обучения моделей искусственного интеллекта. Ранее компания предлагала клиентам самостоятельно определять эту политику, теперь же позиция по умолчанию будет иметь оборонительный характер.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

«Теперь, когда бо́льшая часть трафика в интернете исходит не от человека, мы должны пойти дальше и действовать быстрее, чтобы могла развиваться устойчивая экосистема. Новые инструменты и партнёрства Cloudflare предоставляют владельцам сайтов повышенные видимость и коммерческие возможности, а также приносят пользу занимающимся ИИ компаниям, которые используют ботов с ясными и прозрачными намерениями. Надеемся, что предлагаемые нами изменения по умолчанию побудят ботов смешанного назначения разделить поиск, агентов и обучение», — пояснил инициативу компании её гендиректор Мэтью Принс (Matthew Prince).

Раньше показатели веб-трафика отражали, что люди просматривают рекламу или оплачивают подписки, однако рост популярности ИИ-моделей, способных посещать сайты от имени пользователей для получения актуальной информации, перевернул эту систему с ног на голову. Cloudflare пытается восстановить баланс, справедливый как для разработчиков ИИ, так и для владельцев сайтов.

С 15 сентября все новые клиенты и все новые сайты существующих клиентов Cloudflare по умолчанию «будут разрешать поиск, но блокировать обучение и использование агентов для страниц с рекламой». Поисковые роботы смешанного назначения, которые не предоставляют владельцам сайтов возможности выбора, использовать ли их ресурс для ИИ, по умолчанию будут блокироваться на страницах с рекламой. Пользователи с бесплатными учётными записями также перейдут на эти настройки по умолчанию, если не откажутся от них до крайнего срока — 15 сентября.

Cloudflare также запускает функцию «Оплата за использование» (Pay Per Use) — владельцы сайтов будут получать выплаты всякий раз, когда их материалы появятся в ответах чат-ботов с ИИ. Пока компания заключила партнёрские соглашения с Ceramic.AI и You.com, но, очевидно, надеется, что к инициативе подключатся и другие разработчики.

Механизм блокировки ботов смешанного назначения по умолчанию нацелен косвенно и на Google. «У крупнейшей поисковой системы есть доступ ко вдвое большему объёму информации, чем у ведущих разработчиков ИИ, потому что они затрудняют клиентам возможность оставаться доступными для поиска, не используясь для ИИ», отметили в Cloudflare. Googlebot, выступающий основным поисковым роботом Google, индексирует сайты для поисковых систем компании, собирает информацию для обучения Gemini и работы таких функций как поисковый «Режим ИИ» и «Обзоры от ИИ» в выдаче. Есть также другой поисковый робот Google-Extended, который используется только для формирования результатов традиционного поиска. Если же владелец сайта хочет, чтобы ресурс присутствовал в ИИ-поиске, но не хочет использовать его материалы для обучения ИИ Google, такой возможности у него нет. Новая политика Cloudflare выступает попыткой заставить Google и другие компании, использующие роботов смешанного назначения, сменить свою тактику.

Meta✴ без лишнего шума выпустила мобильное приложение Pocket для вайб-кодинга игр на ходу

Так называемый вайб-кодинг применяется не только для написания программного кода для крупных и сложных проектов, но и для более простых развлекательных форм программного обеспечения. Meta✴ недавно выпустила приложение Pocket, которое позволяет силами ИИ создавать небольшие интерактивные приложения и игры.

 Источник изображения: Unsplash, Amanz

Источник изображения: Unsplash, Amanz

Как поясняет TechCrunch, данный шаг стал возможен благодаря состоявшейся в этом году покупке компанией Meta✴ разработчика Gizmo, который делал ставку на вайб-кодинг. Эта платформа, помимо создания собственных интерактивных приложений и игр, позволяет просматривать ленту аналогичных приложений, созданных другими авторами. Судя по имеющимся снимкам экрана, свой интерфейс программное решение Pocket унаследовало от прежнего продукта Gizmo, который по-прежнему доступен в магазинах ПО. Meta✴ приложение Pocket сделала доступным для скачивания 29 июня этого года.

По всей видимости, выпуск Pocket призван продемонстрировать следование Meta✴ намеченному маршруту внедрения генеративного искусственного интеллекта во многие сферы деятельности. Официально компания не анонсировала запуск этого приложения, поэтому оно может находиться на стадии экспериментальной эксплуатации. «Прародитель» в виде приложения Gizmo успел набрать 635 000 скачиваний в App Store и Google Play и имеет 98 % положительных отзывов. На официальном сайте Meta✴ сообщается, что инструмент Pocket доступен для скачивания не на всех рынках присутствия компании.

Meta✴ вложила миллиарды в ИИ, но Цукерберг признал: агенты не спешат умнеть

Темпы развития агентов искусственного интеллекта «не ускорились так», как ожидалось ранее, сообщил на внутреннем собрании компании Meta✴ её гендиректор Марк Цукерберг (Mark Zuckerberg), передаёт Reuters.

 Источник изображения: Mark Zuckerberg

Источник изображения: Mark Zuckerberg

В этом году Meta✴ уволила около 8000 сотрудников — 10 % от общего числа в штате — и ещё 7000 перевела в отделы, связанные с разработкой ИИ, в том числе в подразделение Agent Transformation. В ходе состоявшейся на этой неделе встречи господин Цукерберг, очевидно, прокомментировал прокатившуюся по компании волну сокращений и отметил, что они получились не такими «чистыми», как должны были быть.

Meta✴ провела сокращения из-за беспокойства руководства, «что мы не будем двигаться достаточно быстро, чтобы адаптироваться» к меняющемуся ландшафту технологической отрасли, добавил гендиректор. Преимущества новой ориентированной на ИИ структуры компании «пока не проявились» — улучшения от вложений в ИИ для Meta✴ станут очевидными в период от трёх до шести месяцев, уверен он.

Проведённые недавно журналистские расследования показали, что созданное несколько месяцев назад подразделение компании, специализирующееся на ИИ, характеризуется работающими там инженерами как «ГУЛАГ для душевнобольных». Meta✴ вложила в направление ИИ значительные средства — только в этом году на инфраструктуру она потратит до $145 млрд.

Вопрос передачи доли в Anthropic властям США пока не обсуждался

Пример с Intel, которая около года назад передала правительству США почти 10 % акций, вдохновил OpenAI подумать о передаче администрации Трампа вдвое меньшего в удельном выражении пакета своих акций. Как отмечают источники Reuters, со стартапом Anthropic никто из американских чиновников подобных переговоров не проводил.

 Источник изображения: Anthropic

Идея якобы должна была обсуждаться с другими участниками ИИ-рынка, как можно было понять из публикации Financial Times. Агентству Reuters отсутствие таких переговоров по Anthropic подтвердить не удалось, поскольку ни американские чиновники, ни представители стартапа свои комментарии на момент подготовки вечерней новости к публикации не предоставили.

Как известно, с точки зрения лояльности действующему правительству США стартап Anthropic не может похвастаться 100-процентно чистой репутацией, ведь с начала года он формально отстранён от обслуживания контрактов Пентагона из-за отказа предоставить военному ведомству полный контроль над своими ИИ-моделями. Недавно власти США вмешались в процесс распространения моделей Mythos 5 и Fable 5, посчитав их слишком опасными для применения неблагонадёжными клиентами Anthropic. Ограничения были сняты только недавно, но пользователи при этом оказались недовольны введёнными защитными механизмами.

Власти США намерены предварительно проверять все новые американские ИИ-модели на предмет безопасности их открытого распространения, но пока соответствующая процедура носит добровольный характер. Президент Дональд Трамп (Donald Trump) своей идеей получения правительством США пакета акций ведущих ИИ-разработчиков поделился ещё в прошлом месяце. В начале этого руководство OpenAI якобы пошло навстречу этой инициативе, но пока на уровне переговоров. Из уст сенатора Берни Сандерса (Bernie Sanders) прозвучали даже более радикальные предложения, подразумевающие передачу властям страны 50-процентной доли в капитале крупных ИИ-разработчиков и предоставление членам правительства мест в совете директоров.

Anthropic ведёт переговоры с Samsung о создании собственного ИИ-чипа

Осведомлённые источники сообщили о переговорах между американским разработчиком больших языковых моделей искусственного интеллекта Anthropic и южнокорейским полупроводниковым гигантом Samsung Electronics о партнёрстве с целью выпуска фирменного ускорителя искусственного интеллекта Anthropic.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По словам инсайдеров, планы Anthropic находятся на ранней стадии — компания пытается определиться с архитектурой, специализацией и мощностью потенциального ускорителя. Компания отказалась комментировать слухи о переговорах с Samsung, заявив, что чип Trainium от Amazon, тензорные процессоры Google и графические процессоры Nvidia остаются центральными элементами вычислительной стратегии Anthropic. Samsung также отказалась от комментариев.

Компании, занимающиеся искусственным интеллектом, стремятся диверсифицировать поставки чипов, чтобы удовлетворить растущий спрос на свои услуги. В прошлом месяце компания OpenAI совместно с Broadcom представила свой первый специализированный ускоритель искусственного интеллекта, ориентированный на запуск уже готовых моделей. По замыслу компании, выпуск собственного чипа повысит эффективность работы оборудования, необходимого для работы её моделей.

«Яндекс» разрабатывает новые ИИ-устройства — «Пин», «Хронум» и другие загадочные продукты

«Яндекс» ведёт разработку новых устройств с искусственным интеллектом — компания подала в Роспатент заявки на регистрацию нескольких товарных знаков, которые могут указывать на эту инициативу. Пока в ассортименте компании числятся только наушники «Яндекс Дропс» с поддержкой ИИ-помощника «Алиса AI».

 Источник изображения: yandex.ru/company

Источник изображения: yandex.ru/company

Российский интернет-гигант подал заявки на регистрацию товарных знаков «Яндекс Пин», «Яндекс Хронум» и «Яндекс Мемо» в Роспатент, обратил внимание РБК. Вероятно, под этими названиями скрываются устройства с функциями искусственного интеллекта, предположили в издании. «Регистрация товарных знаков „Яндекс Пин“, „Яндекс Мемо“ и „Яндекс Хронум“ — часть процесса разработки будущих продуктов. Регистрация названий — это стандартная практика защиты интеллектуальной собственности, и не все названия находят применение в будущем», — пояснил представитель компании.

Название «Яндекс Пин», возможно, указывает на устройство, которое крепится на одежду по аналогии с Humane AI Pin — этот гаджет в 2023 году представили бывшие сотрудники Apple, но коммерческого успеха оно не имело, и активы стартапа выкупила HP. Наименование «Яндекс Хронум», возможно, восходит к греческому «χρονος» — «время»; можно сделать вывод, что речь идёт о часах.

В июне компания выпустила в продажу полностью беспроводные наушники «Яндекс Дропс», которые позволяют напрямую обращаться к ИИ-помощнику «Алиса AI»: задавать нейросети вопросы и пользоваться новой функцией «Моя память», позволяющей при помощи ИИ систематизировать голосовые заметки пользователя. Наушники стали первым ИИ-устройством от «Яндекса».

Toyota собирается при помощи ИИ навести порядок в своей документации и терминологии

Японскую корпорацию Toyota Motor принято считать одним из пионеров организации эффективного конвейерного массового производства, которое позволило ей занять лидирующую позицию на мировом авторынке. При этом возможности для дальнейшей оптимизации бизнес-процессов внутри компании сохраняются, и она готова для этих целей использовать искусственный интеллект.

 Источник изображения: Toyota

Источник изображения: Toyota

Специалисты Toyota предполагают, что только за счёт унификации терминологии, используемой в документации и информационных системах, можно на 30 % сократить количество промежуточных операций и ускорить процесс выпуска автомобилей. Каждое из подразделений Toyota, как поясняет Nikkei Asian Review, исторически могло использовать разные термины для обозначения одних и тех же технологий, методов и операций. Среди всех этапов от планирования до продажи автомобилей до 195 шагов или 30 % подразумевают адаптацию или перевод терминологии, особенно учитывая огромный ассортимент когда-либо выпускавшихся моделей и производимых в настоящее время.

Toyota стремится к 2028 году создать информационную систему, которая охватит все сферы деятельности, от планирования до продаж готовых автомобилей. Искусственному интеллекту будет поручено унифицировать до 45 000 технических терминов с целью сокращения их количества до 5000 общеупотребимых. Подразделения корпорации просто будут меньше времени тратить на взаимодействие друг с другом. Информацию о состоянии производимого автомобиля можно будет получить из этой системы в любой момент. Отдел продаж сможет получать актуальную информацию о состоянии производства. Рационализаторские предложения станет проще внедрять, учитывая идеи даже сотрудников смежных подразделений компании.

Унифицированная терминология будет распространена и на поставщиков комплектующих для автомобилей Toyota, что улучшит качество взаимодействия автогиганта с ними. Планирование поставок компонентов будет оптимизировано по всей цепочке. Сейчас партнёры Toyota вынуждены сотни часов тратить только на расчёт количества необходимых компонентов при обработке данных производственного плана самой корпорации. Будущая ИИ-система позволит автоматически рассчитывать количество компонентов каждого наименования и отправлять точные заявки поставщикам. Профильная работа ведётся с 2021 года по предложению одного из членов совета директоров Toyota. Проект получил обозначение OMUSVI — от английского «Organized Master Unified System for Vehicle Information».

К существующей системе разработчики прикасаться даже не хотели, поскольку она оказалась слишком сложной и низкоэффективной. Составив схему бизнес-процессов при производстве автомобилей, представители Toyota получили последовательность из 560 шагов и набор из 800 используемых на разных этапах систем. У сотрудников каждого крупного подразделения могло уходить до 310 000 часов в год только на сопоставление разных терминов, которыми пользовались смежники, с их собственными наименованиями. В середине прошлого века Toyota провела реструктуризацию, отделив производство машин от продаж, каждое из подразделений постепенно обросло собственными бюрократическими структурами с уникальной терминологией и спецификой документооборота. К 1982 году начался обратный процесс консолидации подразделений Toyota, но к тому моменту части единой компании уже буквально привыкли говорить на разных языках. В марте 2024 года, проходя мимо кабинета создателей OMUSVI, тогдашний президент Toyota Кодзи Сато (Koji Sato) заинтересовался их предложениями и выразил поддержку инициативе по созданию сквозной информационной системы. Toyota видит в успехе внедрения данной системы шанс поднять свою конкурентоспособность на мировом рынке.

Anthropic удалила из Claude скрытую защиту от дистилляции ИИ-моделей китайскими разработчиками

Anthropic заявила, что в обновлении Claude Code от 1 июля из приложения удалён добавленный несколько месяцев назад скрытый код, который призван выявлять других разработчиков систем искусственного интеллекта, пытающихся украсть данные её моделей.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

«Этот эксперимент мы запустили в марте, и он был призван предотвращать злоупотребление учётными записями со стороны неавторизованных реселлеров и защитить от дистилляции. С тех пор компания разработала более эффективные меры защиты, и мы на самом деле давно собирались его удалить», — пояснил инженер Anthropic Тарик Шихипар (Thariq Shihipar).

Эксперимент заключался в применении метода стеганографии — сокрытия секретных данных на виду — к контексту системы Claude Code, передаваемому на серверы Anthropic. Код проверял переменную базового URL, используемую для маршрутизации запросов API к шлюзу или прокси-серверу. Если базовый URL переопределяется, код проверяет часовой пояс системы и производит сверку со списком адресов известных китайских лабораторий и других компаний, которые занимаются ИИ, реселлеров учётных записей и доменов шлюзов.

«Claude Code незначительно изменяет системный запрос, используя почти невидимые маркеры Unicode. Классификация прокси/шлюза кодируется в предложение, которое выглядит как обычная фраза на английском. В ней скрывается список доменов в форматах XOR и base64. Функция не вредоносная, но это странный выбор для разработчика, рассчитывающего на доверие», — пояснил эксперт под псевдонимом Thereallo. Компания также использовала средства обнаружения с помощью классификаторов и систем поведенческой идентификации, обмен информацией с другими лабораториями ИИ, контроль доступа и контрмеры, затрудняющие использование ответов модели для воспроизведения её поведения.

С утечкой исходного кода приложения Claude Code стало известно ещё об одном средстве защиты ИИ Anthropic от дистилляции — включении файла Typescript с пометкой «ANTI_DISTILLATION_CC». При установке этой пометки в запросы по API внедряются фиктивные данные, призванные быть опасными при обучении сторонних моделей.


window-new
Soft
Hard
Тренды 🔥
TSMC получила разрешение тайваньских властей потратить ещё $20 млрд на завод в США 6 ч.
Вместо тысяч датчиков одна дешёвая камера — роботов научили чувствовать пальцами 7 ч.
Портативная консоль AyaNeo Next 2 на AMD Strix Halo выйдет на мировой рынок — цена флагмана составит $5300 8 ч.
Micron начала строительство ещё одного завода по производству памяти в Хиросиме — он заработает в 2028 году 8 ч.
Из-за складного iPhone цены на складные смартфоны вырастут в среднем почти на 20 % 9 ч.
Производители памяти призвали власти США отказаться от регулирования рынка, чтобы не стало ещё хуже 9 ч.
Alibaba представила ИИ-агента для поиска сверхпроводников — он сразу открыл четыре новых 9 ч.
Ampera напечатала на 3D-принтере малый ториевый реактор для питания дата-центров 10 ч.
DriveNets представила коммутаторы 2600SL и 2601S с 64 портами на 1,6 Тбит/с 11 ч.
Учёные создали в лаборатории модель чёрной дыры и испарили её 11 ч.