Сегодня 20 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Стартап из 14 человек подтолкнул Цукерберга к запуску Muse, несмотря на проблемы с безопасностью

Из-за опасений по поводу безопасности Meta✴ месяцами была вынуждена откладывать выпуск агента с искусственным интеллектом Muse, но появление конкурентов вынудило главу компании Марка Цукерберга (Mark Zuckerberg) пойти на решительные меры и выпустить приложение в том виде, в котором оно было на тот момент.

 Источник изображений: ***

Источник изображений: Meta✴

В августе Цукерберг вызвал двух ключевых членов руководства компании — главу отдела искусственного интеллекта Александра Вана (Alexandr Wang) и руководителя направления ИИ-продуктов Нэта Фридмана (Nat Friedman), чтобы обсудить угрозу. Стартап Instinct, в котором работали всего 14 сотрудников, выпустил своего ИИ-агента. Бот, способный управлять приложениями от имени пользователя, стал стремительно набирать популярность. Meta✴ разрабатывала аналогичный продукт под названием Muse, но откладывала его выпуск из соображений безопасности. В опасении утратить конкурентное преимущество Цукерберг заявил, что Muse, несмотря на риски, уже готов к запуску.

Ван и Фридман знали о проблемах, выявленных в ходе испытаний Muse — в одном из случаев он без разрешения пользователя сменил его пароль. Но уже 8 сентября Meta✴ официально представила Muse. Внутреннее освещение руководства показало, какой непростой баланс между скоростью и безопасностью приходится соблюдать компаниям, в том числе Meta✴, чтобы опередить соперников в гонке ИИ. По мере совершенствования технологий продукты на основе ИИ становятся и более полезными, и более опасными, поэтому принимать подобные решения действительно трудно.

Марк Цукерберг направил миллиарды долларов на разработку технологий ИИ в Meta✴, но её традиционно опережали OpenAI и Anthropic, которые первыми выпустили и чат-ботов, и сервисы для написания кода. Когда пришла эпоха ИИ-агентов, гиганту соцсетей был необходим успех, и в компании отдали приоритет быстрому выпуску продукта на рынок. Meta✴ обеспечила себе преимущество на раннем этапе в сфере ИИ-агентов, но другие компании уже начинают выпускать собственные продукты — вышел, например, ИИ-агент OpenAI Dots.

Пока решение Цукерберга поторопиться с выпуском Muse оправдало себя. Без сложностей, конечно, не обошлось: в одном из случаев ИИ-агент раскрыл незнакомому человеку домашний адрес своего пользователя. По состоянию на 7 октября бесплатное приложение скачали более 6,6 млн человек и 1,8 млн пользователей обращаются ко Muse ежедневно, гласит статистика Sensor Tower. Интерес к продукту Meta✴ подпитывает масштабной рекламной кампанией, в которой участвует пушистый символ сервиса — симпатичный персонаж по имени Джолли (Jolly).

В Meta✴ тезис о том, что Muse были вынуждены выпустить в срочном порядке из-за появления Instinct, не подтвердили. «Мы гордимся этой работой, и как было публично заявлено ранее, даже отложили выпуск Muse на несколько месяцев, чтобы убедиться, что всё сделано как надо», — заявили там. Идея разработать подобный сервис в Meta✴ возникла ещё в июле 2025 года, когда Цукерберг опубликовал служебную записку, посвящённую «персональному суперинтеллекту» — идеальному помощнику на основе ИИ. Незадолго до этого он реорганизовал ИИ-отдел Meta✴, проект возглавили Ван и Фридман.

Двое топ-менеджеров развернули активную кампанию по набору кадров и стали переманивать ведущих исследователей компаний масштаба OpenAI и Google, предлагая им выплаты девятизначными суммами. Ван сосредоточился на разработке ИИ-моделей, а Фридман занялся созданием продуктов. На тот момент в компании было лишь общее представление о том, что должно получиться на выходе — конкретных формулировок тогда не предлагал никто. В сентябре компания выпустила приложение Vibes — лента созданных ИИ видео быстро стала объектом критики за контент низкого качества. Возникли сомнения, что Ван поможет компании наверстать упущенное в области ИИ.

Прорыв в ноябре совершил австрийский программист Петер Штайнбергер (Peter Steinberger), который выпустил приложение ИИ-агента OpenClaw — оно могло самостоятельно писать код и управлять компьютером. Проект распространялся с открытым исходным кодом, то есть программу можно было скачивать и модифицировать без чьего-либо разрешения. Когда она набрала популярность в Кремниевой долине, в руководстве Meta✴ возникло понимание, что компания должна выпустить ИИ-агента.

Поработав с OpenClaw, Фридман заказал двести компьютеров Apple Mac mini, достаточно мощных для запуска ИИ-агента, и сложил их возле своего кабинета в штаб-квартире Meta✴, чтобы сотрудники могли их разобрать. Компания взяла курс на разработку подобного OpenClaw собственного ИИ-агента, но предназначенного для тех, кто не обладает инженерной подготовкой.

Занятые по направлению ИИ руководители Meta✴ начали активно пользоваться OpenClaw в жизни. Фридман подключил ИИ-агента к камерам в своём доме. Система давала ему советы, например, пить воду, чтобы поддерживать баланс, а однажды похвалила его, прислав снимок, на котором он пьёт воду из бутылки. Когда Фридман обсуждал с ИИ-агентом качество сна, OpenClaw перехватил управление автопилотом на его машине Tesla и направил её в магазин за содержащими магний препаратами. Цукерберг подключил своего ИИ-агента к камерам в зале единоборств, чтобы тот мог анализировать и корректировать его технику ведения боя.

В некоторых случаях ИИ-агенты начинали действовать непредсказуемо или брали под контроль приложения. В феврале один из них начал бесконтрольно удалять электронные письма сотрудницы Meta✴, которая занимается вопросами безопасности. Остановить его не получилось, и она буквально бегом рванула к своему Mac mini, как будто хотела обезвредить бомбу.

Фридман продемонстрировал ИИ-агента Muse совету директоров Meta✴ в феврале. На начальных этапах он работал под управлением моделей Anthropic, но через два месяца компания выпустила собственную Muse Spark и перевела его на собственную платформу. Meta✴ могла выпустить ИИ-агента уже тогда, но ещё несколько месяцев компания потратила на тщательную проверку и доработку средств безопасности. В некоторых случаях Muse игнорировал команды тестировавших его инженеров или предлагал им совершать покупки на мошеннических сайтах.

В августе стремительно стал набирать популярность ИИ-агент от стартапа Instinct, и вскоре после этого Meta✴ официально представила Muse. Связанных с вопросами конфиденциальности инцидентов избежать не удалось — в одном из случаев ИИ-агент без разрешения пользователя прочитал его переписку и сослался на полученную информацию в дальнейшем разговоре с ним. Instinct гиганта соцсетей больше не пугает: недавно стартап привлёк инвестиции на сумму $1 млрд при оценке в $10 млрд; а за Meta✴ капитализация более $1,5 трлн и аудитория размером 3,5 млрд пользователей.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple запустила разработку собственного ИИ-агента, который поселится в компьютерах Mac 5 мин.
Apple потеряла главного разработчика софта для камеры iPhone 29 мин.
Google внедрила чаты с ИИ прямо на главную страницу поисковика 11 ч.
Ubisoft похвасталась вкладом Assassin’s Creed Black Flag Resynced в успехи компании и уволила ещё 166 человек 12 ч.
IPO превратило сотрудников Anthropic в мультимиллионеров — в среднем у каждого теперь более $44 млн 14 ч.
Россияне так ждали GTA VI, что начали массово арендовать PlayStation 5 — а заодно вызвали скачок интернет-трафика 14 ч.
ChatGPT научился расшифровывать речь в текст на лету без ограничения по времени 15 ч.
Новое ответвление Fallout отправит игроков разыскивать кошек в пустоши — подробности неанонсированной A Wasteland Full of Cats 16 ч.
Хакеры 10 дней атаковали системы Еврокомиссии с помощью ИИ — под угрозой личные данные чиновников 17 ч.
Студия-разработчик провальной MindsEye нашла способ выбраться из долговой ямы — засудить «диверсантов» 17 ч.
США разрешили AMD и Nvidia поставлять ИИ-ускорители китайским бигтехам Tencent и Alibaba 6 мин.
Округ Лаудон в «Аллее дата-центров» ввёл годовой мораторий на подачу заявок на строительство ЦОД и подстанций 2 ч.
ИИ-агентный тамагочи Meta Muse Charm будет стоить $300, но это не точно 3 ч.
Dell представила 2OU-узлы с СЖО для платформы хранения Exascale 3 ч.
«Квантовый» VPN: «ТрансТелеКом» запустил сервис высокозащищённой связи «Квант ВПН» на базе сети РЖД 4 ч.
Tesla представила твердотельные трансформаторы Powercore для ЦОД 9 ч.
Нобелевские лауреаты призвали не верить в посулы Anthropic — но инвесторы их не услышали 11 ч.
Intel Xeon 7 Diamond Rapids впервые показали вживую и даже запустили — но вскоре выключили из-за шума 11 ч.
Новая статья: Обзор блока питания GamerStorm PF800D V2 12 ч.
На AMD обрушили обвинения в рискованных ИИ-сделках и зависимости от Китая — акции рухнули почти на 9 % 13 ч.