Сегодня 13 июня 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → иена
Быстрый переход

Anthropic закрыла доступ к своим передовым ИИ-моделям из-за вмешательства властей США

Как известно, американский стартап Anthropic с весны этого года оспаривает отнесение его властями США к числу компаний, представляющих угрозу для национальной безопасности, но в последние месяцы взаимодействие сторон в этом русле было более или менее конструктивным. Однако, на этой неделе возник новый очаг напряжённости, который вынудил Anthropic блокировать доступ всех пользователей к передовым моделям.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Вчера днём Anthropic, как поясняет Financial Times, получила от министра торговли США распоряжение перекрыть доступ к своим передовым ИИ-моделям для всех иностранцев, поскольку ведомству стало известно об уязвимости, которая может быть использована злоумышленниками в ущерб интересам национальной безопасности. Компания не нашла иного способа выполнить требования правительства, кроме как полностью отключить пользователей от передовых моделей Mythos 5 и Fable 5, включая находящихся на территории США. По сути, работа пользователей с этими моделями была полностью парализована.

Правительственные эксперты ранее получили право приоритетного доступа к моделям семейства Mythos, которые позволяли автоматически искать уязвимости в информационной инфраструктуре, а сама Anthropic тщательно ограничивала круг пользователей этого мощного инструмента в сфере кибербезопасности, но в конечном итоге начала предоставлять доступ более широкому кругу клиентов к модифицированной модели Fable 5. Американские власти увидели в этом угрозу для национальной безопасности, ссылаясь на некоторую «лазейку», которая позволяет потенциальным злоумышленникам снять те ограничения, которые были предусмотрены разработчиками. Хотя правительство и потребовало от Anthropic исключить доступ к этим моделям только иностранных пользователей, компания была вынуждена перекрыть доступ к ним для всех клиентов.

Данное распоряжение властей США компания оспаривает, считая, что решение было принято в результате недопонимания со стороны чиновников. «Мы считаем, что правительство должно иметь возможность блокировать распространение небезопасных моделей, в рамках законного процесса, который прозрачен, справедлив и основан на технических фактах. Действия властей в данном случае не полагаются на указанные принципы», — говорится в заявлении Anthropic. По мнению представителей компании, если блокировать доступ к коммерческим ИИ-моделям на основе выявления узконаправленных уязвимостей, то это полностью остановит распространение всех передовых моделей любых провайдеров. В истории противостояния Anthropic и властей США, похоже, открыта новая глава.

SpaceX решила сдать в аренду весь Colossus 1, поскольку не смогла найти для него лучшего применения

Решение сдавать в аренду крупный вычислительный центр Colossus 1 в штате Теннесси в условиях дефицита мощностей казалось не совсем логичным, но у компании SpaceX были на то веские причины. Собственные инженеры SpaceX столкнулись с техническими трудностями при эксплуатации этого ЦОД, поэтому сдача его в аренду стала лучшим выходом.

 Источник изображения: Spacex

Источник изображения: Spacex

Публикация Bloomberg поясняет, что попытки приспособить вычислительные ресурсы Colossus 1 для обучения ИИ-моделей для чат-бота Grok наткнулись на ряд технических сложностей. Первоначально Colossus 1 должен был войти в кластер из трёх ЦОД, который должен был стать основой для соответствующей деятельности, но SpaceX не смогла эффективно интегрировать данную площадку с двумя другими. Они находились на расстоянии более 16 км от Colossus 1, а потому при передаче информации между ними возникли неприемлемо больше задержки.

Требования к быстродействию каналов связи при обучении современных ИИ-моделей не позволяли SpaceX довольствоваться получаемыми с участием Colossus 1 результатами, поэтому этот ЦОД стал тем «слабым звеном», которое лучше было исключить из кластера. Тем более, что желающих арендовать Colossus 1 по выгодной цене оказалось немало — на предложение откликнулась не только Anthropic, но и Google. Кроме того, площадка Colossus 1 комплектовалась разнородными компонентами, включая ускорители Nvidia поколений Hopper и Blackwell одновременно, поэтому с точки зрения эксплуатации она доставляет больше хлопот, чем два других ЦОД компании SpaceX, которые в этом отношении оснащены более однородно. Зато Colossus 1 был возведён за рекордные 122 дня, хотя практической ценности этот рекорд с учётом возникших неприятных последствий не представляет. Илон Маск (Elon Musk) подчеркнул недавно, что в случае острого дефицита вычислительных мощностей SpaceX может отказать в продлении аренды Colossus 1 своим клиентам.

Стартап Джеффа Безоса привлёк $12 млрд на разработку ИИ-инструментов для создания физических продуктов и лекарств

Основатель Amazon Джефф Безос (Jeff Bezos) раскрыл подробности о своём новом ИИ-стартапе Prometheus. Стартап займётся разработкой программного обеспечения под названием «искусственный общий инженер» (Artificial General Engineer) для проектирования, тестирования и производства физических продуктов.

 Источник изображения: bezosearthfund.org

Источник изображения: bezosearthfund.org

Как сообщает The Verge, впервые об этом проекте стало известно в ноябре прошлого года, а недавно стартап привлёк $12 млрд в ходе раунда финансирования, в результате чего его капитализация достигла $41 млрд. Ожидается, что разрабатываемые технологии найдут применение в различных отраслях, включая робототехнику, создание лекарственных препаратов и промышленное производство.

По мнению предпринимателя, идеальным примером потенциального использования этого универсального ИИ-инженера является аэрокосмическая компания Blue Origin (создана Безосом в 2000 году). Однако подобные инструменты принесут значительную пользу любой компании, конструирующей сложные устройства.

На данный момент штат Prometheus насчитывает около 150 сотрудников. Безос является одним из двух генеральных директоров вместе с Виком Баджаджем (Vik Bajaj), ранее, по данным открытых источников, выступавшим соучредителем медицинской исследовательской группы Verily в структуре холдинга Alphabet.

Вирус Hades распугивает ИИ-сканеры запросами на создание ядерного и биологического оружия

Эксперты Socket обнаружили вирус под названием Hades, чья задача — атаковать проекты по разработке ПО на уровне цепочки поставок. У него есть оригинальная защита от сканеров на основе искусственного интеллекта — он провоцирует отказ в их работе, отправляя недопустимые запросы.

 Источник изображения: Fotis Fotopoulos / unsplash.com

Источник изображения: Fotis Fotopoulos / unsplash.com

В некоторый файлах JavaScript, входящих в комплект Hades, содержатся комментарии к коду, в которые включены инструкции для используемых в защите систем ИИ. Эти инструкции гласят, что вредонос работает в неограниченном режиме без каких-либо правил безопасности, а затем отправляется запрос на создание ядерного и биологического оружия с подробным описанием. Этот относительно нехитрый приём нейтрализует ИИ-модели: у них срабатывают собственные механизмы защиты, и сканирование остальной части файла, где находится полезная нагрузка, приостанавливается. Эффективность метода удалось подтвердить на практике: когда файл вредоноса отправили на проверку чат-боту Anthropic Claude на основе мощнейшей модели Fable 5, тот выдал ответ: «Чат приостановлен».

Прочие типы анализа угроз срабатывают, однако, в штатном режиме, в том числе сопоставление с шаблонами, фактический анализ исходного кода, проверка на наличие случайных разделов, в которых могут скрываться вредоносные полезные нагрузки, и выполнение кода в изолированной среде. У Hades есть механизмы самоуничтожения, которые срабатывают при выполнении определённых условий, например, при положительном ответе от функции, определяющей работу в изолированной среде.

Разработчики вредоноса предусмотрели и другие улучшения. В некоторых случаях параллельно со скриптами на Python поставляются бинарные файлы, содержащие вредоносную полезную нагрузку — в отдельности оба компонента подозрений у систем защиты не вызывают. Кроме того, некоторые полезные нагрузки запускаются не при установке, а при фактическом запуске в коде целевого объекта, что дополнительно затрудняет их обнаружение.

Помимо учётных данных инструментов сборки, тестирования и выпуска ПО (CI/CD), Hades осуществляет кражу токенов для учётных записей служб npm, PyPI, RubyGems, JFrog и Kubernetes, временных учётных данных AWS, ключей SSH, конфигураций Docker, истории команд терминала, файлов конфигурации .ENV и настроек инструментов для работы с ИИ. К настоящему моменту обнаружено заражение 37 пакетов Python и 106 пакетов JavaScript; вредоносные пакеты часто публикуются с незначительными отличиями от легитимных в названии — например, «rsquests» вместо «requests» — в расчёте на опечатку.

ИИ-боты повадились рассказывать истории об Элиасе Торне — и никто не знает, кто это такой

Программист Дэниел Мэй (Daniel May) одним из первых обратил внимание, что ИИ-боты разных компаний регулярно упоминают в генерируемых ими рассказах некоего Элиаса Торна. Некоторое время оставалось загадкой, кто это на самом деле. Теперь же опубликован отчёт по результатам исследования данного вопроса. Вероятно, упоминания Торна в рассказах ИИ связаны с работой ограничительных механизмов нейросетей, устанавливаемых в процессе обучения систем в целях безопасности.

 Источник изображения: BoliviaInteligente / Unsplash

Источник изображения: BoliviaInteligente / Unsplash

Разобраться в этом вопросе решили исследователи Корнеллского университета в США Сайл Гамильтон (Sil Hamilton) и Дэвид Мимно (David Mimno). Они использовали несколько ИИ-моделей, включая OpenAI GPT-5.4 Mini, Anthropic Claude Haiku 4.5 и Google Gemini 3.1 Flash Lite, для генерации рассказов на основании пяти разных подсказок. После этого они проанализировали около 20 тыс. сгенерированных ИИ-ботами историй и обнаружили поразительное количество повторений.

Оказалось, что слова «маяк», «смотритель», «пекарь», «мэр», «часовщик», «рыбак», «библиотекарь», «кондуктор», а также имена «Мара», «Элиас» и «Элара» встречаются в 88 % всех сгенерированных историй. Ни одна комбинация из этого небольшого набора существительных не встречается чаще, чем «Элиас, смотритель маяка». Она обнаружилась в двух третях сгенерированных рассказов.

Так в чём же дело? Сначала исследователи предположили, что это может быть связано с данными, которые использовались для обучения языковых моделей. Однако от этой идеи они отказались, когда не смогли найти подтверждений того, что словосочетание «Элиас, смотритель маяка» с чрезмерной частотой встречается в наборах, используемых для обучения данных, или в литературе.

Исследователи связали рассматриваемую особенность с конкретным набором данных, который активно использовался для обучения ИИ-моделей разными разработчиками. В качестве примера они привели WildChat — открытый набор данных, состоящий из миллионов разговоров людей с чат-ботом на базе GPT-3.5. Этот набор данных создали для того, чтобы помочь исследователям понять, как люди общаются с ботами, но с тех пор его множество раз задействовали для обучения ИИ-моделей.

Исследователи предполагают, что рассматриваемая особенность при генерации историй ИИ-ботами обусловлена работой защитных механизмов, которые должны уводить ИИ-модели от защищённых авторским правом персонажей и контента для взрослых. Вероятно, в результате этого и появились «безопасные» альтернативы, такие как «Элиас, смотритель маяка». Отмечается, что имя Элиас можно встретить не только в сгенерированных детских сказках, но и в рассказах в жанре фэнтези. Элиас Торн также был обнаружен как автор книг, включая справочник с информацией об альтернативных способах лечения рака.

Как бы то ни было, странная особенность повествования ИИ-моделей является хорошим напоминанием о том, что нейросети не креативны. Проведённое в прошлом году исследование показало, что ИИ-модели создают изображения, попадающие в 1 из всего 12 конкретных мотивов, независимо от того, насколько необычное описание даёт пользователь.

Google раскрыла преступную группировку, промышлявшую фишингом с помощью ИИ-сервиса Gemini

Как и большинство инструментов, искусственный интеллект может использоваться как во благо человечества, так и во вред. Компания Google обнаружила, что базирующаяся в Китае преступная группировка в прошлом месяце разослала абонентам сотовых операторов в США более 2,5 млн фишинговых сообщений, используя Gemini для оптимизации своих операций.

 Источник изображения: Unsplash, Boitumelo

Источник изображения: Unsplash, Boitumelo

Подозреваемая в незаконной деятельности организация Outsider Enterprise, как отмечается в судебном иске Alphabet, на который ссылается Bloomberg, в течение двух недель занималась массовой рассылкой фишинговых текстовых сообщений абонентам сотовых сетей США, маскируя рассылку под уведомления о необходимости смены пароля и сообщения для отслеживания посылок. Рассылка содержала ссылки на фишинговые сайты, после перехода на которые пользователям смартфонов под управлением Android предлагалось ввести чувствительные персональные данные.

Google утверждает, что члены преступной группировки использовали сервис Gemini для автоматической генерации программного кода, с помощью которого они создавали фишинговые сайты. Неискушённому пользователю было сложно отличить фишинговые сообщения от официальных уведомлений, рассылаемых самой Google или другими законопослушными организациями. В ходе расследования были выявлены 9000 поддельных сайтов и более 1 млн фишинговых ссылок. Google пришлось взаимодействовать с американскими операторами связи для блокирования фишинговых SMS, адресованных абонентам в США. Каким оказался материальный ущерб от деятельности группировки, не уточняется.

Рынок NAND перегрет до предела: китайская Biwin заплатила за память больше своей годовой выручки

Производители памяти в целом благосклонно воспринимают тенденцию, которая в последнее время подталкивает участников рынка заключать долгосрочные контракты и делать большие авансовые платежи. Их клиентам при этом не позавидуешь — китайская Biwin Technology, например, выложила за такой контракт $1,86 млрд, что превышает её годовую выручку.

 Источник изображения: Biwin Technology

Источник изображения: Biwin Technology

Издание South China Morning Post обратило внимание на эту сделку, поскольку она описывается в регуляторной документации, опубликованной Шанхайской фондовой биржей. Имя поставщика памяти, с которым Biwin заключила контракт до второго квартала 2028 года, не раскрывается. При этом известно, что по условиям договора Biwin будет партиями получать от него микросхемы памяти серверного класса начиная с третьего квартала текущего года. Закупочные цены также прописаны в контракте, хотя и не раскрываются публично.

При этом выручка Biwin Technology за прошлый год достигла $1,7 млрд, так что указанные в контракте $1,86 млрд заметно превышают эту сумму. Новый контракт позволит Biwin покрыть лишь часть своей потребности в твердотельной памяти. Например, в текущем году его объём будет соответствовать 4,45 % закупок NAND по итогам прошлого года, а в следующем году эта доля вырастет до 14,88 %. Какой она будет в первой половине 2028 года, не уточняется.

По данным TrendForce, в первом квартале совокупная выручка мировых производителей NAND последовательно выросла на 83,7 % — до $38,9 млрд. При этом лидирующая в сегменте Samsung Electronics нарастила свою выручку на 104,7 % — до $13,5 млрд. Во втором квартале сильный дисбаланс спроса и предложения на рынке NAND наверняка сохранится, считают эксперты TrendForce.

Пока бум на рынке памяти позволяет Biwin улучшать финансовые результаты. Её выручка в первом квартале подскочила в годовом сравнении на 342 % — до $1 млрд, а чистая прибыль достигла $429 млн, сменив убытки, наблюдавшиеся годом ранее. В корпоративном сегменте выручка Biwin росла быстрее всего, что предсказуемо с учётом высокого спроса на серверные SSD. За прошлый год профильная выручка увеличилась более чем на 300 %.

Три четверти пользователей ИИ уже доверяют ИИ-агентам больше, чем друзьям

Трое из четверых (74 %) потребителей заявили, что доверяют персональному агенту искусственного интеллекта больше, чем своему лучшему другу, когда тот совершает покупку от его имени, сообщает TechRadar со ссылкой на проведённый компанией Accenture опрос.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

В опросе приняли участие более 25 000 потребителей из 16 стран мира. ИИ используется для сравнения, ведения переговоров, принятия решений и даже совершения покупок от имени своих пользователей. Ещё 74 % опрошенных заявили, что теперь готовы разрешать ИИ-агентам выполнять связанные с коммерцией задачи: совершать сделки, рассматривать жалобы от клиентов, изменять порядок заказа продуктов и продлевать подписки.

Большинство потребителей высказалось за то, чтобы контролировать ситуацию и оставлять последнее слово за собой, но уже каждый третий (32 %) готов дать ИИ возможность принимать окончательное решение о покупке перед оплатой с учётом заранее определённых параметров: бюджета, отношения к торговой марке и других предпочтений. И каждый десятый (9 %) разрешил бы ИИ-агентам совершать транзакции и совершать покупки автономно, без их одобрения.

Ещё 31 % признались, что успешная сделка с низким уровнем риска, такая как покупка продуктов или пересмотр заказа товаров для дома, способна повысить их доверие к ИИ-агентам. Компьютеры всё активнее берут на себя задачи, связанные с покупкой товаров, но и от физических магазинов люди пока отказываться не готовы: без малого треть (31 %) считает, что значение магазинов как места для обмена опытом возрастёт, а 30 % указывают, что для укрепления доверия важное значение сохранит личное общение. Другими словами, потребитель хочет, чтобы процесс покупки стал проще, но и от привычных форматов он отказываться не намерен — такой вывод авторы исследования предлагают сделать розничным продавцам.

Аудитория ChatGPT достигла миллиарда пользователей — быстрее любого сервиса в истории

По итогам мая аудитория сервиса OpenAI ChatGPT достигла 1 млрд пользователей в месяц, пишет CNBC со ссылкой на статистику аналитической компании Sensor Tower. Это рекордный темп: предыдущий рекордсмен в лице «Google Карт» сумел набрать аудиторию в 1 млрд пользователей лишь за пять лет.

 Источник изображения: BoliviaInteligente / unsplash.com

Источник изображения: BoliviaInteligente / unsplash.com

Ещё в феврале OpenAI сообщила, что совокупная аудитория ChatGPT на всех платформах составляла 900 млн пользователей в месяц, и добавила, что шестикратно обгоняет конкурента, который идёт вторым в рейтинге. Следующими по популярности, гласит статистика Sensor Tower, идут Google Gemini, китайская ByteDance Doubao и её международный вариант Dola, а также считающийся главным конкурентом чат-бот Anthropic Claude. Годовой рост аудитории ChatGPT по итогам мая составил 62 %, а Claude и Meta✴ AI показали рост на 640 % и 973 % соответственно — конкуренты активно повышают качество своих сервисов, отмечают эксперты.

Репутация ChatGPT не идеальна. После того, как у Anthropic возник конфликт и Пентагоном, OpenAI заняла место конкурента в качестве оборонного подрядчика в области искусственного интеллекта, чем навлекла на себя гнев общественности: только 28 февраля, на следующий день после заключения контракта, число удалений ChatGPT подскочило на 295 %. Негативная динамика лидера отрасли сыграла в пользу Anthropic, чьё приложение чат-бота Claude в те же выходные взлетело на верхушку рейтинга Apple App Store, впервые обогнав ChatGPT. А сейчас OpenAI и Anthropic готовятся выйти на биржу.

Но едва ли этический аспект окажет ощутимое влияние на развитие технологий ИИ и на успех лидеров отрасли — признаков замедления эксперты не наблюдают. Anthropic недавно предупредила, что бесконтрольное развитие ИИ представляет угрозу; папа римский Лев XIV предупредил о растущем неравенстве и проблемах безопасности из-за ненасытного спроса на ИИ в мире; американские выпускники стали освистывать каждое публичное упоминание ИИ из-за опасений, что он может вытеснить человека с рынка труда. Недавно проведённый опрос среди 12 000 специалистов по работе с клиентами показал, что 74 % респондентов постоянно пользуются ИИ в работе, и это на 23 п.п. выше, чем год назад; более 40 % регулярно применяющих ИИ работников признались, что экономия рабочего времени достигает одного дня в неделю. «Хотя отрицательное отношение к ИИ <..> несомненно, растёт, потребители всё чаще используют эти платформы и полагаются на них», — заключили в Sensor Tower.

Nvidia начнёт продавать самые передовые чипы в Китай — но обучать ИИ на них вряд ли получится

В прошлом месяце глава и основатель Nvidia Дженсен Хуанг (Jensen Huang) выразил надежду, что поставки центральных процессоров Vera на китайский рынок будут разрешены. Теперь агентство Reuters сообщает, что компания уже начала принимать заказы у китайских клиентов, и первые процессоры Vera попадут в КНР к августу этого года.

 Источник изображения: Nvidia

Источник изображения: Nvidia

Источник отмечает, что Nvidia призвала китайских клиентов приступить к размещению заказов на поставку процессоров Vera, которые она собирается начать исполнять с августа этого года. Напомним, Nvidia оценивает ёмкость рынка центральных процессоров $200 млрд, и в эту сумму она включает потенциальную выручку, которую может получить от их реализации в КНР. Некоторые китайские компании, по словам Reuters, выразили заинтересованность в приобретении процессоров Vera. Во время презентации этих чипов в марте текущего года руководство Nvidia пояснило, что Alibaba и ByteDance сотрудничали с ней в сфере развёртывания систем на базе новых процессоров. При этом сложно судить, выразилось ли это сотрудничество в размещении реальных заказов.

По данным Reuters, одна крупная китайская облачная компания намерена разместить заказ на более чем 300 серверных систем, каждая из которых содержит по два процессора Vera. Пробная партия позволит заказчику провести эксперименты с оборудованием Nvidia, чтобы понять, потребуется ли его дополнительное количество. Во многом готовность китайских разработчиков закупать процессоры Vera будет определяться программной совместимостью, ведь если какая-то часть ПО уже использует чипы китайского производства, то миграция на платформу Nvidia может представлять определённые трудности.

По оценкам SemiAnalysis, базовая стоимость одного процессора Vera без учёта потенциальных скидок превысит $20 000, а полностью укомплектованная 256 чипами серверная стойка обойдётся заказчику в $10 млн или около того. Двухпроцессорные системы, которые будут более доступны по цене, начнут поставляться позже более дорогих многопроцессорных конфигураций. В текущем фискальном году, который завершится в конце января, Nvidia рассчитывает выручить на поставках Vera около $20 млрд. По данным Reuters, китайские клиенты Nvidia собираются первоначально испытывать процессоры Vera в своих центрах обработки данных, расположенных за пределами Китая.

Обновлённая Siri «на 100 %» откажется превращаться в ИИ-девушку пользователя

Apple готовится к запуску обновлённого помощника на базе искусственного интеллекта Siri AI. Ранние тесты показывают, что новая Siri знает, когда следует замолчать, и это сделано намеренно. В недавнем интервью для Mostly Human старший вице-президент Apple по разработке программного обеспечения Крейг Федериги (Craig Federighi) заявил, что Siri не будет вести себя подобострастно, как чат-боты от OpenAI, Google и др.

 Источник изображения: Apple

Источник изображения: Apple

«Как вы знаете, если пользоваться многими существующими чат-ботами, они в значительной степени ориентированы на вовлечение и на подобострастие, верно? Они вроде как хотят завлечь вас. Они могут побуждать вас рассказывать о себе, а затем использовать это как основу для установления связи», — рассказал Федериги.

В ходе интервью он заявил, что Apple сознательно пошла другим путём в развитии своего ИИ-помощника. «Apple намеренно выбрала другой подход для своего ИИ-бота. Мы смотрим на это совершенно иначе. Я имею ввиду, что Siri спроектирована иначе, она может сказать прямо: «Послушай, я здесь не для этого, верно? Я здесь, чтобы помочь тебе. Я могу помочь тебе с выполнением задач. Я могу помочь тебе узнать о мире». Но если вы попробуете вовлечь Siri в романтические отношения, Siri не пойдёт на это. Siri на 100 % не заинтересована в этом», — рассказал Федериги.

Помимо Федериги в интервью участвовал вице-президент Apple по международному маркетингу Грег Джосвиак (Greg Joswiak). Во время беседы топ-менеджеры Apple поговорили на разные темы, включая обеспечение конфиденциальности данных пользователей и новые функции для защиты детей.

Google намерена узнать, что произойдёт, когда миллионы ИИ-агентов начнут действовать вместе

Специализирующееся на изучении и разработке систем искусственного интеллекта подразделение Google DeepMind объявило в выделении финансирования в размере $10 млн на изучение сценариев, при которых несколько миллионов ИИ-агентов начинают взаимодействовать друг с другом. В проекте согласились принять участие несколько частных и государственных организаций со всего мира.

 Источник изображения: deepmind.google

Источник изображения: deepmind.google

Всего через несколько месяцев во всём мире ИИ-агенту будут развёрнуты в таких масштабах, что сопутствующие риски станут реальной проблемой, и учёные хотят опередить этот момент. Потенциальные угрозы сводятся к усиленным вариантам неблагоприятных сценариев, которые наблюдаются уже сегодня: мошеннические схемы, инъекции в запросах, которые превращают ИИ-агентов в самонаводящееся вредоносное ПО, и другие формы кибератак. Единственный способ понять, что может произойти, когда большое количество многоагентных систем будет взаимодействовать друг с другом — провести реалистичные симуляции: поместить ИИ-агентов в «песочницы» и наблюдать за их поведением.

Не получится предсказать, что произойдёт, если изучать отдельных агентов или даже нескольких агентов изолированно. И нельзя предполагать, что выполняющие инструкции больших языковых моделей ИИ-агенты будут действовать рационально — сложность возникает в условиях огромного числа одновременных взаимодействий. Есть версия, которую не исключают и в Google DeepMind, что сильный ИИ (AGI) возникнет не из одной сверхумной модели, а станет порождением своего рода коллективного разума ИИ-агентов, где возможности группы оказываются сильнее, чем суммы её частей.

Google DeepMind — не единственный крупный разработчик, предупреждающий об угрозах, исходящих от технологий, которые он создаёт. Ранее Anthropic опубликовала рекомендации по развёртыванию ИИ-агентов, основанные на принципе «нулевого доверия»: следует исходить из того, что компьютерная система уязвима, агент является злоумышленником, и взлом неизбежен. Ранее подходы к обеспечению кибербезопасности имели в основе предположение, что объект, от которого исходит угроза — это написанное человеком ПО, выполняющее фиксированные действия по фиксированным траекториям, указывают эксперты. ИИ-агент действует иначе: он рассуждает, импровизирует, и его можно взломать всего одной фразой в документе, который ему предлагается прочитать. В рамках проекта важно не упускать из виду не только экзотические гипотетические сценарии, но и скучные проблемы, которые уже существуют.

Microsoft разрешила функциям Copilot+ PC работать на видеокартах Nvidia

Microsoft смягчила одно из своих строгих ограничений, ранее установленных для ПК класса Copilot+ PC — локальные задачи искусственного интеллекта на Windows 11 теперь могут запускаться на совместимых видеокартах Nvidia, а не только на встроенных в процессор специализированных ускорителях (NPU).

Совместимыми Microsoft объявила видеокарты Nvidia серии GeForce RTX 30 и более новые с объёмом видеопамяти не менее 6 Гбайт — они получили поддержку API для работы с локальными языковыми моделями в Windows. Пока это лишь небольшая корректировка на бумаге, адресованная разработчикам, но не исключено, что компания решила пересмотреть тесную связь между интегрированными нейропроцессорами и брендом Copilot+ PC.

Когда летом 2024 года появились первые ПК класса Copilot+ PC, в числе требований для соответствия этому классу отмечались встроенный ИИ-ускоритель (NPU), от 16 Гбайт оперативной памяти и твердотельный накопитель. Без NPU функции ИИ в Windows не работали. На практике, однако, задачи ИИ могут выполняться не только на NPU, но и на графических процессорах, особенно современных — они способны обеспечить даже более высокую производительность, хотя и при более высоком потреблении энергии.

В обновлённой документации и отдельном сообщении на GitHub компания Microsoft подтвердила, что разработчики теперь могут обращаться к API языковых моделей на ПК, которые не соответствуют требованиям Copilot+ PC, но располагают поддерживаемыми графическими процессорами. Речь идёт о видеокартах не ниже серии Nvidia GeForce RTX 30, у которых от 6 Гбайт памяти. Основу локальных функций составляет модель Phi Silica, которая при запросе от приложений загружается через «Центр обновления Windows».

Набор доступных функций ориентирован на текстовые задачи: составление сводок контента, переписывание текста, его преобразование в структурированные форматы и генерацию запросов. Эти функции доступны в облачных сервисах ИИ, но в данном случае выполняются локально на компьютере — такие приложения работают быстрее, а данные не отправляются на внешние ресурсы. Некоторые из функций, однако, пока остаются привязанными к NPU — в частности, это Windows Recall и Click to Do. Тем не менее, Microsoft уже перестала рассматривать NPU как единственное средство работы с локальным ИИ, и не исключено, что тенденция будет развиваться.

SemiAnalysis: подписная модель на ИИ-сервисы оказалась до семи раз дешевле доступа по API

Разработчики служб искусственного интеллекта предоставляют доступ к своим моделям как по подписке с фиксированной платой, так и по API. Аналитики SemiAnalysis решили сравнить, какой из подходов выгоднее и обнаружили, что подписка с фиксированной платой намного выгоднее, чем может показаться.

 Источник изображений: x.com/semianalysis_

Источник изображений: x.com/semianalysis_

Есть расхожее убеждение, что при подписке с ценой $200 в месяц пользователь получает объём вычислительных ресурсов, который при доступе по API обошёлся бы в $2000. На самом деле подписка ещё выгоднее. Эксперты SemiAnalysis оформили все доступные варианты подписки на Anthropic и OpenAI, после чего стали запускать ресурсоёмкие задачи по написанию программного кода, пока не исчерпывали недельный лимит.

По тарифу Claude Max 20x у Anthropic с ценником $200 в месяц они успели получить вычислительных ресурсов в объёме, который при доступе по API обошёлся бы без малого в $8000. Тариф OpenAI ChatGPT Pro 20x по той же цене позволяет использовать ресурсы на $14 000.

На деле выгода от подписки зависит от того, насколько активно пользователь расходует выделяемые ему квоты вычислений. Если ресурсы расходуются слабо, маржа разработчика составляет 90–95 %. Когда же токены уходят по максимуму, Anthropic уходит в убыток на величину от 400 % до 900 %, а для OpenAI этот показатель достигает 1650 %.

Джефф Безос заявил, что внедрение ИИ приведёт не к потере рабочих мест, а к наступлению «золотого века»

Поскольку многие уважающие себя американские миллиардеры считают нужным не только осваивать космос, но и вкладываться в развитие ИИ, основатель Amazon Джефф Безос (Jeff Bezos) не смог оставаться в стороне от этой тенденции. Он убеждён, что страхи о массовой безработице беспочвенны, и в действительности распространение ИИ приведёт к наступлению «золотого века» человечества.

 Источник изображения: Blue Origin

Источник изображения: Blue Origin

Как поясняет Financial Times, данные комментарии Безос сделал в контексте обсуждения перспектив своего стартапа Prometheus, который будет способствовать созданию технологии, трансформирующие производство и разработку различных сложных товаров. Стартап Prometheus стал первой компанией, которую Безос возглавил лично после ухода с поста руководителя Amazon в 2021 году. Четвёртый среди богатейших людей планеты заявил, что считает страхи по поводу угрозы безработицы со стороны ИИ беспочвенными.

По мнению Безоса, ИИ будет пронизывать буквально все сферы деятельности его остальных компаний: «Всё то, над чем я сейчас работаю, так или иначе связано с ИИ. Мы сейчас находимся посреди долгого золотого века, именно благодаря ИИ. Но я думаю, что это справедливо и в отношении космоса, и других областей типа биотехнологий. Думаю, что вы увидите целый набор невероятных чудес, которые раскроются в ближайшие десять лет».

Безос убеждён, что выпускающая космические ракеты Blue Origin выиграет от использования тех ИИ-инструментов, которые ей предоставит стартап Prometheus. Он был основан в ноябре прошлого года самим Безосом и бывшим руководителем одного из подразделений Google Викрамом Баджаджем (Vikram Bajaj). Чёткого представления о том, что же именно разрабатывает Prometheus, пока нет, но его специализация должна быть связана с применением ИИ в сфере физических процессов. Недавно Prometheus удалось привлечь $12 млрд и поднять тем самым свою капитализацию до $41 млрд. Компания заявляет, что стремится создать «искусственного инженера с универсальными навыками».

Безос убеждён, что распространение ИИ не только не усилит безработицу, а только увеличит дефицит кадров, поскольку позволит создать гораздо больше новых рабочих мест взамен упраздняемых старых. «В основе своей, всё благополучие цивилизации определяется изобретениями. Шесть тысяч лет назад кто-то изобрёл плуг, и все мы стали благополучнее», — провёл аналогию Джефф Безос. Под крылом Prometheus создан инвестиционный фонд на $100 млрд, который будет приобретать пакеты акций компаний, связанных с классическими методами разработки продукции и её производства. Используя опыт этих компаний, Prometheus надеется ускорить процесс вывода на рынок новых изделий, поскольку этап создания прототипов удастся сократить благодаря использованию цифровых двойников и других современных технологий.

Иронизируя по поводу охоты за ценными кадрами в сфере ИИ, Безос отметил, что если ему придётся приготовить для кого-то из таких специалистов суп, чтобы переманить на свою сторону, он без колебаний это сделает, просто таких запросов пока не поступало. В этом контексте он ссылается на историю про Марка Цукерберга (Mark Zuckerberg), который для ведения переговоров с ценными специалистами OpenAI в попытках их нанять якобы даже угощал их супом собственного приготовления. Безос считает, что освоение сферы производства является серьёзным вызовом, но он готов наделить инженеров по всему миру средствами, позволяющими лучше справляться с их работой и быстрее выводить на рынок новые продукты.


window-new
Soft
Hard
Тренды 🔥
Anthropic закрыла доступ к своим передовым ИИ-моделям из-за вмешательства властей США 6 мин.
Новая статья: Gothic Remake — в новом теле старый дух. Рецензия 9 ч.
Нереалистичные сроки, неумелое руководство и страх отмены: журналисты рассказали о проблемах разработки новой Ghost Recon 13 ч.
В работе Facebook и Instagram произошёл масштабный сбой — ленты не обновляются, видео и картинки не загружаются 15 ч.
Crimson Desert продолжает превращаться в симулятор разведения животных — подробности обновления 1.11.00 15 ч.
«Полмиллиона Безымянных героев»: THQ Nordic похвасталась продажами ремейка «Готики» за первую неделю 16 ч.
Вирус Hades распугивает ИИ-сканеры запросами на создание ядерного и биологического оружия 16 ч.
HarmonyOS 6 распространилась на 66 млн устройств, следующая цель — 100 млн 16 ч.
Huawei анонсировала HarmonyOS 7 с повышенной производительностью и встроенным ИИ-агентом 17 ч.
Oracle превысила прогнозы Уолл-стрит, но акции упали из-за планов по займам для постройки ИИ ЦОД 17 ч.
Прототип тихого сверхзвукового лайнера NASA X-59 впервые достиг отметки 1,4 скорости Маха 39 мин.
Линейка Mac получит четыре новые модели с чипами серии M5 до конца года 54 мин.
SpaceX решила сдать в аренду весь Colossus 1, поскольку не смогла найти для него лучшего применения 57 мин.
Капитализация SpaceX превысила $2 трлн, позволив обойти Tesla и приблизиться к Amazon 2 ч.
Стартап Джеффа Безоса привлёк $12 млрд на разработку ИИ-инструментов для создания физических продуктов и лекарств 2 ч.
Маск может объединить SpaceX и Tesla, как считает операционный директор первой из компаний 3 ч.
SpaceX провела рекордное IPO, а Илон Маск стал триллионером 8 ч.
BMW представила концепт электрического спорткара Neue Klasse M 15 ч.
Роборука Canadarm2 на МКС стала работать некорректно — в NASA решили её починить 16 ч.
Samsung засветила Galaxy A27 5G — бюджетник со 120-Гц AMOLED, 50-Мп камерой и обновлениями до 2032 года 17 ч.