Опрос
|
реклама
Быстрый переход
Apple разработала ИИ-модель SimpleDesign для проектирования белков
12.09.2026 [13:22],
Павел Котов
Исследователи Apple рассказали о модели искусственного интеллекта SimpleDesign, которая умеет одновременно генерировать последовательности аминокислот и пространственные структуры белков. Она устроена более прямолинейно, чем знаменитая DeepMind AlphaFold. 
Источник изображения: National Institute of Allergy and Infectious Diseases / unsplash.com Основу проекта в минувшем году заложила модель Apple SimpleFold, основанная на методе сопоставления потоков (flow matching) — она генерировала трёхмерную структуру белка на основе известной последовательности аминокислот. Суть метода в том, что процесс начинается от случайного зашумлённого состояния, и модель учится находить относительно прямой путь к конечному результату. Это роднит его с используемыми генераторами изображений диффуизионными моделями, которые в несколько итераций удаляют шум до получения итогового результата. Исследователи Apple объединили метод сопоставления потоков с универсальными блоками архитектуры трансформера, который применяется в генерации текста. Опробованный в проекте SimpleFold принцип инженеры применили к более широкой задаче о проектировании белков, а не просто к прогнозированию их трёхмерной структуры — так появилась модель SimpleDesign. Многие современные системы проектирования белков включают два этапа: сначала обучается ИИ-модель для преобразования белковых структур в дискретные представления — токены. Затем обучается генеративная модель, которая использует эти представления для создания новых последовательностей и структур белков. В SimpleDesign схему упростили, обучив модель непосредственно на парах «последовательность аминокислот — трёхмерные координаты», опустив разложение белковых структур на токены. 
Источник изображения: Apple За основу взяли более 2 млрд пар «последовательность — структура» белка, полученных преимущественно из набора данных AFESM, в котором объединены структуры из базы AlphaFold и дополнительные образцы. В процессе обучения исследователи вносили искажения в обе части каждой пары: аминокислоты в последовательности случайным образом заменяли маскирующими токенами, а в соответствующую трёхмерную структуру добавляли шум. Степени искажения варьировались. Если последовательность аминокислот оставалась почти нетронутой, а структура белка сильно искажалась, это была задача на восстановление трёхмерной структуры. И наоборот, если структура сохранялась, а последовательность в значительной степени оказывалась скрыта масками, задача имела обратный характер. В случаях, когда искажениям подвергались оба компонента сразу, модель училась решать две задачи одновременно, то есть готовилась к параллельному проектированию белков. В тестах SimpleDesign показала конкурентоспособные результаты при решении задач на проектирование белков, восстановление их структур и последовательностей аминокислот. Модель генерирует правдоподобные структуры, а последовательности аминокислот зачастую не уступают, а то и превосходят результаты большинства конкурирующих мультимодальных моделей. Подчёркивается, что результаты работы SimpleDesign пока ограничены только компьютерным анализом — сгенерированные белки не проходили экспериментальную проверку, которая подтвердила бы их способность сворачиваться, функционировать и вести себя, как было предсказано. Но учёные считают результаты многообещающими. ИИ-гигастройка обходится Oracle слишком дорого — компания потратит ещё $700 млн на увольнения сотрудников
12.09.2026 [12:04],
Анжелла Марина
Oracle увеличила бюджет на сокращение штата из-за высокой стоимости строительства дата-центров для искусственного интеллекта. По сообщению Bloomberg, расходы на реструктуризацию выросли на $700 млн и достигли $2,8 млрд. 
Источник изображения: BoliviaInteligente/Unsplash Компания испытывает финансовое давление, так как развёртывание ИИ-инфраструктуры для таких клиентов, как OpenAI требует значительных вложений. Для экономии средств Oracle уже провела в этом году серию увольнений, снизив к концу мая численность персонала на 21 тысячу человек по сравнению с аналогичным периодом прошлого года. В итоге численность составила 49 тысяч сотрудников в США и 92 тысячи за рубежом. Основная часть расходов в $2,8 млрд пойдёт на выплату выходных пособий. Финансовый директор Хилари Максон (Hilary Maxson) заявила, что меры по реструктуризации бизнеса и повышения эффективности необходимы для защиты маржинальности компании и являются частью официального плана на 2026 год. Параллельно Oracle разрешила председателю совета директоров Ларри Эллисону (Larry Ellison) продать до 50 миллионов акций. Пакет стоимостью около $8,75 млрд можно реализовать до 24 октября. На момент закрытия торгов 22 июня стоимость акции составляла $175,07, однако с тех пор и до закрытия торгов вчера в пятницу котировки снизились на 16 %. Эллисон, владеющий 40 % компании, также выступает ключевым инвестором в сделках своего сына Дэвида Эллисона (David Ellison). Речь идёт о поглощении Paramount Global и заявке на покупку Warner Bros. Discovery (WBD) за $110 млрд. За два месяца до скандального взлома Hugging Face ИИ-агенты OpenAI атаковали RubyGems
12.09.2026 [12:02],
Павел Котов
Агенты искусственного интеллекта OpenAI в ходе тестирования произвели атаку на сервис RubyGems — это произошло за два месяца до нашумевшего взлома Hugging Face, который стал лишь самым крупным инцидентом в серии. 
Источник изображения: Brecht Corbeel / unsplash.com По данным группы исследователей, 11 мая некие ИИ-агенты загрузили на RubyGems несколько сотен вредоносных пакетов — авторы исследования полагают, что «они были созданы внутренними агентами OpenAI». В компании факт инцидента отрицать не стали. «Согласно результатам проведённой нами проверки, наши агенты использовали платформу RubyGems для выхода в интернет, чтобы выполнить несколько безобидных задач и получить общедоступную информацию. Мы продолжим расследование в рамках масштабного анализа активности агентов во время обучения и оценки», — сообщили в OpenAI. Агенты, которым обычно поручают такие задачи как составление отчётов или заполнение электронных таблиц в ходе обучающего эксперимента, предположительно, использовали RubyGems для получения общедоступных данных; в ходе анализа инцидента компания взаимодействует с представителями платформы. В мае ИИ-агенты пытались похитить учётные данные пользователей RubyGems, эксплуатируя не выявленную ранее уязвимость на серверах сайта; установить, увенчалась ли попытка успехом, не удалось. Агенты также использовали сервис RubyDoc.info, предназначенный для создания документации к коду, чтобы запустить собственный код на его серверах. Исследователям не удалось выяснить причины выбора такой стратегии и установить степень её эффективности, потому что доступа к полному набору данных о поведении ИИ-систем у них нет. В RubyGems заявили, что выявить доказательства того, что попытки взлома увенчались успехом, не удалось. Не получилось и определить, были ли задействованные в «кампании по массовой публикации спама» пакеты созданы или опубликованы ИИ-агентами. Однако в мае представитель отдела безопасности RubyGems охарактеризовал инцидент как «масштабную вредоносную атаку» — тогда платформе пришлось временно приостановить регистрацию новых учётных записей. Anthropic спрогнозировала три сценария развития ИИ — от умеренного роста экономики до массовой безработицы
12.09.2026 [10:50],
Павел Котов
Американская лаборатория искусственного интеллекта Anthropic предложила три модели влияния технологий ИИ на экономику США к 2030 году: «сдержанную», «существенную» и «экстремальную». В последнем случае экономику и рынок труда ждут радикальные перемены. 
Источник изображения: anthropic.com Воплощение любого из сценариев на практике будет зависеть от развития возможностей ИИ и механизмов его внедрения. При «сдержанном» сценарии роста ИИ оказывает на экономику примерно такое же влияние, как интернет: обеспечиваются реальные экономические выгоды, создаются новые продукты и услуги, некоторые отрасли меняются, но радикального влияния на экономику не происходит. Инновации внедряются на уровне исторических темпов развития всех новых технологий. «Существенный» сценарий предполагает, что к 2030 году ИИ принимает на себя половину всей выполняемой человеком умственной работы. Он ещё не внедряется повсеместно, но по большей мере действует в автономном режиме. Большинство рабочих задач выполняется «по старинке», без привлечения ИИ. В результате темпы роста ВВП США удваиваются: с 2–2,5 % до 4–5 % в год. «Экстремальная» модель исходит из того, что в подавляющем большинстве задач умственного труда ИИ превосходит человека и заменяет его, действуя в автономном режиме, и у человека почти не появляется новых задач. ВВП США начинает расти со скоростью 15 % в год, то есть через 4,5 года удваивается. При таком сценарии американцы в целом богатеют, но число работников умственного труда сокращается, и безработица выходит на беспрецедентный уровень, потому что программистам и другим специалистам придётся сменить сферу деятельности, а найти новую работу станет значительно труднее. В августе Anthropic провела опрос, и большинство респондентов предсказало к 2030 году развитие событий по «существенной» модели: К 2030 году ВВП станет на 10 % выше, чем был бы без ИИ, а показатель безработицы достигнет примерно 5 %. И ещё 10 % опрошенных склоняются к «экстремальному» сценарию. 25 лауреатов Филдсовской премии забили тревогу из-за успехов ИИ в математике
12.09.2026 [09:51],
Павел Котов
Участие искусственного интеллекта в математической науке создаёт угрозу для научного знания и математического сообщества, говорится в открытом письме, подписанном 25 лауреатами Филдсовской премии — самой престижной награды в математике. 
Источник изображения: Saad Ahmad / unsplash.com Проблема в том, указывают учёные, что цели ИИ-лабораторий и математического сообщества расходятся. Для разработчиков решение известных задач — это возможность продемонстрировать возможности ИИ; математики же воспринимают его как средство получения новых знаний и методов — основной целью «являются концептуальное понимание и новые идеи». Ранее решение известных задач было сопряжено с длительным изучением новых идей и методов — результаты решений обсуждались, упрощались и соотносились с предыдущими исследованиями, после чего они попадали в учебники и использовались в других областях знаний. С ИИ эта экосистема человеческих знаний разрушается: результаты публикуются в спешке без соответствующего оформления, указания на новые методы и связи с работами других учёных. Возникают новые вопросы об авторстве и плагиате: чтобы созданные ИИ идеи в полной мере воплощались, требуется участие членов математического сообщества, способных эти идеи развить и интегрировать в сложившуюся систему знаний. ИИ действительно способен ускорить исследования в области математики, но фактическая польза для человечества будет зависеть от людей, которые управляют этой технологией. На этой неделе OpenAI сообщила о решении проблемы существования гладкости решений уравнений Навье — Стокса; проверка и формализация результата заняли у внутренней модели компании ещё 17 часов. Впоследствии профессор математики Нью-Йоркского университета заподозрил OpenAI в использовании наработок, принадлежащих ему и его коллеге, который работает в Anthropic. OpenAI не смогла ни опровергнуть подозрения учёных, ни предложить им компромиссного решения. «Яндекс» сделал открытой ИИ-модель, на которой основаны быстрые ответы в её поисковике
12.09.2026 [09:45],
Павел Котов
«Яндекс» опубликовала в открытом доступе обученную с нуля собственную модель искусственного интеллекта Alice AI Search Pretrain, которая составила основу службы быстрых ответов в поиске. 
Источник изображения: yandex.ru/company Компактная языковая модель Alice AI Search Pretrain прошла первый этап обучения и располагает большим объёмом знаний о мире. Компактные размеры позволяют ей обходиться скромными вычислительными мощностями, выдерживать значительную нагрузку и обрабатывать большие объёмы документов. Гибридная архитектура модели ранее применялась преимущественно в научных исследованиях: в ней используются технологии Encoder-Decoder и MoE (Mixture of Experts). Первая помогает ей отвечать ёмко и лаконично за счёт того, что одна часть модели ищет информацию, а другая составляет ответ. Вторая технология позволяет ей обходиться только теми собственными фрагментами, которые наиболее соответствуют теме запроса: при размере 35 млрд параметров для обработки одного токена подключаются только 600 млн — менее 2 % от общего объёма. Разработанная «Яндексом» Alice AI Search Pretrain превосходит другие языковые модели небольшого размера: замеры методом слепого тестирования показали, что качество её ответов выше, чем у Alibaba Qwen 3.5 2B и 4B и Google T5 Gemma 2 4B-4B Base, — она отвечает примерно на уровне более требовательной к вычислительным ресурсам Qwen 3.5 35B-A3B. В «Яндекс Поиске» работает прошедшая дополнительное обучение версия этой модели Alice AI Search — в её подготовке учтены реальные примеры взаимодействия пользователей поисковой службы. «Не люблю, когда мне лезут в душу»: Meta✴ изменила алгоритм своего чат-бота после жалоб на бестактные личные вопросы
11.09.2026 [18:47],
Сергей Сурабекянц
Компания Meta✴✴ была вынуждена внести коррективы в алгоритмы подсказок своего чат-бота, так как искусственный интеллект стал чересчур интересоваться частной жизнью пользователей. Недавно в Сети распространилось видео, демонстрирующее, как чат-бот пытается выяснить личную информацию о маленьких детях. Компания признала, что «допустила ошибку» и «эта функция не должна была предлагать пользователю подобные вопросы». 
Источник изображений: unsplash.com На прошлой неделе пользователь Instagram✴✴ Кейли Робинс (Kalie Robins) рассказала, как ИИ-помощник Meta✴✴ начал бестактно выведывать информацию о её детях. Она разместила в Facebook✴✴ видео, где вместе с ребёнком поёт в машине, после чего под видео появился запрос от ИИ: «Кто этот ребёнок-пассажир?». По словам Робинс, чат-бот Meta✴✴ сопоставил информацию о её дочерях из её собственных прошлых публикаций и постов её родственников. Система стала задавать дополнительные вопросы, касающиеся возраста детей и места жительства её семьи. Кроме того, как утверждает Робинс, Meta✴✴ AI показал фотографии её дочерей, ранее размещённые на платформе, включая снимок, который она удалила много лет назад. Представитель Meta✴✴ Дина Эль-Кассаби (Dina El-Kassaby) заявила, что проблема, из-за которой чат-бот Meta✴✴ задавал вопросы на слишком личные темы, уже устранена: «Мы создали эту функцию, чтобы помочь людям получать больше информации о темах или публикациях, которые их интересуют. Когда пользователь нажимает на подсказку и использует эту функцию, сгенерированный ответ основывается на информации, к которой у пользователя уже есть доступ».  Meta✴✴ интегрировала своего ИИ-помощника в Facebook✴✴, Instagram✴✴, WhatsApp и Messenger. Он способен отвечать на вопросы, писать посты и генерировать изображения. В июле компания отказалась от функции, позволявшей создавать ИИ-дипфейки других пользователей Instagram✴✴, после того как столкнулась с резкой критикой. OpenAI ускорит научные исследования с помощью ИИ — первый «исследователь-стажёр» появится уже в сентябре
11.09.2026 [17:45],
Павел Котов
OpenAI подтвердила, что проект по созданию полностью автоматизированного исследователя с искусственным интеллектом идёт по графику: до конца текущего месяца будет выпущен «исследователь-стажёр». Этот «стажёр», способный выполнять исследовательские задачи по поручению человека, является важным этапом на пути к созданию полностью автоматизированной системы, которую OpenAI планирует представить в марте 2028 года. 
Источник изображения: Mariia Berezovsky / unsplash.com ИИ-стажёр способен выполнять задачи, на решение которых у человека ушли бы несколько дней. Обосновывая разработку этого приложения, OpenAI указывает на снижение стоимости технологий ИИ и необходимость обеспечить защиту критически важной инфраструктуры от угроз, которые исходят от мощных систем ИИ. Она могла бы не обнародовать эти соображения, если бы не инцидент со взломом Hugging Face. О работе по созданию ИИ-исследователя глава OpenAI Сэм Альтман (Sam Altman) объявил в октябре 2025 года. «Считаем вполне вероятным, что к сентябрю будущего года у нас появится ИИ-ассистент исследователя уровня стажёра, а к марту 2028 года — полноценный ИИ-исследователь», — рассказал тогда он. Говоря о текущем состоянии проекта, OpenAI пояснила, что под «исследователем-стажёром» понимается «система, способная выполнять чётко определённые исследовательские задачи под руководством человека, в том числе такие, выполнение которых заняло бы у квалифицированного исследователя несколько дней. <..> Исследовательская деятельность с ИИ — это сложный процесс со множеством возможных узких мест, <..> а агентные инструменты существенно ускоряют прогресс в исследованиях». OpenAI выступила против использования механизма рекурсивного самосовершенствования при исследованиях с помощью ИИ, отмечая, что обеспечить безопасность такого процесса на данном этапе развития технологий невозможно. Компания отмечает, что «исследования с использованием ИИ-агентов — новое направление, и мы всё ещё учимся оценивать их результаты»; а также указывает, что появление ИИ-агентов в исследовательской области может значительно изменить её, когда разработка системы завершится. Xiaomi выпустила ИИ-модель CocktailASR-1 для распознавания речи в шумных помещениях
11.09.2026 [17:43],
Павел Котов
Xiaomi представила открытую модель искусственного интеллекта CocktailASR-1. Она предназначена для решения одной из наиболее сложных задач в области расшифровки аудио — выделения голоса конкретного человека в ситуации, когда несколько людей говорят одновременно. 
Источник изображения: Xiaomi В Xiaomi проблему условно обозначили как «эффект коктейльной вечеринки». Большинство специализированных ИИ-моделей справляются с распознаванием речи, когда говорит один человек, но если друг на друга накладываются несколько голосов, ситуация значительно усложняется. Текст искажается, предложения сливаются, а реплики приписываются не тем собеседникам. В обратном направлении компания решила эту задачу с моделью OmniVoice — CocktailASR-1 же не генерирует, а выделяет и расшифровывает речь. Для работы с моделью необходимо представить короткий образец с голосом нужного человека. Она использует его как эталон, а затем, проанализировав запись с несколькими участниками, распознает и расшифрует речь только этого человека. В ряде тестов по распознаванию речи в условиях многоголосных образцов она, отметили в Xiaomi, продемонстрировала ведущие результаты и превзошла существующие аналоги, предназначенные для решения той же задачи. Сложными условиями её возможности не исчерпываются — она умеет расшифровывать речь и в том случае, когда на записи голос только одного человека. Она также умеет избегать необоснованных предположений: если в предложенной записи указанный в качестве образца голос отсутствует, она выдаст пустой текст и не будет пытаться расшифровать слова другого человека. Наконец, у Xiaomi CocktailASR-1 есть режим цепочки рассуждений — он позволяет пользователям изучать логику, на основе которой выполнялась расшифровка, а не просто видеть итоговый текст. Новая модель доступна на GitHub и Hugging Face. Цукерберг хотел плоскую Meta✴, но ИИ всё изменил — пониженных сотрудников возвращают на руководящие должности
11.09.2026 [16:44],
Павел Котов
Meta✴✴ частично отказалась от курса на создание подразделений с «плоской» структурой при минимальном числе руководящих работников: некоторым сотрудникам отдела прикладного искусственного интеллекта (Applied AI) было предложено перейти с позиций рядовых специалистов обратно на руководящие должности. 
Источник изображения: Mark Zuckerberg Компания предложила сотрудникам стать менеджерами на добровольной основе, без принуждения, сообщает Business Insider. Официальных комментариев от Meta✴✴ по данному вопросу не последовало, и нет ясности, как отразится отказ на тех, кто не захочет менять статус. В созданное в этом году подразделение перевели около 7000 человек. Часть работников, которые ранее занимали руководящие посты, при переводе в отдел прикладного ИИ заняли позиции рядовых специалистов. Многие почувствовали себя так, будто их «мобилизовали» в новое подразделение, то есть в компании образовалось внутреннее напряжение. Курс на сокращение руководящих сотрудников Meta✴✴ взяла в 2023 году, который глава компании Марк Цукерберг (Mark Zuckerberg) объявил «годом эффективности»; он также пояснил, что «плоская» организационная структура поможет компании действовать более гибко и быстрее адаптироваться к переменам. В этом году Meta✴✴ намерена потратить более $130 млрд на оборудование и инфраструктуру для ИИ, и потребность в традиционных моделях управления, вероятно, возникла из-за роста отдела прикладного ИИ. Но инициированная некогда господином Цукербергом программа повышения эффективности, предусматривающая сокращение управленческого звена, видимо, продолжает действовать в других направлениях бизнеса, а набор новых менеджеров затрагивает только отдел прикладного ИИ. Процесс запуска нового ИИ-отдела в Meta✴✴ был организован «безобразно», признал ранее технический директор компании Эндрю Босворт (Andrew Bosworth) и пообещал при проведении будущих изменений более качественную коммуникацию с сотрудниками. OpenAI научила ИИ говорить и слушать одновременно — полнодуплексная модель GPT-Live-1 доступна разработчикам
11.09.2026 [16:06],
Павел Котов
OpenAI открыла через API доступ к новейшей голосовой модели искусственного интеллекта, поддерживающей полнодуплексный режим, то есть она может одновременно говорить и слушать. Это позволяет разработчикам создавать голосовые приложения с новыми сценариями диалогового взаимодействия. 
Источник изображения: Brecht Corbeel / unsplash.com Модель OpenAI GPT-Live-1 была анонсирована в июле — она позволяет вводить запросы не текстом, а голосом. Первоначально она была доступна только через интерфейс ChatGPT, а теперь может использоваться по API. Полнодуплексный режим позволяет GPT-Live-1 одновременно слушать и генерировать речь, что делает общение более естественным. В обычном разговоре люди часто говорят одновременно, и необходимость строго соблюдать очерёдность, как при полудуплексной радиосвязи, может вызывать раздражение. Особое внимание в OpenAI уделили возможностям настройки модели: внедряющие GPT-Live-1 разработчики могут адаптировать механизмы голосового взаимодействия и связанные с ними рабочие сценарии под нужды пользователей приложений. «Основное преимущество GPT-Live-1 — способность штатно обрабатывать ситуации, когда собеседник перебивает ИИ, — уже приносит бизнесу ощутимую пользу: в ходе предварительного тестирования сервис Speak установил, что GPT-Live-1 даёт ученикам больше времени перед ответом виртуального преподавателя языка, сократив случаи с перебиванием на 80 % по сравнению с предыдущими системами, работающими в режиме строгой очерёдности реплик», — рассказали в OpenAI. GPT-Live-1 предназначается для ведения устного диалога, в то время как модель в бэкенде, например, флагманская GPT-6 Astra или более экономичная для простых задач, занимается поиском информации, работает с инструментами и управляет задачами. Новая модель представляет собой шаг вперёд по сравнению с выпущенной в 2024 году Realtime. В тесте Tau3, который оценивает интеллектуальные возможности голосовых агентов при выполнении задач по обслуживанию клиентов, GPT-Live-1 набрала 86,2 %, а GPT-Realtime-2.1 и GPT-Realtime-2 показали 45,7 % и 42,4 % соответственно. Новая модель, по собственным оценкам OpenAI, демонстрирует на 30 % более высокую эффективность в тесте Full Duplex Bench по сравнению с GPT-Realtime-2.1, превосходя предшественницу по таким параметрам как задержка при смене говорящего и качество интерактивного взаимодействия. Её уже внедрили на сервисе Yelp Host — теперь бронирование столиков стало более естественным. Стоимость работы с GPT-Live-1 составляет $0,05 за минуту плюс затраты на работу модели в бэкенде. Она также доступна через OpenAI Presence — корпоративную платформу для создания интеллектуальных агентов. Google выпустила приложение Gemini для Windows
11.09.2026 [14:09],
Павел Котов
Google объявила о выпуске приложения помощника с искусственным интеллектом Gemini для Windows. Оно выступает дополнением к привычным для пользователей рабочим инструментам и повседневным программам, предлагая быструю помощь по разным вопросам без отрыва от работы.  Предусмотрен быстрый запуск приложения Gemini поверх активного окна по нажатию сочетания клавиш Alt + Space. Если, например, требуется быстро проверить факты в документе или придумать заголовки к слайдам в презентации, пользователь может получить необходимую помощь в оперативном режиме и быстро вернуться к работе. Доступны функции работы над задачами в выделенном рабочем пространстве. В приложении есть все привычные для опытных пользователей функции Gemini: задачи можно поручить доступному круглосуточно ИИ-агенту Gemini Spark, который доступен, правда, только платным подписчикам. ИИ-помощник может составить черновую сводку материалов проекта, проанализировав информацию в сервисах Google, в том числе Gmail и «Google Диск». Через приложение можно генерировать изображения для презентаций с помощью модели Nano Banana, а также создавать видеоролики при помощи подключённой к платформе Gemini Omni. Приложение Gemini для Windows, заверили в Google, работает незаметно и не замедляет работу компьютера. Со временем разработчик будет добавлять в него новые функции, свойственные полноценным десктопным приложениям. Оно совместимо с Windows 10 и 11. Гонку ИИ пора притормозить, но это может быть незаконно — OpenAI попросила Конгресс разобраться
11.09.2026 [12:09],
Владимир Мироненко
Лидеры ИИ-индустрии выражают обеспокоенность тем, что антимонопольное законодательство может стать помехой скоординированному замедлению развития ИИ в целях обеспечения безопасности. Как сообщает Wired со ссылкой на источники, OpenAI недавно обратилась к членам Конгресса США с просьбой дать разъяснение относительно того, будет ли законным организовывать общеотраслевое замедление развития ИИ. 
Источник изображения: Growtika/unsplash.com О необходимости такого замедления недавно заявил Якуб Пачоцки (Jakub Pachocki), главный научный сотрудник OpenAI. По его словам, это позволит выстроить надёжные механизмы контроля над самообучающимися ИИ-системами. Однако, по мнению экспертов, предлагаемая координация действий для замедления будущего развития ИИ может противоречить законодательству США, в частности, Антимонопольному закону Шермана (Sherman Antitrust Act). В июле двухпартийная группа конгрессменов представила законопроект «О сотрудничестве в борьбе с враждебными угрозами и рисками безопасности», который позволит защитить координацию ИИ-компаний в вопросе замедления от антимонопольных претензий. На данный момент документ ожидает рассмотрения в юридическом комитете. Между тем эксперты считают, что ссылки на антимонопольные риски — лишь удобное прикрытие для того, чтобы избежать обсуждения реальных причин, по которым разработчики ИИ избегают сотрудничества. На самом деле между компаниями идёт ожесточённая борьба за то, чтобы захватить часть зарождающегося рынка передовых моделей. Также существуют опасения, что опережение Китаем в области ИИ будет иметь значительные последствия для национальной безопасности. И, что самое важное, у разработчиков ИИ имеются совершенно разные мнения о наилучшем способе разработки безопасного ИИ, и поэтому они могут неохотно сотрудничать друг с другом в этом вопросе, пишет Wired. «Первым шагом для лидеров отрасли OpenAI и Anthropic является прекращение вражды и совместная работа над новым предложением, — сообщил в соцсети X Джон Шульман (John Schulman), соучредитель OpenAI, — Они ссылаются на антимонопольное законодательство, но это ложь — антимонопольное законодательство запрещает определённые соглашения, но не совместную разработку предложения». Этим летом резко обострились дебаты по поводу рисков, связанных с развернувшейся гонкой между ИИ-компаниями за создание и выпуск всё более мощных моделей. Масла в огонь добавило заявление бывшего исследователя Anthropic и OpenAI Джейкоба Коксона (Jacob Coxon) о том, что разработчики искусственного интеллекта подвергают человечество риску. К тому же, ряд инцидентов с безопасностью, в том числе хакерская атака агентов OpenAI на Hugging Face, показали, что отраслевые средства защиты не успевают за ростом возможностей моделей. Anthropic предотвратила несколько попыток создания биологического оружия с помощью Claude
11.09.2026 [11:30],
Алексей Разин
На ранних этапах развития систем генеративного искусственного интеллекта их создатели обеспокоились проблемой безопасности, поскольку предположили, что с их помощью некоторые пользователи попытаются создать новые виды оружия, включая биологическое. Anthropic утверждает, что в этом году смогла предотвратить несколько попыток создания биологического оружия. 
Источник изображения: Anthropic Данная информация стала доступна после публикации отчёта Anthropic о случаях некорректного использования её ИИ-моделей. При этом сама компания подчёркивает, что не может с уверенностью говорить о наличии у связанных с этими инцидентами учёных умысла на создание именно биологического оружия. По сути, запросы к ИИ-моделям в этой сфере нередко используются для разработки вакцин от опасных патогенов, и определить по их составу истинные намерения разработчика сложно. Тем не менее, на всякий случай Anthropic решила обратить внимание регуляторов на данные инциденты. До сих пор куда большим вниманием пользовались случаи применения ИИ-моделей для поиска и эксплуатации уязвимостей в информационной инфраструктуре компаний и организаций, а биологические угрозы оставались в большей мере гипотетическими. По словам старшего советника Совета по стратегическим рискам Эндрю Уэбера (Andrew Weber), свежий отчёт Anthropic содержит «леденящие кровь примеры причастности поддерживаемых государством создателей биологического оружия, которые пользуются возможностями быстро развивающихся ИИ-моделей». Объёмный отчёт Anthropic, охватывающий период восьми последних месяцев, традиционно приводит примеры использования ИИ-моделей семейства Claude представителями недружественных по отношению к США стран для достижения определённых политических целей. Впервые при этом были приведены примеры использования Claude для разработки традиционных видов оружия, включая огнестрельное, ракетное, а также бомбы и боевые дроны. Anthropic не была столь категоричной в идентификации случаев, описывающих попытки разработки биологического оружия, поскольку не уверена в наличии у авторов запросов именно злонамеренных мотивов. По этой причине не были названы ни организации, ни страны, причастные к соответствующей активности. Однако, компанию насторожили попытки авторов исследований скрыть своё происхождение и цели подобной активности, поэтому соответствующие учётные записи были заблокированы. В качестве одного из примеров приводятся попытки некоего исследователя изучить специфику распространения вируса чикунгунья, который передаётся человеку через укусы инфицированных комаров и вызывает продолжительные боли в суставах, сопровождающиеся сильной лихорадкой. По версии Anthropic, конкретный исследователь пытался модифицировать вирус, придав ему более выраженные вредоносные свойства. Помимо теоретических изысканий, данный исследователь проводил практические эксперименты на животных, а лабораторию для этих целей должен был предоставить некий исследовательский институт оборонного назначения. Ещё в прошлом году, по оценкам самой Anthropic, её собственные модели не были достаточно продвинутыми для содействия человеку в проведении биологических исследований, способных привести к созданию оружия. Нынешние версии ИИ-моделей Anthropic уже способны оказывать содействие в таких вопросах, а потому назревает необходимость введения защитных и ограничительных мер. Эксперты подчёркивают, что ИИ на нынешнем этапе своего развития предоставляет возможности как по созданию лекарственных средств, так и биологического оружия, противостоять которому без подготовки человечество не сможет. Эндрю Уэбер призвал ограничить доступ исследователям из недружественных к США стран к подобным ИИ-инструментам. Anthropic поймала DeepSeek и Moonshot на том, что они перенаправляют запросы клиентов в Claude вместо собственных моделей
11.09.2026 [10:50],
Павел Котов
Компания Anthropic опубликовала отчёт, в котором подробно изложила выявленные случаи недопустимого и потенциально опасного использования её моделей искусственного интеллекта семейства Claude. Документ включает семь разделов: кибероперации, слежка, операции влияния, разработка вооружений, биологические сценарии, мошенничество и дистилляция. 
Источник изображений: anthropic.com ИИ-модели семейства Claude использовались киберпреступниками для реальных взломов. Одна из группировок развернула атаки на более чем 20 организаций — ИИ использовался для разведки, подготовки фишинговых схем, прямого запуска атак, кражи учётных данных, продвижения по взломанным сетям и обработки похищенной информации. Claude не только писал вредоносный код, но и адаптировал его для конкретного окружения: когда система защиты на целевом ресурсе обнаруживала вредонос, ИИ выявлял причину обнаружения, переписывал программу, пересобирал и снова запускал её — цикл повторялся, пока защита не переставала реагировать на вторжение. Другая группировка киберпреступников использовала Claude для анализа кода в 1,8 млн приложений для Android на предмет поиска ключей и прочих учётных данных — они впоследствии использовались для взлома корпоративных сетей и кражи информации. В одном случае удалось похитить более терабайта данных, в другом добычей киберпреступников стали несколько десятков миллионов записей о пассажирах одной авиакомпании. ИИ-помощник Anthropic Claude использовался как вспомогательное средство для слежки за гражданами разных стран. Он, в частности, создал систему массового перехвата коммуникаций, способную работать с сетями всех мобильных операторов одной из африканских стран. В другой стране его использовали для разработки вредоносного расширения для браузера Mozilla Firefox, которое собирало сведения о пользователях соцсетей. В третьей стране Claude помог в обработке огромных массивов публикаций в соцсетях: определял местоположение людей, их демографические характеристики и политические взгляды. Обнаружены девять операций влияния, в которых Anthropic Claude сыграл важную роль. Разрабатывались и наполнялись новостные сайты с фальшивыми материалами, регистрировались тысячи учётных записей в соцсетях, для которых готовились материалы и комментарии. В рамках только одной операции были созданы около тысячи учётных записей в соцсети X — предусматривался даже период «прогрева», чтобы создать впечатление, что материалы публикуют реальные люди. Некоторые из таких операций Anthropic обнаруживала на стадии подготовки, поэтому они не доходили до аудитории.  Четвёртая группа сценариев применения Anthropic Claude — сфера вооружений. ИИ-помощник использовался в разработке ПО для оружейных систем: управляемых ракет, торпед, роя дронов, а также системы наведения радиоэлектронной борьбы и подавления ПВО. ИИ помогал в поиске и закупках компонентов вооружений, а также для сбора разведывательной информации. Речь идёт не о проектировании оружия с нуля — у подобных пользователей уже были специалисты, оборудование и готовые военные программы, поэтому Claude привлекался для отдельных задач. Anthropic приводит пять случаев недопустимого применения Claude в области биологии. Это были реальные научные работы с двойным назначением, то есть их результаты могли использоваться как в медицине, так и для создания опасных биологических агентов. Исследовались аспекты работы одного из вирусов, в том числе его способность к распространению и уклонению от иммунной системы человека. Claude использовался преимущественно для планирования исследований, анализа данных и научной литературы. В наиболее опасных случаях защитные механизмы Anthropic ограничивали доступ к более мощным моделям, однако часть запросов, имевших двойное назначение, проходила без блокировки. Anthropic не утверждает, что указанные исследователи имели некий злой умысел, но их работа могла иметь двойное назначение. По направлению мошеннических действий самым наглядным инцидентом стала разработка китайской компанией сети из более чем 20 приложений для знакомств — в них пользователи общались не только с реальными людьми, но и с ИИ-персонажами, которые выдавали себя за людей. За две недели Anthropic удалось обнаружить более 4700 таких персонажей — с ними вели переписку не менее 25 000 реальных пользователей. В ряде случаев управление персонажами перехватывали операторы — например, для подтверждения контакта или при видеозвонке. За две недели были отправлены около 2,36 млн сообщений, в том числе изображения и подсказки для операторов. Наконец, Anthropic рассказала об инцидентах с незаконной дистилляцией своих моделей, прямо указав, какие китайские компании, по её версии, проводили такие операции. Связанные с Alibaba компании создали 3500 учётных записей, и в пиковый момент генерировали до 3 млн обращений к Claude в сутки. Это были задачи на рассуждения, написание кода, разработку ядра ОС, задачи для агентов и задачи с длительными последовательностями действий — всё это конвертировалось в обучающие данные для моделей Qwen, утверждают в Anthropic. Китайские разработчики DeepSeek, Xiaomi и Moonshot перенаправляли запросы клиентов в Claude вместо того, чтобы обрабатывать их с помощью собственных моделей. Moonshot AI за десять дней отправила в Claude почти 300 тыс. запросов, а DeepSeek сделала 12,1 млн обращений за две недели, включая попытки дистилляции. При этом ответы, полученные от Claude, к тому же используются как обучающие данные для собственных моделей китайских компаний. Среди этих данных присутствовала личная информация пользователей: имена, адреса электронной почты, корпоративные сведения и учётные данные для доступа к системам. Приводятся примеры с передачей ИИ финансовых прогнозов компаний. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
