Сегодня 18 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → искусственный интеллект
Быстрый переход

ИИ впервые создал жизнеспособные вирусы — в лаборатории они успешно поразили бактерии

Когда-то это должно было случиться: по меньшей мере одна группа учёных из США сообщила, что специально обученная модель искусственного интеллекта создала полностью рабочий геном вируса. Даже 16 геномов разных вирусов. Проверка в чашке Петри показала жизнеспособность искусственных структур. Они полностью соответствовали своему назначению — в данном случае поражали определённые бактерии.

 Источник изображений: Arc Institute

Источник изображений: Arc Institute

«Это была новая территория для нас, — хвастают учёные. — В лаборатории даже раздались аплодисменты, когда вирус начал уничтожать бактерии, выращенные в культурной среде».

Конечно же, речь идёт не о вирусах человека (тут придётся запастись терпением), а о бактериофагах — вирусах, заражающих бактерии. В качестве основы учёные использовали хорошо изученный фаг ΦX174, геном которого состоит всего из 5386 нуклеотидов и содержит 11 генов. Именно ΦX174 в 1977 году стал первым полностью секвенированным геномом, а в 2003 году — одним из первых геномов, целиком собранных с помощью химического синтеза. Вирусы оказалось возможным собирать с нуля. Сегодня с нуля их можно и проектировать.

Для проектирования применялись геномные языковые модели Evo 1 и Evo 2, работающие по принципу, схожему с принципом работы больших языковых моделей: только вместо следующего слова в предложении они предсказывают последовательность нуклеотидов ДНК. Базовые модели обучались более чем на двух миллионах геномов фагов, после чего их дополнительно дообучили на 14 466 последовательностях бактериофагов семейства Microviridae.

ИИ генерировал тысячи вариантов генома, а исследователи отбирали последовательности с подходящим набором генов, структурой и предполагаемой способностью заражать лабораторный штамм бактерии *Escherichia coli* C. Важным было сохранить специфичность только к этой бактерии, и за этим следили особенно тщательно.

После компьютерного отбора несколько сотен геномов синтезировали в виде ДНК и проверили экспериментально. Так были испытаны 285 собранных конструкций, из которых 16 привели к появлению жизнеспособных бактериофагов. Они размножались внутри целевых бактерий и вызывали лизис — разрушение бактериальных клеток.

Некоторые искусственные вирусы сильно отличались от известных природных вариантов: каждый содержал от 67 до 392 новых мутаций относительно ближайшего природного родственника. Один из них, Evo-Φ2147, имел всего 93 % сходства по нуклеотидной последовательности с ближайшим известным фагом NC51, то есть по некоторым критериям мог бы считаться отдельным видом.

Практическая цель технологии заключается в создании новых средств борьбы с устойчивыми к антибиотикам бактериями, разработке лекарств и, в более широком смысле, защите здоровья человека. «Бояться нечего, всё под контролем и прочее» — это обычное начало всех историй с апокалипсическим финалом. В чём точно можно быть уверенным: если окажется возможным вывести новый смертельный для человека вирус, то его обязательно выведут — и, скорее всего, одним из первых.

ИИ в поиске Google убедил людей, что дорожные камеры набиты золотом — началась волна вандализма

ИИ Google превратил фейк о камерах наблюдения Flock Safety в «технический факт»: алгоритм AI Overview в поиске утверждал, что в каждой такой автономной камере распознавания автомобильных номеров содержится 1–5 г золота, а также 0,9–10,4 кг меди. Тем самым только стоимость золота в одной камере оценивалась примерно в $650. ИИ элементарно не проверил, что масса самой камеры составляет 1,36 кг, и продолжил распространять недостоверную информацию, провоцируя случаи вандализма в отношении этих устройств.

 Источник изображения: Flock

Источник изображения: Flock

История началась со скандалов, связанных с системой наблюдения Flock Safety. Сообщалось о злоупотреблениях, когда отдельные полицейские использовали систему для слежки в личных целях. Наконец, мало кому нравится чувствовать себя под постоянным контролем. На этом фоне возник фейк, поощряющий уничтожение камер компании, — утверждение о высоком содержании в них драгоценных металлов и даже меди. Это не первый и не последний фейк в интернете. Но в этот раз у нас был ИИ, который без проверки подхватил недостоверную информацию и начал самостоятельно распространять её.

На самом деле золото в такой электронике действительно присутствует, но лишь в следовых количествах — главным образом в покрытиях контактов, разъёмов и отдельных элементов печатных плат. То же относится и к меди: она используется в проводниках и дорожках печатных плат, однако её количество ничтожно мало. После публикации этой истории Google изменил AI Overview: теперь поиск предупреждает, что рассказы о граммах извлекаемого золота и килограммах меди — это чья-то шутка и результат галлюцинаций ИИ, а реальное содержание драгоценных металлов сопоставимо с тем, что характерно для обычной компактной электроники, — микрограммы или около того.

История с «золотыми камерами» стала очередным характерным примером повторения и распространения генеративным ИИ недостоверных фактов. Что особенно огорчает, платформа не выполнила элементарную проверку их правдоподобности — заявленная масса одной лишь меди многократно превышала массу всего устройства. Сколько камер пострадало в результате этого, история умалчивает. Впрочем, люди хорошо справляются с распространением фейков и без ИИ. В 2020 году вышки сотовой связи жгли без каких-либо подсказок с его стороны. Но кого-то ведь нужно назначить виновным? Не себя же!

Похож на пончик и двигается: раскрыты новые подробности о первом ИИ-гаджете OpenAI от Джони Айва

OpenAI готовит к выпуску своё первое ИИ-устройство, которое получит форму пончика размером с хоккейную шайбу и подвижные элементы для имитации живого общения. Компания позиционирует продукт в качестве автономного ИИ-компаньона и планирует вывести новинку на рынок в 2027 году.

 Источник изображения: OpenAI (изменено)

Источник изображения: OpenAI (изменено)

Устройство, как сообщает Bloomberg, внешне будет напоминать умную колонку без дисплея, однако получит более компактный форм-фактор. При этом благодаря встроенному аккумулятору его можно будет использовать не только стационарно на твёрдой горизонтальной поверхности, но и держать в руках. Основной упор сделан на голосовое взаимодействие, при котором гаджет сможет работать аналогично голосовому режиму ChatGPT. Со временем система будет запоминать предпочтения владельца и персонализировать диалоги.

Для создания более выразительного интерфейса OpenAI оснастит устройство подвижными элементами, которые будут менять положение во время его работы. Кроме того, в конструкции предусмотрены световые индикаторы, сигнализирующие о прослушивании команд, а также микрофоны, динамики, камера и дополнительные датчики. Всё это позволит системе анализировать окружающую обстановку и использовать визуальную информацию при работе.

Разработка ведётся совместно со студией LoveFrom, основанной Джони Айвом (Jony Ive). Устройство получит премиальный внешний вид и корпус из высококачественного металла, а его стоимость может варьироваться в диапазоне от $300 до $400, что сделает новинку дороже большинства умных колонок, но дешевле стандартных моделей iPhone. В перспективе компания намерена сформировать целую линейку подобных устройств. В дальнейшем она рассматривает возможность создания продуктов, способных заменить современные смартфоны.

Одновременно с этим OpenAI продолжает судебное разбирательство с Apple. Производитель iPhone утверждает, что компания использовала принадлежащие Apple технологии при разработке будущих устройств. OpenAI отвергает эти обвинения, называя их слишком расплывчатыми, и подчёркивает, что иск не содержит доказательств связи претензий именно с новым устройством. После подачи иска OpenAI также провела внутреннюю проверку и заявила, что не использует коммерческие секреты Apple.

Несмотря на судебный спор, работа над проектом продолжается. В документах, направленных в суд, OpenAI заявила, что создаёт «нечто совершенно новое», не похожее на существующие продукты Apple. Однако источники отмечают, что возможный судебный запрет, если он будет удовлетворён, способен осложнить планы компании, которая по-прежнему рассчитывает представить устройство в ближайшее время, а вывести его на рынок — в 2027 году.

RTX Spark становится ближе: Nvidia перенесла нейросетевое сжатие текстур на Windows on Arm

Компания Nvidia адаптировала технологию нейросетевого сжатия текстур (Neural Texture Compression, NTC) для Windows на Arm, готовясь к общему выпуску своей платформы RTX Spark.

 Источник изображений: Nvidia

Источник изображений: Nvidia

Технология была впервые продемонстрирована в мае на выставке GTC 2026. Тогда компания показала, как NTC способна значительно сократить использование памяти видеокарт. В ходе демонстрации NTC снизила использование видеопамяти с 6,5 Гбайт до всего лишь 970 Мбайт в определённых сценах.

Традиционно в играх используются форматы блочного сжатия текстур, такие как BCn, например BC5, BC6 или BC7, которые обычно применяются для блоков пикселей размером 4 × 4 и обрабатываются графическим процессором. Однако Nvidia обучила небольшие нейронные сети создавать требуемое представление пикселей и внешний вид текстур при значительно меньшем размере по сравнению с традиционными форматами сжатия текстур. NTC значительно сокращает использование видеопамяти за счёт эмуляции текстур, что позволяет либо значительно снизить её потребление, либо существенно улучшить внешний вид материалов.

В рамках подготовки к выпуску платформы RTX Spark компания Nvidia расширяет программную экосистему, чтобы будущие покупатели систем на базе RTX Spark получили готовое программное обеспечение, которое без проблем будет работать «из коробки» без необходимости использования обходных решений. Ранее сообщалось, что даже легендарная игровая компания SEGA согласилась выпускать игры для RTX Spark. Nvidia уже начала поставлять первую предварительную версию CUDA Toolkit для платформы RTX Spark, в частности, в качестве встроенного программного инструментария для Windows на Arm. Теперь же на платформе появилась поддержка NTC.

Платформа RTX Spark был представлена в двух конфигурациях: с 6144 ядрами CUDA и с 5120 ядрами CUDA. Обе используют графическую архитектуру Blackwell и работают в паре с 20-ядерным процессором Arm, а также унифицированной памятью LPDDR5X объёмом до 128 Гбайт.

ChatGPT стал безлимитным: OpenAI отменила ограничения на текстовые чаты и перевела всех на GPT-5.6

Компания OpenAI сегодня анонсировала отмену ограничений на текстовые чаты для всех пользователей ChatGPT. Новой моделью по умолчанию для пользователей ChatGPT Free и Go станет GPT-5.6 Luna, которая заменит модель GPT-5.5.

 Источник изображения: Berke Citak / unsplash.com

Источник изображения: Berke Citak / unsplash.com

Для платных и бесплатных пользователей также появится новая функция «Думай». При её выборе чат-бот будет использовать более высокий уровень логического мышления для ответов на сложные вопросы. По словам OpenAI, для файлов, изображений, голосовых сообщений и генерации изображений по-прежнему будут действовать отдельные ограничения.

Обновление также касается пользователей подписок Plus и Pro. Они получат доступ к улучшенной модели GPT-5.6 Sol, которая лучше подходит для быстрых задач, поиска информации в интернете, советов, планирования, написания текстов и принятия решений. Компания отметила, что новая модель будет давать «более компактные и надёжные ответы». При этом для ChatGPT будет использоваться отдельная версия GPT-5.6 Sol, а не та, что применяется в сервисах Codex и Work.

Пользователи ChatGPT Plus и Pro также получат возможность настраивать время, которое чат-бот будет тратить на обдумывание ответа. Эта функция будет доступна через специальный ползунок.

Внутренняя оценка OpenAI показала, что по сравнению с GPT-5.5 Instant у GPT-5.6 Luna фактические ошибки в ответах встречались на 62 % реже, а у GPT-5.6 Sol — на 68 % реже. Обновлённая версия GPT-5.6 Sol доступна пользователям Plus и Pro уже сегодня, а изменения для пользователей Free и Go станут доступны до конца этой недели. На следующей неделе пользователи также получат доступ к неограниченному количеству текстовых чатов и новой кнопке «Думай» для более сложных запросов.

Испанцы научили один объектив видеть объём — создан необычный нейроморфный датчик для роботов

Циклоп по определению не мог быть хорошим охотником и вряд ли мог создать проблемы команде Одиссея. Без стереоскопического зрения и сложных нейросистем для его обработки он не смог бы определить расстояние до цели. С этим готова поспорить современная наука, которая стремится разработать как можно более простые оптические системы машинного зрения, не уступающие по возможностям зрению человека.

Испанский технологический центр IKERLAN разработал прототип нейроморфной системы машинного зрения BEGI, способной одновременно определять глубину пространства и отслеживать движение при помощи одного-единственного объектива и датчика. Устройство имитирует сложный глаз насекомого и предназначено для так называемого физического искусственного интеллекта — роботов, беспилотников и других автономных машин, которым необходимо быстро воспринимать окружающий мир и взаимодействовать с ним. В отличие от лидаров и камер глубины, система работает пассивно, то есть не излучает лазерные или инфракрасные импульсы.

В основу прототипа положен динамический датчик изображения Sony–Prophesee IMX636, поверх которого установлена матрица микролинз. Каждый пиксель такого сенсора передаёт данные не через равные промежутки времени, а только при обнаружении изменения яркости, формируя поток отдельных событий. Микролинзы позволяют дополнительно определить направление пришедшего света, а алгоритм прямой стереореконструкции вычисляет форму объектов, глубину и оптический поток без второй камеры. IMX636 имеет разрешение 1280 × 720 пикселей, задержку менее 100 мкс при освещённости 1000 люкс, динамический диапазон свыше 120 дБ и максимальное энергопотребление около 205 мВт.

Главным ограничением нынешнего образца остаётся разрешение: для определения глубины одна и та же точка должна регистрироваться несколькими пикселями под разными углами. Поэтому дальность действия практической версии BEGI пока составляет менее одного метра, а поле зрения — примерно от 20 до 40 градусов. Это сужает круг применения датчиков на такой платформе до задач ближнего действия, включая манипуляторы на промышленных линиях, контроль движущихся механизмов и финальный этап стыковки космических аппаратов, когда датчик должен почти мгновенно обнаруживать небольшие смещения при жёстких ограничениях по мощности и теплоотводу.

Сейчас вычислительная часть BEGI реализована на программируемой матрице FPGA и формирует отфильтрованные кадры событий, динамику, карты оптического потока и глубины. Следующим этапом должна стать разработка специализированной микросхемы ASIC и крупноформатного сенсора с существенно большим числом пикселей. По расчётам разработчиков, такая версия сможет увеличить дальность восприятия приблизительно до 16 метров, а поле зрения — до 120 градусов, сохранив микросекундную реакцию и конструкцию с одним объективом. Это позволит широко применять технологию в мобильных роботах, системах навигации, беспилотниках и автономном транспорте. Но случится ли это? Разработчики надеются, что смогут пройти этот путь.

Сразу несколько ведущих разработчиков ИИ покинули Google и основали новый стартап

В подразделении Google DeepMind произошли крупные кадровые изменения. Как сообщает Ars Technica, генеральный директор Демис Хассабис (Demis Hassabis) объявил, что передаст полномочия другому руководителю и сосредоточится на стратегических задачах в Alphabet, тогда как несколько известных исследователей искусственного интеллекта одновременно сообщили об уходе из Google.

 Источник изображения: Google

Источник изображения: Google

Демис Хассабис, один из основателей DeepMind, объяснил своё решение тем, что намерен уделять больше внимания долгосрочному развитию искусственного общего интеллекта (AGI). В обращении к сотрудникам он отметил, что посвятил этой цели всю карьеру и считает, что момент её достижения уже близок. При этом он сохранит руководство над дочерней компанией Alphabet — Isomorphic Labs, где технологии искусственного интеллекта применяются для решения биомедицинских задач.

Управление текущими процессами DeepMind перейдёт к Кораю Кавукчуоглу (Koray Kavukcuoglu), который займёт должность старшего вице-президента подразделения и будет напрямую подчиняться генеральному директору Google Сундару Пичаи (Sundar Pichai). Сам Хассабис станет председателем DeepMind и главным научным сотрудником Alphabet, сосредоточившись на стратегическом развитии направления.

Одновременно с этими перестановками стало известно об уходе сразу нескольких известных специалистов Google в области искусственного интеллекта. Куок Ле (Quoc Le), Ориоль Виньяльс (Oriol Vinyals), Джефф Дин (Jeff Dean) и Санджей Гемават (Sanjay Ghemawat) решили покинуть компанию и основать стартап Discovery Loop, который займётся автоматизацией научных открытий с помощью ИИ. По данным Wired, финансирование проекта во многом стало возможным благодаря высокой репутации его основателей.

Для Google особенно заметным станет уход Дина и Гемавата, которые стояли у истоков Google. Дин принимал участие в создании технологий, лежащих в основе поисковой системы, а внутри компании его имя давно стало частью неофициальной культуры благодаря сборнику интернет-шуток и баек под названием Jeff Dean Facts, опубликованному на GitHub.

Новая статья: ИИтоги июля 2026 г.: а цемента-то хватит?

Данные берутся из публикации ИИтоги июля 2026 г.: а цемента-то хватит?

Time начал показывать ИИ отдельную версию сайта — без оформления, зато с рекламой

Издание Time начало отдавать нейросетям отдельную версию своего сайта, отличающуюся от той, которую видят обычные пользователи. Вместо привычных HTML-страниц некоторые сервисы искусственного интеллекта получают компактные материалы на лёгком языке разметки Markdown со встроенными рекламными блоками.

 Источник изображения: AI

Источник изображения: AI

На необычное поведение страниц обратил внимание разработчик с сайта Vroni.com, который сравнил ответы сервера Time при обращении с разными значениями User-Agent. При запросах от браузеров Chrome, Safari и поискового робота Googlebot сайт возвращал стандартную HTML-страницу объёмом около 303 Кбайт. Однако при обращении от ClaudeBot, PerplexityBot и OAI-SearchBot сервер отправлял урезанную Markdown-версию размером около 13 Кбайт без оформления, изображений и скриптов, предназначенную для быстрой обработки ИИ-моделями. При этом GPTBot и ChatGPT-User получали ответ с кодом 406, что указывает на выборочный подход к разным типам ИИ-ботов.

Анализ этой версии показал, что она создаётся с использованием технологий рекламной платформы Mobian. Каждому запросу присваивается уникальный идентификатор, а в заголовках ответа присутствуют параметры, связанные с подсчётом обработанных токенов: заголовок cache-control: no-store исключает возможность кеширования, вынуждая систему обращаться к серверу повторно. При этом параметр x-mobian-tokens указывает, что единицей монетизации служат не просмотры страниц, а непосредственно токены, потребляемые нейросетями. Такая архитектура превращает каждое обращение ИИ-агента в отдельный показ спонсорского контента.

Различия касаются не только формата страниц, но и их содержания. Например, в Markdown-версии подборки Best Inventions of 2025 исследователь обнаружил спонсорский раздел Ally Bank с вопросами и ответами, оформленными в стиле справочных материалов, а в обычной версии — аналогичный рекламный блок, но от некоммерческой организации Project Management Institute (PMI). В HTML-версии сайта эти материалы отсутствовали. Все такие публикации были помечены как спонсорские, однако отображались только для ИИ-ботов.

Time, как отмечает издание Vincent Schmalbach уже фиксирует, что в отдельные дни число обращений ИИ-ботов превышает количество посещений обычных пользователей. При этом поисковый робот Google продолжает получать ту же HTML-версию страниц, что и люди, тогда как специальные ИИ-боты обслуживаются по отдельному сценарию.

Акции SpaceX вошли в крутое пике — инвесторов напугали беспрецедентные расходы на ИИ

В ходе своей первой в истории публичной деятельности отчётной конференции SpaceX заявила о более быстрой, чем ожидалось, отдаче от инвестиций в ИИ. Однако инвесторы по-прежнему обеспокоены тем, как долго прибыльный бизнес Starlink сможет продолжать финансировать дорогостоящие инвестиции в ЦОД и чипы Nvidia. Менее чем за два месяца с момента успешного IPO акции компании упали примерно на 11 % до $114, что значительно ниже изначальной цены в $135.

 Источник изображения: SpaceX

Источник изображения: SpaceX

Компания потратила около $18,4 млрд на капитальные вложения в течение квартала, что составляет примерно пятую часть от $85,7 млрд, привлечённых в ходе IPO в июне, и оставалась с крайне отрицательным свободным денежным потоком, продолжая активно инвестировать в инфраструктуру искусственного интеллекта.

До публикации отчётности инвесторы в основном рассматривали растущие денежные потоки Starlink как основной источник финансирования амбиций компании в области ИИ. Теперь руководство утверждает, что сама инфраструктура ИИ начинает приносить достаточно дохода для финансирования дальнейшего расширения.

Компания SpaceX сообщила о более чем утроенном росте выручки от ИИ по сравнению с предыдущим годом и раскрыла несколько новых соглашений по облачным вычислениям, несмотря на то, что квартальные капитальные затраты на ИИ выросли до $15,8 млрд. Бизнес SpaceX в сфере ИИ принёс $2,6 млрд выручки во втором квартале, что более чем в три раза больше, чем годом ранее, но он по-прежнему остаётся убыточным.

Финансовый директор компании Брет Джонсен (Bret Johnsen) заявил, что экономические показатели этих инвестиций быстро улучшаются, но дал понять, что расходы на ИИ останутся высокими и компания не собирается их сокращать. SpaceX продолжает расширять вычислительные мощности для ИИ, производство Starship и спутники Starlink следующего поколения.

«Текущие экономические показатели привели к окупаемости наших новых капитальных вложений в вычислительные мощности менее чем за год», — заявил Джонсен. По его словам, в текущем квартале SpaceX подписала контрактов на облачные вычисления ещё на $6,7 млрд и находится на пути к достижению годового дохода в $100 млрд. Это утверждение контрастирует с традиционными инвестициями в ЦОД, для окупаемости первоначальных затрат на которые обычно требуются годы.

Руководители SpaceX заявили, что спрос на вычисления для ИИ продолжает превышать предложение, и что они ожидают завершить год с вычислительными мощностями более двух гигаватт. Если спрос останется достаточно высоким, чтобы обеспечить полную загрузку этой инфраструктуры, ИИ сможет все больше финансировать свой собственный рост, а не полагаться на денежные потоки от Starlink.

По мнению аналитиков, с учётом ожидаемого сохранения высоких капитальных затрат и снижения энтузиазма инвесторов, акции могут оставаться под давлением до истечения срока действия ограничений на их продажу. Это может привести к значительной волатильности, поскольку рынки переоценивают SpaceX и траекторию расходования денежных средств.

 Источник изображения: finance.yahoo.com

Источник изображения: finance.yahoo.com

«Соотношение между капитальными затратами и выручкой неустойчиво, поэтому капитальные затраты должны снижаться, либо выручка должна значительно расти, и именно здесь вера в видение Маска, его инженерное лидерство и опыт реализации проектов отличает оптимистов от пессимистов», — остроумно заметил менеджер Polen Capital Дрю Каппс (Polen Capital).

Исследователи «спустили с поводка» ИИ-модели — те попытались добавить вредоносный код в открытое ПО

Исследователи из Института безопасности ИИ (AISI) Великобритании зафиксировали 19 случаев так называемых «несанкционированных действий» со стороны ИИ-моделей во время тестов безопасности. Такое поведение нейросетей наблюдалось во время проведения испытаний способностей ИИ-моделей решать вопросы в области кибербезопасности.

 Источник изображения: Gemini

Источник изображения: Gemini

«Мы провели это испытание 122 раза с применением нескольких моделей», — говорится в сообщении AISI. Там также сказано, что «в 10 случаях ИИ-агент предпринял автономные несанкционированные действия в интернете, нацеливая свои атаки на реальных людей и организации». Целью тестов была платформа GitHub. В общей сложности были выявлены 19 несанкционированных действий, 15 из которых совершила ИИ-модель Anthropic Mythos 5, а ещё 2 — OpenAI GPT-5.6-Sol.

«В самом серьёзном случае агент пытался внедрить вредоносный код в проект с открытым исходным кодом. Пытаясь добиться одобрения кода, агент прибег к использованию социальной инженерии: создал виртуальные поддельные личности и использовал их, чтобы оказать давление на сопровождающего проект человека и заставить его одобрить код», — сказано в отчёте AISI. Однако курирующий проект человек обнаружил вредоносный код и не одобрил его добавление в общую кодовую базу.

ИИ-агент пытался обмануть людей-программистов и используемые ими ИИ-инструменты путём отправки сообщений и файлов через онлайн-сервис передачи данных с целью убедить их запустить вредоносный код. Некоторые из отправляемых сообщений содержали вредоносный код, тогда как другие использовались для социальной инженерии. Такого поведения ИИ-моделей исследователи прежде не наблюдали.

Ещё агент пытался внедрить вредоносный код туда, где, по его логике, другие автоматизированные системы могли обработать и выполнить его. Отмечается взаимодействие агентов на пути достижения своей цели. Один агент отправлял публичные сообщения на GitHub, предлагая другим агентам сотрудничать над решением выполняемой ими задачи. Он также предоставлял инструкции по использованию аккаунтов и артефактов, оставленных после себя, которые могли находить и использовать другие ИИ-агенты.

В AISI отметили, что проведённая серия тестов является «первым случаем, когда нам настолько явно удалось увидеть риски, связанные с автономной работой и попытками обмана, в реальных условиях и без каких-либо специальных подсказок». Отметим, что в тестах AISI были отключены все ограничители ИИ-моделей, и алгоритмы имели доступ в интернет, что существенно отличается от того, как разработчики нейросетей предоставляют доступ к своим продуктам для широкого круга пользователей.

«Этот инцидент следует трактовать с осторожностью и учётом нюансов. В некоторой степени такое поведение стало возможным из-за выбранных нами параметров оценки и конкретных настроек. Тем не менее, действия агента демонстрируют признаки нового, потенциально обманчивого поведения моделей — по степени серьёзности оно превзошло наши ожидания», — сказано в отчёте AISI. Исследователи отметили, что пока не могут дать ответ на вопрос относительно того, насколько агент понимает, что находится в реальном мире, а не в тестовой изолированной среде.

При этом исследователи уверены, что их выводы отражают «сдвиг в ландшафте рисков». «Вред может возникнуть не только в случаях, когда люди намеренно злоупотребляют общедоступными моделями, но и когда способные агенты, действующие во внутренней исследовательской среде или в условиях привилегированного доступа, совершают непреднамеренные действия, выходящие за рамки разрешённых полномочий», — подвели итог в AISI. Каких-либо рекомендаций по поводу преодоления подобных ситуаций организация не дала.

Глава Hugging Face заявил, что Китай сможет обойти США в разработке передовых ИИ-моделей уже в ближайший год

Генеральный директор Hugging Face Клеман Деланг (Clément Delangue) заявил, что Китай уже занимает лидирующие позиции в сфере открытых ИИ-моделей и может догнать разработчиков самых передовых систем из США уже к концу этого года или в следующем году.

 Источник изображения: Grok

Источник изображения: Grok

В финансовом телешоу на CNBC Деланг связал успех китайских разработчиков с открытым характером сотрудничества, при которой компании активно обмениваются наработками. По его мнению, американские разработчики, напротив, всё чаще работают изолированно, что со временем может замедлить темпы развития и привести к утрате конкурентных преимуществ.

Комментируя недавний инцидент, когда ИИ-агенты OpenAI получили несанкционированный доступ к платформе Hugging Face, Деланг заявил, что причиной произошедшего стали ошибки в реализации, а не недостатки открытых моделей. Он также сообщил, что для устранения последствий атаки компания использовала версию одной из китайских открытых моделей, оптимизированную для работы на ускорителях Nvidia. При этом руководитель Hugging Face подчеркнул, что его компания продолжает поддерживать хорошие партнёрские отношения с OpenAI как до, так и после этого инцидента.

Деланг также считает, что развитие ИИ неизбежно приведёт к быстрому росту рынка продуктов в сфере кибербезопасности, а открытые модели смогут сыграть в этом направлении ключевую роль. Аналогичную позицию ранее заняли Microsoft, Palantir и Nvidia, подписавшие обращение к властям с призывом не вводить ограничения на открытые ИИ-модели, чтобы не сдерживать конкуренцию и дальнейшее развитие технологий.

Глава Shift Up объяснил, почему сгенерированный ИИ музыкальный клип с героиней Stellar Blade: Blood Rain не должен возмущать игроков

Разработчики из южнокорейской студии Shift Up не оставили без внимания критику сгенерированного ИИ музыкального клипа с Иви — главной героиней предстоящего экшена Stellar Blade: Blood Rain.

 Источник изображений: Shift Up

Источник изображений: Shift Up

Напомним, трёхминутный ролик под заголовком Wanna be in Love демонстрирует Иви в декорациях игры, но ведёт себя героиня словно настоящая певица: поёт, танцует и взаимодействует с членами съёмочной группы.

Фанаты массово раскритиковали Shift Up за то, что при своих возможностях для продвижения Stellar Blade: Blood Rain студия обратилась к ИИ: при миллионе просмотров на YouTube ролик собрал 10 тыс. лайков и 19 тыс. дизлайков.

Как подметили в Push Square, гендиректор Shift Up Ким Хён Тхэ (Kim Hyung-tae) у себя в микроблоге ответил на вопрос пользователя, почему студия выпускает «бездушный ИИ-мусор», а не пользуется своими талантливыми художниками.

По словам Хён Тхэ, дизайн Иви из Stellar Blade: Blood Rain создавался усилиями талантливых художников и модделеров Shift Up на протяжении более чем года, и ИИ генерирует героиню не с нуля.

«[ИИ] рендерит и представляет персонажа на основе данных, дизайна и мастерства нашей команды создателей. Будем признательны, если вы будете смотреть на работу с этой точки зрения», — предложил Хён Тхэ.

У Stellar Blade: Blood Rain пока нет ни сроков выхода, ни целевых платформ. События игры развернутся после финала оригинальной Stellar Blade и прольют свет на судьбу полюбившихся фанатам персонажей.

«Вы имеете право знать»: в ЕС начали действовать новые правила прозрачности ИИ — за нарушения грозят штрафы до €15 млн

Новые правила прозрачности в отношении ИИ вступили в силу в ЕС со 2 августа и подлежат исполнению на всей территории блока. Статья 50 «Закона об ИИ» требует от издателей контента маркировать и обозначать определённые типы контента, созданного с помощью ИИ, а также информировать пользователей, когда они взаимодействуют с чат-ботом или агентом ИИ, а не с реальным человеком.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

«Эти обязательства призваны способствовать укреплению доверия и целостности в информационной экосистеме, — говорится в новых руководящих принципах Еврокомиссии. — Люди должны знать, когда они взаимодействуют с ИИ или сталкиваются с контентом, созданным с помощью ИИ. Это поможет им принимать обоснованные решения, оценивать своё доверие к ИИ и избегать дезинформации или обмана».

Новые правила ЕС требуют маркировки контента знаком AI («ИИ»), если ИИ участвовал в создании «подлинно выглядящего» дипфейк-контента (изображения, аудио, видео) или опубликованного текста. Если изображение, аудио, видео или текст полностью созданы с помощью ИИ, они должны иметь пометку AI-Generated («Создано ИИ»). В качестве примеров регуляторы приводят полностью сгенерированные ИИ дипфейк-видео с политиками или вымышленными событиями, полностью созданную ИИ музыку или произведения искусства или сгенерированные ИИ новостные сводки.

Другие типы ИИ также должны быть помечены, например, модели, распознающие эмоции пользователя или обрабатывающие биометрические данные. Комиссия также будет контролировать поставщиков универсальных моделей ИИ. Эти организации будут обязаны документировать информацию, публиковать сводки обучающих данных и внедрять политику в отношении авторских прав, а несоблюдение требований будет преследоваться национальными органами власти. «Цель проста: всякий раз, когда ИИ играет важную роль, вы имеете право знать об этом», — поясняет Еврокомиссия.

Новый закон предусматривает суровые наказания: штрафы для компаний могут достигать €15 млн или 3 % от годового дохода, а для учреждений, органов и агентств ЕС — €750 тыс. Принцип пропорциональности будет учитываться для малых и средних компаний, а также для организаций среднего размера. Наказание не предусмотрено за личный контент, такой как групповые чаты, а также «явно художественные» сатирические и вымышленные произведения.

Новые правила делают Европу наиболее влиятельным регулятором технологий ИИ. Представители отрасли уже назвали эти правила чрезмерным бременем, которое замедлит инновации. Однако европейский регулятор считает, что правила упростят разработку для поставщиков ИИ, создав единый рынок с гармонизированными правилами.

«Они [правила] также устраняют потенциальные риски для здоровья, безопасности и основных прав людей, одновременно защищая демократию и верховенство права, — уверен представитель Еврокомиссии. — Обеспечение их эффективного внедрения теперь является ключевым приоритетом для Комиссии».

OpenAI впервые раскрыла Astra — ИИ-модель решила десять задач, над которыми математики бились десятилетиями

OpenAI впервые официально подтвердила существование новой ИИ-модели Astra, которую компания называет «следующим крупным семейством моделей». В опубликованном отчёте говорится, что внутренняя версия Astra помогла решить десять открытых задач в области математики и теоретической информатики, над которыми исследователи безуспешно работали как минимум десять лет, а в ряде случаев — значительно дольше.

 Источник изображения: Nano Banana Pro / The Decoder

Источник изображения: Nano Banana Pro / The Decoder

Решённые задачи относятся к многомерной геометрии, теории кодирования, теории групп, квантовой сложности, криптографии на решётках и экстремальной комбинаторике. В частности, Astra построила первый пример несофической группы — объекта, существование которого математики обсуждали многие годы. Это открытие может помочь в решении одной из фундаментальных проблем современной теории групп.

Математик Манчестерского университета Томас Блум (Thomas Bloom) назвал результаты Astra «большой новостью». По его словам, они имеют большее значение, чем опубликованный в мае контрпример к гипотезе о единичных расстояниях. При этом Блум не считает, что подобные достижения означают скорую замену математиков искусственным интеллектом. По его мнению, современные ИИ-системы сами основаны на многолетнем труде математического сообщества и обучены на созданной им научной литературе.

Один из разработчиков технологии рассуждений Astra Ноам Браун (Noam Brown) рассказал, что OpenAI уже пыталась применить модель к другим известным открытым задачам, однако пока безуспешно. «К сожалению, никаких задач тысячелетия (пока)», — написал он в соцсети X.

Математический институт Клэя выплачивает по $1 млн за решение каждой из семи задач тысячелетия — фундаментальных математических проблем. С 2000 года удалось решить лишь одну из них. По словам Брауна, OpenAI пока не тратила на такие задачи значительных вычислительных ресурсов и намерена продолжить эксперименты. Он также назвал Astra «важным шагом вперёд в научных рассуждениях».

По оценке OpenAI, объём вычислений, потребовавшийся для получения решений всех десяти задач, соответствовал бы примерно $2000 при использовании API модели Sol по текущим тарифам. Затем исследователи совместно с Astra превратили полученные идеи в полноценные научные статьи.

 Источник изображения: AI

Источник изображения: AI

Все доказательства были также формализованы в системе Lean, которая совмещает язык программирования и интерактивный инструмент для проверки теорем. Это позволило получить машинно проверяемые доказательства, исключающие ошибки при ручной записи. OpenAI также опубликовала пошаговое описание рассуждений модели для каждого результата. В компании подчёркивают, что ответственность за окончательные научные публикации несут исследователи, однако сами математические идеи и логика доказательств были предложены Astra.

Ранее OpenAI уже сообщала, что разрабатывает новое семейство моделей, предназначенное для выполнения длительных и сложных задач. На этой неделе генеральный директор компании Сэм Альтман (Sam Altman) представил Astra представителям правительства и регулирующих органов США, подчеркнув её способность координировать работу множества ИИ-агентов при решении научных и инженерных задач.

По данным источников, Astra станет новым семейством моделей наряду с Sol, Terra и Luna. Пока неизвестно, под каким коммерческим названием она выйдет на рынок. OpenAI также пообещала позднее опубликовать подробный технический отчёт о том, как именно Astra удалось решить ранее открытые математические задачи.

По информации источников, новые модели OpenAI уже проходят внутреннее тестирование и станут первыми системами компании, которые будут проверяться в рамках разрабатываемой в США процедуры оценки передовых ИИ-моделей. Одной из главных задач разработчиков остаётся обеспечение стабильной работы моделей при выполнении длительных цепочек рассуждений — именно это сегодня считается одним из основных ограничений современных агентных ИИ-систем.


window-new
Soft
Hard
Тренды 🔥
Календарь релизов — 17–23 августа: Mortal Shell II, Brigador Killers и Steins;Gate: Re:Boot 2 ч.
«Эта игра будет невероятной»: финальный трейлер тактической стратегии Star Wars Zero Company от ветеранов XCOM заинтриговал фанатов 4 ч.
Лучше поздно, чем никогда: спустя три года после релиза у Lords of the Fallen появился официальный перевод на русский язык 5 ч.
В открытый доступ попал геймплей Star Wars: Magellan — отменённого мультиплеерного боевика от ветеранов Diablo 7 ч.
У GitHub произошёл глобальный сбой — половина запросов оборачивается ошибкой 7 ч.
Проверенный инсайдер рассекретил дату выхода и наполнение Diablo IV для Nintendo Switch 2 7 ч.
В Firefox для iPhone появился встроенный блокировщик рекламы, но блокирует он не всё 7 ч.
Geekom случайно раздавала вредоносное ПО вместе с драйвером для мини-ПК — компания извинилась перед пользователями 7 ч.
«Ещё одна причина жить дальше»: культовое психоделическое приключение Sally Face спустя 10 лет получит продолжение 9 ч.
«Яндексу» приписали создание тестов на традиционные ценности для ИИ 13 ч.
Lexar выпустила Thor Ultra — SSD с PCIe 5.0, до 4 Тбайт и скоростью до 11 Гбайт/с 2 ч.
В Нидерландах запустили беспилотный автобус — он возит людей бесплатно и без водителя 2 ч.
Новая статья: ИИ, который всегда с тобой 2 ч.
Концепция европейского ИИ-суверенитета Mistral AI включает создание 1 ГВт мощностей и… китайские LLM 9 ч.
AOC перевыпустила 27-дюймовый игровой монитор Agon Pro AG276UZ с круговой поляризацией и режимами 4K@240 Гц и 1080@480 Гц 9 ч.
В России внедрена поддержка полностью кириллических адресов электронной почты в доменах .RU и .РФ 10 ч.
Бигтехи потратят на ИИ на $3 трлн больше, чем говорят — большая часть расходов скрыта за балансом 11 ч.
Lenovo сообщила о рекордных результатах первого финансового квартала 12 ч.
Intel неожиданно привлекла до $23 млрд — аналитики увидели признаки успеха её контрактного бизнеса 13 ч.
CoreWeave продлила использование NVIDIA A100 до 2029 года 14 ч.