Глава Cloudflare Мэтью Принс (Matthew Prince) в интервью изданию Axios заявил, что издатели сталкиваются с экзистенциальной угрозой со стороны ИИ и должны получать справедливую компенсацию за свой контент. «Люди стали больше доверять ИИ за последние шесть месяцев, что означает, что они не читают оригинальный контент, — сказал он. — Будущее интернета будет всё больше и больше похоже на ИИ, значит люди [и дальше] будут читать резюме вашего контента».

Источник изображения: Walls.io / unsplash.com

Число переходов со страниц поисковых систем на сайты с оригинальным контентом сокращается с каждым днём, поэтому многим издателям придётся пересмотреть свои бизнес-модели или вообще уйти с рынка. Принс привёл впечатляющие статистические данные. По его словам, десять лет назад соотношение проиндексированных поисковиком Google страниц к числу посетителей, перенаправленных со страницы поисковой выдачи на сайт издателя, составляло 2:1. С тех пор это соотношение постепенно увеличивалось, но после начала ИИ-бума стало расти угрожающими темпами.

Шесть месяцев назад:

• Google — 6:1
• OpenAI — 250:1
• Anthropic — 6000:1

В настоящий момент:

• Google — 8:1
• OpenAI — 1500:1
• Anthropic — 60000:1

Поисковые системы и чат-боты ИИ предоставляют ссылки на оригинальные источники, но издатели могут получать доход от рекламы только в том случае, если читатели переходят по ссылкам. «Люди не переходят по ссылкам», — констатировал Принс. Он уверен, что эта проблема касается любого создателя оригинального контента.

Принс сообщил, что Cloudflare разработала инструмент, который должен «остановить копирование контента». AI Labyrinth использует контент, сгенерированный ИИ, для замедления, запутывания и траты ресурсов ИИ-сканеров и других ботов, которые не соблюдают директивы веб-серверов. Своим клиентам Cloudflare предлагает автоматическое развёртывание такого набора сгенерированных ИИ страниц при обнаружении «ненадлежащей активности» ботов.

Обнаруженный под самый конец 2024 года астероид 2024 YR4 стал самой большой угрозой Земле за время наблюдения за астероидной опасностью. Его засекли на уходящей от Земли траектории, так что данные об орбите и самом объекте были неполными. Постепенно учёные собрали больше данных для расчёта орбиты 2024 YR4. По мере уточнения параметров астероид был признан неопасным для Земли, но зато появилась вероятность его столкновения с Луной. И теперь эта угроза выросла.

Художественное представление астероида 2024 YR4. Источник изображения: W. M. Keck Observatory/Adam Makarenko

В мае NASA с помощью космического телескопа «Джеймс Уэбб» в последний раз наблюдало астероид 2024 YR4, пока он окончательно не скрылся из виду в пространстве. Новый пакет данных на 20 % повысил точность расчёта его вероятной орбиты вокруг Солнца. Тем самым появилась возможность заново оценить вероятность столкновения объекта с Луной, когда он максимально сблизится с ней и Землёй 22 декабря 2032 года.

Предыдущая оценка предполагала вероятность падения 2024 YR4 на Луну на уровне 3,8 %. После майских наблюдений NASA повысило эту вероятность до 4,8 %. Достоверность расчётов, напомним, также повышена на 20 %. Это всё ещё небольшой шанс для астероида столкнуться с естественным спутником Земли.

Жёлтыми точками показано вероятное положение астероида 22 декабря 2032 года (более короткая полоса представляет последние данные наблюдений). Источник изображения: NASA

Падение такого небесного тела на Луну, а 2024 YR4 в поперечнике не превышает 70 метров, не изменит её орбиту и не несёт угрозу Земле. Но если столкновение произойдёт, то учёным это даст шанс провести сейсмическое зондирование Луны за счёт самой природы. Можно ожидать, что если вероятность встречи 2024 YR4 с Луной будет более-менее высокой, на Луну отправят станцию с сейсмическими датчиками. Данные по орбите объекта можно будет установить с максимальной точностью в его следующий проход рядом с Землёй, который ожидается в 2028 году.

До последних дней Луна в небе над США мешала местным обсерваториям проводить наблюдения за слабыми околоземными объектами. Между тем в небесах сейчас движется объект повышенной опасности для планеты — астероид 2024 YR4, у которого есть определённый шанс столкнуться с Землёй 22 декабря 2032 года. Дополнительные наблюдения учёных NASA сначала повысили эту вероятность с 2,2 % до 3,1 %, но сутки спустя астрономы пошли на попятную.

Источник изображения: ИИ-генерация DALL·E/3DNews

Отсутствие Луны на небе позволило собрать более точные данные о траектории астероида 2024 YR4. Сейчас он удаляется от планеты в своём движении по орбите вокруг Солнца, но вернётся к Земле в 2028 году и, затем, опасно сблизится с ней 22 декабря 2032 года.

Земля, орбита Луны и жёлтые точки орбиты астероида 2024 YR4. Источник изображений: NASA

Астероид 2024 YR4 был открыт в канун Нового года чилийским филиалом роботизированной системы предупреждения об астероидной опасности (ATLAS). По оценкам на 27 января 2025 года шанс его столкновения с Землёй составлял 1,2 %. После эта вероятность была повышена до 2,2 %, а на днях, 18 февраля 2025 года, и вовсе до пугающих 3,1 %. К счастью, сутки спустя поступили новые данные, и вероятность столкновения была понижена до 1,5 %.

Оценка по данным наблюдений 19 февраля 2025 года

Размеры и состав астероида, а также его точная орбита будут уточняться по мере новых наблюдений, особенно во время следующего пролёта рядом с Землёй в 2028 году. В настоящее время считается, что это небесное тело имеет размеры от 40 до 90 м в поперечнике. В худшем случае, если объект окажется 90-метровым и с железной сердцевиной, его падение может привести к разрушениям на площади диаметром до 100 км. Предполагаемая зона падения — район экватора от Индии до Южной Америки.

Ранее гендиректор Meta✴ Марк Цукерберг (Mark Zuckerberg) пообещал, что сделает сильный искусственный интеллект (AGI), то есть не уступающий человеку, общедоступным. Но теперь в одном из определяющих политику документов компании перечисляются сценарии, при которых она может отменить выпуск передовой системы ИИ.

Источник изображения: Christopher Burns / unsplash.com

В документе под названием «Основы организации передового ИИ» (Frontier AI Framework) компанией Meta✴ определяются два типа систем ИИ, которые представляются слишком рискованными для выпуска: системы «высокого риска» и «критического риска». Это системы, способные оказать гипотетическим злоумышленникам помощь в преодолении средств кибербезопасности, проведении химических и биологических атак. Разница в том, что системы «критического риска» способны привести к «катастрофическому результату, который невозможно смягчить в контексте развёртывания»; системы «высокого риска» также способны облегчить злоумышленникам провести атаку, но они менее надёжны, чем системы «критического риска».

Meta✴ приводит несколько гипотетических примеров таких атак, в том числе «полная автоматизированная компрометация окружения корпоративного масштаба, защищённого передовыми методами» и «разрастание высокоэффективного биологического оружия». Список приведённых в документе угроз не является исчерпывающим, отмечают в компании, — он включает лишь те позиции, которые считаются самыми неотложными и вероятными как результат непосредственной работы мощного ИИ. Системные угрозы классифицируются не на основе практических опытов, а с учётом данных внутренних и внешних исследований, утверждённых лицами, принимающими решения: в Meta✴ не уверены, что научные средства «достаточно надёжны, чтобы предоставить окончательные количественные показатели», определяющие степень угрозы, которую представляет система.

Если Meta✴ решит, что одна из систем относится к категории «высокого риска», доступ к такой системе внутри компании будет ограничен, а её выпуск — отложен до тех пор, пока не будут приняты меры по смягчению последствий «до умеренного уровня». Если же риск классифицируется как «критический», Meta✴ обязывается развернуть меры безопасности, перечислять которые она не стала, и прекратить разработку до тех пор, пока система не станет менее опасной. Компания намеревается вносить изменения в документ по мере развития отрасли ИИ, а опубликован он будет перед мероприятием France AI Action Summit, которое пройдёт в этом месяце.

Meta✴ в отличие от других американских технологических гигантов открывает исходный код своих моделей ИИ Llama. Созданием этого документа компания, возможно, пытается противопоставить себя китайской DeepSeek, которая также опубликует свои модели открыто, но пока не говорит о защитных мерах.

Роботизированная система планетарной обороны обнаружила астероид 2024 YR4, который опасно сблизится с Землёй в декабре 2032 года. В списках ESA и NASA самых опасных околоземных небесных тел объект 2024 YR4 шириной до 60 метров вышел на первое место по степени угрозы. Это ещё не означает, что он обязательно столкнётся с планетой, но шансы на такой исход превысили 1 %, а это уже не шутка.

Источник изображения: ИИ-генерация Кандинский 3.1/3DNews

Сближение 2024 YR4 с Землёй прогнозируется 22 декабря 2032 года. В этот день объект приблизится к планете на расстояние 106 200 км — это более чем в три раза ближе, чем расстояние до Луны. Допускаемая в расчётах погрешность такова, что астероид имеет некоторый шанс столкнуться с планетой.

В настоящий момент астероид удаляется от Земли, и уточнить его размеры и состав не представляется возможным. Оценка сделана по яркости объекта и может быть ошибочной. Астероид 2024 YR4 может быть как больше 60 метров, так и меньше. Более точно определить характеристики объекта можно будет в 2028 году, когда он приблизится к Земле на 8 млн км. В таком случае можно будет задействовать радары и выяснить состав и точные размеры 2024 YR4.

Если астероид каменистый, то он взорвётся в атмосфере, создав разрушения, сравнимые с падением Тунгусского метеорита. Если он железный, то долетит до поверхности Земли и оставит после себя ударный кратер. Пока вероятное падение прогнозируется ближе к экватору, хотя все нынешние прогнозы довольно приблизительные.

«Шансы немного возросли до 1 к 83, — сообщил один из сотрудников службы Catalina Sky Survey. — Это одна из самых высоких вероятностей столкновения с камнем значительных размеров за всю историю».

Астероиду 2024 YR4 присвоено 3 балла по Туринской шкале. Это жёлтый уровень опасности. От перехода в оранжевую зону его отделяет один балл по 10-бальной шкале. Вероятность его падения на Землю всё ещё ничтожна, поэтому опасаться, в общем-то, нечего. Внимательными должны оставаться астрономы, которые более пристально начнут следить за 2024 YR4.

Учёные из США провели эксперимент, который доказал возможность изменения траектории опасного для Земли астероида с помощью ядерного взрыва. Исследователи не собираются взрывать сам астероид, оставляя зрелищность разлёта обломков киношникам. На астероид должно влиять мощное ионизирующее излучение близкого ядерного взрыва, испаряющее его поверхность и создающее точно рассчитанный вектор тяги.

Источник изображения: Nature Physics, 2024

Эксперимент был поставлен в Сандийских национальных лабораториях в США (Sandia National Laboratories). Для этого группа учёных под руководством физика Натана Мура (Nathan Moore) воспользовалась мощной рентгеновской установкой лаборатории — так называемой Z-машиной. Исследователи направили рентгеновские импульсы на мишени, играющие роль астероидов из кварца и плавленого кварца. В астероидах обычно много силикатов, поэтому мишени в среднем соответствовали составу большинства астероидов.

Мишень диаметром 12 мм была закреплена на установке металлической фольгой. Излучение испаряло фольгу, отчего модель астероида как бы зависала в свободном пространстве и подвергалась удару лишь рентгеновским лучом. Газ от распылённой фольги отводился от мишени, чтобы не вносить вклад в импульс от воздействия излучения на мишень. Для учёных важна была динамика не только прямого воздействия, но также относительно длительное воздействие в процессе расширения испаряемого с поверхности мишени вещества (ионизированного газа или плазмы). Поскольку выстрел и процесс длились доли секунды, свободным падением мишени после испарения фольги можно было пренебречь.

Измерения показали, что мишени из кварца после выстрела рентгеном общей интенсивностью 1,5 МДж приобретали скорость 69,6 м/с, а мишени из плавленого кварца — 70,3 м/с, что с высокой точностью соответствует теоретическим расчётам на цифровой модели. Масштабирование до астероидов размерами от 3 до 5 км обещает, что близкий взрыв ядерной бомбы рядом с астероидом придаст ему скорость более 10 см/с в нужном направлении, что гарантированно отклонит его траекторию.

Подобные астероиды могут падать на Землю один раз в 250–500 млн лет. Это очень маленькая, но ненулевая вероятность уничтожения земной цивилизации, что заставляет заранее искать пути воздействия на опасные для нашей планеты астероиды. Пока учёные вместе с NASA провели лишь один натурный эксперимент по изменению траектории астероида ударным воздействием. Зонд-камикадзе DART ударил в астероид Диморф, заставив его изменить орбитальное движение вокруг его центральной пары — астероида Дидим.

В целом ударное воздействие на опасный астероид рискованно само по себе, поскольку может превратить один опасный астероид в рой не менее опасных и плохо отслеживаемых камней. Точно так же прямой удар атомной бомбой по астероиду — это риск того же плана. Воздействие на астероид мощным ионизирующим излучением, которое будет создавать тягу из испаряемого вещества его поверхности — это более предсказуемый по последствиям способ заставить небесное тело изменить орбиту. Лабораторный эксперимент доказал осуществимость такого метода. Но вряд ли дело дойдёт до экспериментов. Пока международными соглашениями ядерное оружие запрещено выводить в космос в любом виде.

Астероид Апофис (Apophis, номер 99942), представляющий потенциальную угрозу жизни на Земле, в 2021 году был на ближайшие 100 лет исключён из списка угроз из космоса. Тщательное изучение объекта в течение почти 20 лет с момента обнаружения позволило максимально точно рассчитать его орбиту, которая даже с учётом погрешностей не пересекалась с Землёй. Но совсем угроза не исчезла. Столкновение с другим астероидом способно сбить Апофис с безопасной траектории.

Источник изображения: ИИ-генерация Кандинский 3.0/3DNews

Миссия NASA DART по ударному изменению траектории астероидов с помощью зондов-камикадзе наглядно показала, что астероид способен менять траекторию при столкновении с другим небесным телом. Даже таким небольшим, как 570-кг зонд DART. Если в 340-метровый Апофис массой 61 млн тонн влетит объект подобной ему массы, их траектории, очевидно, изменятся очень и очень сильно.

Под впечатлением миссии DART группа астрономов решила изучить вероятность столкновения с Апофисом любого из других известных астероидов в пространстве его пролёта. В эту область попадает свыше 1,3 млн известных астероидов. Все эти объекты были внесены в модель и изучены с учётом всех погрешностей на предмет вероятного столкновения с Апофисом.

Радарные изображения Апофиса при пролёте рядом с Землёй в 2021 году. Источник изображения: NASA/JPL-Caltech and NSF/AUI/GBO

«Учитывая, насколько близко Апофис пройдет мимо Земли, существует возможный риск того, что отклонение от его текущей траектории может привести Апофис к столкновению с нами, — поясняют авторы работы, опубликованной в журнале Planetary Science. — Гипотетически, столкновение другого астероида с Апофисом может вызвать такое отклонение, что побудило нас изучить этот сценарий, каким бы маловероятным он ни был».

Расчёты показали, что астероиду Апофис никакие столкновения не угрожают, а значит, его орбита останется в рамках индивидуальных для него расчётов и будет неопасна для Земли. Остаётся угроза со стороны ещё неоткрытых астероидов. Но с этим человечество ничего поделать не может. Остаётся только готовиться по мере сил и создавать новые слои планетарной защиты.

Ответственная за сервис ChatGPT компания OpenAI сообщила, что сформировала подразделение по оценке и исследованию моделей искусственного интеллекта на предмет защиты от того, что характеризуется как «катастрофические риски».

Источник изображения: Growtika / unsplash.com

Команду под названием Preparedness («боеготовность») возглавил директор Центра развёртываемого машинного обучения при Массачусетском технологическом институте Александр Мадри (Aleksander Madry) — по данным профессиональной соцсети LinkedIn, он занял этот пост в компании ещё в мае. В задачи подразделения входит отслеживание, прогнозирование и защита от опасностей, которые несут перспективные системы ИИ — от их дара убеждения (как в случае с составлением фишинговых писем) до генерации вредоносного кода. Некоторые из категорий угроз пока, к счастью, не обозначились в реальном поле: к ним отнесли химические, биологические, радиационные и ядерные.

Гендиректор OpenAI Сэм Альтман (Sam Altman) неоднократно выражал опасения, что ИИ способен «привести к вымиранию человечества», и формирование в компании соответствующего подразделения отражает эту позицию. Компания открыта и для изучения «менее очевидных» областей риска ИИ, добавил господин Альтман. Связаться с компанией для изложения своих опасений может любой желающий — авторы десяти лучших работ получат денежный приз в размере $25 тысяч или работу в OpenAI. «Представьте, что мы предоставили вам неограниченный доступ к моделям OpenAI Whisper (расшифровка речи), Voice (преобразование текста в речь), GPT-4V и DALLE·3, а вы оказались злодеем. Рассмотрим наиболее уникальные, хотя и, вероятно, потенциально катастрофически неправильные сценарии использования модели», — говорится в одном из конкурсных вопросов.

Подразделению Preparedness будет поручено сформулировать «политику разработки с учётом угроз» — документ с подробным описанием подхода OpenAI к построению инструментов оценки и мониторинга моделей ИИ, действий по снижению угроз, а также структуры управления для надзора в процессе развития моделей. Специалисты команды дополнят прочие аспекты работы OpenAI в области безопасного ИИ, уделяя особое внимание этапам до и после развёртывания модели.

Альтман и Илья Суцкевер (Ilya Sutskever), главный научный сотрудник и соучредитель OpenAI, убеждены, что ИИ с уровнем сознания выше человеческого может появиться в ближайшие десять лет, и не факт, что этот ИИ будет доброжелательным. Поэтому компания считает необходимым изучать возможности по его ограничению.

Руководство Unity Technologies отменило ранее запланированное собрание трудового коллектива и закрыла два офиса — причиной тому компания назвала поступившие угрозы и вызванные ими опасения за жизни своих сотрудников. Конфликт разгорелся на почве решения ввести комиссию Unity Runtime Fee.

Источник изображения: unity.com

В компании «узнали о потенциальной угрозе некоторым из её офисов» и «приняли незамедлительные превентивные меры для обеспечения безопасности сотрудников», — цитирует Bloomberg заявление представителя Unity. Unity закрыла офисы, которые могли подвергнуться нападению 14 и 15 сентября, и начала «в полной мере сотрудничать с правоохранительными органами».

Поводом для недовольства общественности стало озвученное 12 сентября решение компании инициировать программу Unity Runtime Fee — она предусматривает новую схему отчислений за игры, созданные на платформе Unity Engine. С 1 января 2024 года создателям игр на движке Unity придётся платить за каждую установку (по достижении определённого порога).

Разработчики игр обвинили Unity в нарушении собственных условий лицензирования ПО и предупредили, что новая схема тарификации может поставить под угрозу их существование. Многие игровые студии выступили с резкими заявлениями, призывая компанию пересмотреть своё решение.

Гендиректор Unity Джон Ричителло (John Riccitiello) накануне должен был провести встречу с работниками компании, но мероприятие пришлось отменить в качестве меры предосторожности. Офисы в Остине (Техас) и Сан-Франциско (Калифорния) закрылись.