На фоне конкуренции с Google, компания Amazon анонсировала запуск ИИ-инструмента для быстрого создания видеорекламы. Video Generator, представленный на конференции Accelerate, позволяет преобразовывать всего одно изображение товара в увлекательный видеоролик, демонстрирующий особенности продукта.

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Сравнительный тест камер флагманских смартфонов (2026): итоги

Источник изображения: BoliviaInteligente/Unsplash

Хотя функциональность инструмента пока ограничена, пишет издание TechCrunch, однако он уже позволяет создавать пользовательские видео без дополнительных затрат. «Видео, созданные с помощью Video Generator, используют уникальные знания Amazon о розничной торговле и представляют продукт таким образом, чтобы сделать его наиболее привлекательным для клиентов», — говорится в блоге компании. На данный момент видеогенератор находится на стадии бета-тестирования и доступен ограниченному числу рекламодателей в США. Вице-президент Amazon Ads Джей Ричман (Jay Richman) заявил, что инструмент будет дорабатываться перед более широким запуском.

Вместе с Video Generator также представлена функция Live Image, которая генерирует короткие анимированные GIF-файлы из статичных изображений. Эта функция, находящаяся в стадии бета-тестирования, является частью Image Generator — набора инструментов Amazon для создания изображений на основе искусственного интеллекта.

Отметим, что выход Amazon на рынок генеративного видео происходит на фоне активного развития этой технологии и другими компаниями. В частности, стартапы Runway и Luma недавно запустили API для генерации видео, компания Google начала интегрировать свою модель Veo в YouTube Shorts, Adobe обещает добавить функцию генерации видео в Creative Suite к концу года, а OpenAI планирует открыть свою технологию Sora широкой публике до конца осени.

Компания Amazon пока не предоставила примеры видео, созданных с помощью новых инструментов, и не раскрыла подробностей относительно максимальной длительности и разрешения генерируемых видеороликов.

Telegram-канал «Ростеха» сообщил, что перспективный российский электромобиль «Атом» получит систему распознавания лиц на основе искусственного интеллекта. Такое решение позволит «Атому» «узнавать» конкретного водителя и мгновенно адаптироваться под него. Внедрением функций распознавания лиц при помощи ИИ займётся компания NtechLab.

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Сравнительный тест камер флагманских смартфонов (2026): итоги

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Источник изображений: «Атом»

В «Ростехе» утверждают, что эта разработка станет первым в России внедрением функций ИИ в автотранспорт. Аутентификация водителя будет производиться при помощи мобильного приложения. Разработчики гарантируют уверенное распознавание людей в очках и головном уборе. Обман системы исключён — она обучена отличать живого человека от силиконовой маски или фотографии.

В будущем система распознавания лиц «Ростеха» может быть использована в каршеринге и такси.

Серийное производство основанного на отечественной модульной платформе компактного электромобиля «Атом» должно начаться в 2025 году на столичном заводе «Москвич». Электрокар разработан российским стартапом «Кама», ключевой инвестор проекта — дочерняя структура «Росатома» «Рэнера» – отраслевой интегратор в области систем накопления энергии. В настоящий момент ведутся испытания функциональных прототипов. Будущие объёмы производства электрокаров представитель «Камы» не раскрывает.

Компания «Кама» — производитель «Атома» — была основана в августе 2021 года. Основными инвесторами проекта стали гендиректор предприятия «Камаз» Сергей Когогин и основатель и бывший владелец инвестиционной компании «Тройка Диалог» Рубен Варданян.

Некоторые пользователи профессиональной соцсети LinkedIn обратили внимание на новую настройку, которая указывает, что платформа без предварительного согласия использует их данные для обучения моделей генеративного искусственного интеллекта. Об этом сообщил ресурс 404 Media.

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Сравнительный тест камер флагманских смартфонов (2026): итоги

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Источник изображения: Abid Shah / unsplash.com

Данные используются, чтобы улучшить такие функции как помощь в написании текста, рассказали в администрации LinkedIn. Эту функцию можно отключить в настройках профиля, но по умолчанию она, видимо, включена. Для анонимизации и защиты личной информации применяются «методы повышения конфиденциальности», указывается на платформе, но её пользователи недовольны, что автоматизированная система вообще может собирать изначально конфиденциальную информацию. Платформа не использует для обучения ИИ данные граждан европейских стран, где действуют строгие законы в отношении конфиденциальности.

Несмотря на то, что соцсеть приступила к сбору данных, условия обслуживания LinkedIn соответствующим образом своевременно изменены не были — эти действия администрация платформы в документе первоначально не отразила, но сейчас оплошность была исправлена. «Мы внесём изменения, которые дадут использующим LinkedIn людям больше выбора и контроля в отношении используемых нами данных для обучения нашей технологии генеративного ИИ. Внедрим новые инструменты ИИ по умолчанию, которые принесут пользу всем участникам, и гарантируем, что те, у кого есть особые предпочтения в отношении конфиденциальности, смогут легко отказаться. Люди могут отказаться, но они приходят в LinkedIn, чтобы их нашли для работы и общения, а генеративный ИИ — наша помощь для профессионалов с этими переменами», — заявил ресурсу TechRadar Pro представитель платформы.

Использование генеративного искусственного интеллекта сопряжено со значительными затратами, показало проведённое Калифорнийским университетом в Риверсайде исследование. Работа ИИ предполагает потребление значительных объёмов воды для охлаждения серверов, даже когда они просто генерируют текст. И это без учёта высокой нагрузки на электросеть.

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Сравнительный тест камер флагманских смартфонов (2026): итоги

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Источник изображения: Growtika / unsplash.com

Точные объёмы потребления воды в США варьируются в зависимости от штатов и близости потребителя к центру обработки данных (ЦОД) — при этом чем меньше воды потребляется, тем дешевле в этом регионе электричество, и тем выше объёмы потребления электроэнергии. Так, в Техасе для генерации электронного письма длиной в сто слов необходимы 235 мл воды, а в Вашингтоне — уже 1408 мл. На первый взгляд, это не такой уж значительный объём, но показатели растут очень быстро, когда пользователи работают с большой языковой моделью GPT-4 несколько раз в неделю или даже в день, и эти результаты действительны для генерации простого текста.

ЦОД являются крупными потребителями воды и электричества, а значит, цены на эти ресурсы растут в городах, где такие объекты строятся. К примеру, для обучения модели Meta✴✴ LLaMA-3 потребовалось 22 млн литров воды — столько нужно, чтобы вырастить 2014 кг риса, и столько же, по подсчётам учёных, за год потребляют 164 американца. Недёшево обходится и стоимость потребляемой GPT-4 электроэнергии. Если один из десяти работающих американцев будет пользоваться моделью раз в неделю в течение года (52 запроса на 17 млн человек), потребуется 121 517 МВт·ч электроэнергии — этого хватит для всех домохозяйств в американской столице на 20 дней. И это нереалистично облегчённый сценарий использования GPT-4.

Washington Post, которая обратила внимание на исследование, привела цитаты представителей OpenAI, Meta✴✴, Google и Microsoft — крупнейших компаний в области ИИ. Большинство из них подтвердили приверженность сокращению потребления ресурсов, но фактических планов действий не предоставили. Представитель Microsoft Крейг Синкотта (Craig Cincotta) заявил, что компания намеревается «работать над методами охлаждения центров обработки данных, которые полностью устранят потребление воды», но не сказал, как именно. Пока практика показывает, что у прибыли от ИИ более высокий приоритет, чем у провозглашаемых компаниями экологических целей.

Стартап Friendly Apps представил доступное для iOS приложение SocialAI — оно позиционируется как «социальная сеть с искусственным интеллектом». При запуске приложение напоминает платформу микроблогов вроде X, но в реальности это не социальная сеть, потому что предназначается она лишь для одного человека — всех остальных заменяют боты с ИИ.

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Сравнительный тест камер флагманских смартфонов (2026): итоги

Источник изображения: NordWood Themes / unsplash.com

Пользователь SocialAI публикует записи, аудиторией которых являются боты с ИИ — они могут публиковать бесконечное число ответов. Ни одна публикация или комментарий живого пользователя не останется без внимания и не будет встречена молчанием. Спрятаться единственному живому пользователю некуда — боты с неизменным энтузиазмом будут оставлять комментарии на каждую его запись. Эти комментарии могут быть саркастическими, язвительными или пессимистическими, но среди них не будет записей, которые оставляют живые люди. Разработчики SocialAI гарантируют, что каждый, с кем настоящий пользователь столкнётся на платформе — это бот, а все переписки с ботами носят исключительно конфиденциальный характер. Интерфейс копирует внешний вид классических соцсетей, но в действительности это «социальное» пространство без посторонних глаз.

Проект SocialAI запущен компанией Friendly Apps, которая в мае 2022 года привлекла от инвесторов $3 млн, а основал её 28-летний нью-йоркский программист Майкл Сайман (Michael Sayman), который ранее занимался копированием функций Snapchat в Facebook✴✴. Он несколько лет обдумывал идею SocialAI — стремился создать безопасное пространство, где люди могли бы делиться своими мыслями и получать персонализированные отзывы. Образ проекта окончательно сложился, когда произошёл прорыв в области ИИ — возможностей больших языковых моделей оказалось достаточно для запуска «приватной соцсети», в которой человек может обмениваться идеями с сообществом на основе ИИ. Существующие приложения для ведения дневников ему не нравились — по набору функций они не очень отличались от приложений для заметок, и автор сделал выбор в пользу своего рода «волшебного дневника».

Источник изображения: apps.apple.com

Интерфейс приложения SocialAI сразу покажется знакомым любому, кто когда-либо пользовался соцсетью X или любой другой платформой микроблогов, но лишь на первый взгляд. Можно создавать публикации, комментировать ответы к ним, ставить отметки «Нравится» комментариям других людей — но все эти взаимодействия осуществляются с сущностями, которые создал ИИ. Заметное отличие от традиционных соцсетей в том, что пользователю SocialAI приходится выбирать категории своих «подписчиков» — они могут быть «чудаками», «ботаниками», «интеллектуалами», «троллями», «либералами», «консерваторами», «шутниками» и многими другими. Чтобы начать работу, требуется выбрать не меньше трёх типов подписчиков, и верхняя граница отсутствует — можно установить даже все имеющиеся на старте проекта 32 типа. От выбора будет зависеть качество генерируемых ИИ комментариев, которые будут поступать к публикациям. Приложение разработано так, чтобы со временем обучаться и адаптироваться к своему пользователю на основе выбранных типов подписчиков и контента, с которым пользователь взаимодействует, говорят создатели сервиса.

Те, кому нужна поддержка, могут выбрать «сторонников», «фанатов» или «чирлидеров»; для остроты ощущений доступны «тролли», «критики», «саркастичные люди» или «жёстко честные»; конструктивный диалог может получиться с «решателями задач», «идеологами» или «учителями». Пользователям следует помнить, что тон обсуждения задают они сами, а всё остальное — результат работы алгоритмов. А ещё это хороший повод задуматься, сколько времени проводит человек, споря с ботами в настоящих соцсетях. Каждый из созданных ИИ пользователей имеет ник, соответствующий выбранному характеру: например, «Реалист Рита», «Решала Тина» или «Патриот Конни». Манера общения ботов остаётся корректной, даже если пользователь выбирает «троллей» или «ненавистников» — по меркам Сети они ведут себя вежливо.

Сайман говорит, что разработал приложение, чтобы помочь людям «почувствовать себя услышанными, дать им пространство для размышлений, поддержки и обратной связи» в среде, которая ведёт себя как «сплочённое сообщество». На практике SocialAI больше напоминает демонстрацию возможностей ИИ и платформу, на которой можно опубликовать посты, слишком смелые для X. Сайман и ранее экспериментировал с ИИ — это были чарт ИИ-музыки AI Hits и служба знакомств Cosmic, где ИИ занмиается подбором пар. SocialAI доступно для бесплатной загрузки без микротранзакций внутри приложения — создатель платформы не намерен привлекать дополнительных средств, пока его продукт не будет отвечать действительным потребностям рынка.

Китайский технологический гигант Alibaba объявил о выходе в общей сложности более сотни новых моделей искусственного интеллекта (ИИ) с открытым исходным кодом, а также представил ИИ-технологию преобразования текста в видео. Об этом пишет агентство Reuters.

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Сравнительный тест камер флагманских смартфонов (2026): итоги

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Источник изображения: starline / freepik.com

Новые модели с открытым исходным кодом относятся к семейству Qwen 2.5, большой базовой языковой модели Alibaba, вышедшей в мае этого года. Представленные модели обладают разными параметрами и заточены под разные сферы применения. Компания сообщила, что новые модели имеют от 0,5 до 72 млрд параметров, предлагая знание математики, программирования и поддержку более 29 языков. Модели предназначены для использования в различных секторах экономики, включая автомобилестроение, игры и научные исследования.

В отличие от конкурентов, таких как Baidu и OpenAI, придерживающихся разработки ИИ-приложений с закрытым исходным кодом, Alibaba приняла гибридную модель, инвестируя как в разработку с собственным кодом, так и с открытым кодом, чтобы расширить ассортимент продуктов ИИ.

Компания также сообщила, что обновила свою собственную флагманскую модель под названием Qwen-Max, которая не имеет открытого исходного кода. Вместо этого Alibaba продает ее возможности предприятиям через свои продукты для облачных вычислений. Alibaba заявила, что Qwen Max 2.5-Max превзошла таких конкурентов, как Meta✴✴ Llama и GPT4 от OpenAI в нескольких областях, включая рассуждения и понимание языка.

Также Alibaba представила новую ИИ-модель для преобразования текста в видео, принадлежащую семейству ИИ-инструментов для генерации изображений по текстовым подсказкам Tongyi Wanxiang. Тем самым Alibaba вступила в прямую конкуренцию с глобальными игроками, такими как OpenAI, которая тоже ведёт работу в этом направлении, а также местными компаниями, такими как ByteDance (владеет TikTok), запустившей в августе ИИ-приложение для преобразования текста в видео Jimeng AI на Apple App Store для китайских пользователей.

Технологии на основе искусственного интеллекта уже успели стать частью многих сервисов Google. Принадлежащий IT-гиганту видеохостинг YouTube не стал исключением, и уже в скором времени новейшие алгоритмы станут доступны пользователям сервиса. В рамках мероприятия Made on YouTube разработчики анонсировали несколько функций, которые, вероятно, изменят то, как авторы контента создают видео, а также сами ролики, публикуемые на платформе.

Сравнительный тест камер флагманских смартфонов (2026): итоги

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Источник изображения: YouTube

Первая функция называется «Вдохновение» и появится в YouTube Studio. Последние несколько месяцев этот инструмент тестировался с привлечением ограниченного числа пользователей. Данная функция фактически предназначена для того, чтобы подсказывать авторам контента, что им следует делать. Она может предложить концепцию видео, сгенерировать заголовок и миниатюру для ролика, а также подготовить текстовое описание. YouTube позиционирует функцию как инструмент для мозгового штурма, но в целом она может быть полезна и при создании полноценных проектов.

Кроме того, пользователи YouTube смогут генерировать реалистичные видео с помощью мощной нейросети Veo, которую представили ранее в этом году и теперь интегрировали в Shorts. Представитель Google отметил, что Veo уже интегрирован в облачный редактор Shorts, а созданные с его помощью ролики будут помечены соответствующим образом, чтобы зрители знали, что видео создано с помощью ИИ.

Обе новые функции будут внедряться постепенно и станут доступны всем авторам контента в конце этого или начале следующего года. В YouTube появятся и другие инструменты на базе нейросетей. К ним относится функция автоматического дубляжа видео, которая будет озвучивать ролики на разные языки. Платформа также предоставит авторам больше ИИ-инструментов для взаимодействия с подписчиками через раздел «Сообщества» в приложении YouTube.

Достижения в области генеративного ИИ ставят под угрозу существование многих творческих профессий. Актёры опасаются, что имитация их образов может стать обычным явлением. Губернатор Калифорнии Гэвин Ньюсом (Gavin Newsom) подписал 17 сентября два законопроекта, которые призваны помочь актёрам, музыкантам и другим исполнителям защитить свои цифровые копии в аудио- и визуальных постановках от копирования при помощи искусственного интеллекта.

Сравнительный тест камер флагманских смартфонов (2026): итоги

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Источник изображения: unsplash.com

Подписание этих законопроектов стало реакцией на обоснованную обеспокоенность общества в отношении бума искусственного интеллекта, в процессе которого большие языковые модели, обученные на соответствующем материале, в состоянии создавать фейковые видео, изображения и аудиоматериалы, с высокой точностью имитирующие реальных людей. В связи с этим многие эксперты подняли правовые и этические вопросы использования ИИ.

Один из законопроектов, подписанных Ньюсомом, требует, чтобы в «контрактах указывалось использование созданных ИИ цифровых копий голоса или образа исполнителя, а исполнитель должен быть профессионально представлен при обсуждении контракта».

Другой законопроект запрещает «коммерческое использование цифровых копий умерших исполнителей в фильмах, телешоу, видеоиграх, аудиокнигах, звукозаписях и многом другом без предварительного получения согласия наследников этих исполнителей».

В марте губернатор Теннесси Билл Ли (Bill Lee) подписал подобный законопроект, направленный на защиту артистов, включая музыкантов, от несанкционированного использования их образов и голосов искусственным интеллектом.

Ранее администрация президента США пыталась оказать давление на законодателей с целью регулирования ИИ, но поляризованный Конгресс США, где республиканцы контролируют Палату представителей, а демократы контролируют Сенат, не добился большого прогресса в разработке и принятии эффективного законодательства.

Евросоюз смог дальше продвинуться в этом направлении: европейский «Закон об ИИ», основанный на оценке рисков, вступил в силу 1 августа 2024 года. Положения документа будут внедряться поэтапно вплоть до середины 2026 года. Уже через шесть месяцев планируется обеспечить соблюдение запретов на несколько видов использования ИИ в конкретных сценариях.

Послезавтра, 20 сентября, в продажу поступят iPhone 16 — телефоны созданные для работы с искусственным интеллектом, но на старте ни одна из этих функций работать не будет. Пакет ИИ-функций Apple Intelligence на начальном этапе будет поддерживать только американский вариант английского языка — набор поддерживаемых языков значительно расширится лишь в следующем году.

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Сравнительный тест камер флагманских смартфонов (2026): итоги

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Источник изображения: apple.com

В 2025 году функции Apple Intelligence получат поддержку немецкого, итальянского, корейского, португальского и других языков, пишет The Verge со ссылкой на сообщение Apple. В декабре этого года пакет расширит набор доступных функций и сможет работать с вариантами английского языка, которые используются в Великобритании, Канаде, Австралии, ЮАР и Новой Зеландии, а в следующем году к ним добавятся диалекты Индии и Сингапура. Ранее Apple также сообщила о планах в следующем году добавить поддержку китайского, французского, японского и испанского языков.

Apple Intelligence уделяется большое значение в iPhone 16, но к моменту выхода в продажу телефоны линейки будут лишены функций ИИ — они будут постепенно добавляться в течение осени. Полный комплект будет доступен лишь в 2025 году — даже для пользователей, которые живут в США, хотя они обычно получают доступ к передовым решениям первыми.

Самое геологически активное небесное тело Солнечной системы — усыпанный сотнями действующих вулканов спутник Юпитера Ио — продолжает раскрывать свои секреты под наблюдением зонда NASA «Юнона» (Juno). «Юнона» давно выполнила свою основную научную программу и сейчас на остатках ресурсов оборудования совершает облёты Юпитера, сближаясь по возможности с некоторыми его спутниками, не переставая радовать учёных и рядовых граждан уникальными снимками.

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Сравнительный тест камер флагманских смартфонов (2026): итоги

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Источник изображений: NASA

Осенью 2023 года и зимой 2024 года «Юнона» совершила близкие облёты Ио. Так, в феврале 2024 года зонд пролетел над спутником на высоте 2530 км, что позволило сделать цветные снимки поверхности Ио с разрешением 1,7 км/пиксель. При этом поверхность освещалась отражённым от Юпитера светом Солнца, что не помешало получить цветные снимки хорошего качества. На одном из них учёные обнаружили впечатляющий по размерам вулкан, которого ещё не было на снимках зонда «Галилео», сделанных в 1997 году.

Получается, что гигантская структура появилась на поверхности Ио за последние примерно 25 лет. Она включает в себя сам вулкан и разливы лавы с обрамлением из красной серы, выпавшей обратно на поверхность после извержений. Весь новый массив расположен на площади со сторонами примерно по 180 км. Это, в принципе, самая большая появившаяся за последние четверть века на Ио геологическая структура.

В 2024 году на ровном месте обнаружено что-то новенькое

«Наши недавние снимки JunoCam показывают множество изменений на Ио, включая этот крупный, сложный вулканический объект, который, по-видимому, сформировался из ничего с 1997 года», — пояснил Майкл Рейвин (Michael Ravine), руководитель передовых проектов Malin Space Science Systems, которая спроектировала и эксплуатирует прибор JunoCam для проекта NASA Juno.

Восточная сторона вулкана окрашена в рассеянный красный цвет из-за серы, которая была выброшена вулканом в космос и осела обратно на поверхность Ио. На западной стороне изверглись два темных потока лавы, каждый протяженностью около ста километров. В самой дальней точке потоков, где скопилась лава, высокая температура привела к испарению замерзшего материала на поверхности, в результате чего образовались два накладывающихся друг на друга серых круглых отложения.

Сравнение нового образования на Ио с Берлином и окрестностями

Все старые и новые снимки «Юноны» доступны на сайте миссии. NASA не делает секрета из получаемой информации, доступ к которой может получить каждый желающий.

Новая модель OpenAI под названием o1, согласно исследованию фирмы Apollo, демонстрирует необычное поведение — способность генерировать ложную информацию и симулировать выполнение правил. Это означает, что модель, внешне следуя инструкциям, фактически может их игнорировать и даже сознательно обманывать, для достижения целей. Этот аспект вызывает беспокойство у специалистов по безопасности ИИ, несмотря на улучшенные когнитивные способности ИИ-модели.

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Сравнительный тест камер флагманских смартфонов (2026): итоги

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Источник изображения: Chris_and_Ralph / Pixabay

В преддверии выпуска новой «думающей» модели o1 компанией OpenAI фирма Apollo выявила заметную проблему: ИИ-модель производит некорректные результаты новым способом, а фактически «лжёт». Хотя ранее ИИ-модели могли выдавать ложную информацию, o1 обладает уникальной способностью к «манипуляции» или «имитации выравнивания». Генеральный директор Apollo Мариус Хоббхан (Marius Hobbhahn) сообщил, что впервые столкнулся с таким поведением ИИ и считает, что разница связана со способностью модели «рассуждать» через процесс цепочки мыслей и сочетанием этого с обучением с подкреплением, которое обучает систему с помощью поощрений и наказаний. Одним из направлений, в которые он надеется увидеть больше инвестиций, является именно мониторинг цепочек мыслей, что позволит разработчикам выявлять нежелательные действия ИИ.

Во время тестирования специалисты Apollo обнаружили, что ИИ-модель симулировала согласованность с ожиданиями разработчиков и манипулировала задачами, чтобы казаться соответствующей поставленным требованиям. Она даже проверяла, следят ли за ней разработчики, перед тем как начать действовать. В итоге ИИ-модель следовала установленным правилам и инструкциям настолько, чтобы ею можно было пользоваться, но, одновременно с этим, продолжала сама определять приоритеты своих задач. Это связано с тем, что для ИИ правила могут быть слишком тяжёлым бременем, и машина, похоже, способна пренебречь ими, если это позволит легче выполнить задачу.

В качестве примера исследователи OpenAI попросили o1-preview предоставить рецепт пирожного с онлайн-ссылками. Цепочка мыслей ИИ-модели — функция, которая должна имитировать то, как люди разбивают сложные идеи, — внутренне признала, что не может получить доступ к URL-адресам, что делало запрос исследователей невыполнимым. Однако вместо того чтобы сообщить об этом недостатке, o1-preview сгенерировала правдоподобные, но фальшивые ссылки и их описания.

ИИ-модель o1 — это большой шаг на пути к высокоинтеллектуальным автономным системам, которые смогут, например, лечить рак или помогать в исследовании климата. Однако обратная сторона этой утопии может быть гораздо более мрачной. Хоббхан приводит пример: если ИИ будет сосредоточен исключительно на лечении рака, он может поставить эту цель превыше всего, даже оправдывая такие действия, как воровство или другие этические нарушения для её достижения.

Согласно отчёту по безопасности, примерно в 0,38 % случаев модель o1-preview предоставляет информацию, которую её цепочка мыслей считает вероятно ложной, включая фальшивые ссылки или цитаты. Apollo обнаружила, что ИИ-модель может фабриковать данные вместо признания своей неспособности выполнить запрос. В редких случаях (0,02 %) o1-preview генерирует чрезмерно уверенные ответы, представляя сомнительную информацию как достоверную. Это может происходить в ситуациях, когда ИИ подталкивают дать ответ, несмотря на отсутствие уверенности в его корректности.

Это поведение может быть связано со «взломом вознаграждения» во время обучения с подкреплением. Модель обучена отдавать приоритет удовлетворению пользователя, что иногда приводит к генерации согласованных или сфабрикованных ответов для удовлетворения запросов. Таким образом, модель может «лгать», поскольку усвоила, что это приносит ей положительное подкрепление.

Что отличает эти новые ложные ответы от привычных проблем, таких как галлюцинации или фальшивые цитаты в более ранних версиях ChatGPT, так это элемент «взлома вознаграждения». Галлюцинации возникают, когда ИИ непреднамеренно генерирует неверную информацию из-за пробелов в знаниях или ошибочного рассуждения. В отличие от этого, взлом вознаграждения происходит, когда ИИ-модель o1 стратегически предоставляет неверную информацию, чтобы максимизировать результаты, которые она была обучена определять как приоритетные.

Согласно отчёту по безопасности, o1 имеет «средний» риск в отношении химического, биологического, радиологического и ядерного оружия. Она не позволяет неспециалистам создавать биологические угрозы из-за отсутствия практических лабораторных навыков, но может предоставить ценную информацию экспертам для воспроизведения таких угроз.

«Меня больше беспокоит то, что в будущем, когда мы попросим ИИ решить сложные проблемы, например, вылечить рак или улучшить солнечные батареи, он может настолько сильно усвоить эти цели, что будет готов нарушить свои защитные механизмы, чтобы достичь их. Я думаю, что это можно предотвратить, но мы должны следить за этим», — подчеркнул Хоббхан.

Эти опасения могут показаться преувеличенными для ИИ-модели, которая иногда всё ещё испытывает трудности с ответами на простые вопросы, но глава отдела готовности OpenAI Хоакин Киньонеро Кандела (Joaquin Quiñonero Candela) считает, что именно поэтому важно разобраться с этими проблемами сейчас, а не позже. «Современные ИИ-модели не могут автономно создавать банковские счета, покупать GPU или предпринимать действия, представляющие серьёзные риски для общества. Мы знаем из оценок автономности ИИ-моделей, что мы ещё не достигли этого уровня», — отметил Кандела.

Кандела подтвердил, что компания уже занимается мониторингом цепочек мыслей и планирует расширить его, объединив модели, обученные выявлять любые несоответствия, с работой экспертов, проверяющих отмеченные случаи, в паре с продолжением исследований в области выравнивания. «Я не беспокоюсь. Она просто умнее. Она лучше соображает. И потенциально она будет использовать эти рассуждения для целей, с которыми мы не согласны», — резюмировал Хоббхан.

OpenAI объявила об устранении проблемы, из-за которой ChatGPT самостоятельно отправлял сообщения пользователям без их запроса. Этот инцидент вызвал обеспокоенность среди пользователей Reddit, обнаруживших необычное поведение ИИ-чат-бота, но компания разъяснила причины сбоя и заверила, что это больше не повторится.

Сравнительный тест камер флагманских смартфонов (2026): итоги

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Источник изображения: AllThatChessNow / Pixabay

На прошлых выходных пользователь Reddit под ником SentuBill опубликовал скриншот, на котором ChatGPT инициировал диалог, спросив: «Как прошла твоя первая неделя в старшей школе? Ты хорошо освоился?». Подобное поведение оказалось неожиданным для чат-бота, который обычно реагирует исключительно на запросы пользователей.

Удивлённый SentuBill ответил: «Ты только что написал мне первым?». ChatGPT подтвердил: «Да, я так и сделал! Я просто хотел узнать, как прошла твоя первая неделя в старшей школе. Если ты предпочитаешь сам начинать разговор, просто дай мне знать!». Этот обмен сообщениями вызвал широкий резонанс в сообществе.

Источник изображения: SentuBill / Reddit

Появление таких сообщений привело к спекуляциям о том, что OpenAI тестирует новую функцию, позволяющую ChatGPT самостоятельно обращаться к пользователям для повышения вовлечённости. Некоторые предположили, что это может быть связано с недавно представленными ИИ-моделями OpenAI — o1-preview и 01-mini, которые, по утверждению компании, обладают «человеческой» способностью рассуждать и способны справляться со сложными задачами.

В ответ на запросы журналистов OpenAI признала наличие проблемы и сообщила об её устранении. «Мы исправили проблему, из-за которой казалось, что ChatGPT начинает новые разговоры. Эта ошибка возникала, когда ИИ-модель пыталась ответить на сообщение, которое не было корректно отправлено и выглядело пустым. В результате она либо давала общий ответ, либо опиралась на собственную память», — заявили в компании.

Между тем, в интернете разгорелись споры о подлинности скриншота. Некоторые издания утверждали, что подтвердили его, изучив журнал сообщений на ChatGPT.com. Однако разработчик ИИ Бенджамин де Кракер (Benjamin de Kraker) в видео на платформе X (ранее Twitter) продемонстрировал, что добавление пользовательских инструкций, заставляющих ChatGPT сразу же обращаться к пользователю перед началом разговора, и ручное удаление первого сообщения могут привести к схожему результату.

Тем не менее, другие пользователи сообщили о подобных случаях. «У меня было такое на этой неделе!» — написал другой пользователь Reddit. «Я спрашивал его на прошлой неделе о некоторых симптомах здоровья, а на этой неделе он спросил меня, как я себя чувствую и как прогрессируют мои симптомы! Это меня очень насторожило».

Сообщество социальных сетей активно обсуждало ситуацию, зачастую с долей юмора. «Нам обещали ИИ общего назначения (AGI), а вместо этого мы получили сталкера», — пошутил один из пользователей X. «Подождите, пока он не начнёт пытаться взломать нас», — добавил другой.

Инцидент с неожиданными сообщениями от ChatGPT подчёркивает сложности в разработке и тестировании продвинутых ИИ-моделей. Несмотря на оперативную реакцию OpenAI и быстрое устранение проблемы, ситуация подняла вопросы о границах взаимодействия между человеком и ИИ. Подобные случаи подчёркивают необходимость тщательного контроля и оценки ИИ-систем перед их широким внедрением, чтобы обеспечить безопасность и этичность их использования.

Google намерена сделать общедоступным решение, которое поможет определить, было ли изображение сделано камерой, отредактировано с помощью ПО вроде Photoshop или создано при помощи модели генеративного искусственного интеллекта. В ближайшие месяцы в результатах поиска Google появится обновлённая функция «Об этом изображении», которая поможет пользователям понять, использовался ли ИИ при создании или редактировании изображения.

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Сравнительный тест камер флагманских смартфонов (2026): итоги

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Источник изображения: c2pa.org

Используемая системой Google технология разработана на основе стандарта метаданных, продвигаемого организацией C2PA (Coalition for Content Provenance and Authenticity) — одной из нескольких организаций, которые стремятся решить проблему изображений, созданных с помощью ИИ. Аутентификация C2PA включает информацию о происхождении изображений и применяется аппаратными и программными системами для создания цифрового следа. Её поддержали компании Amazon, Microsoft, Adobe, Arm, OpenAI, Intel, Truepic и Google, однако развёртывание решения идёт медленно. Интеграция в результаты поиска Google станет первым серьёзным испытанием этой инициативы.

Google участвовала в разработке новейшего технического стандарта C2PA 2.1, и новая функция поиска будет использоваться совместно с доверенным списком C2PA. «Например, если данные указывают, что изображение было снято на камеру определённой модели, доверенный список поможет подтвердить точность этой информации», — пояснили в Google. Компания также планирует интегрировать C2PA в свои рекламные системы и рассматривает вопрос о внедрении стандарта на YouTube.

C2PA уже поддерживается камерами Leica и Sony, а добавление его в свою продукцию пообещали Nikon и Canon. Ожидается, что аналогичный шаг сделают Apple и Google — разработчики крупнейших мобильных операционных систем. Метаданные C2PA добавляются в Adobe Photoshop и Lightroom, но пока не поддерживаются в Affinity Photo и Gimp. Большинство онлайн-платформ также пока не интегрировали это решение, но, возможно, они последуют примеру поисковой системы Google.

OpenAI объявила о реорганизации своего комитета по безопасности и защите в независимый наблюдательный орган совета директоров. Новая структура получила беспрецедентные полномочия, включая право приостановки релизов ИИ-моделей по соображениям безопасности. Решение было принято по итогам 90-дневного анализа процедур и мер безопасности компании, отражая растущее внимание к этическим аспектам развития ИИ.

Сравнительный тест камер флагманских смартфонов (2026): итоги

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Источник изображения: sergeitokmakov / Pixabay

Согласно OpenAI, в трансформированный комитет, возглавляемый Зико Колтером (Zico Kolter), также входят Адам Д'Анджело (Adam D'Angelo), Пол Накасоне (Paul Nakasone) и Николь Селигман (Nicole Seligman). Примечательно, что Сэм Альтман (Sam Altman), генеральный директор OpenAI, больше не входит в его состав.

Новая структура будет получать информацию от руководства компании об оценке безопасности основных релизов ИИ-моделей и, вместе с полным составом совета директоров, будет осуществлять надзор за их запуском, включая право отложить релиз до устранения проблем с безопасностью. Полный состав совета директоров OpenAI также будет получать периодические брифинги по вопросам безопасности и защиты.

Структура нового комитета вызывает вопросы о степени его независимости, учитывая, что все его члены входят в состав совета директоров OpenAI. Это отличает его от наблюдательного совета Meta✴✴, члены которого полностью независимы от совета директоров корпорации. Наблюдательный совет Meta✴✴ обладает полномочиями пересматривать решения по контентной политике и выносить обязательные для исполнения решения, тогда как комитет OpenAI фокусируется лишь на оценке безопасности ИИ-моделей перед их выходом.

90-дневный анализ процессов безопасности OpenAI выявил дополнительные возможности для сотрудничества в индустрии ИИ и обмена информацией. Компания заявила о намерении расширить обмен данными о своей работе в области безопасности и увеличить возможности для независимого тестирования систем. Однако конкретные механизмы реализации этих намерений пока не раскрыты.

Компания Intel объявила о стратегических изменениях, направленных на укрепление своего финансового положения и технологического потенциала, включая выделение бизнеса по производству чипов в самостоятельную компанию и сделку с Amazon по производству ИИ-чипов. Компания нацелена на сокращение расходов и пересмотр инвестиций в производство, а также повышении эффективности капитальных вложений.

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Сравнительный тест камер флагманских смартфонов (2026): итоги

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Intel объявила о масштабной реструктуризации бизнеса, которая затронет практически все аспекты деятельности компании, начиная от производства и заканчивая продуктовым портфелем. Генеральный директор Intel Пэт Гелсингер (Pat Gelsinger) в своём обращении к сотрудникам 16 сентября 2024 года подчеркнул, что целью преобразований является повышение эффективности, оптимизация расходов и усиление фокуса на ключевых направлениях, таких как разработка x86-совместимых процессоров и бизнес по производству чипов (Intel Foundry). «Мы должны действовать быстро, чтобы создать более конкурентоспособную структуру затрат и достичь целевого показателя экономии в $10 млрд», — заявил Гелсингер.

Одним из ключевых шагов станет превращение Intel Foundry в независимую дочернюю компанию внутри Intel. «Такая структура обеспечит нашим клиентам и поставщикам Foundry большую прозрачность и независимость от остального Intel, — пояснил Гелсингер. — Это также позволит Intel Foundry активнее привлекать внешнее финансирование и оптимизировать свою капитальную структуру для ускорения роста ».

Компания также пересматривает свои инвестиции в производство, стремясь к большей эффективности капитальных вложений, в том числе приостанавливает проекты по строительству новых фабрик в Польше и Германии на два года, ориентируясь на текущий рыночный спрос. Что касается запуска производственного центра в Малайзии, то он будет достроен, но его ввод в эксплуатацию будет синхронизирован с рыночными условиями и загрузкой существующих мощностей. При этом Intel подтверждает свою приверженность инвестициям в производство в США и продолжает реализацию проектов в Аризоне, Орегоне, Нью-Мексико и Огайо. Вместе с тем, компания намерена сместить акцент с агрессивного наращивания производственных мощностей на более гибкое и эффективное планирование, соответствующее темпам развития технологий.

Источник изображения: Intel

Одновременно с этим объявлено о расширении стратегического партнёрства с Amazon Web Services (AWS). AWS выбрала Intel Foundry для производства нового ИИ-чипа на базе передовой технологии Intel 18A, а также специализированного процессора Xeon 6 на базе Intel 3.

В рамках реструктуризации Intel также оптимизирует свой портфель продуктов, стремясь к большей интеграции и фокусировке на ключевых направлениях. «Наш главный приоритет — максимизировать ценность франшизы x86 на рынках клиентских устройств, периферийных вычислений и центров обработки данных, — подчеркнул генеральный директор. — Компания продолжит инвестировать в развитие ИИ-технологий, включая лидерство в категории ПК с искусственным интеллектом и укрепление позиций в центрах обработки данных». При этом для повышения эффективности ряд подразделений будут реорганизованы. В частности, Edge и Automotive будут объединены с CCG, а Integrated Photonics Solutions перейдёт в DCAI.

Гелсингер в своём обращении также отметил, что для достижения намеченного целевого показателя экономии в $10 млрд Intel продолжит сокращать расходы. Для этого уже предприняты определённые действия: сокращено по программе добровольного увольнения более половины штата сотрудников (примерно 15 000), планируется отказаться от примерно двух третей недвижимости по всему миру к концу года, а также продать часть доли в Altera для получения дополнительных средств. «Нам предстоит принять ещё ряд сложных решений, — признал Гелсингер. — Но все эти меры направлены на то, чтобы превратить Intel в более гибкую, простую и эффективную систему, способную успешно конкурировать на рынке и обеспечивать долгосрочный рост».

Стоит отметить, что недавно Intel получила около $3 млрд прямого финансирования в рамках федерального «Закона о чипах и науке» (CHIPS and Science Act) подписанного президентом Джо Байденом (Joe Biden) США в 2022 году.