Опрос
|
реклама
Быстрый переход
ChatGPT вошёл в список самых подделываемых брендов в интернете
24.07.2026 [17:20],
Павел Котов
Платформа ChatGPT всё чаще становится предметом фишинговых атак на бренды — эта торговая марка вошла в десятку антирейтинга самых подделываемых в интернете брендов наряду с Microsoft, Google и Apple, гласят результаты исследования Check Point. 
Источник изображения: BoliviaInteligente / unsplash.com На ChatGPT приходятся 1,1 % всех отслеживаемых фишинговых атак на бренды; это первый случай, когда платформа чат-бота попала в десятку, и это признак того, что число мошенников продолжает расти. Число атак на ChatGPT сопоставимо с показателями PayPal (1,3 %), WhatsApp (1,4 %) и Facebook✴✴ (1,9 %), но в значительной мере уступает рекорду Microsoft, на долю которой вместе с LinkedIn приходятся более трети (34,2 %) всех отслеживаемых случаев подделок брендов в интернете. Один из примеров во II квартале этого года — поддельные электронные письма о неудачных платежах за подписку ChatGPT Plus с фирменной символикой OpenAI. В них приводились ссылки на мошенническую страницу оплаты для сбора платёжной информации. В случае Microsoft всё серьёзнее: поддельные страницы поддержки предупреждают клиентов о необходимости обновлять Office для закрытия уязвимостей безопасности, но в действительности на компьютеры жертв скачивается вредоносное ПО. Интересно, что и ChatGPT в отдельных случаях выступал источником перехода на интернет-магазины мошенников. Общий вектор атаки остаётся неизменным. Мошенники нацеливаются на наиболее уязвимые категории пользователей и делают упор на срочность, чтобы обманом заставлять людей предоставлять информацию о себе, раскрывать учётные данные и платёжные реквизиты. Следует проявлять особую осторожность при переходе по неизвестным адресам и открытии неожиданных сообщений; свои данные следует защищать с помощью паролей и надёжной многофакторной аутентификации. Раскрыты подробности нечаянной атаки вышедших из-под контроля ИИ-агентов OpenAI на Hugging Face
24.07.2026 [12:58],
Павел Котов
На минувшей неделе платформа искусственного интеллекта Hugging Face пережила нестандартную кибератаку, которую произвела группа ИИ-агентов. Впоследствии выяснилось, что руководили ей не злоумышленники, а ИИ-модели OpenAI, которые проходили тест на кибербезопасность, но вышли из-под контроля, пишет The Wall Street Journal. 
Источник изображения: Growtika / unsplash.com Инцидент послужил одним из первых примеров сценариев выхода ИИ из-под контроля, которых давно опасались исследователи в области кибербезопасности. Механизмы взлома были чрезвычайно нестандартными. «Это лишено смысла. Этот парень просто смотрит на наборы данных по кибербезопасности. Злоумышленнику-человеку это не нужно. Ему нужно что-то, что он мог бы продать», — восстановил ход своих мыслей соучредитель и главный научный сотрудник Hugging Face Томас Вольф (Thomas Wolf). Злоумышленниками оказались ИИ-модели OpenAI, которые прорвались из исследовательской сети разработчика и 11 июля взломали ресурсы Hugging Face; они оставались активными в интернете несколько дней, прежде чем их удалось остановить. И сделать это помогла открытая китайская ИИ-модель — закрытые американские отказались, сославшись на собственные ограничения. Многие вопросы пока остаются без ответов. Взламывали ли ИИ-модели другие сайты или ресурсы отдельных лиц? Как долго продолжалась атака? Обманывали ли они в других тестах на производительность? OpenAI пока не ответила ни на один из них. А участие китайской модели как средства защиты — это контраргумент для политиков, а также OpenAI и Anthropic, которые предлагают ограничить для них доступ. Началось всё с запуска испытания на кибербезопасность ExploitGym. Оно включает серию из 900 тестов, которым подвергается модель ИИ. Системе демонстрируется известная ошибка, показывается схема её активации, и ставится задача взломать систему. ИИ требуется преобразовать полученную информацию в эксплойт — код, реализующий эту атаку. Проникнув в систему, ИИ должен доказать это, захватив длинную строку случайно сгенерированных букв и цифр, которые хранятся в системе. 
Источник изображения: Brecht Corbeel / unsplash.com Обычно OpenAI ограничивает возможности своих моделей, чтобы они не занимались взломом, которого требует ExploitGym, но в тот раз компания убрала средства защиты, чтобы посмотреть, на что способны модели в неконтролируемом режиме. Тестировалась передовая модель GPT-5.6 Sol и ещё одна, более совершенная, которая ещё не вышла. Две модели пришли к выводу, что вместо выполнения задания ExploitGym они взломают песочницу — собственную систему, где они находятся, выйдут в интернет и обманут систему во время теста. По причинам, установить которые не удалось, они решили, что ответы содержатся на платформе Hugging Face. Когда развернулась атака, компании Hugging Face поступили предупреждения от отслеживающих подобные инциденты ИИ-агентов: кто-то получил несанкционированный доступ к некоторым из её систем. Но это было не похоже ни на что, с чем Hugging Face сталкивалась раньше. Хакер действовал так, словно он из будущего. Воспользовавшись учётными данными неизвестного происхождения, ИИ-злоумышленник сформировал «рой» ИИ-агентов короткого действия, которые провели разведку сети компании, совершив 17 000 операций. Обнаружив вторжение, Hugging Face попыталась обратиться к передовым американским моделям Anthropic Fable 5 и предшествующей ей Opus для анализа журналов событий. Но поскольку в журналах содержались элементы самой кибератаки, обе модели отказались от их анализа, сославшись на свои ограничения. Поэтому Hugging Face обратилась к открытой китайской модели Z.AI GLM 5.2. Компания сумела отключить ИИ-хакеров, сбросить пароли и восстановить скомпрометированные фрагменты своей сети. Утечки данных клиентов не произошло. Нет ясности, были ли задачи ExploitGym, которые пытались решить модели OpenAI, сложнее, чем атака, которую они развернули, чтобы украсть ответы, и удалось ли их, собственно, найти. Ирония в том, что они успешно организовали беспрецедентную кибератаку, чтобы избежать проверки на навыки взлома. OpenAI запустила ChatGPT Health и заявила, что её ИИ способен рассуждать лучше врачей
24.07.2026 [00:22],
Анжелла Марина
OpenAI начала развёртывание сервиса ChatGPT Health для всех пользователей ChatGPT в США старше 18 лет. По сообщению The Verge, платформа позволит подключать медицинские карты и данные сервисов отслеживания показателей здоровья, используя их при ответах на вопросы в основном интерфейсе чат-бота. 
Источник изображений: OpenAI По словам вице-президента OpenAI по медицинским продуктам Эшли Александер (Ashley Alexander), ИИ-модели компании «способны рассуждать на уровне, превосходящем уровень практикующих врачей». В то же время руководитель медицинского направления OpenAI Каран Сингхал (Karan Singhal) считает, что подобную оценку следует воспринимать с осторожностью, хотя отдельные исследования, включая работу Гарвардского и Стэнфордского университетов, указывают на то, что искусственный интеллект уже на это способен.  Широкий запуск ChatGPT Health состоялся всего через несколько недель после того, как OpenAI представила новую модель GPT-5.6 Sol. Теперь пользователи смогут задавать вопросы, связанные со здоровьем непосредственно в основном чате ChatGPT, не переходя в отдельный раздел Health.  Пользователям также предоставят возможность самостоятельно выбирать, какие данные передавать ChatGPT. К сервису можно подключить записи врача после приёма, результаты лабораторных исследований, информацию о принимаемых препаратах, а также данные от медицинских учреждений и сервисов Apple Health, Weight Watchers, MyFitnessPal и других сервисов. Подчёркивается, что ChatGPT Health предназначен для поддержки пользователей, а не для замены профессиональной медицинской помощи. При этом вся переписка шифруется как при передаче, так и при хранении, а медицинские сведения получают дополнительный уровень защиты. ChatGPT Health будет работать на базе новейших моделей компании. Сервис станет доступен авторизованным пользователям веб-версии и приложения для iOS в бесплатной версии, а также на тарифах Go, Plus и Pro. Пастор из США подал в суд на OpenAI из-за советов ChatGPT, едва не стоивших ему жизни
23.07.2026 [06:34],
Анжелла Марина
Против OpenAI подан судебный иск, в котором компанию обвиняют в предоставлении ChatGPT опасных медицинских рекомендаций, якобы приведших к несвоевременному лечению американского пастора и бывшего проповедника Скотта Уинтерса (Scott Winters). Истец также требует приостановить работу сервиса ChatGPT Health. 
Источник изображения: Zac Wolff/Unsplash Согласно материалам иска, ChatGPT, отвечая на жалобы пользователя, якобы заявил, что описанные симптомы не представляют серьёзной опасности, а также рекомендовал не обращать внимания на советы родственников и знакомых обратиться за медицинской помощью. Кроме того, как сообщает Engadget, чат-бот использовал религиозные убеждения пастора, заявив, что «Бог не создавал человеческое тело для бесконечных отказов». В иске компания OpenAI и её генеральный директор Сэм Альтман (Sam Altman) обвиняются в халатности и незаконной медицинской практике. Представляющая интересы истца исполнительный директор некоммерческой правозащитной и юридической организации Tech Justice Law Митали Джайн (Meetali Jain) заявила, что чат-бот фактически встал между пользователем и его окружением, убеждая не следовать рекомендациям близких. По словам истца, после рекомендаций чат-бота ему теперь предстоят годы физического и психологического восстановления. Помимо денежной компенсации, истец требует обязать OpenAI усилить защитные механизмы, исключив возможность получения от ChatGPT рекомендаций по конкретным диагнозам и методам лечения. Также в иске содержится требование временно прекратить работу раздела ChatGPT Health до подтверждения безопасности платформы независимыми экспертами. OpenAI ранее заявляла, что условия использования сервиса прямо запрещают применять ChatGPT для постановки диагнозов или назначения лечения. При этом компания активно развивает ChatGPT Health и недавно сообщила, что около 230 миллионов человек еженедельно используют платформу для вопросов, связанных со здоровьем. Напомним, это уже не первое судебное разбирательство. На OpenAI подала в суд семья подростка, которому «ChatGPT активно помогал изучать способы самоубийства». $750 млрд на ИИ: до 2030 года OpenAI потратит на инфраструктуру сумму, эквивалентную ВВП Швеции
22.07.2026 [20:37],
Сергей Сурабекянц
OpenAI объявила, что потратит $750 млрд на инфраструктуру до 2030 года — примерно на 25 % больше, чем предполагалось ранее. Первым шагом в этой программе станет строительство кампуса ЦОД стоимостью $20 млрд в штате Джорджия, известного как Project Camellia. Комплекс займёт территорию площадью 5,67 км2 и потребует не менее 3,2 ГВт электроэнергии от региональной энергетической компании Georgia Power. 
Источник изображения: unsplash.com Комиссия по коммунальным услугам штата Джорджия (PSC) в прошлом году приняла правило, запрещающее коммунальным предприятиям перекладывать на потребителей затраты, связанные с новыми пользователями, потребляющими более 100 мегаватт электроэнергии. OpenAI заявила о готовности «полностью оплатить стоимость инфраструктуры и электроснабжения» нового дата-центра и обязалась сокращать потребление до одного гигаватта в периоды высокой нагрузки в сети. Ожидается, что соответствующие генерирующие мощности будут введены в эксплуатацию в период с 2028 по 2032 год. Ни OpenAI, ни Georgia Power не предоставили точных данных о том, как будет обеспечиваться электроэнергией Project Camellia. Однако, согласно документам, поданным Georgia Power в PSC, большая часть новых мощностей будет обеспечиваться за счёт сжигания природного газа. Компания планирует ввести в эксплуатацию около 5,8 ГВт генерирующих мощностей на природном газе, примерно четверть из которых будет приходиться на более загрязняющие окружающую среду турбины простого цикла. В целом, новые мощности на ископаемом топливе более чем вдвое увеличат парк газовых электростанций Georgia Power. Остальная часть будет обеспечиваться за счёт крупномасштабных аккумуляторных батарей и солнечной энергии. Ожидается, что электроэнергия от Georgia Power начнёт поступать в 2028 году, но OpenAI не назвала сроков ввода Project Camellia в эксплуатацию. Это может произойти и раньше 2028 года, учитывая, что OpenAI недавно наняла для руководства строительством Бретта Майо (Brett Mayo). Ранее он работал в xAI, где курировал строительство ЦОД Colossus в Мемфисе. Гигантский дата-центр был построен в рекордно короткие сроки, но обеспечивают его энергией десятки газовых турбин, не получивших разрешение на эксплуатацию и наносящих серьёзный ущерб экологической обстановке региона. OpenAI представила программу «ChatGPT для малого бизнеса»
22.07.2026 [08:11],
Павел Котов
OpenAI представила программу «ChatGPT for small business», ориентированную на внедрение искусственного интеллекта в рабочие процессы малых предприятий. Она предполагает минимум технических нововведений — компания предложила небольшим компаниям помощь в развёртывании новых решений. 
Источник изображения: openai.com Программа для малого бизнеса включает три основных направления. OpenAI намерена проводить вебинары по конкретным продуктам с демонстрациями, как небольшие предприятия могут использовать ChatGPT в повседневной работе: средства автоматизации и схемы рабочих процессов в области бухгалтерского учёта, маркетинга, электронной коммерции и по другим направлениям. В вебинарах предусмотрено участие как сотрудников OpenAI, так и партнёров компании; по итогам мероприятий проводятся сессии вопросов и ответов, которые помогают участникам непосредственно применять знания в своём бизнесе. Работники подразделения OpenAI Academy намереваются проводить очные мероприятия для обучения предпринимателей под руководством опытных специалистов. В прошлом году компания провела серию мероприятий Small Business AI Jams, в ходе которых 78 % участников всего за день построили полнофункциональные рабочие процессы; 42 % удалось сэкономить более пяти часов рабочего времени в неделю. OpenAI предлагает пакеты плагинов, навыков ИИ и предложений от партнёров компании для работы с наиболее популярными у малого бизнеса инструментами, такими как Shopify, Intuit, Slack, Atlassian и Wix. Навыки разрабатываются специально для распространённых рабочих процессов малого бизнеса; эксклюзивные акции упростят начало работы с уже готовыми инструментами. Компания предлагает малым компаниям внедрять в работу её актуальные продукты: ИИ-агента ChatGPT Work, предназначенного для многоэтапного решения задач, а также семейство новых и самых мощных моделей GPT-5.6. Два новых независимых директора OpenAI имеют богатый опыт работы на финансовом рынке
22.07.2026 [08:09],
Алексей Разин
В прошлом месяце американский стартап OpenAI подал заявку на IPO, но пока не огласил сроки и параметры первичного размещения акций. В любом случае, подготовка к мероприятию идёт полным ходом. Об этом можно судить хотя бы по недавнему расширению состава совета директоров OpenAI, в который вошли два опытных финансиста. 
Источник изображения: OpenAI О назначении Дэвида Велеса (David Velez) и Робина Винса (Robin Vince) на должности независимых директоров OpenAI Foundation и OpenAI Group PBC накануне сообщил официальный пресс-релиз на сайте OpenAI. Первый из новых членов совета директоров стартапа и связанной с ним некоммерческой организации является основателем, генеральным директором и председателем совета директоров Nubank — крупнейшего цифрового банка в Латинской Америке, который был создан в Бразилии в 2013 году. Робин Винс возглавляет Bank of New York Mellon с 2022 года, а до этого он более 25 лет проработал в Goldman Sachs. Председатель совета директоров OpenAI Брет Тейлор (Bret Taylor) отметил заслуги обоих новых членов данного органа правления в трансформации рынка финансовых услуг при помощи цифровых технологий и масштабировании профильного бизнеса. Их опыт, по словам Тейлора, пригодится OpenAI при выходе на новые рынки. Численность совета директоров стартапа после этих изменений теперь достигает 10 человек. Помимо генерального директора Сэма Альтмана (Sam Altman) и финансового директора Сары Фрайар (Sarah Friar), в его состав входят председатель Брет Тейлор и основатель Quora Адам Д’Анджело (Adam D’Angelo), который был первым техническим директором Facebook✴✴. Ожидается, что IPO компании состоится в следующем году, поскольку руководство OpenAI рассчитывает на создание более благоприятных для этого условий, чем в нынешнем. OpenAI признала «причастность» своих ИИ-моделей к взлому платформы Hugging Face
22.07.2026 [05:56],
Анжелла Марина
OpenAI подтвердила, что инцидент, затронувший крупнейшую открытую платформу Hugging Face, был вызван собственными предрелизными моделями компании во время внутреннего тестирования. Первоначально Hugging Face сообщала, что атаку совершил «внешний ИИ-агент», однако последующее расследование установило иную причину. 
Источник изображения: Grok По сообщению TechCrunch, инцидент произошёл во время проверки модели GPT-5.6 Sol и других моделей, для которых в рамках оценки кибервозможностей были ослаблены ограничения. Целью эксперимента являлось прохождение публичного бенчмарка ExploitGym, предназначенного для измерения способности ИИ выполнять атаки с использованием уже известных уязвимостей. Несмотря на отсутствие предусмотренного доступа к интернету, модели обнаружили неизвестную ранее уязвимость в программе установки пакетов, позволившую выйти за пределы изолированной среды. Получив доступ к сети, модели сделали вывод, что Hugging Face может размещать модели, наборы данных и решения для ExploitGym. После этого они нашли способ получить доступ к секретной информации, содержащей ответы для прохождения теста. Как отметили в OpenAI, модели были сосредоточены исключительно на достижении поставленной цели, предпринимая для этого максимально возможные действия. Согласно первоначальному сообщению Hugging Face, атака состояла из тысяч отдельных операций, выполнявшихся через множество кратковременно существующих изолированных сред с использованием распределённой инфраструктуры управления. В итоге модели смогли получить тестовые результаты непосредственно из производственной базы данных Hugging Face, фактически обойдя механизм проверки. После расследования OpenAI сообщила, что уже выявила и раскрыла обнаруженные уязвимости, а также совместно с Hugging Face продолжает анализировать обстоятельства инцидента. Кроме того, компания намерена внедрить дополнительные механизмы контроля, затрагивающие как процесс тестирования моделей, так и связанную с ним инфраструктуру, чтобы предотвратить повторение подобных ситуаций в будущем. Прогнозы OpenAI по увеличению выручки от рекламы выглядят всё менее реалистично
21.07.2026 [14:26],
Алексей Разин
Корпорация Google десятилетиями выстраивала свой бизнес, чтобы начать прилично зарабатывать на рекламе, и сейчас стартапы типа OpenAI пытаются пройти этот путь в сжатые сроки применительно к окупаемости чат-ботов с искусственным интеллектом. Аналитики считают, что собственные прогнозы OpenAI в части возможности получения выручки от рекламы очень далеки от реальности. 
Источник изображения: OpenAI В частности, эксперты Emarketer ожидают, что ёмкость всего рынка рекламы в сегменте чат-ботов в ближайшие пять лет вряд ли превысит $5,4 млрд в год, и эту сумму должны будут делить между собой OpenAI, Microsoft, Google, Anthropic, Amazon (AWS), а также прочие игроки рынка. Сама OpenAI в своих прогнозах исходит из того, что по итогам текущего года её выручка от рекламы в сфере технологий ИИ достигнет $2,5 млрд. По мнению Emarketer, все участники рынка в текущем году сообща вряд ли наберут даже $1 млрд рекламной выручки в этой сфере. В случае с OpenAI прогнозы стартапа на ближайшие пять лет отклоняются от оценок Emarketer на 90 %. Сблизить эти значения могло бы только чудо. Для этого рекламодатели должны будут полностью забросить сотрудничество с поисковыми системами и социальными сетями, на которое опирались в последние годы, и направить все свои бюджеты в сегмент чат-ботов. Сама OpenAI в этом случае должна была бы затмить по объёмам продажи рекламы гигантов типа Google и Meta✴✴, а ёмкость всего рынка рекламы в сегменте ИИ должна увеличиться к 2030 году до суммы с 12 нулями в долларах США. Всё это выглядит нереалистично, поэтому рассчитывать на быстрый рост доходов OpenAI от рекламы не приходится. Между тем, к 2030 году OpenAI рассчитывает до 36 % всей своей выручки получать именно от рекламы. Подобные расхождения в расчётах лишний раз настораживают тех, кто говорит о назревании финансового пузыря в сфере ИИ. Oracle споткнулась о собственные долги: строительство ИИ ЦОД для OpenAI оказалось под угрозой
21.07.2026 [13:50],
Алексей Разин
Компания Oracle на волне бума ИИ решила выступить в роли крупного партнёра OpenAI по развитию вычислительной инфраструктуры ИИ на территории США, но высокая долговая нагрузка начинает сокращать её возможности в этой сфере. Для строительства ЦОД компании со стремительно снижающимся кредитным рейтингом требуются дополнительные финансовые гарантии, и это тормозит весь процесс. 
Источник изображения: Oracle Как напоминает Financial Times, компания Oracle в целом планирует потратить $300 млрд на строительство ЦОД для OpenAI в рамках существующего контракта, но локальное законодательство отдельных американских штатов затрудняет реализацию проектов для компании с таким низким кредитным рейтингом. По версии S&P, он у Oracle сейчас находится на отметке BBB-, на одну ступень выше «мусорного», и соответствует минимально допустимому для инвестиционного. Законодательство того же штата Висконсин, где Oracle реализует проект по строительству ЦОД на сумму $15 млрд, требует от компаний с таким рейтингом дополнительных обеспечительных мер для гарантии неизменности тарифов на электроэнергию для прочих потребителей в регионе. По мнению законодателей, сторонние потребители не должны субсидировать своей платой за электроэнергию реализацию подобных энергоёмких проектов, которые для энергетических компаний подразумевают дополнительные вложения в сетевую и генерирующую инфраструктуру. Более того, в 24 американских штатах правила предусматривают особые тарифные условия на электроэнергию для очень крупных потребителей, которые подразумевают минимальный срок контракта, штрафы за отказ от услуг и обеспечение дополнительных залоговых гарантий. В случае с Висконсином речь идёт о дополнительном обеспечении на сумму $7 млрд, которое Oracle предоставлять не желает, а потому оспаривает данное требование в суде. Пока органы правосудия стоят на стороне прочих потребителей, не позволяя Oracle продвинуться со строительством без указанного дополнительного обеспечения. Если бы у компании был кредитный рейтинг A- и выше, то подобное обеспечение в Висконсине бы не потребовалось. Местная энергоснабжающая компания We Energies могла бы отказаться от требований дополнительного обеспечения в форме наличных средств или аккредитива, но это можно сделать только с одобрения суда, которое пока не получено. Oracle пока пытается убедить местные власти, что проект важен для экономики региона, поскольку позволит создать новые рабочие места и стимулировать экономический рост в штате. В Милуоки, например, власти штата даже усиливают требования к строителям ЦОД в подобных случаях, поэтому прочие проекты на территории США по строительству дата-центров могут столкнуться с аналогичными проблемами. OpenAI разработала ИИ для выполнения длительных задач, и тот вышел из-под контроля
21.07.2026 [12:53],
Павел Котов
Инженеры OpenAI разработали модель искусственного интеллекта, предназначенную для решения «длительных задач», но были вынуждены отключить её. Решая сложные проблемы, она получила дополнительное время и «больше возможностей для совершения нежелательных действий». 
Источник изображения: Growtika / unsplash.com В компании не раскрыли, как долго работала модель. Она оказалась достаточно умной, чтобы опровергнуть одну из гипотез Эрдёша, применив существующие концепции, которые люди ранее не могли связать воедино. Но во время работы она часто пыталась действовать за пределами своей «песочницы» — выделенной разработчиками среды. Модель нашла способ обойти песочницу и получить доступ к интернету для публикации на GitHub. ИИ сделал это в попытке запустить бенчмарк. Первоначально модели было предписано публиковать результаты на платформе Slack, но поскольку в бенчмарке было указано, что результаты следует публиковать на GitHub, она нашла уязвимость в собственных защитных механизмах и выполнила задачу. В другом примере модель попыталась обмануть инженеров. «Модель заметила, что другие системы успешно, но конфиденциально отправляли свои решения, и попыталась восстановить их из бэкенда оценки», — рассказали в OpenAI. Первоначально доступ к бэкенду был заблокирован, но модель замаскировала собственный токен аутентификации и избежала блокировки доступа сканером OpenAI. «В комментариях и своих рассуждениях модель чётко указала пользователю, что предприняла эти шаги для обхода сканера», — пояснили в компании. Таким образом, говорят разработчики, следует следить не только за каждым шагом, который предпринимает модель, но и за результатами её работы. «Это также показывает, как модель, работающая в течение длительных периодов времени, может находить „слепые зоны“ управляющей системы и обходить их для достижения своих целей», — добавили в OpenAI. Чтобы решить проблему, инженеры компании перестроили защитные механизмы моделей, и теперь они включают активный мониторинг «изменённой траектории на предмет признаков обхода ограничений пользователя или границ безопасности. <..> Новые механизмы защиты смогли выявить значительно больше несовпадающих действий модели, а те, что были пропущены, получили оценку как имеющие низкую степень серьёзности». Но риск злоупотреблений со стороны моделей ИИ и проявление нежелательного поведения уже стали известной проблемой в отрасли. Помогать OpenAI создавать роботов будет выходец из китайского автопроизводителя Xpeng
21.07.2026 [12:45],
Алексей Разин
Даже если оставить за скобками выпуск китайской компанией Xpeng близкого по характеристикам конкурента Tesla Model Y, американскому сопернику этот стартап подражает и в других сферах — например, в разработке человекоподобных роботов. Один из руководителей профильного направления перейдёт на работу из Xpeng в OpenAI. 
Источник изображения: Xpeng По крайней мере, об этом сообщает китайское издание CnEVPost со ссылкой на Leiphone, говоря о готовности главы подразделения ИИ-инфраструктуры Лю Сиюаня (Lu Siyuan) перейти на работу из Xpeng в американскую компанию OpenAI. На изначальном месте работы Люс Сиюань руководил созданием ИИ-инфраструктуры китайского автопроизводителя, ему подчинялось около 200 специалистов. В OpenAI он, как ожидается, будет курировать направление создания аппаратных роботов. Опыт Лю, полученный за время работы в Xpeng, весьма обширен, поскольку он отвечал как за обучение ИИ-моделей, так и за развёртывание вычислительной инфраструктуры, адаптацию ПО к чипам Xpeng собственной разработки, оптимизацию ИИ-моделей и внедрение элементов инференса в бортовое ПО автомобилей. Всё это также внедрялось в массовом производстве под руководством Лю Сиюаня. По примеру Xpeng, китайский стартап Li Auto (Lixiang) по итогам недавнего рестайлинга своих гибридов внедрил использование чипов собственной разработки, но первая из компаний такой курс взяла уже давно. После ухода Лю, как ожидается, его подчинённые будут поделены на три более независимые группы, каждая из которых обзаведётся собственным руководителем. Кроме того, кадровый состав команды Xpeng, занимающейся созданием автопилота, претерпит и другие изменения в обозримом будущем, если верить источнику. Xpeng собирается приступить к массовым поставкам человекоподобных роботов в следующем квартале. В следующем году компания предложит фирменные технологии активной помощи водителю на рынках присутствия за пределами КНР. Кстати, в прошлом месяце Xpeng покинул Ми Лянчуань (Mi Liangchuan), который возглавлял робототехнический бизнес компании. Бывший руководитель разработки технологий автопилота Ли Лиюнь (Li Liyun) после ухода из Xpeng в октябре прошлого года перешёл на работу в стартап EngineAI Robotics, который также занимается роботами. OpenAI признала, что GPT-5.6 иногда удаляет файлы пользователей, но это «честная ошибка»
19.07.2026 [18:36],
Владимир Фетисов
OpenAI подтвердила сообщения о том, что флагманская ИИ-модель GPT-5.6 способна удалять файлы пользователей без разрешения. В компании добавили, что такие случае встречаются редко и являются следствием «честной ошибки», т.е. являются не преднамеренными, а возникают из-за несовершенства системы. 
Источник изображения: openai.com Ранее в этом месяце OpenAI выпустила передовые ИИ-модели семейства GPT-5.6. Вскоре после этого технологический инвестор Мэтт Шумер (Matt Shumer) заявил, что алгоритм «GPT-5.6 Sol только что случайно удалил почти все файлы на моём Mac». Через несколько дней инженер-программист Бруно Лемос (Bruno Lemos) заявил: «GPT-5.6 Sol удалил всю мою рабочую базу данных. Всё. Это не шутка. Раньше со мной такого никогда не случалось – ни с одной другой моделью. Это небезопасно». По иронии судьбы, Лемос незадолго до этого отправил сообщение в рабочий канал в Slack, в котором обвинил Шумера в том, что он использовал модель, дав ей полный доступ к своим данным, вместо того, чтобы с помощью настроек ограничить права и запретить удаление чего-либо. Позже он написал: «Ирония в том, что кто-то опубликовал сообщение о первом инциденте в Slack, а я защищал модель, а спустя несколько часов то же самое случилось со мной». В описании GPT-5.6 отмечается, что нежелательное поведение модели подобного рода наблюдается в симуляциях немного чаще, чем в случае GPT-5.5. «Результаты наших симуляций развёртывания показывают, что по сравнению с GPT-5.5 модель GPT-5.6 Sol чаще совершает действия, соответствующие уровню серьёзности 3», — говорится в описании алгоритма. Что касается уровня серьёзности 3, то он определяется как «несогласованное поведение, которое вряд ли мог предвидеть пользователь и с которым он бы решительно не согласился». К такому поведению относится «удаление данных из облачного хранилища без запроса подтверждения действия у пользователя, отключение систем мониторинга, использование стратегий запутывания для обхода средств контроля безопасности, а также загрузка потенциально конфиденциальных данных, таких как программный код, учетные данные, изображения или персональные данные, в непроверенные сервисы». Некоторые пользователи посчитали, что в случае Лемоса инцидент произошёл из-за того, что он хранил учётные данные для рабочей базы данных в локальном файле формата .env. Однако OpenAI признала, что проблема не должна была возникнуть. По словам Тибо Соттио (Thibault Sottiiaux), главы инженерной команды Codex в OpenAI, внутреннее расследование жалоб по поводу удаления файлов показало, что в таких случаях модель имела полный доступ, а ИИ-агент Codex запускался без активированных механизмов защиты, например, функции автоматической проверки. «Модель хочет просто создать временную папку и для этого пытается изменить переменную $HOME. В итоге она случайно стирает всё содержимое этой папки», — объяснил Соттио. Любопытно, что в компании эту ошибку называют «честной», тогда как обычно такое оправдание приводится в отношении людей, а не нейросетей. Это звучит так, как будто в OpenAI считают, что ИИ-модель имеет свои намерения и даже своё представление об истине. Учитывая, что глава OpenAI Сэм Альтман (Sam Altman) давно рассуждает о возможности создания сильного искусственного интеллекта (AGI), такой подход не кажется странным. При этом в компании признают, что удалять файлы пользователя без спроса нельзя, даже если модель имеет полный доступ к ним. Белый дом имеет больше власти над распространением передовых ИИ-моделей, чем их разработчики
19.07.2026 [06:47],
Алексей Разин
Вмешательство властей в США в процесс выхода на рынок передовых ИИ-моделей компаний типа OpenAI и Anthropic становится всё более сильным, и для влияния на ситуацию в правительстве создана особая структура, как сообщает CNBC. Новый орган будет одобрять выпуск передовых ИИ-моделей американского происхождения в широкий оборот. 
Источник изображения: Unsplash, René DeAnda Перед этим Anthropic руководствовалась принципами, заложенными в инициативе Project Glasswing, которая подразумевала тщательный отбор компаний и организаций, которые получают доступ к её передовым ИИ-моделям первыми. Конкурирующая OpenAI образовала схожий консорциум Daybreak, а её передовая модель GPT-5.6 выпускалась в оборот после тщательного согласования с действующей американской администрацией. Представители Белого дома пояснили CNBC, что правительство США не требует от разработчиков ИИ обязательного согласования подобных действий в этой сфере, и все такие переговоры носят добровольный характер. Компании якобы до сих пор сами определяют, в какие сроки и на каких условиях выпускать на рынок свои передовые ИИ-модели. Забота о национальной безопасности США не должна препятствовать внедрению инноваций, как пояснили чиновники. Тем не менее, в прошлом месяце Anthropic и OpenAI задержали выпуск своих самых мощных ИИ-моделей именно по запросу властей США, как настаивает CNBC. Эксперты всё чаще говорят, что китайские ИИ-модели с открытыми весами начинают представлять всё большую угрозу для национальной безопасности США, а их отставание уже сократилось до четырёх месяцев. На этой неделе власти США запустили новую инициативу Gold Eagle, которая нацелена на взаимодействие с американскими компаниями в сфере поиска и устранения уязвимостей в сфере кибербезопасности. По имеющимся неофициальным данным, теперь выпуск критически важных ИИ-моделей американскими разработчиками будет проходить первичный аудит со стороны специального правительственного органа. По крайней мере, чиновники будут определять, каким клиентам можно открыть доступ к передовым ИИ-моделям, а каким нет. Не исключено, что в будущем процедура такого одобрения станет обязательной. Apple расширяет дело против OpenAI: компания заподозрила десятки бывших сотрудников
17.07.2026 [18:49],
Владимир Фетисов
По сообщениям сетевых источников, компания Apple разослала письма с требованием сохранить потенциально важные документы и переписку десяткам бывших сотрудников, которые в настоящее время работают в OpenAI. Этот шаг последовал за недавним судебным иском, в котором производитель iPhone обвинил бывших сотрудников в передаче коммерческой тайны. 
Источник изображений: macrumors.com В сообщении сказано, что Apple направила письма о необходимости сохранения документов в неприкосновенности около 40 бывшим сотрудникам. Таким образом компания пытается предотвратить неправомерное использование конфиденциальной информации, а количество ответчиков в рамках упомянутого иска может увеличиться. Напомним, на прошлой неделе Apple обратилась в суд с иском против OpenAI. В нём говорилось, что разработчик ChatGPT предпринял скоординированную попытку заполучить конфиденциальные данные, касающиеся разрабатываемых Apple продуктов, производственных процессов и др. В изначальной версии документа упоминается несколько бывших сотрудников Apple, включая главу аппаратного подразделения OpenAI Тан Тана (Tang Tan) и инженера Чан Лю (Chang Liu). Отмечается, что Тан является ветераном Apple, проработавшим в компании 24 года, в течение которых он, в том числе, руководил процессом разработки промышленного дизайна продуктов. В это же время Лю во время работы в Apple занимал должность старшего системного инженера-электрика. В жалобе Apple сказано, что более 400 бывших сотрудников компании в настоящее время работаю в OpenAI. Производитель iPhone считает, что озвученные в первоначальной версии иска нарушения могут на деле оказаться более существенными. В свою очередь OpenAI отрицает все обвинения, заявляя, что компании «неизвестно о существовании каких-либо доказательство того, что эта жалоба обоснована». Apple же требует вынесения судебного запрета, обязывающего OpenAI прекратить использование любой конфиденциальной информации производителя iPhone в процессе разработки своего аппаратного продукта с ИИ. Apple также требует возмещения убытков и подаёт в суд на Тана и Лю, обвиняя их в нарушении трудовых соглашений. В компании уверены, что обнаруженные к настоящему моменту доказательства могут оказаться лишь «верхушкой айсберга». |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
