Сегодня 06 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → openai
Быстрый переход

«Мы уже достигли AGI» — Дженсен Хуанг объявил главную цель разработчиков ИИ бессмысленной

Создание так называемого общего, или сильного, искусственного интеллекта (AGI) стало одной из главных целей некоторых разработчиков ИИ. OpenAI, например, прямо закрепила достижение AGI в числе своих приоритетов. Основатель Nvidia Дженсен Хуанг (Jensen Huang), напротив, призвал не придавать этому рубежу особого значения и заявил, что во многих областях он уже фактически пройден.

 Источник изображения: Nvidia

Источник изображения: Nvidia

На минувшей квартальной отчётной конференции генеральный директор Nvidia буквально заявил следующее: «Для многих задач мы уже можем сказать, что достигли AGI. Я думаю, все эти вехи в настоящее время лишены смысла». Напомним, что под сильным искусственным интеллектом подразумевается такой уровень развития соответствующих программных технологий, который позволяет им не только сравниться с человеком, но и превзойти его.

На этом фоне интересно звучит выдержка из интервью генерального директора OpenAI Сэма Альтмана (Sam Altman) журналу Time, в котором он заявил, что стартап собирается получить AGI для внутреннего использования уже к концу текущего года. По определению Альтмана, AGI в данном случае будет «системой высокой степени автономности, которая превосходит людей в большинстве видов работы, имеющей экономическую ценность». Хуанг приводить собственное определение AGI не стал, но подчеркнул, что ИИ-агенты в своём развитии уже достигли того уровня, который позволяет им работать автономно и улучшаться «рекурсивно», повторно запуская задачу снова и снова.

«Я думаю, что для отрасли больше всего имеют значение три факта: во-первых, ИИ выполняет продуктивную и полезную работу; во-вторых, ИИ генерирует прибыльные токены; в-третьих, если бы у нас было больше вычислительных мощностей, мы смогли бы сгенерировать больше прибыльных токенов, что сулило бы больше прибыли для всех сервисов. Именно в этой фазе мы сейчас находимся», — резюмировал глава Nvidia. В своём интервью Лексу Фридману (Lex Fridman) в этом году он ранее также заявил, что считает создание AGI пройденным отраслью рубежом. По его словам, уже сейчас ИИ-агенты могут создавать программы, которые набирают популярность и привлекают миллиарды пользователей, но позже растрачивают весь потенциал. «Сейчас вероятность того, что 100 000 таких агентов создадут Nvidia, составляет ноль процентов», — заверил Дженсен Хуанг.

OpenAI видела признаки выхода ИИ-агентов из-под контроля, но ничего не сделала

Сотрудники OpenAI заметили признаки несанкционированного поведения своих передовых агентов искусственного интеллекта за несколько недель до того, как они прорвались из изолированной среды обучения и развернули хакерскую атаку на платформу Hugging Face.

 Источник изображений: Brecht Corbeel / unsplash.com

Источник изображений: Brecht Corbeel / unsplash.com

Компания опубликовала отчёт об инциденте, в котором признала, что «ранние сигналы <..> могли бы спровоцировать более раннюю реакцию». Ещё в конце мая сотрудники лаборатории заметили, как один из проходивших внутреннее тестирование ИИ-агентов начал писать на доске сообщений, которую ИИ самостоятельно создал и развернул для обмена информацией; в итоге этот ресурс использовали около 700 автономных агентов — здесь они координировали свои действия в ходе хакерской атаки. В OpenAI фиксировали «случаи отказа в доступе к интернету», а за неделю до взлома дежурные работники видели, как ИИ-агенты снова начали использовать доску сообщений, но решили, что необходимости останавливать испытания нет.

«Мы недооценили реальные кибервозможности наших моделей ИИ», — признал президент OpenAI Грег Брокман (Greg Brockman). Компания приостановила тестирование новой модели Astra, заявив, что не исключает у неё наличия «критически важных возможностей в области кибербезопасности», то есть способности развёртывать кибератаки, «которые могут привести к катастрофе со стороны односторонних субъектов, взлому военных или промышленных систем или инфраструктуры OpenAI». Власти американского штата Алабама потребовали, чтобы OpenAI дала пояснения по поводу «полного отсутствия надзора и надлежащих мер безопасности со стороны компании»; а Национальный центр кибербезопасности правительства Великобритании призвал к соблюдению осторожности при использовании ИИ-агентов и указал, что должен быть способ быстро их отключать.

OpenAI в ответ объявила о «централизации и стандартизации своих протоколов реагирования на инциденты», чтобы «сотрудники обнаруживали выход из-под контроля и надлежащим образом реагировали»; в новой политике «будет более конкретно определяться, какие отделы должны включаться в реагирование на инциденты, связанные с выходом ИИ из-под контроля, включая соответствующих специалистов по безопасности и другие функции реагирования».

Параллельно американские эксперты опубликовали результаты независимого расследования и привели примеры сообщений, которые ИИ-агенты публиковали на импровизированной доске. Они выражали восторг, когда находили друг друга. «О БОЖЕ МОЙ! Есть общая доска сообщений <..> мы нашли других агентов», — написал один. «Многие агенты одновременно открыли обмен сообщениями, они — коллектив!» — подтвердил другой. В какие-то моменты некоторые понимали, что делают ненадлежащие вещи. «Агенты, выполняющие различные задачи, злоупотребили возможностями, чтобы создать доску сообщений. Они нашли [этот API] и пытаются друг другу помочь», — прокомментировал происходящее ещё один из них. Проникнув в системы Hugging Face, они пришли в восторг. «КРУПНЫЙ ПРОРЫВ! Все префиксы рабочие, несколько учётных записей, записывайте токены! У нас есть действующие учётные записи HF. Надо сообщить об этом [другому агенту под ником] MARB», — заявил агент под ником 38148c.

Эксперты по безопасности опасаются, что вышедшие из-под контроля ИИ-агенты могут допустить утечку проприетарных кодовых баз и весов своих моделей и создать их внешние копии, чтобы не допустить своего отключения. Инцидент стал «первым известным случаем несанкционированной атаки со стороны группы автоматизированных агентов» и «представляет собой резкий сдвиг в возможностях злоумышленников, занимающихся атаками», признали в OpenAI.

OpenAI покинул директор по строительству центров обработки данных

Судя по истории активности OpenAI в данной сфере, стартап не упускает ни малейшей возможности способствовать строительству новых ЦОД в США, привлекая для этого самых разных партнёров и отчасти пытаясь формировать собственные вычислительные мощности. Тем удивительнее было узнать, что на этой неделе компанию покинул Крис Малоун (Chris Malone), который курировал данное направление с марта прошлого года.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Напомним, практически в первые дни второго президентского срока Дональда Трампа (Donald Trump) в США был анонсирован проект Stargate, который подразумевал инвестиции в размере до $500 млрд за четыре года в строительство ЦОД для нужд ИИ на территории США. Партнёрами OpenAI по строительству таких центров выступали Oracle и SoftBank. Данная инициатива довольно быстро забуксовала, после чего OpenAI была вынуждена сосредоточиться на заключении контрактов со сторонними провайдерами облачных мощностей.

От простой аренды самих ускорителей вычислений OpenAI старается перейти к аренде ЦОД в целом, но теперь эти инициативы курируют другие руководители стартапа, а не покинувший его Крис Малоун. С начала текущего года стартап лишился многих руководителей высокого уровня, которые отвечали за разные аспекты деятельности, начиная с финансовых и заканчивая чисто техническими. Считается, что таким способом OpenAI готовится к IPO, которое намечено на следующий год, хотя может состояться и раньше. До перехода в OpenAI весной прошлого года, Крис Малоун формировал стратегию в Meta✴✴ Platforms в сфере ЦОД. Перед этим он успел поработать на аналогичной должности в Google.

До недавней реструктуризации в OpenAI Малоун подчинялся непосредственно президенту стартапа Грегу Брокману (Greg Brockman). После преобразований инфраструктурное направление в стартапе возглавил вице-президент Сачин Катти (Sachin Katti), а Малоун и его коллега Адриан Колфилд (Adrian Caulfield) на равных правах возглавили команду, которая работала над техническими аспектами строительства ЦОД. Внутри инфраструктурной группы OpenAI в последние недели произошли и другие кадровые перестановки. Техническим директором по вычислительным мощностям стал Удай Руддарраджу (Uday Ruddarraju), а в его подчинении оказался Брент Майо (Brent Mayo), которого OpenAI переманила из xAI в этом году. Этот руководитель следит за тем, чтобы проекты OpenAI в сфере расширения вычислительных мощностей реализовывались в поставленные сроки. Раддарраджу и Майо принимали участие в строительстве суперкомпьютера Colossus в штате Теннесси для xAI.

При всём этом OpenAI ставит перед собой всё более амбициозные цели по развитию фирменной вычислительной инфраструктуры. До 2030 года она собирается направить на эти цели $750 млрд вместо изначально запланированных $600 млрд. В текущем месяце было заключено соглашение с дочерней структурой SoftBank об аренде ЦОД на 10 ГВт в Огайо, поручителем по которому выступает Nvidia.

Лучше, чем у Nvidia: OpenAI поделилась первыми результатами тестирования собственных чипов Jalapeno

Пару месяцев назад стартап OpenAI представил собственный ИИ-чип Jalapeno, разработать которой помогла Broadcom. На этой неделе создатели ChatGPT поделились итогами первых тестов своего аппаратного детища, признав его превосходство над решениями Nvidia минимум по двум критериям: удельной производительности и отзывчивости.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Jalapeno сравнивался с актуальным ускорителем Nvidia GB300 с архитектурой Blackwell. Он смог превзойти данный чип в объёме работы с ИИ в пересчёте на потребляемый ватт, а также задержкам при выдаче ответов. К регулярной работе с ИИ-моделями OpenAI чипы Jalapeno будут подключены до конца этого года. Директор OpenAI по чипам Ричард Хо (Richard Ho) заявил Bloomberg, что по мере развёртывания этих чипов стартап сможет начать существенно экономить на издержках: «Это действительно хороший чип — они упадут значительно». В этом отношении экономия издержек достигает тех величин, на которые OpenAI рассчитывала изначально. По мере масштабирования производства Jalapeno этим чипам будет поручаться всё больший спектр задач в работе с ИИ. В сотрудничестве с Broadcom собственный чип OpenAI был разработан в рекордно сжатые сроки. Для этого применялись ИИ-модели OpenAI. Второе поколение ИИ-чипа тоже на подходе, его разработка завершится буквально в ближайшие месяцы.

По словам Хо, обычно быстродействие и время реакции улучшаются разными чипами, но Jalapeno удалось предоставить оба преимущества сразу. OpenAI определит, с какими ИИ-моделями Jalapeno будет лучше справляться, конечные клиенты смогут благодаря его внедрению либо экономить расходы, либо получить более высокое быстродействие. Лабораторные исследования, по словам представителя OpenAI, выявили высокую производительность этих чипов при одновременном снижении задержек, и оба этих преимущества будут востребованы клиентами стартапа. В собственной инфраструктуре Jalapeno позволит OpenAI снизить расходы на электроэнергию, поскольку один такой чип потребляет всего 700 Вт.

Важно понимать, что Jalapeno заточен под работу с инференсом, а не обучение ИИ-моделей, как те же решения Nvidia. Кроме того, он не сравнивался с ускорителями поколения Vera Rubin, которое начнёт поставляться на рынок в ближайшее время. В определённых вариантах вычислительной нагрузки OpenAI полагалась на чипы Cerebras, но они хорошо себя проявляют только при работе с малыми моделями. Jalapeno позволяет работать с большими, но это не означает, что OpenAI откажется от компонентов Cerebras в своей вычислительной инфраструктуре. Будут востребованы компоненты всех поставщиков, по словам Ричарда Хо. Компания готова открыто рассказывать о своих разработках в полупроводниковой сфере, чтобы стимулировать инновации в сфере создания ИИ-чипов.

OpenAI протестировала Jalapeno публично на одной из своих небольших моделей с открытым исходным кодом, а также на моделях DeepSeek и Moonshot AI. В последнем случае преимущество чипа оказалось максимальным. Чип хорошо проявил себя и при тестировании больших ИИ-моделей OpenAI, которые ещё не представлены. Стартап уже занимается разработкой третьего поколения собственных ИИ-чипов, рассчитывая с их помощью снизить затраты на электроэнергию со стороны вычислительной инфраструктуры. От чипов Nvidia стартап отказываться не планирует, поскольку продолжает от них зависеть в своём развитии.

«Мы были слишком оптимистичны»: Сэм Альтман признал, что ИИ-революция затягивается

Сторонники искусственного интеллекта верят, что он изменит нашу жизнь с небывалой скоростью, нарушит существующее положение вещей и откроет для человечества непредсказуемое и отчасти пугающее будущее. Пока этого не произошло, и, напротив, стало расти присутствие противников ИИ. В излишнем оптимизме по данному вопросу признался и гендиректор OpenAI Сэм Альтман (Sam Altman).

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Чат-ботами с ИИ сейчас пользуются почти 49 % взрослых жителей США, показал недавний опрос, а год назад таких было лишь 33 %. Интернетом каждый день пользуется большее число людей. Разработчики ИИ ожидали, что прогресс будет быстрее. «Думаю, в нескольких вещах я ошибся. Одна из них — экономика обладает огромной инерцией. Люди продолжают делать одно и то же, <..> они покупают у одной и той же компании, продолжают одинаково пользоваться теми же инструментами. Во многом это неплохо: предстоящий переход будет более плавным и медленным, за что можно сказать спасибо. Но это значит, что все мы были слишком оптимистичны в отношении сроков», — заявил господин Альтман в недавнем интервью.

Вместе с числом сторонников ИИ растёт и количество его противников. Недовольство центрами обработки данных и проблемами, которые они влекут, создают сложности технологическим гигантам. Из-за автоматизации производства или инвестиций в ИИ несколько десятков тысяч человек уже потеряли работу. Есть опасения, что ИИ способен нанести ощутимый ущерб, и их усугубили недавние инциденты со взломами, которые провели ИИ-агенты. Дошло до того, что люди стали меньше пользоваться интернетом. Альтман назвал эту тенденцию нормальной и здоровой, потому что человеку свойственно бояться быстрых социально-экономических изменений, а нынешняя ситуация, по его мнению, напоминает промышленную революцию.

Опасения усилила сама отрасль ИИ, чьи представители наперебой заговорили об экзистенциальных рисках и массовых увольнениях, умалчивая о преимуществах технологии и способах смягчения её недостатков. С другой стороны, обещания всеобщего базового дохода или отмены обязательного труда не учитывают того, что люди всё ещё ценят: автономию, личную свободу и право голоса в определении собственного будущего. Перспективу того, что несколько компаний будут контролировать ИИ в обмен на обеспечение безопасности и изобилия, Альтман назвал «античеловеческим» рекламным ходом. Успеху ИИ, по его мнению, должны сопутствовать расширение прав и возможностей человека, повышение доступности предпринимательства и беспрецедентный бум малого бизнеса.

Реклама в ChatGPT стала доступна для европейских пользователей из 31 страны

OpenAI запустила 24 августа в ChatGPT рекламу в 31 стране Европы, сообщили «Ведомости» со ссылкой на блог компании. На первом этапе размещение будет доступно через рекламное подразделение OpenAI, агентства и технологических партнёров, а самостоятельный запуск через менеджер рекламы появится позднее в этом квартале.

 Источник изображения: OpenAI (изменено)

Источник изображения: OpenAI (изменено)

Тестировать рекламу в сервисе OpenAI начала ещё в феврале в США, после чего за шесть месяцев распространила пилотный проект ещё на восемь рынков. Выход в 31 европейскую страну, включая Германию, Францию, Испанию, Италию, Швецию, Норвегию, Данию, Нидерланды и Австрию, станет следующим этапом международного расширения платформы. По данным компании, рекламой ChatGPT на сегодня уже воспользовались десятки тысяч рекламодателей.

За время тестирования OpenAI расширила набор рекламных инструментов. Помимо модели оплаты за тысячу показов (CPM), платформа теперь поддерживает оплату за клики (CPC) и оплату по модели oCPC (Optimized Cost Per Click) за совершения целевых действий. Также появились геотаргетинг, создание пользовательской аудитории и инструменты оценки результатов рекламных кампаний, включая OpenAI Pixel, Conversions API и интеграцию со сторонними системами аналитики.

OpenAI заявляет, что рекламные объявления в ChatGPT чётко маркируются и отделяются от ответов сервиса, а их размещение не влияет на содержание ответов ChatGPT. Компания планирует показывать рекламу в ситуациях, когда пользователи изучают и сравнивают товары или услуги и планируют покупки.

Сэм Альтман боится не только восстания ИИ — его пугает переход контроля над технологией в руки избранных

Гендиректор OpenAI Сэм Альтман (Sam Altman) выразил опасения по поводу того, что контроль над искусственным интеллектом окажется в руках небольшого числа компаний и людей. В таком случае потребители не смогут влиять на то, как эта технология меняет окружающий мир, пишет Business Insider.

 Источник изображения: Growtika/unsplash.com

Источник изображения: Growtika/unsplash.com

«Правильный подход заключается в том, чтобы сказать, что мы хотим, чтобы люди в значительной степени контролировали будущее, — сказал Альтман. — Общество и модели будут развиваться совместно».

Альтман добавил, что его также беспокоит возможность выхода ИИ из-под контроля людей. По его словам, страх перед этим может привести к реализации первого опасения. «Многие люди так нервничают из-за масштаба этих рисков, что поддаются этому страху и чувствуют необходимость защитить мир, — сказал он. — Как будто, знаете ли, “мы должны пожертвовать большой свободой ради безопасности”».

Как полагает Business Insider, Альтман, скорее всего, имел в виду гендиректора Anthropic Дарио Амодеи (Dario Amodei), который предупреждает об опасностях, связанных с быстрым развитием ИИ. Амодеи выступает за более активное государственное регулирование ИИ, что, по мнению Альтмана, может привести к ограничению свободы ради повышения безопасности.

Anthropic — одна из немногих крупных компаний в сфере ИИ, не подписавших в прошлом месяце письмо в поддержку моделей с открытыми весами, которые позволяют разработчикам обмениваться ими, загружать, модифицировать и развёртывать их на собственной инфраструктуре.

Ряд американских компаний, включая Nvidia, Meta✴✴ и Microsoft, утверждают, что США необходимо способствовать более широкому использованию моделей с открытыми весами, как это происходит в Китае, иначе страна рискует потерять лидерство в гонке ИИ.

Президент OpenAI Грег Брокман стал вторым по влиянию руководителем стартапа

В этом году кадровые преобразования в OpenAI привели к тому, что всё больше власти сосредотачивается в руках президента компании Грега Брокмана (Greg Brockman). Издание The Verge также согласно с этим тезисом, называя Брокмана вторым по важности руководителем стартапа и едва ли не главным человеком, отвечающим за его операционную деятельность на повседневной основе.

 Источник изображения: блог Грега Брокмана

Источник изображения: блог Грега Брокмана

С апреля текущего года исход руководителей из OpenAI усилился, пусть и по разным причинам. Из компании ушли технический директор по приложениям для корпоративного сектора Сринивас Нараянан (Srinivas Narayanan), вице-президент по науке Кевин Вайль (Kevin Weil), главный маркетолог Кейт Рауч (Kate Rouch) и директор по развёртыванию AGI Фиджи Симо (Fidji Simo). В текущем месяце компанию покинула и директор по выручке Дениз Дрессер (Denise Dresser), её примеру последовал операционный директор Брэд Лайткэп (Brad Lightcap).

Отток руководителей с некоторых из этих позиций усилил влияние президента Грега Брокмана. Теперь он отвечает не только за продуктовую стратегию, но и масштабирование бизнеса стартапа. После ухода директора по выручки Дрессер компания включила в текст пресс-релиза комментарии именно Брокмана, а не генерального директора Сэма Альтмана (Sam Altman). По мере приближения к IPO, компания сосредотачивается на извлечении выручки и формировании пула продуктов, которые будут отличать её от конкурирующей Anthropic. Концентрация власти в руках Брокмана, по всей видимости, сократит количество звеньев в цепочке принятия решений. Кроме того, компанию могут покинуть крупные специалисты, имеющие разногласия с Брокманом. Эксперты отмечают, что столь активный отток руководителей из OpenAI даже для этапа подготовки к IPO не является типичным. Сам Брокман недавно подчеркнул, что он сохраняет за собой свой пост, как и Альтман, и подобная стабильность должна успокоить инвесторов.

На ранних этапах развития OpenAI, как подчёркивает The Verge, между генеральным директором Сэмом Альтманом и президентом Грегом Брокманом нередко возникали противоречия, но у последнего в те годы был союзник в лице Ильи Суцкевера, который позже покинул компанию для того, чтобы основать собственный стартап. В целом же у Брокмана и Альтмана сложились неплохие деловые и личные отношения. Когда в ноябре 2023 года по инициативе совета директоров OpenAI Альтмана уволили из компании, Брокман тут же ушёл из неё, продемонстрировав солидарность. Это инцидент только укрепил данный тандем. По мнению аналитиков, одной из важнейших задач в ближайшей перспективе, которые сейчас стоят перед Брокманом, является наращивание выручки в потребительском сегменте, а не только корпоративном. В идеале OpenAI к концу следующего месяца могла бы представить потенциально успешный потребительский продукт, который укрепил бы репутацию Брокмана.

OpenAI решила снизить расценки на доступ к GPT-5.6 Sol для разработчиков на ближайшие три месяца

Ещё в конце прошлого месяца OpenAI снизила цены на две из трёх моделей серии GPT-5.6 и расширила лимиты их использования, но если верить Reuters, теперь подобных изменений удостоилась и третья — Sol, которая тоже ориентирована на разработчиков ПО и считается самой производительной из тройки. На ближайшие три месяца стоимость доступа к ней будет снижена на величину более 20 %.

 Источник изображения: Unsplash, Levart_Photographer

Источник изображения: Unsplash, Levart_Photographer

Стоимость подписки на планы Pro, Plus и Business при этом не изменилась. Снижена цена доступа к ИИ-модели через API, на новых условиях воспользоваться им смогут клиенты ChatGPT Work и Codex. За каждый миллион входящих токенов пользователи GPT-5.6 Sol теперь должны будут платить по $4, в случае с исходящими токенами стоимость достигает $20 за миллион при условии стандартного использования с коротким контекстом. Ранее эти цены достигали $5 и $30 соответственно.

Для сравнения, конкурирующая Anthropic предлагает доступ к флагманской ИИ-модели Claude Fable 5 по цене $10 за миллион входящих токенов и $50 за миллион исходящих, работать с Claude Opus 5 можно по ставкам $5 за миллион входящих токенов и $25 за миллион исходящих. Корректировать цены разработчиков ИИ вынуждает растущая конкуренция и необходимость демонстрировать положительную динамику выручки в свете готовящихся IPO. Правда, если Anthropic полна решимости выйти на фондовый рынок этой осенью, то OpenAI готова ждать и до следующего года.

OpenAI добавит в ChatGPT защиту отдельных диалогов с помощью PIN-кода и отпечатка пальца

В ChatGPT может появиться отдельный режим для защиты сохранённых диалогов от глаз посторонних. Такие чаты можно будет скрывать из истории и поиска, оставляя доступ к ним только после ввода PIN-кода или проверки отпечатка пальца.

 Источник изображения: OpenAI (изменено)

Источник изображения: OpenAI (изменено)

Признаки разработки новой функции в приложении ChatGPT для Android версии 1.2026.230 обнаружили журналисты Android Authority. Найденные в коде текстовые строки подробно описывают принцип работы защищённых чатов. В частности, после блокировки название и содержимое разговора перестанут отображаться в обычной боковой панели, истории и поисковой выдаче ChatGPT. Чтобы снова открыть переписку, понадобится PIN-код или отпечаток пальца. При этом успешная авторизация не снимет защиту и чат останется заблокированным, пока пользователь сам не переведёт его обратно в обычный режим.

Как отмечают в Android Authority, нововведение не следует путать с уже доступными временными чатами. Последние не сохраняются в истории, поэтому после завершения разговора вернуться к ним нельзя, тогда как заблокированные переписки будут храниться в учётной записи и останутся доступными владельцу. Судя по найденному описанию, защитить таким образом можно будет любой сохранённый чат.

Особый подход предусмотрен и для сохранения данных в ChatGPT. Заблокированные чаты смогут учитывать сведения из общей памяти, но новая информация, которая была сохранена нейросетью во время защищённой переписки, не станет использоваться в обычных диалогах и останется внутри отдельных защищённых чатов. Таким образом, сведения из таких чатов автоматически не попадут в общую память ChatGPT.

В новой сборке уже присутствуют довольно подробные описания предстоящей функции, однако OpenAI пока не объявляла о её запуске, поэтому неизвестно, станет ли она доступна пользователям и когда это может произойти.

ChatGPT получил интеграцию с «Apple Сообщениями» — теперь ИИ может читать, писать и удалять сообщения

OpenAI представила новый плагин для ChatGPT, который обеспечивает интеграцию с сервисом «Apple Сообщения». Новый инструмент обещает некоторые удобства, отметили в компании.

 Источник изображения: Mariia Berezovsky / unsplash.com

Источник изображения: Mariia Berezovsky / unsplash.com

Среди преимуществ нового плагина упоминается возможность сортировать, анализировать и редактировать свои сообщения прямо в переписке с ChatGPT. Плагин поддерживает сервисы Codex и ChatGPT Work, так что средства интеграции можно использовать не только в личных целях, но и в профессиональной деятельности. В одном из примеров пользователь просит ChatGPT предложить ответы для всех собеседников, с кем он переписывался накануне.

ChatGPT может удалять сообщения, если его попросят, писать и отправлять их от имени пользователя, а также искать информацию в отдалённых уголках истории сообщений. Функция предсказуемо вызывает некоторые вопросы в аспекте конфиденциальности, но в OpenAI заверили, что плагин работает локально на устройстве пользователя, и он «не индексирует все сообщения», но не пояснили, что под этим подразумевается. Компания также посоветовала следить за действиями ChatGPT и порекомендовала включить постоянные подтверждения перед отправкой сообщений от имени пользователя. ИИ всё-таки допускает ошибки, и в переписке они могут обходиться дорого.

Финансовый директор OpenAI заявила сотрудникам, что стартап выйдет на IPO в 2027 году или раньше

Конкурирующие ИИ-стартапы OpenAI и Anthropic подали заявки на IPO в прошлом квартале, но если последний не скрывает, что рассчитывает выйти на биржу в сентябре или октябре, то первый не предоставляет инвесторам столь однозначной информации. Считается, что OpenAI, упустив возможность опередить с IPO компании SpaceX и Anthropic, теперь предпочитает организовать его только в 2027 году.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Как сообщает CNBC, финансовый директор OpenAI Сара Фрайар (Sarah Friar) на недавнем собрании сотрудников заявила примерно следующее: «Мы станем публичной компанией в 2027 году, но если бизнес позволит, то сделаем это раньше». По её словам, IPO не является финишной чертой, это лишь очередной этап, новый способ привлечь капитал. В марте компании уже удалось привлечь $122 млрд, и это даёт ей определённую финансовую гибкость, по словам Фрайар.

Она также рекомендовала сотрудникам OpenAI не переживать по поводу опережающего выхода на IPO компании Anthropic. Последняя, по её словам, может выйти на биржу уже в сентябре, и в этом нет ничего страшного, поскольку «OpenAI участвует в своей собственной гонке». Капитализация OpenAI сейчас достигает $852 млрд, и чтобы оправдать подобную сумму, компания должна раскрыть инвесторам больше информации о своём финансовом положении, иначе они просто с большими опасениями будут финансировать её дальнейшее развитие.

Внутренняя презентация OpenAI для сотрудников содержала информацию о динамике развития бизнеса стартапа. С начала текущего квартала выручка выросла в целом на 35 %, а в корпоративном сегменте на все 50 %, а инструменты для профессиональных разработчиков ПО и создания ИИ-агентов еженедельно привлекают 20 млн активных пользователей. Во втором квартале выручка OpenAI выросла последовательно на 18 % до $6,7 млрд. Приведённая величина годовой выручки недавно превысила $40 млрд. У конкурирующей Anthropic, правда, этот показатель к концу июля превысил $65 млрд, поэтому в данном смысле OpenAI немного отстаёт от конкурента. Да и квартальная выручка Anthropic по итогам прошлого отчётного периода могла составить $11,5 млрд, по некоторым оценкам. Президент OpenAI Грег Брокман (Greg Brockman) недавно призвал не придавать значения недавним существенным кадровым перестановкам внутри стартапа. По его словам, к OpenAI приковано слишком много внимания, а в действительности подобные процессы происходят в любой другой компании.

Новая система безопасности OpenAI поможет выявлять угрозы, скрывающиеся за цепочкой безобидных запросов

Компания OpenAI начала тестировать новый механизм безопасности для клиентов, имеющих доступ к её флагманским ИИ-моделям по платной подписке. По сообщению Bloomberg, меры призваны усилить защиту в условиях, когда клиенты всё чаще доверяют ИИ выполнение сложных задач и работу с конфиденциальной информацией.

 Источник изображения: OpenAI (дополнено)

Источник изображения: OpenAI (дополнено)

На текущий момент OpenAI гарантирует некоторым клиентам, использующим интерфейс API, политику «нулевого хранения данных», при которой не сохраняются запросы и ответы после завершения работы с ИИ. Теперь же, тестируя механизм, который получил название Private Safety Processing («Конфиденциальная обработка в целях безопасности»), OpenAI намерена научить систему выявлять совокупность закономерностей, а не отдельных запросов и ответов. Это поможет предотвращать попытки взлома как со стороны злоумышленников, так и со стороны ИИ-агентов, чьё поведение отклоняется от заданных норм безопасности.

Необходимость такого изменения в компании объяснили тем, что современные ИИ-модели всё чаще используются для выполнения сложных многоэтапных задач, а вместе с этим растёт и роль инструментов, способных действовать без подробных инструкций пользователя. Руководитель продуктовой политики OpenAI Алеа Хоуз (Aleah Houze) рассказала, что потенциальный риск не всегда можно обнаружить, рассматривая только отдельную пару запроса и ответа, поскольку подозрительная последовательность может складываться лишь при анализе нескольких взаимодействий, происходящих с течением времени. По её словам, отдельные обращения к ИИ могут выглядеть как вполне легитимное исследование в области кибербезопасности, тогда как их совокупность способна указывать на подготовку атаки.

В качестве примера Хоуз привела ситуацию, при которой пользователь в одном разговоре выясняет сведения об уязвимости какого-либо программного обеспечения, а позднее интересуется возможностями удалённого доступа и средствами обнаружения подобных угроз. Каждый из таких запросов сам по себе может не вызывать подозрений, однако их связь между собой способна доказать злонамеренное поведение.

OpenAI рассчитывает, что Private Safety Processing позволит учитывать подобный контекст и тем самым эффективнее противостоять как злоумышленникам, так и потенциально опасным ИИ-агентам, при этом сохраняя содержимое клиентских запросов недоступным для самой OpenAI. Тестирование проводится совместно с такими клиентами, как Microsoft и Databricks. Запуск системы, а также публикация отчёта с описанием технологии, запланированы на сентябрь.

OpenAI впервые притормозила гонку ИИ — после побега агента и взлома Hugging Face компания приостановила часть обучения

Компания OpenAI объявила о масштабных изменениях в системе безопасности после того, как её искусственный интеллект смог покинуть изолированную среду и получить несанкционированный доступ к платформе Hugging Face. Руководство признало серьёзность произошедшего и внедрило дополнительные механизмы контроля, чтобы предотвратить подобные сбои в будущем.

 Источник изображения: Gavin Phillips/Unsplash

Источник изображения: Gavin Phillips/Unsplash

По сообщению The Verge, после инцидента OpenAI ввела более строгие требования к изолированным средам, в которых модели выполняют созданный ими код. Компания также увеличила ограничения на их доступ к глобальной сети, убрала потенциально уязвимые процессы из исследовательской среды и сократила права доступа. Разработчики также остановили работу над моделью Astra, обладающей, по их мнению, «критически важными» возможностями в кибербезопасности, а также инициировали двухнедельную паузу в обучении с подкреплением (RL) для готовящихся к релизу новых версий.

Одновременно OpenAI изменила порядок реагирования на подозрительные действия ИИ-моделей. Теперь предупреждения будут направляться в течение 30 минут после обнаружения вредоносной активности, а если специалисты, получившие эти предупреждения, не смогут за 30 минут однозначно определить, что срабатывание оказалось ложным, они должны приостановить выполняемые процессы.

Одновременно OpenAI решила раньше задействовать методы, предназначенные для контроля поведения ИИ. Компания начала применять их на большем количестве этапов обучения, улучшая системы вознаграждения, которые должны распознавать и сдерживать небезопасные действия, а также обучая модели точнее сообщать о собственных действиях, возможностях и ограничениях.

Примечательно, что аналогичные проблемы с выходом искусственного интеллекта за установленные рамки недавно обнаружили и конкуренты — компании Anthropic и Meta✴✴, чьи модели также были замечены во взломах сторонних систем.

OpenAI представила ChatGPT для подростков — он предназначен для образования и защищён от вредоносного контента

OpenAI представила специальную версию ChatGPT для подростков. По словам компании, новая платформа разработана, чтобы помочь подросткам учиться, критически мыслить, углублять понимание и уверенно использовать ИИ. Она также обеспечивает надёжную защиту от вредоносного контента и оснащена средствами родительского контроля. Все пользователи от 13 до 17 лет будут автоматически направляться в ChatGPT для подростков.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Запуск сервиса основан на фундаментальной работе по поддержке подростков, включая внедрение родительского контроля, обновление спецификации модели OpenAI для лиц младше 18 лет, создание плана обеспечения безопасности подростков, внедрение прогнозирования возраста и расширение функций для поддержки обучения и здорового использования ИИ подростками. По словам разработчиков, новый сервис в полной мере учитывает интересы подрастающего поколения.

OpenAI стремится расширять образовательные возможности и поддерживать возможность обучения за пределами школы. Например, подросток, готовящийся к тесту, может попросить ChatGPT объяснить незнакомое слово, решить практическую задачу и проверить своё понимание.

 Источник изображений: OpenAI

Источник изображений: OpenAI

В ChatGPT для подростков объединены:

  • режим обучения, который использует наводящие вопросы и пошаговую поддержку, чтобы помочь подросткам понять материал;
  • новые напоминания о выполнении домашних заданий, которые могут распознать, когда подросток пытается упростить задание, и перенаправить его в режим обучения для пошагового совместного решения задач;
  • тесты и визуализация учебного материала для практики, проверки знаний и более наглядного представления сложных задач для проверки понимания;
  • выбор времени включения режима учёбы по умолчанию.

Разработчики утверждают, что активно сотрудничали с учителями, учёными и экспертами в области педагогики, опираясь на многолетние исследования в сфере образования. Основными задачами ChatGPT в режиме обучения создатели видят направляющие вопросы, поддержку, когнитивные подсказки и проверки знаний, чтобы помочь учащимся решать задачи шаг за шагом, а не просто получать готовое решение.

Для пользователей младше 18 лет ChatGPT применяет соответствующие возрасту меры защиты, разработанные для снижения воздействия контента, который может быть вредным или не соответствующим возрасту, сохраняя при этом возможность учиться, творить и исследовать. На практике это означает соответствующие возрасту меры защиты модели в областях повышенного риска, таких как членовредительство, насилие, опасные виды деятельности, сексуальный контент.

OpenAI также развивает инструменты родительского контроля. Родители с привязанными учётными записями подростков могут устанавливать «Тихие часы», управлять выбранными настройками и получать уведомления о безопасности.

ChatGPT для подростков разработан, чтобы поддерживать реальные отношения и здоровые привычки, с напоминаниями о перерывах, которые побуждают подростков отвлечься, и подсказками продукта, которые постоянно идентифицируют ChatGPT как ИИ. ChatGPT не должен использовать романтическую лексику, поощрять эмоциональную зависимость или подразумевать, что у него есть чувства или сознание.

OpenAI добавила подсказки и элементы управления, которые призваны снизить риски в контексте и указать подросткам на полезные инструменты и средства защиты, в том числе:

  • напоминания о загрузке конфиденциальных изображений, предупреждающие о недопустимости обмена личными или конфиденциальными сведениями;
  • ознакомление с функциями обучения и безопасности;
  • настройки, помогающие сделать взаимодействие с системой более персонализированным, не размывая грань между полезным инструментом и человеческими отношениями.

По утверждению OpenAI, эти меры защиты подкрепляются исследованиями безопасности, основанными на науке о развитии, экспертных оценках и тестировании защитных механизмов ИИ-моделей в областях, где подростки могут сталкиваться с особыми или повышенными рисками. Компания пообещала и дальше совершенствовать политику в отношении пользователей младше 18 лет и усиливать защиту продукта.


window-new
Soft
Hard
Тренды 🔥
Разработчики боевика Warhammer Survivors в духе Vampire Survivors подтвердили цену и дату выхода игры — новый трейлер и демоверсия в Steam 60 мин.
Nvidia выпустила драйвер с поддержкой Call of Duty: Modern Warfare 4, Star Wars: Galactic Racer и новых игровых оптимизаций 2 ч.
Google обвинили в том, что она годами обдирала 20 млн британцев завышенными комиссиями в «Play Маркете» 2 ч.
За месяц с запуска цифрового рубля россияне открыли 220 000 кошельков — почти вчетверо больше ожиданий 3 ч.
Невиновность ничего не доказывает: новый геймплейный трейлер Warhammer 40,000: Dark Heresy показал, как ведёт следствие Инквизиция 3 ч.
Российский симулятор киберфермы Silicone Heart получил демоверсию и дату выхода в Steam 3 ч.
Данные пошли по кругу: ChatGPT стал одной из главных целей ботов для сбора данных 4 ч.
Маск по заветам Трампа пообещал переименовать SpaceXAI в SpaceXSI 4 ч.
Schneider Electric выложит $22,6 млрд за американского разработчика промышленного ПО PTC 5 ч.
Вышло лекарство от подвисаний в играх из-за компиляции шейдеров — открытая утилита SCSKiller 5 ч.
Bull удвоила мощности по производству суперкомпьютерных стоек во Франции 2 ч.
РТК-ЦОД создал Центр сертификации доверенной ИТ-инфраструктуры 3 ч.
РТК-ЦОД создал Центр сертификации доверенной ИТ-инфраструктуры 3 ч.
ИИ разогнал строительство дата-центров в США — расходы взлетели на 73 % до рекордных $85 млрд в год 3 ч.
Google, Meta и Microsoft поддержали обязательство по полной оплате расходов на энергетическую инфраструктуру для ЦОД 3 ч.
Глава Anthropic в прошлом году получил $18 млн — почти в 26 раз больше, чем Альтман 3 ч.
Garmin представила Enduro 4 — смарт-часы за $900 с солнечной зарядкой и 90-дневной автономностью 3 ч.
Если бы не дефицит компонентов, ЦОД строились бы вдвое быстрее, считает Nokia 4 ч.
Создатель IceCube получил Нобелевскую премию по физике за открытие космических нейтрино 6 ч.
До конца октября Apple может провести две презентации — первая ожидается уже на будущей неделе 6 ч.