Опрос
|
реклама
Быстрый переход
«Не люблю, когда мне лезут в душу»: Meta✴ изменила алгоритм своего чат-бота после жалоб на бестактные личные вопросы
11.09.2026 [18:47],
Сергей Сурабекянц
Компания Meta✴✴ была вынуждена внести коррективы в алгоритмы подсказок своего чат-бота, так как искусственный интеллект стал чересчур интересоваться частной жизнью пользователей. Недавно в Сети распространилось видео, демонстрирующее, как чат-бот пытается выяснить личную информацию о маленьких детях. Компания признала, что «допустила ошибку» и «эта функция не должна была предлагать пользователю подобные вопросы». 
Источник изображений: unsplash.com На прошлой неделе пользователь Instagram✴✴ Кейли Робинс (Kalie Robins) рассказала, как ИИ-помощник Meta✴✴ начал бестактно выведывать информацию о её детях. Она разместила в Facebook✴✴ видео, где вместе с ребёнком поёт в машине, после чего под видео появился запрос от ИИ: «Кто этот ребёнок-пассажир?». По словам Робинс, чат-бот Meta✴✴ сопоставил информацию о её дочерях из её собственных прошлых публикаций и постов её родственников. Система стала задавать дополнительные вопросы, касающиеся возраста детей и места жительства её семьи. Кроме того, как утверждает Робинс, Meta✴✴ AI показал фотографии её дочерей, ранее размещённые на платформе, включая снимок, который она удалила много лет назад. Представитель Meta✴✴ Дина Эль-Кассаби (Dina El-Kassaby) заявила, что проблема, из-за которой чат-бот Meta✴✴ задавал вопросы на слишком личные темы, уже устранена: «Мы создали эту функцию, чтобы помочь людям получать больше информации о темах или публикациях, которые их интересуют. Когда пользователь нажимает на подсказку и использует эту функцию, сгенерированный ответ основывается на информации, к которой у пользователя уже есть доступ».  Meta✴✴ интегрировала своего ИИ-помощника в Facebook✴✴, Instagram✴✴, WhatsApp и Messenger. Он способен отвечать на вопросы, писать посты и генерировать изображения. В июле компания отказалась от функции, позволявшей создавать ИИ-дипфейки других пользователей Instagram✴✴, после того как столкнулась с резкой критикой. OpenAI ускорит научные исследования с помощью ИИ — первый «исследователь-стажёр» появится уже в сентябре
11.09.2026 [17:45],
Павел Котов
OpenAI подтвердила, что проект по созданию полностью автоматизированного исследователя с искусственным интеллектом идёт по графику: до конца текущего месяца будет выпущен «исследователь-стажёр». Этот «стажёр», способный выполнять исследовательские задачи по поручению человека, является важным этапом на пути к созданию полностью автоматизированной системы, которую OpenAI планирует представить в марте 2028 года. 
Источник изображения: Mariia Berezovsky / unsplash.com ИИ-стажёр способен выполнять задачи, на решение которых у человека ушли бы несколько дней. Обосновывая разработку этого приложения, OpenAI указывает на снижение стоимости технологий ИИ и необходимость обеспечить защиту критически важной инфраструктуры от угроз, которые исходят от мощных систем ИИ. Она могла бы не обнародовать эти соображения, если бы не инцидент со взломом Hugging Face. О работе по созданию ИИ-исследователя глава OpenAI Сэм Альтман (Sam Altman) объявил в октябре 2025 года. «Считаем вполне вероятным, что к сентябрю будущего года у нас появится ИИ-ассистент исследователя уровня стажёра, а к марту 2028 года — полноценный ИИ-исследователь», — рассказал тогда он. Говоря о текущем состоянии проекта, OpenAI пояснила, что под «исследователем-стажёром» понимается «система, способная выполнять чётко определённые исследовательские задачи под руководством человека, в том числе такие, выполнение которых заняло бы у квалифицированного исследователя несколько дней. <..> Исследовательская деятельность с ИИ — это сложный процесс со множеством возможных узких мест, <..> а агентные инструменты существенно ускоряют прогресс в исследованиях». OpenAI выступила против использования механизма рекурсивного самосовершенствования при исследованиях с помощью ИИ, отмечая, что обеспечить безопасность такого процесса на данном этапе развития технологий невозможно. Компания отмечает, что «исследования с использованием ИИ-агентов — новое направление, и мы всё ещё учимся оценивать их результаты»; а также указывает, что появление ИИ-агентов в исследовательской области может значительно изменить её, когда разработка системы завершится. Xiaomi выпустила ИИ-модель CocktailASR-1 для распознавания речи в шумных помещениях
11.09.2026 [17:43],
Павел Котов
Xiaomi представила открытую модель искусственного интеллекта CocktailASR-1. Она предназначена для решения одной из наиболее сложных задач в области расшифровки аудио — выделения голоса конкретного человека в ситуации, когда несколько людей говорят одновременно. 
Источник изображения: Xiaomi В Xiaomi проблему условно обозначили как «эффект коктейльной вечеринки». Большинство специализированных ИИ-моделей справляются с распознаванием речи, когда говорит один человек, но если друг на друга накладываются несколько голосов, ситуация значительно усложняется. Текст искажается, предложения сливаются, а реплики приписываются не тем собеседникам. В обратном направлении компания решила эту задачу с моделью OmniVoice — CocktailASR-1 же не генерирует, а выделяет и расшифровывает речь. Для работы с моделью необходимо представить короткий образец с голосом нужного человека. Она использует его как эталон, а затем, проанализировав запись с несколькими участниками, распознает и расшифрует речь только этого человека. В ряде тестов по распознаванию речи в условиях многоголосных образцов она, отметили в Xiaomi, продемонстрировала ведущие результаты и превзошла существующие аналоги, предназначенные для решения той же задачи. Сложными условиями её возможности не исчерпываются — она умеет расшифровывать речь и в том случае, когда на записи голос только одного человека. Она также умеет избегать необоснованных предположений: если в предложенной записи указанный в качестве образца голос отсутствует, она выдаст пустой текст и не будет пытаться расшифровать слова другого человека. Наконец, у Xiaomi CocktailASR-1 есть режим цепочки рассуждений — он позволяет пользователям изучать логику, на основе которой выполнялась расшифровка, а не просто видеть итоговый текст. Новая модель доступна на GitHub и Hugging Face. Цукерберг хотел плоскую Meta✴, но ИИ всё изменил — пониженных сотрудников возвращают на руководящие должности
11.09.2026 [16:44],
Павел Котов
Meta✴✴ частично отказалась от курса на создание подразделений с «плоской» структурой при минимальном числе руководящих работников: некоторым сотрудникам отдела прикладного искусственного интеллекта (Applied AI) было предложено перейти с позиций рядовых специалистов обратно на руководящие должности. 
Источник изображения: Mark Zuckerberg Компания предложила сотрудникам стать менеджерами на добровольной основе, без принуждения, сообщает Business Insider. Официальных комментариев от Meta✴✴ по данному вопросу не последовало, и нет ясности, как отразится отказ на тех, кто не захочет менять статус. В созданное в этом году подразделение перевели около 7000 человек. Часть работников, которые ранее занимали руководящие посты, при переводе в отдел прикладного ИИ заняли позиции рядовых специалистов. Многие почувствовали себя так, будто их «мобилизовали» в новое подразделение, то есть в компании образовалось внутреннее напряжение. Курс на сокращение руководящих сотрудников Meta✴✴ взяла в 2023 году, который глава компании Марк Цукерберг (Mark Zuckerberg) объявил «годом эффективности»; он также пояснил, что «плоская» организационная структура поможет компании действовать более гибко и быстрее адаптироваться к переменам. В этом году Meta✴✴ намерена потратить более $130 млрд на оборудование и инфраструктуру для ИИ, и потребность в традиционных моделях управления, вероятно, возникла из-за роста отдела прикладного ИИ. Но инициированная некогда господином Цукербергом программа повышения эффективности, предусматривающая сокращение управленческого звена, видимо, продолжает действовать в других направлениях бизнеса, а набор новых менеджеров затрагивает только отдел прикладного ИИ. Процесс запуска нового ИИ-отдела в Meta✴✴ был организован «безобразно», признал ранее технический директор компании Эндрю Босворт (Andrew Bosworth) и пообещал при проведении будущих изменений более качественную коммуникацию с сотрудниками. OpenAI научила ИИ говорить и слушать одновременно — полнодуплексная модель GPT-Live-1 доступна разработчикам
11.09.2026 [16:06],
Павел Котов
OpenAI открыла через API доступ к новейшей голосовой модели искусственного интеллекта, поддерживающей полнодуплексный режим, то есть она может одновременно говорить и слушать. Это позволяет разработчикам создавать голосовые приложения с новыми сценариями диалогового взаимодействия. 
Источник изображения: Brecht Corbeel / unsplash.com Модель OpenAI GPT-Live-1 была анонсирована в июле — она позволяет вводить запросы не текстом, а голосом. Первоначально она была доступна только через интерфейс ChatGPT, а теперь может использоваться по API. Полнодуплексный режим позволяет GPT-Live-1 одновременно слушать и генерировать речь, что делает общение более естественным. В обычном разговоре люди часто говорят одновременно, и необходимость строго соблюдать очерёдность, как при полудуплексной радиосвязи, может вызывать раздражение. Особое внимание в OpenAI уделили возможностям настройки модели: внедряющие GPT-Live-1 разработчики могут адаптировать механизмы голосового взаимодействия и связанные с ними рабочие сценарии под нужды пользователей приложений. «Основное преимущество GPT-Live-1 — способность штатно обрабатывать ситуации, когда собеседник перебивает ИИ, — уже приносит бизнесу ощутимую пользу: в ходе предварительного тестирования сервис Speak установил, что GPT-Live-1 даёт ученикам больше времени перед ответом виртуального преподавателя языка, сократив случаи с перебиванием на 80 % по сравнению с предыдущими системами, работающими в режиме строгой очерёдности реплик», — рассказали в OpenAI. GPT-Live-1 предназначается для ведения устного диалога, в то время как модель в бэкенде, например, флагманская GPT-6 Astra или более экономичная для простых задач, занимается поиском информации, работает с инструментами и управляет задачами. Новая модель представляет собой шаг вперёд по сравнению с выпущенной в 2024 году Realtime. В тесте Tau3, который оценивает интеллектуальные возможности голосовых агентов при выполнении задач по обслуживанию клиентов, GPT-Live-1 набрала 86,2 %, а GPT-Realtime-2.1 и GPT-Realtime-2 показали 45,7 % и 42,4 % соответственно. Новая модель, по собственным оценкам OpenAI, демонстрирует на 30 % более высокую эффективность в тесте Full Duplex Bench по сравнению с GPT-Realtime-2.1, превосходя предшественницу по таким параметрам как задержка при смене говорящего и качество интерактивного взаимодействия. Её уже внедрили на сервисе Yelp Host — теперь бронирование столиков стало более естественным. Стоимость работы с GPT-Live-1 составляет $0,05 за минуту плюс затраты на работу модели в бэкенде. Она также доступна через OpenAI Presence — корпоративную платформу для создания интеллектуальных агентов. Google выпустила приложение Gemini для Windows
11.09.2026 [14:09],
Павел Котов
Google объявила о выпуске приложения помощника с искусственным интеллектом Gemini для Windows. Оно выступает дополнением к привычным для пользователей рабочим инструментам и повседневным программам, предлагая быструю помощь по разным вопросам без отрыва от работы.  Предусмотрен быстрый запуск приложения Gemini поверх активного окна по нажатию сочетания клавиш Alt + Space. Если, например, требуется быстро проверить факты в документе или придумать заголовки к слайдам в презентации, пользователь может получить необходимую помощь в оперативном режиме и быстро вернуться к работе. Доступны функции работы над задачами в выделенном рабочем пространстве. В приложении есть все привычные для опытных пользователей функции Gemini: задачи можно поручить доступному круглосуточно ИИ-агенту Gemini Spark, который доступен, правда, только платным подписчикам. ИИ-помощник может составить черновую сводку материалов проекта, проанализировав информацию в сервисах Google, в том числе Gmail и «Google Диск». Через приложение можно генерировать изображения для презентаций с помощью модели Nano Banana, а также создавать видеоролики при помощи подключённой к платформе Gemini Omni. Приложение Gemini для Windows, заверили в Google, работает незаметно и не замедляет работу компьютера. Со временем разработчик будет добавлять в него новые функции, свойственные полноценным десктопным приложениям. Оно совместимо с Windows 10 и 11. Гонку ИИ пора притормозить, но это может быть незаконно — OpenAI попросила Конгресс разобраться
11.09.2026 [12:09],
Владимир Мироненко
Лидеры ИИ-индустрии выражают обеспокоенность тем, что антимонопольное законодательство может стать помехой скоординированному замедлению развития ИИ в целях обеспечения безопасности. Как сообщает Wired со ссылкой на источники, OpenAI недавно обратилась к членам Конгресса США с просьбой дать разъяснение относительно того, будет ли законным организовывать общеотраслевое замедление развития ИИ. 
Источник изображения: Growtika/unsplash.com О необходимости такого замедления недавно заявил Якуб Пачоцки (Jakub Pachocki), главный научный сотрудник OpenAI. По его словам, это позволит выстроить надёжные механизмы контроля над самообучающимися ИИ-системами. Однако, по мнению экспертов, предлагаемая координация действий для замедления будущего развития ИИ может противоречить законодательству США, в частности, Антимонопольному закону Шермана (Sherman Antitrust Act). В июле двухпартийная группа конгрессменов представила законопроект «О сотрудничестве в борьбе с враждебными угрозами и рисками безопасности», который позволит защитить координацию ИИ-компаний в вопросе замедления от антимонопольных претензий. На данный момент документ ожидает рассмотрения в юридическом комитете. Между тем эксперты считают, что ссылки на антимонопольные риски — лишь удобное прикрытие для того, чтобы избежать обсуждения реальных причин, по которым разработчики ИИ избегают сотрудничества. На самом деле между компаниями идёт ожесточённая борьба за то, чтобы захватить часть зарождающегося рынка передовых моделей. Также существуют опасения, что опережение Китаем в области ИИ будет иметь значительные последствия для национальной безопасности. И, что самое важное, у разработчиков ИИ имеются совершенно разные мнения о наилучшем способе разработки безопасного ИИ, и поэтому они могут неохотно сотрудничать друг с другом в этом вопросе, пишет Wired. «Первым шагом для лидеров отрасли OpenAI и Anthropic является прекращение вражды и совместная работа над новым предложением, — сообщил в соцсети X Джон Шульман (John Schulman), соучредитель OpenAI, — Они ссылаются на антимонопольное законодательство, но это ложь — антимонопольное законодательство запрещает определённые соглашения, но не совместную разработку предложения». Этим летом резко обострились дебаты по поводу рисков, связанных с развернувшейся гонкой между ИИ-компаниями за создание и выпуск всё более мощных моделей. Масла в огонь добавило заявление бывшего исследователя Anthropic и OpenAI Джейкоба Коксона (Jacob Coxon) о том, что разработчики искусственного интеллекта подвергают человечество риску. К тому же, ряд инцидентов с безопасностью, в том числе хакерская атака агентов OpenAI на Hugging Face, показали, что отраслевые средства защиты не успевают за ростом возможностей моделей. Anthropic предотвратила несколько попыток создания биологического оружия с помощью Claude
11.09.2026 [11:30],
Алексей Разин
На ранних этапах развития систем генеративного искусственного интеллекта их создатели обеспокоились проблемой безопасности, поскольку предположили, что с их помощью некоторые пользователи попытаются создать новые виды оружия, включая биологическое. Anthropic утверждает, что в этом году смогла предотвратить несколько попыток создания биологического оружия. 
Источник изображения: Anthropic Данная информация стала доступна после публикации отчёта Anthropic о случаях некорректного использования её ИИ-моделей. При этом сама компания подчёркивает, что не может с уверенностью говорить о наличии у связанных с этими инцидентами учёных умысла на создание именно биологического оружия. По сути, запросы к ИИ-моделям в этой сфере нередко используются для разработки вакцин от опасных патогенов, и определить по их составу истинные намерения разработчика сложно. Тем не менее, на всякий случай Anthropic решила обратить внимание регуляторов на данные инциденты. До сих пор куда большим вниманием пользовались случаи применения ИИ-моделей для поиска и эксплуатации уязвимостей в информационной инфраструктуре компаний и организаций, а биологические угрозы оставались в большей мере гипотетическими. По словам старшего советника Совета по стратегическим рискам Эндрю Уэбера (Andrew Weber), свежий отчёт Anthropic содержит «леденящие кровь примеры причастности поддерживаемых государством создателей биологического оружия, которые пользуются возможностями быстро развивающихся ИИ-моделей». Объёмный отчёт Anthropic, охватывающий период восьми последних месяцев, традиционно приводит примеры использования ИИ-моделей семейства Claude представителями недружественных по отношению к США стран для достижения определённых политических целей. Впервые при этом были приведены примеры использования Claude для разработки традиционных видов оружия, включая огнестрельное, ракетное, а также бомбы и боевые дроны. Anthropic не была столь категоричной в идентификации случаев, описывающих попытки разработки биологического оружия, поскольку не уверена в наличии у авторов запросов именно злонамеренных мотивов. По этой причине не были названы ни организации, ни страны, причастные к соответствующей активности. Однако, компанию насторожили попытки авторов исследований скрыть своё происхождение и цели подобной активности, поэтому соответствующие учётные записи были заблокированы. В качестве одного из примеров приводятся попытки некоего исследователя изучить специфику распространения вируса чикунгунья, который передаётся человеку через укусы инфицированных комаров и вызывает продолжительные боли в суставах, сопровождающиеся сильной лихорадкой. По версии Anthropic, конкретный исследователь пытался модифицировать вирус, придав ему более выраженные вредоносные свойства. Помимо теоретических изысканий, данный исследователь проводил практические эксперименты на животных, а лабораторию для этих целей должен был предоставить некий исследовательский институт оборонного назначения. Ещё в прошлом году, по оценкам самой Anthropic, её собственные модели не были достаточно продвинутыми для содействия человеку в проведении биологических исследований, способных привести к созданию оружия. Нынешние версии ИИ-моделей Anthropic уже способны оказывать содействие в таких вопросах, а потому назревает необходимость введения защитных и ограничительных мер. Эксперты подчёркивают, что ИИ на нынешнем этапе своего развития предоставляет возможности как по созданию лекарственных средств, так и биологического оружия, противостоять которому без подготовки человечество не сможет. Эндрю Уэбер призвал ограничить доступ исследователям из недружественных к США стран к подобным ИИ-инструментам. Anthropic поймала DeepSeek и Moonshot на том, что они перенаправляют запросы клиентов в Claude вместо собственных моделей
11.09.2026 [10:50],
Павел Котов
Компания Anthropic опубликовала отчёт, в котором подробно изложила выявленные случаи недопустимого и потенциально опасного использования её моделей искусственного интеллекта семейства Claude. Документ включает семь разделов: кибероперации, слежка, операции влияния, разработка вооружений, биологические сценарии, мошенничество и дистилляция. 
Источник изображений: anthropic.com ИИ-модели семейства Claude использовались киберпреступниками для реальных взломов. Одна из группировок развернула атаки на более чем 20 организаций — ИИ использовался для разведки, подготовки фишинговых схем, прямого запуска атак, кражи учётных данных, продвижения по взломанным сетям и обработки похищенной информации. Claude не только писал вредоносный код, но и адаптировал его для конкретного окружения: когда система защиты на целевом ресурсе обнаруживала вредонос, ИИ выявлял причину обнаружения, переписывал программу, пересобирал и снова запускал её — цикл повторялся, пока защита не переставала реагировать на вторжение. Другая группировка киберпреступников использовала Claude для анализа кода в 1,8 млн приложений для Android на предмет поиска ключей и прочих учётных данных — они впоследствии использовались для взлома корпоративных сетей и кражи информации. В одном случае удалось похитить более терабайта данных, в другом добычей киберпреступников стали несколько десятков миллионов записей о пассажирах одной авиакомпании. ИИ-помощник Anthropic Claude использовался как вспомогательное средство для слежки за гражданами разных стран. Он, в частности, создал систему массового перехвата коммуникаций, способную работать с сетями всех мобильных операторов одной из африканских стран. В другой стране его использовали для разработки вредоносного расширения для браузера Mozilla Firefox, которое собирало сведения о пользователях соцсетей. В третьей стране Claude помог в обработке огромных массивов публикаций в соцсетях: определял местоположение людей, их демографические характеристики и политические взгляды. Обнаружены девять операций влияния, в которых Anthropic Claude сыграл важную роль. Разрабатывались и наполнялись новостные сайты с фальшивыми материалами, регистрировались тысячи учётных записей в соцсетях, для которых готовились материалы и комментарии. В рамках только одной операции были созданы около тысячи учётных записей в соцсети X — предусматривался даже период «прогрева», чтобы создать впечатление, что материалы публикуют реальные люди. Некоторые из таких операций Anthropic обнаруживала на стадии подготовки, поэтому они не доходили до аудитории.  Четвёртая группа сценариев применения Anthropic Claude — сфера вооружений. ИИ-помощник использовался в разработке ПО для оружейных систем: управляемых ракет, торпед, роя дронов, а также системы наведения радиоэлектронной борьбы и подавления ПВО. ИИ помогал в поиске и закупках компонентов вооружений, а также для сбора разведывательной информации. Речь идёт не о проектировании оружия с нуля — у подобных пользователей уже были специалисты, оборудование и готовые военные программы, поэтому Claude привлекался для отдельных задач. Anthropic приводит пять случаев недопустимого применения Claude в области биологии. Это были реальные научные работы с двойным назначением, то есть их результаты могли использоваться как в медицине, так и для создания опасных биологических агентов. Исследовались аспекты работы одного из вирусов, в том числе его способность к распространению и уклонению от иммунной системы человека. Claude использовался преимущественно для планирования исследований, анализа данных и научной литературы. В наиболее опасных случаях защитные механизмы Anthropic ограничивали доступ к более мощным моделям, однако часть запросов, имевших двойное назначение, проходила без блокировки. Anthropic не утверждает, что указанные исследователи имели некий злой умысел, но их работа могла иметь двойное назначение. По направлению мошеннических действий самым наглядным инцидентом стала разработка китайской компанией сети из более чем 20 приложений для знакомств — в них пользователи общались не только с реальными людьми, но и с ИИ-персонажами, которые выдавали себя за людей. За две недели Anthropic удалось обнаружить более 4700 таких персонажей — с ними вели переписку не менее 25 000 реальных пользователей. В ряде случаев управление персонажами перехватывали операторы — например, для подтверждения контакта или при видеозвонке. За две недели были отправлены около 2,36 млн сообщений, в том числе изображения и подсказки для операторов. Наконец, Anthropic рассказала об инцидентах с незаконной дистилляцией своих моделей, прямо указав, какие китайские компании, по её версии, проводили такие операции. Связанные с Alibaba компании создали 3500 учётных записей, и в пиковый момент генерировали до 3 млн обращений к Claude в сутки. Это были задачи на рассуждения, написание кода, разработку ядра ОС, задачи для агентов и задачи с длительными последовательностями действий — всё это конвертировалось в обучающие данные для моделей Qwen, утверждают в Anthropic. Китайские разработчики DeepSeek, Xiaomi и Moonshot перенаправляли запросы клиентов в Claude вместо того, чтобы обрабатывать их с помощью собственных моделей. Moonshot AI за десять дней отправила в Claude почти 300 тыс. запросов, а DeepSeek сделала 12,1 млн обращений за две недели, включая попытки дистилляции. При этом ответы, полученные от Claude, к тому же используются как обучающие данные для собственных моделей китайских компаний. Среди этих данных присутствовала личная информация пользователей: имена, адреса электронной почты, корпоративные сведения и учётные данные для доступа к системам. Приводятся примеры с передачей ИИ финансовых прогнозов компаний. ИИ ослабляет умственные способности человека и распространяется как вирус, установили учёные
11.09.2026 [08:51],
Павел Котов
Международная группа исследователей из Испании, Италии и США опубликовала работу, в которой сравнила большие языковые модели искусственного интеллекта с когнитивным вирусом. Модели не только могут нанести вред мыслительным способностям человека, но и создают эффект самоподкрепления, если люди вокруг активно их применяют. 
Источник изображения: Steve A Johnson / unsplash.com Работа носит теоретический, а не экспериментальный характер, но также обращается к полученным ранее данным о влиянии зависимости от ИИ на когнитивные функции. Применив методы эпидемиологического моделирования, которые используются для того, чтобы отследить распространение биологических вирусов, учёные пришли к выводу, что общество со временем переходит от одного состояния к другому: «независимое» сначала становится «привязанным», а затем превращается в «зависимое». В первом случае люди не полагаются на ИИ-модели в процессе мышления; во втором используют их как часть когнитивного процесса; а в третьем уже перекладывают большую часть умственной работы на ИИ. Авторы исследования не ограничиваются утверждением, что ИИ разрушает мозг — это показали и предыдущие исследования. Когда человек обращается к машине, выполняющей за него мыслительные задачи, его способности мыслить самостоятельно ослабляются. Новое исследование указывает, что повсеместное применение ИИ-моделей может оказывать системное воздействие на общество в целом. Устойчивая практика делегирования умственных функций ИИ может действовать как биологический вирус: люди, которые выиграли от работы с ИИ, распространяют эту практику среди окружающих и, если не проявляют должной осмотрительности, постепенно впадают в зависимость от него. Противниками ИИ авторы исследования не выступают — напротив, они подчёркивают, что не считают использование ИИ вредным само по себе и приводят несколько примеров, как ИИ по-настоящему помогает человеческому мышлению, не подменяя его. И в этом своего рода ключ к иммунитету от вируса — не давать ИИ думать за себя. Отказываться от него не нужно — модели хороши в задачах глубокого анализа, сбора информации и даже обучения. Вопрос не в том, применять ИИ или нет, а в том, как с ним взаимодействовать: важно, расширяет ли он компетентность человека или подменяет те умственные процессы, за счёт которых эта компетентность поддерживается. Авторы ссылаются на исследования, подтверждающие, что критический подход к ИИ без отказа от собственной умственной работы — ключ к предотвращению умственной деградации и способ выработать иммунитет к вирусу. Подчёркивается, что работа не является экспериментальным исследованием — учёные делают выводы, применяя сложный математический аппарат к уже существующим научным данным. OpenAI готова замедлить гонку разработки ИИ, если конкуренты сделают то же самое
11.09.2026 [06:48],
Алексей Разин
Опасения по поводу последствий слишком быстрого развития искусственного интеллекта звучат даже из уст представителей компаний, заинтересованных в этом процессе. Замедлить гонку ИИ ради повышения безопасности конечного продукта готова и компания OpenAI, как заявил её глава Сэм Альтман (Sam Altman), но при этом она рассчитывает на солидарность конкурентов. 
Источник изображения: OpenAI Соответствующими идеями генеральный директор OpenAI поделился с подчинёнными на общем собрании на текущей неделе. Альтман осознаёт необходимость синхронизации усилий в этой сфере с другими участниками рынка, но одновременно понимает, что не все могут согласиться последовать примеру OpenAI. На днях с похожими призывами выступил и главный научный сотрудник стартапа Якуб Пачоцки (Jakub Pachocki) — по его мнению, компании должны координировать собственные усилия при разработке ИИ в будущем, замедляя её в случае необходимости. Такие меры могут потребоваться до тех пор, пока не будут внедрены общепринятые меры безопасности. OpenAI уже замедлила процесс разработки некоторых компонентов своих ИИ-моделей и даже приостановила процесс их обучения в отдельных случаях именно из соображений безопасности. В июле Альтман признался, что общался с чиновниками Белого дома о необходимости модерации процесса развития искусственного интеллекта. На этой неделе другой исследователь — Джейкоб Коксон (Jacob Coxon) решил покинуть Anthropic на фоне озабоченности недостаточностью мер в сфере безопасности, предпринимаемых лидерами рынка ИИ. При этом он имеет опыт работы и в OpenAI, а потому имеет представление о ситуации в обеих компаниях. Его бывший коллега Эван Хабингер (Evan Hubinger) вызвал большой общественный резонанс, заявив об уверенности разработчиков Anthropic в способности ИИ уничтожить человечество. Правда, авторы высказываний разошлись в графике реализации подобного сценария, поскольку первый уверен, что это произойдёт к концу текущего десятилетия, а второй оценил подобную вероятность в более чем 10 % лишь в рамках следующего десятилетия. В конце июля необходимость замедления разработки ИИ с целью повышения его безопасности подтвердили своей петицией более 1000 сотрудников ведущих разработчиков. Это происходило на фоне множественных случаев ухода из профильных компаний специалистов по безопасности ИИ, выражавших тем самым своё несогласие с приоритетами руководства. Волна подобных настроений только набирает силу на фоне появления новых подробностей о деятельности «сбежавших» из-под надзора ИИ-агентов, которые творят что попало внутри инфраструктуры других компаний. ИИ упростил подачу жалоб — и граждане завалили обращениями госслужбы по всему миру
10.09.2026 [20:52],
Сергей Сурабекянц
Инструменты ИИ упростили заполнение форм и подачу жалоб, и теперь государственные службы по всему миру столкнулись с резким ростом обращений. В Великобритании число жалоб омбудсмену по жилищным вопросам удвоилось с момента появления ChatGPT. Бюро по защите прав потребителей в финансовой сфере США зафиксировало пятикратный рост числа обращений. Аналогичные всплески наблюдались в количестве судебных исков в Бразилии и петиций в парламент Германии. 
Источник изображений: unsplash.com Исследователь Крис Шмитц (Chris Schmitz) связывает бурный рост числа обращений с более широкой тенденцией, которую он назвал «наплывом агентов» (agentic flooding). Он проанализировал 84 различных случая потенциального наплыва обращений в 11 юрисдикциях и привёл убедительные доказательства того, что инструменты ИИ меняют характер взаимодействия граждан с государственными службами. Существенная часть обращений подаётся добросовестными заявителями, использующими ИИ для оформления претензий, от которых в противном случае они бы отказались. Шмитц видит в этом уникальную возможность перестроить работу социальных служб с учётом реалий эпохи ИИ. Шмитц изучил различные виды услуг — от заявок на получение социальных пособий до официальных судебных апелляций. Он воздерживается от прямого утверждения, что непосредственной причиной резкого роста числа заявителей является ИИ. Однако большинство из 84 рассмотренных случаев демонстрируют схожую динамику: до 2022 года количество обращений оставалось практически неизменным, а затем начало расти все более быстрыми темпами по мере распространения технологий ИИ.  По мнению Шмитца, рост возможностей ИИ и его доступность способствуют увеличению интенсивности использования подобных инструментов. «Люди начинают понимать, что это вполне реально, и с каждым разом делать это становится всё проще... Если раньше приходилось собирать воедино массу контекста и составлять предельно точные запросы для ChatGPT 3.5, то теперь достаточно просто скопировать текст или сфотографировать письмо через приложение Claude — и сразу получить вполне качественный ответ», — отметил он. Резкий рост объёма обращений напоминает ситуацию, с которой в прошлом году столкнулись многие платформы выплаты вознаграждения за поиск уязвимостей. Они оказались завалены низкокачественными отчётами, сгенерированными большими языковыми моделями. Компании были вынуждены проверять каждое поступившее сообщение, что требовало значительных ресурсов. Теперь с аналогичной проблемой сталкиваются и государственные службы, которым приходится обрабатывать значительно больше обращений при том же бюджете. В госучреждения, по словам Шмитца, большинство новых заявок поступает от реальных людей с обоснованными требованиями. Раньше эти люди не претендовали на положенную им помощь, так как их останавливала сложность самой процедуры подачи заявки. Теперь, когда ИИ способен взять всю подготовку на себя, появляется возможность перестроить многие подобные сервисы с учётом новых технологических возможностей.  «Чтобы внедрение ИИ прошло успешно, важно чётко понимать, как должен выглядеть идеальный вариант рабочего процесса. Любой, кто хоть раз использовал ChatGPT для заполнения налоговой декларации, знает: существует сценарий, при котором нейросеть действительно помогает справиться с задачей, — говорит Шмитц. — Возможно, сейчас самое время сказать: нам нужно полностью переосмыслить то, как организован этот процесс». Из Meta✴ ушёл ИИ-исследователь, которому предлагали премию до $1,5 млрд
10.09.2026 [20:17],
Павел Котов
Из Meta✴✴ ушёл исследователь Эндрю Таллок (Andrew Tulloch), которому при переговорах предлагали колоссальное вознаграждение — до $1,5 млрд. Он согласился на условиях, которые не разглашались, но не проработал в гиганте соцсетей и года, сообщает Wall Street Journal со ссылкой на информированные источники. 
Источник изображения: Andrew Tulloch О своём уходе из Meta✴✴ господин Таллок объявил накануне, 9 сентября. Где он намерен работать дальше, эксперт не уточнил. На запросы журналистов он не ответил, а в Meta✴✴ комментарии давать отказались. Австралиец Эндрю Таллок с высокими результатами окончил Сиднейский университет и работал в Meta✴✴ (тогда Facebook✴✴) по направлению машинного обучения. В 2016 году переманить его пытался неизвестный тогда стартап OpenAI — исследователь отказался, в том числе из-за низкой зарплаты: в Facebook✴✴ она составляла $800 тыс., а предложили ему втрое меньше. В 2023 году он всё-таки согласился перейти в OpenAI, когда уже вышел ChatGPT. В 2025 году перешёл на работу в стартап Thinking Machines Lab. В августе того же года Марк Цукерберг (Mark Zuckerberg) пытался переманить Таллока обратно в свою компанию и предложил пакет вознаграждения в размере $1 млрд, который при максимальных бонусах и росте акций минимум за шесть лет мог бы достичь $1,5 млрд. Поначалу исследователь отказался, но спустя несколько месяцев дал согласие за сумму, которую так и не раскрыли. После этого в Meta✴✴ он не проработал и года. IBM и NASA выпустили ИИ-модель для изучения и освоения Луны
10.09.2026 [20:12],
Павел Котов
IBM и NASA выпустили открытую модель искусственного интеллекта, призванную помочь учёным в анализе данных, полученных в ходе многолетних наблюдений Луны, и в реализации планов по обеспечению постоянного присутствия человека на естественном спутнике Земли. 
Источник изображения: nasa.gov ИИ-система, получившая название NASA-IBM Lunar Foundation Model, доступна для использования всем желающим. Она была обучена на более чем 30 слоях данных, собранных с девяти приборов в рамках четырёх миссий NASA, в том числе миссии Lunar Reconnaissance Orbiter (LRO). Новая система пополнила семейство базовых открытых моделей Prithvi, которые совместными усилиями разрабатывают IBM и NASA — они применяются в анализе геопространственных данных, в метеорологии и других областях. Модель поможет исследователям обнаружить возможные области залегания льда в постоянно затенённых районах Луны, нанести на карту кратеры для выбора безопасных мест посадки и изучить вулканические образования. Ранее для решения таких задач учёные собственными силами анализировали карты и снимки или обращались к средствам машинного обучения с более низким разрешением. В ходе сравнительных испытаний модель распознала ключевые объекты на поверхности Луны с точностью, превышающей показатели распространённых методов на 23 %. Лунный лёд представляет особый интерес, потому что он указывает на наличие воды и кислорода — они помогут в создании лунной базы и в производстве ракетного топлива для полётов на Марс. США намерены высадить астронавтов на Луну в 2028 году и испытать новые технологии, необходимые для обеспечения постоянного присутствия человека на Луне и подготовки будущих миссий на Марс. Nvidia представила универсальный контроллер на базе ИИ для обучения гуманоидных роботов широкому кругу задач
10.09.2026 [20:06],
Сергей Сурабекянц
Обучение гуманоидных роботов стабильному выполнению различных действий сопряжено с трудностями и занимает много времени. Исследователи из Nvidia разработали универсальный контроллер SONIC на базе ИИ, способный обучаться на обширном и разнообразном массиве данных о движениях человека. Контроллер преобразует команды из виртуальной реальности, заранее записанного видео или из текстовых подсказок в плавные, скоординированные движения робота. 
Источник изображений: Nvidia «Гуманоидные роботы должны двигаться с той же координацией и адаптивностью, что и люди, но современные системы обучаются с использованием отдельных контроллеров для разных навыков, что затрудняет их масштабирование, — отметил ведущий научный сотрудник Nvidia Юке Чжу (Yuke Zhu). — Мы хотели выяснить, может ли единый обученный контроллер послужить основой для множества вариантов движений, задействующих все тело». Чжу и его коллеги поставили перед собой задачу создать универсальный контроллер для управления движениями робота, способный обучаться на обширном и разнообразном массиве данных о движениях человека. Кроме того, они стремились к тому, чтобы контроллер мог обобщать полученные в ходе обучения знания и применять их для выполнения новых действий и движений. По мнению Чжу, «такой подход может приблизить гуманоидную робототехнику к созданию универсального двигательного интеллекта, пригодного для широкого спектра задач, что избавит инженеров от необходимости разрабатывать отдельный контроллер для каждой конкретной операции».  Разработанный командой контроллер SONIC представляет собой базовую модель управления движениями гуманоидного робота. Он выполняет функцию «двигательной системы» робота, преобразуя высокоуровневые команды в плавные, скоординированные движения всего тела. Модель прошла обучение на более чем 100 миллионах кадров с записью движений человека, что позволило ей усвоить широкий спектр двигательных паттернов, а не просто отдельные задачи. Разработчики протестировали SONIC в физическом симуляторе, используя разнообразные сценарии передвижения и манипулирования объектами, включая действия, отсутствовавшие в обучающей выборке. Один и тот же контроллер может работать с различными типами входных данных, будь то телеуправление в виртуальной реальности, движения на основе видео или команды от мультимодальных моделей без необходимости переобучения.  Исследователи испытали контроллер на гуманоидном роботе, оценив точность воспроизведения как уже изученных, так и новых, ранее не встречавшихся эталонных движений. Выяснилось, что система SONIC обеспечивает широкий спектр естественных и устойчивых движений всего тела, опираясь на единую модель, а не на отдельные стратегии управления для каждого конкретного действия. В сочетании с дополнительными компонентами контроллер даёт возможность дистанционного управления роботом и преобразования текстовых инструкций в конкретные действия. «В будущем такой подход может ускорить разработку человекоподобных роботов для производственных, складских и логистических задач, а также для других сфер, где требуется выполнение разнообразных физических действий. В более широком смысле SONIC служит универсальной базой для управления моторикой, способной взаимодействовать с моделями ИИ более высокого уровня и преобразовывать результаты логических рассуждений в надёжные физические действия», — заключил Чжу.  В настоящее время Чжу и его коллеги планируют продолжить развитие и совершенствование своей модели. В частности, они хотят улучшить способность системы воспринимать окружающую обстановку, чтобы снизить риск столкновений и аварий, а также повысить качество навигации роботов в динамичной среде или на пересечённой местности. В дальнейшем планируется интегрировать SONIC с платформой Nvidia Isaac GR00T, что позволит человекоподобным роботам сочетать высокоуровневое логическое мышление с универсальным управлением движениями всего тела. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
