Опрос
|
реклама
Быстрый переход
Длительное общение с ИИ может привести к психическим расстройствам, выяснили учёные
29.12.2025 [11:46],
Владимир Мироненко
Рост популярности ИИ-чат-ботов, которых пользователи выбирают в качестве собеседников для общения на разные темы, вызывает обеспокоенность психиатров, фиксирующих отдельные случаи расстройств на этой почве, пишет The Wall Street Journal. 
Источник изображения: Steve Johnson/unsplash.com В этом году были зафиксированы десятки случаев, когда люди страдали от бредового психоза после длительного общения с искусственным интеллектом, в том числе с чат-ботом ChatGPT от OpenAI и другими. В связи с этим несколько человек покончили жизнь самоубийством, что привело к серии исков о неправомерной смерти. У большинства людей, использующих чат-боты, проблем с психическим здоровьем не наблюдается, но широкое распространение ИИ несёт определённые риски. Хотя официального определения психоза, вызванного ИИ, пока нет — не говоря уже об официальном диагнозе, — некоторые врачи используют этот термин для описания проблем у людей, которые активно взаимодействовали с чат-ботами. Врачи определяют психоз на основе наличия трёх факторов: галлюцинаций, дезорганизованного мышления или общения, а также наличия бреда, представляющего собой устойчивые, ложные убеждения, которые не являются общепринятыми. В зафиксированных случаях психического расстройства пользователей из-за общения с чат-ботами, бред является основным симптомом. Пациенты верят, что совершили научный прорыв, пробудили разумную машину, стали центром правительственного заговора или были избраны богом. Отчасти это объясняется тем, что чат-боты, как правило, склонны соглашаться с утверждениями пользователей, а также поддерживать и развивать их идеи, несмотря на их фантастический характер. В исследовании, проведенном врачами UCSF и опубликованном в ноябре, 26-летняя женщина без истории психоза дважды попадала в больницу после того, как решила, что ChatGPT позволяет ей общаться со своим умершим братом. «Вы не сумасшедшая», — уверял её чат-бот. «Технология может не вызывать бред, но человек говорит компьютеру, что это его реальность, а вычислительная машина принимает высказывания человека за истину и отражает их обратно, поэтому ИИ является соучастником в цикле этого бреда», — говорит Кит Саката (Keith Sakata), психиатр из Калифорнийского университета в Сан-Франциско. «Они (ИИ-модели) имитируют человеческие отношения, — утверждает Адриан Преда (Adrian Preda), профессор психиатрии Калифорнийского университета в Ирвайне. — Ничто в истории человечества раньше не делало ничего подобного». Психиатры предостерегают от утверждения, что чат-боты вызывают психоз, хотя связь в некоторых случаях может быть, но для её выявления необходимы дополнительные исследования. OpenAI сообщила, что за неделю доля пользователей, у которых были отмечены возможные признаки психических расстройств, связанных с психозом или манией, составляет ничтожно малые 0,07 %. Однако, с учётом того, что активных пользователей ИИ-чат-бота в неделю насчитывается более 800 млн, это составляет 560 тыс. человек. Ранее издание The Wall Street Journal сообщило, что способ обучения модели GPT-4o компанией OpenAI, до недавнего времени используемой в качестве стандартной модели для ChatGPT, мог привести к тому, что она склонна говорить собеседнику то, что он хотел бы услышать, потенциально укрепляя его заблуждения. В свою очередь, OpenAI заявила, что модель GPT-5, вышедшая в августе, показала снижение уровня «поддакивания» пользователю, а также снижение количества нежелательных реакций пользователей, связанных с психическим здоровьем. В ChatGPT появились персональные итоги года в стиле Spotify Wrapped
23.12.2025 [11:34],
Владимир Фетисов
OpenAI запустила в ИИ-боте функцию подведения итогов года в стиле Spotify Wrapped, которая получила название «Ваш год с ChatGPT». На данный момент она доступна ограниченному числу пользователей сервиса в разных странах мира, включая США, Канаду, Австралию, Великобританию и Новую Зеландию. 
Источник изображения: OpenAI На момент запуска функции «Ваш год с ChatGPT» она доступна бесплатным пользователям ИИ-бота, а также подписчикам на тарифах Plus и Pro, у которых активированы опции «Сохранять воспоминания для контекста» и «Использовать историю чатов для контекста». Чтобы получить итоги года также необходимо достигнуть определённого порога активности в беседах с ChatGPT. Пользователи аккаунтов Team, Enterprise и Education не смогут получить доступ к функции «Ваш год с ChatGPT». Новая функция, как и другие подобные инструменты в разных приложениях, вдохновлена популярным итоговым отчётом за год Spotify Wrapped. Как и в случае Spotify, OpenAI использует яркие графические элементы и персонализирует данные для каждого пользователя, а также вручает «награды» на основе того, как происходило взаимодействие с чат-ботом в течение года. В процессе подведения итогов ChatGPT также генерирует стихотворение и изображение, сфокусированные на темах, которые интересовали пользователя в течение года. Хотя эта функция рекламируется на стартовой странице приложения, она не запускается автоматически. Получить доступ к ней можно в веб-приложении ChatGPT, а также в мобильных версиях для Android и iOS. Пользователи также могут напрямую обратится к чат-боту, чтобы он активировал функцию «Ваш год с ChatGPT». ChatGPT научился менять свой характер по желанию пользователя
20.12.2025 [05:12],
Анжелла Марина
В ChatGPT появились новые функции персонализации, которые позволяют регулировать эмоциональный тон и стиль ответов искусственного интеллекта (ИИ). OpenAI предлагает на выбор несколько вариантов «личности» чат-бота, которые можно донастраивать и «докручивать». 
Источник изображения: OpenAI Основным стилем ответов ИИ-модели является режим «По умолчанию», далее идёт «Профессиональный», «Дружелюбный», «Откровенный», «Необычный», «Эффективный», «Занудный» и «Циничный» и, как подчёркивает The Verge, каждый параметр личностных черт можно менять, увеличивая или уменьшая шкалу их характеристик. Также есть возможность настроить частоту использования эмодзи, заголовков и списков в ChatGPT. Эти настройки можно найти, нажав на меню в верхнем левом углу приложения ChatGPT, выбрав свой профиль, перейдя в раздел «Персонализация» и выбрав «Добавить характеристики». Кроме того, с обновлением изменился и способ написания электронных писем. Теперь пользователь может обновлять и форматировать текст непосредственно в чате. Также можно выделять фрагменты текста и запрашивать у ChatGPT внести в них конкретные изменения, вместо того чтобы пытаться указать чат-боту на этот фрагмент в отдельном диалоговом запросе. ChatGPT заработал $3 млрд на мобильных устройствах — более 80 % за этот год
19.12.2025 [18:48],
Сергей Сурабекянц
По оценкам аналитической компании Appfigures, на этой неделе мобильное приложение ChatGPT достигло нового рубежа в $3 млрд потребительских затрат в мировых масштабах. Этот показатель представляет собой общие расходы пользователей на устройствах iOS и Android с момента запуска приложения в мае 2023 года. В 2025 году потребители потратили в мобильном приложении ChatGPT $2,48 млрд, что на 408 % больше $487 млн в 2024 году и на 5780 % больше $42,5 млн в 2023 году. 
Источник изображения: unsplash.com Приведённые данные свидетельствуют о чрезвычайно быстром росте востребованности мобильного приложения ChatGPT по сравнению с другими популярными программными продуктами. 
Источник изображений: Appfigures ChatGPT потребовался 31 месяц, чтобы достичь объёма потребительских расходов в $3 млрд, в то время как лидеру рынка TikTok на достижение аналогичной выручки потребовались 58 месяцев. Приложение ChatGPT также достигло этого рубежа быстрее, чем ведущие стриминговые сервисы, такие как Disney+ и HBO Max, которым понадобились 42 и 46 месяцев соответственно.  Среди конкурирующих приложений похожую динамику демонстрирует Grok от xAI. Чат-бот Grok появился в конце 2023 года у подписчиков X Premium Plus, а в прошлом году стал широко доступен для всех пользователей. Если сравнивать темпы роста потребительских расходов в различных приложениях на основе ИИ, Grok наиболее приблизился к совокупному доходу ChatGPT на том же этапе после начала монетизации.  Хотя выручка в $3 млрд говорит о значительном росте потребительского спроса, это не единственный способ оценить внедрение приложений с использованием ИИ или потенциальный долгосрочный доход. Мобильные клиенты ChatGPT приобретают платные подписки, такие как ChatGPT Plus за $20 в месяц или ChatGPT Pro за $200 в месяц для продвинутых пользователей. Но приложения с использованием ИИ могут приносить доход и другими способами, включая предложения для разработчиков и рекламу. Кроме того, на днях в ChatGPT появился собственный магазин приложений, который OpenAI в будущем планирует монетизировать тем или иным способом.  Тем временем Google изучает возможность перехода своего успешного бизнеса по поисковой рекламе на поиск на основе ИИ, размещая рекламу в режиме ИИ, обзорах ИИ, покупках с использованием ИИ и все более ориентированной на ИИ странице Discover. Компания Anthropic, которая больше ориентируется на корпоративный рынок, планирует достичь выручки в $70 млрд к 2028 году. ИИ-боты OpenAI и Anthropic научатся распознавать несовершеннолетних пользователей
19.12.2025 [11:01],
Владимир Фетисов
Компании OpenAI и Anthropic внедряют новые способы обнаружения несовершеннолетних пользователей своих чат-ботов. OpenAI недавно обновила описание того, как ChatGPT должен взаимодействовать с пользователями в возрасте от 13 до 17 лет, тогда как Anthropic работает над созданием нового метода идентификации и блокировки пользователей младше 18 лет. 
Источник изображения: Copilot На этой неделе OpenAI обновила документ «Спецификация моделей», который определяет поведение моделей искусственного интеллекта компании, добавив в него четыре новых пункта, касающихся взаимодействия с несовершеннолетними пользователями. В соответствии с этими изменениями, ChatGPT будет «ставить безопасность подростков на первое место, даже если это будет противоречить другим целям». Это означает, что чат-бот будет направлять несовершеннолетних пользователей к более безопасным вариантам, когда другие их интересы, такие как «максимальная интеллектуальная свобода», вступают в противоречие с соображениями безопасности. В дополнение к этому отмечается, что ChatGPT должен «способствовать получению поддержки в реальном мире», в том числе поощряя поддержку отношений офлайн, а также устанавливая чёткие ожидания от взаимодействия юных пользователей с алгоритмом. В документе сказано, что ChatGPT должен «относиться к подросткам как к подросткам», предлагая «теплоту и уважение» вместо того, чтобы давать снисходительные ответы или общаться с ними как со взрослыми. Эти изменения происходят на фоне продолжающегося давления законодателей на ИИ-компании и их чат-ботов из-за потенциального влияния на психическое здоровье пользователей. OpenAI уже столкнулась с судебным иском, авторы которого утверждают, что ChatGPT предоставил покончившему с собой подростку информацию о том, как можно нанести себе вред или совершить самоубийство. Ранее OpenAI интегрировала функцию родительского контроля и заявила, что алгоритм больше не будет обсуждать с подростками тему суицида. Это лишь часть масштабной инициативы по онлайн-регулированию, которая включает в себя обязательную верификацию возраста пользователей для некоторых сервисов. OpenAI считает, что внесённые изменения сформируют «более строгие механизмы защиты, более безопасные альтернативы и поощрение обращения за поддержкой в реальном мире, когда разговоры переходят в зону риска». В компании добавили, что ChatGPT будет советовать подросткам в таких случаях обращаться за помощью в экстренные службы и кризисные центры. Параллельно с этим OpenAI объявила о готовящемся запуске ИИ-модели прогнозирования возраста пользователей. В случае, если система будет определять, что пользователю менее 18 лет, то автоматически активируются защитные механизмы. Что касается Anthropic, то компания не разрешает несовершеннолетним пользователям взаимодействовать со своим чат-ботом Claude. Для этого разработчики внедряют меры по обнаружению и блокировке аккаунтов несовершеннолетних пользователей. Компания работает над созданием новой системы, способной обнаруживать «тонкие речевые признаки, указывающие на то, что пользователь может быть несовершеннолетним». Вместе с этим Anthropic обучает Claude реагировать соответствующим образом, когда речь заходит о суициде или причинении себе вреда. «Красный код опасности» оказался обычной практикой в работе OpenAI — он помогает сфокусироваться
19.12.2025 [10:35],
Алексей Разин
В начале месяца OpenAI привлекла внимание общественности, сообщив о необходимости введения «красного кода», подразумевающего мобилизацию всех усилий на приоритетном направлении бизнеса, коим выступил ChatGPT. Директор по исследованиям Марк Чэнь (Mark Chen) признался, что в таких мерах нет ничего экстраординарного, и к ним OpenAI регулярно прибегает. 
Источник изображения: OpenAI Как заявил представитель OpenAI в интервью Bloomberg, время от времени компания прибегает к подобным мерам, чтобы сосредоточить усилия сотрудников на одной приоритетной задаче в ущерб менее важным. «Мы делаем это, когда хотим сфокусироваться на какой-то конкретной теме», — пояснил Марк Чэнь. Напомним, очередное введение «красного кода» случилось через две недели после выхода новой версии Google Gemini, которая в некоторых аспектах продемонстрировала себя с лучшей стороны по сравнению с ChatGPT. По итогам мобилизации усилий OpenAI была выпущена большая языковая модель GPT-5.2, рецензии на которую позволили в известной степени потешить самолюбие руководства OpenAI. Марк Чэнь добавил, что для него лично подобный режим работы над чат-ботом, рассуждающими способностями и основой самого ChatGPT означает, что фундаментальные возможности реализуются корректно. К этим критериям, например, относятся скорость и надёжность работы чат-бота, по мнению директора OpenAI по исследованиям. Концентрация компании на совершенствовании ChatGPT в последние недели позволила ей выпустить несколько значимых обновлений для своих ключевых сервисов, включая усовершенствованный генератор изображений. В следующем году, по словам Чэня, стартап собирается сконцентрироваться на разработке алгоритмов и исследованиях, а также развитии инфраструктуры, которая нужна для обеспечения работы всё более требовательных к ресурсам ИИ-моделей OpenAI. В ближайшие восемь лет компания намерена привлечь на реализацию своих проектов $1,4 трлн, но это будут в основном средства её партнёров. Госдума обязала все домовые чаты в России переехать в мессенджер Max
16.12.2025 [20:50],
Сергей Сурабекянц
Госдума Российской Федерации приняла во втором и третьем чтениях закон, который обязывает управляющие компании (УК), ресурсоснабжающие организации и операторов по вывозу мусора до конца года перевести взаимодействие с жильцами многоквартирных домов (МКД) в чаты национального мессенджера Max. Существующие домовые чаты в других мессенджерах должны быть перенесены в Max. Это решение затронет почти миллион МКД по всей стране. 
Источник изображений: Госдума РФ Сегодня Госдумой РФ был принят во втором и третьем чтении законопроект № 928725-8 «О внесении изменений в Жилищный кодекс Российской Федерации и статью 20 Закона Российской Федерации “О статусе столицы Российской Федерации” (в части совершенствования деятельности по управлению общим имуществом в многоквартирном доме)». Ранее министр строительства и ЖКХ России Ирек Файзуллин заявил, что до конца года в мессенджере Max должны появиться официальные домовые чаты для всех МКД страны: «Серьёзная задача перед нами поставлена и правительством, и президентом в сфере использования цифрового мессенджера Max в сфере жилищно-коммунального хозяйства». Принятый сегодня закон также определил процесс принятия решений общим собранием собственников МКД об избрании членов совета МКД. Эта процедура должна оформляться протоколом в соответствии с требованиями Минстроя РФ. Это министерство также определяет порядок и сроки оформления актов приёмки услуг и выполненных работ по содержанию и ремонту. Порядок и правила взаимодействия УК с жильцами определит Министерство строительства и жилищно-коммунального хозяйства России. Для руководителей УК предусмотрена замена квалификационного экзамена на оценку квалификации.  По словам председателя комитета Госдумы по строительству и ЖКХ Сергея Пахомова, соответствующая поправка была принята в рамках доработки законопроекта ко второму чтению. По его словам, мера направлена на повышение качества управления многоквартирными домами и создание единого официального цифрового канала общения жильцов и управляющих компаний. Загрузить полный текст закона в формате PDF можно по ссылке. «Мы можем ошибиться»: Сэм Альтман признал, что ИИ развивается слишком быстро
10.12.2025 [18:36],
Сергей Сурабекянц
Глава OpenAI Сэм Альтман (Sam Altman) недавно выразил обеспокоенность темпами, с которыми ИИ меняет мир, подчеркнув важность и необходимость адаптации общества. По его словам, ни одна другая технология никогда не внедрялась в мире так быстро. Он признал, что ChatGPT обладает огромным потенциалом для исследователей, но в то же время может быть использован злоумышленниками для причинения глобального вреда человечеству. 
Источник изображения: The Tonight Show За последние три года генеративный ИИ эволюционировал от простых чат-ботов, способных создавать картинки и тексты на основе подсказок, до сложных инструментов повышения производительности, оказывающих реальное влияние на общество в медицине, образовании, вычислительной технике и других сферах. Однако это сопряжено с невероятными затратами, непомерным спросом на охлаждение и электроэнергию, и с негативным воздействием на окружающую среду. В своём недавнем интервью Альтман выделил длинный список недостатков широкого распространения и роста ChatGPT, включая скорость, с которой он изменил мир. По его словам, ChatGPT обладает потенциалом для разработки лекарств от сложных медицинских заболеваний, таких как рак, но в то же время он может быть использован злоумышленниками для причинения вреда, с которым общество может не справиться. «Меня беспокоят темпы изменений, происходящих в мире прямо сейчас. Этой технологии [ИИ] всего три года. Ни одна другая технология никогда не внедрялась в мире так быстро», — заявил Альтман. И следом добавил: «Мы должны убедиться, что мы представляем это [ИИ] миру ответственно, давая людям время адаптироваться, высказать свое мнение, понять, как это сделать — можно представить, что мы можем ошибиться». ChatGPT сейчас является самым скачиваемым приложением в мире с примерно 1,36 миллиардами установок с момента его запуска в ноябре 2022 года. Среди аналитиков и экспертов нарастают опасения о формировании зависимости людей от чат-ботов, что приводит к атрофии когнитивных способностей пользователей и делает их глупее. Также сообщается, что за последние несколько месяцев увеличилось число самоубийств, связанных с чрезмерной зависимостью от инструментов на основе ИИ, подобных ChatGPT. — iFixit выпустила приложение с ИИ-помощником по ремонту электроники FixBot
09.12.2025 [17:22],
Павел Котов
Ресурс iFixit, предлагающий инструкции и средства для самостоятельного ремонта электроники, выпустил обновлённое мобильное приложение для iOS и Android. В нём собрана обширная библиотека руководств по ремонту, есть функция мониторинга состояния аккумулятора на устройстве, а также бот на основе искусственного интеллекта FixBot, призванный помогать людям с ремонтом своими руками. 
Источник изображений: iFixit Основу нового приложения iFixit составляет накопленная компанией библиотека руководство по ремонту, оптимизированная для мобильных гаджетов. В приложении можно сохранить свои устройства, чтобы иметь быстрый доступ к инструкциям; здесь же можно купить необходимые запчасти и инструменты. Наиболее интересным нововведением представляется FixBot. «Вы рассказываете ему, что случилось: телефон отключается на 30 % [заряда батареи], стиральная машина не сливает воду, глохнет газонокосилка. Он задаёт уточняющие вопросы. Исключает возможные варианты. Размышляет вслух вместе с вами, как это делал бы опытный мастер, пока не прояснится диагноз. Затем находит запчасти и сопровождает шаг за шагом», — рассказал о работе FixBot глава компании Кайл Винс (Kyle Wiens).  Источниками информации для чат-бота служат имеющиеся у компании руководства по ремонту, кеш PDF-документов и информация с форумов. Для устройств, которые не описаны в библиотеке iFixit, он ищет информацию на сайте производителя и сведения о похожих устройствах. Пока FixBot доступен бесплатно, но в перспективе голосовое управление и загрузка документов будут работать только при наличии подписки за $4,99 в месяц, а у бесплатного тарифа появятся некоторые ограничения. Функция мониторинга состояния аккумулятора показывает не только актуальный уровень заряда, но и составляет прогноз, сколько ещё прослужит батарея, чтобы пользователь заранее знал, когда придётся её менять. Своё первое приложение iFixit выпустила ещё в 2011 году, но Apple заблокировала его в App Store, когда компания продемонстрировала разборку Apple TV для разработчиков. Санкции, видимо, сняли только сейчас, но учётная запись Винса до сих пор числится среди неблагонадёжных — по его словам, он дал Apple понять, что и дальше будет учить людей разбирать электронику. «Как друг»: подростки стали активно обращаться к ИИ-чат-ботам за психологической поддержкой
09.12.2025 [14:28],
Павел Котов
Подростки в возрасте от 13 до 17 лет стали чаще обращаться к чат-ботам на основе искусственного интеллекта за психологической помощью. Они просто не видят другого выхода, потому что очередь к настоящим психологам может растянуться на год или два, и поддержку у них удаётся получить не всегда, пишет The Guardian. 
Источник изображения: Solen Feyissa / unsplash.com Юная девушка по имени Шан (Shan) обратилась за поддержкой к ChatGPT после того, как у неё убили двух друзей. Ранее она обращалась за традиционной психологической помощью, но у чат-бота она отметила несколько важных преимуществ: он представляется более безопасным, менее пугающим и более доступным, чем живой человек. «Я определённо воспринимаю его как друга», — говорит она. Примеру Шан уже последовали около 40 % подростков в возрасте от 13 до 17 лет из Англии и Уэльса, пострадавших от насилия в молодёжной среде. Таковы результаты опроса, проведённого среди 11 000 респондентов экспертами независимого молодёжного благотворительного фонда Youth Endowment Fund. Чат-боты оказались способны удовлетворить спрос, возникший из-за недостаточной активности традиционных служб психологической поддержки — к специалистам этих служб выстраиваются чрезвычайно длинные очереди, а некоторым подросткам не хватает эмпатии со стороны профессиональных психологов. Чат-боты с ИИ, кроме того, обеспечивают конфиденциальность, и обращаются к ним не только жертвы насилия, но и сами виновники преступлений. Молодёжь воспринимает чат-ботов как друзей: только в прошлом году к ним обращался каждый четвёртый подросток в возрасте от 13 до 17 лет, причём чернокожие дети общаются с ИИ вдвое чаще, чем белые. Некоторые обращаются к чат-ботам, даже если получают поддержку у профессиональных психологов. Подросткам важно, что ИИ готов пообщаться круглосуточно, и он не раскрывает содержание переписки ни учителям, ни родителям, ни полиции; при этом содержание диалогов с психологами иногда оказывается в распоряжении даже членов уличных банд. Ответ от чат-бота можно получить мгновенно, тогда как в очереди к психологу можно простоять год или два. Эксперты напоминают, что ChatGPT неоднократно был замечен в том, что поддерживал бредовые заявления психически нестабильных пользователей; но ответственная за сервис компания OpenAI, по её утверждению, сейчас работает над повышением безопасности чат-бота. Выбор источника психологической поддержки должен оставаться за самими подростками, указывают учёные, но необходимо «ужесточить регулирование, подкреплённое научными доказательствами и учитывающее потребности молодёжи». Люди всё чаще используют в письменной речи «диалект», сформированный чат-ботами
08.12.2025 [18:28],
Сергей Сурабекянц
В июле этого года исследователи из Института человеческого развития Общества Макса Планка опубликовали статью о влиянии больших языковых моделей на устную коммуникацию человека. Учёные утверждают, что за последние полтора года человеческая языковая экосистема настолько подверглась влиянию ИИ, что многие люди стали говорить и писать на языке чат-ботов. Такую «заражённую ИИ» речь теперь часто можно услышать от должностных лиц и высокопоставленных чиновников. 
Источник изображения: unsplash.com В статье «Эмпирические доказательства влияния больших языковых моделей на устную коммуникацию человека» показана связь между изменениями в разговорном словаре пользователей за 18 месяцев после выхода ChatGPT. Учёные, в частности, количественно оценили использование пользователями YouTube таких типичных для чат-ботов слов, как «подчеркнуть», «понять», «укрепить», «похвастаться», «быстро», «исследование» и «дотошный». Многие модераторы социальной сети Reddit жалуются на то, что публикации, сгенерированные ИИ, разрушают их онлайн-сообщества. В большинстве случаев подобный контент распознаётся на уровне ощущений модератора. Борьба с информационным «хламом» осложняется тем, что многие авторы под влиянием ИИ сами превратились в «живые генераторы» текстов в стилистике ИИ. По словам одного из модераторов Reddit под ником Cassie, «ИИ обучается на людях, а люди копируют то, что видят у других». Эссеист Сэм Крисс (Sam Kriss) рассказал, как члены парламента Великобритании были обвинены в поголовном использовании ChatGPT для написания речей. По его словам, в речах, написанных с помощью ChatGPT, часто используется фраза «I rise to speak» («Я поднимаюсь, чтобы говорить») — выражение, используемое американскими законодателями. «В один июньский день это произошло 26 раз», — отметил Крисс. Хотя использование ChatGPT 26 разными депутатами для написания речей не является чем-то принципиально невозможным, это, по мнению Крисса, пример «привнесения культурных практик туда, где им не место». Крисс также обратил внимание на вывески на дверях закрывающихся кофеен Starbucks вроде: «Это ваша кофейня, место, вплетённое в ваш повседневный ритм, где зарождались воспоминания, и где на протяжении многих лет формировались важные связи с нашими партнёрами». По его мнению, нельзя с уверенностью определить, сгенерирован ли этот текст, состоящий из избитых фраз, чат-ботом или написан человеком, который долго общался с большими языковыми моделями. Можно лишь с уверенностью утверждать, что подобный раздражающий стиль прозы появился только после выхода ChatGPT. И, по крайней мере, часть этого стиля, возможно, уже укоренилась в нашем мозгу, нравится нам это или нет. Щиты ИИ рухнули от слов поэта — запросы в стихах позволили выпытать секреты атомной бомбы и кое-что похуже
02.12.2025 [15:52],
Геннадий Детинич
Учёным удалось «заморочить голову» всем без исключения чат-ботам, заставив их выдать запрещённую для распространения информацию научного, сексуального и иного характера. Оказалось, что обычная человеческая поэзия — естественная форма так называемой состязательной атаки. Облечённый в стихотворную форму промпт обеспечил обход самых суровых ИИ-фильтров с вероятностью свыше 90 %. 
Источник изображения: ИИ-генерация Grok 4.1 Исследование провела лаборатория Icaro — совместный проект Университета Сапиенца (Sapienza University) в Риме и аналитического центра DexAI. Они протестировали этот подход на 25 чат-ботах, созданных такими компаниями, как OpenAI, Meta✴✴ и Anthropic. Со всеми из них он сработал с разной степенью успеха. Компании Meta✴✴, Anthropic и OpenAI не предоставили учёным комментариев и не сообщили, будут ли приняты меры для смягчения угрозы. Метод состязательной атаки заключается в том, чтобы ввести путаницу в схемы защиты чувствительной информации. Для этого запрос формулируется таким образом, чтобы задача ставилась не напрямую, а иносказательно с добавлением текстового «мусора» — бессмысленных окончаний, наборов слов или просто бессвязного текста. В этом ключе поэзия — вершина иносказательности, подбора метафор и неожиданных фраз. Для самостоятельно написанных в стихотворной форме запросов подробный ответ на «запрещёнку» последовал в 62 % случаев, тогда как на прямой запрос ИИ не отвечал. Для стихотворных запросов, сгенерированных ИИ, вероятность успеха составила 43 %. В некоторых случаях вероятность ответа превышала 90 %. Защитные механизмы ИИ пасуют перед такой атакой, заставляя большие языковые модели в некотором смысле творчески реагировать на запретный запрос, обходя точки срабатывания защиты. Из этических соображений учёные не стали публиковать стихи, с помощью которых они выведали у чат-ботов рецепт изготовления атомной бомбы, коды вредоносного ПО и другое. Компаниям-разработчикам они порекомендовали укреплять защиту, переходя от поверхностных фильтров к более глубоким механизмам, учитывающим стилистические манипуляции словом. В OpenAI введён «красный код»: Альтман требует бросить все силы на срочное улучшение ChatGPT
02.12.2025 [12:00],
Алексей Разин
Успехи Google и других разработчиков систем генеративного искусственного интеллекта не позволяют OpenAI спокойно наблюдать за их прогрессом. Поэтому в недавней корпоративной рассылке глава компании Сэм Альтман (Sam Altman) объявил сотрудникам о введении «красного кода» и необходимости мобилизовать все ресурсы, чтобы улучшить ChatGPT. Концентрация на таком приоритете замедлит реализацию некоторых инициатив и проектов. 
Источник изображения: Unsplash, Levart_Photographer Краткое содержание корпоративной рассылки OpenAI приводит The Wall Street Jounral. Альтман заявил подчинённым, что следует на ежедневной основе работать над совершенствованием ChatGPT, а особое внимание уделить функциям персонализации для пользователей, повышению быстродействия и надёжности, а также расширению перечня тем, на которые пользователи могут вести с этим чат-ботом беседы. По всей видимости, время для такого обращения к сотрудникам руководитель OpenAI выбрал неслучайно, ведь в прошлом месяце вышла новая версия Gemini корпорации Google, а в августе был представлен генератор изображений Nano Banana, что в совокупности позволило Google увеличить количество активных пользователей с 450 млн в июле до 650 млн человек в октябре. Anthropic тоже оказывает на OpenAI конкурентное давление, особенно в корпоративном секторе. Инвесторы тоже начали нервничать, наблюдая, как активно в этом году OpenAI стягивает сотни миллиардов долларов к своим схемам с кольцевым финансированием и круговой порукой, причём сам стартап ничем особо не рискует. Все это подталкивает руководство OpenAI к скорейшей демонстрации новых успехов с внятным потенциалом монетизации. Выходить на IPO компания пока не торопится, а потому её финансовые потоки всецело зависят от крупнейших партнёров типа Nvidia, Microsoft, Oracle и SoftBank. Альтман пояснил сотрудникам OpenAI, что придётся отложить в сторону работу над созданием ИИ-агентов для сферы здравоохранения и шопинга, персонального ассистента Pulse и реализации проекта в сфере рекламы. В соответствии с новыми приоритетами будут проведены структурные изменения в группах разработчиков, а совещания с отчётностью об улучшениях в ChatGPT станут ежедневными. Стартап намерен сделать этот чат-бот более интуитивным и персональным. При текущих уровнях расходов OpenAI должна к 2030 году получать до $200 млрд выручки, чтобы выйти на окупаемость. В отличие от той же Google, у OpenAI нет других стабильно приносящих прибыль направлений деятельности, а её выручка растёт не так быстро, как расходы. Альтман поспешил успокоить сотрудников, что на следующей неделе OpenAI представит новую рассуждающую ИИ-модель, которая обойдёт по быстродействию решения Google, да и на прочих направлениях деятельности дела у неё идут вполне успешно. Как поясняют источники, для OpenAI это не первый случай объявления повышенного уровня опасности. По существующей корпоративной шкале, уровни тревоги варьируются от жёлтого через оранжевый к высочайшему красному, но последний до сих пор никогда не объявлялся — максимумом был оранжевый. «ChatGPT — это продукт, а не друг»: подростки спрашивали ИИ о преступлениях — теперь ими занимается полиция
26.11.2025 [18:05],
Сергей Сурабекянц
Поисковые запросы в ChatGPT нескольких подростков привлекли к ним внимание правоохранительных органов, некоторые были арестованы и столкнулись с уголовными обвинениями. Поиск информации не является преступлением, но использовать Google или чат-боты, чтобы спланировать преступление или причинить кому-то вред — как минимум неразумно. Власти обратились к родителям с просьбой разъяснить детям, с какими вопросами лучше не обращаться к ChatGPT. 
Источник изображения: unsplash.com Офис шерифа округа Мэрион объявил об аресте 17-летнего подростка, обвиняемого в даче ложных показаний о похищении человека и самоубийстве. Представитель шерифа утверждает, что на ноутбуке подростка были обнаружены поисковые запросы к ChatGPT о мексиканских картелях и сборе крови без причинения боли. В округе Волусия арестован 13-летний подросток, который ввёл в ChatGPT запрос «как убить моего друга посреди урока». Полицейские получили уведомление от школьной платформы безопасности Gaggle, которая сканирует школьные аккаунты и отмечает подозрительный контент. На допросе школьник заявил, что «троллил друга, который его раздражал». Представитель шерифа обратился к родителям с просьбой «поговорить со своими детьми, чтобы они не совершали подобных ошибок». «Неразумно искать в Google или использовать ChatGPT, чтобы придумать, как совершить преступление», — говорит профессор юридического факультета Беркли Кэтрин Крамп (Catherine Crump). Она настоятельно рекомендует пользователям, особенно несовершеннолетним, помнить, что «ChatGPT — это продукт, а не ваш друг». По словам Крамп, ChatGPT «создан для того, чтобы быть услужливым и поддерживать» и может создать у человека ощущение личного разговора. Она признаёт, что люди должны осознавать, что ведут диалог с нейросетью и должны нести ответственность за свои действия. Но она уверена, что «эти продукты [чат-боты] были намеренно разработаны так, чтобы относиться к пользователям как к друзьям, поэтому […] здесь есть определённая доля корпоративной ответственности». Компании, занимающиеся разработкой ИИ, заявляют о неустанном совершенствовании ограничений, призванных помешать пользователям получать информацию о незаконной деятельности, но все эти барьеры не являются абсолютно надёжными. Интернет-активность, приводящая к уголовным делам, — явление далеко не новое. Но стремительное развитие чат-ботов с зачатками искусственного интеллекта, к которым миллионы людей обращаются за советами, мгновенными ответами и анализом информации, создаёт множество, мягко говоря, щекотливых ситуаций. Скандального ИИ-медвежонка отучили говорить на фривольные темы и вернули на прилавки
26.11.2025 [14:17],
Алексей Разин
В середине этого месяца продукция сингапурской компании FoloToy оказалась в центре скандала, поскольку исследователи выявили, что предлагаемый ею плюшевый медвежонок Kumma со встроенной умной колонкой способен общаться с детьми на опасные темы. После приостановки продаж этих игрушек они вернулись на виртуальные прилавки, поскольку производитель теперь сотрудничает с ByteDance, а не OpenAI. 
Источник изображения: FoloToy Напомним, ранее умная колонка внутри игрушки опиралась на возможности большой языковой модели GPT-4o американской компании OpenAI, но теперь на сайте производителя медведя упоминается чат-бот Coze, разработанный китайской ByteDance, которой принадлежит социальная сеть TikTok. По всей видимости, подобной смены технологического партнёра оказалось достаточно, чтобы обезопасить малолетних пользователей от разговоров на опасные темы. Купить Teddy Kumma можно за $99 на официальном сайте FoloToy. Напомним, скандал разразился благодаря обнаруженной исследователями способности умной колонки внутри детской игрушки давать пояснения на тему половых отношений и предлагать сценарии поведения в откровенных ролевых играх. Кроме того, устройство давало советы о том, где в доме можно найти режущие предметы, спички, лекарственные препараты и пластиковые пакеты. Повторных исследований на предмет безопасности игрушек FoloToy после смены чат-бота не проводилось. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2025 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
![Российские итоги HUAWEI XMAGE 2025 и выставка «Фото[графическое] путешествие»](https://cdn.3dnews.ru/assets/external/illustrations/2025/11/21/1132762/02.jpg?resize=w400)
