Сегодня 03 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Разработчики чат-ботов с ИИ взяли курс на расширение памяти, и это настораживает

Крупнейшие разработчики сервисов искусственного интеллекта, в том числе OpenAI, Google, Meta и Microsoft, в последнее время стали уделять больше внимания объёмам памяти у платформ. С новыми обновлениями чат-боты научились хранить больше данных для персонализации ответов.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

Эта мера рассматривается как важный шаг, который поможет привлекать пользователей на конкурентном рынке чат-ботов и агентов с ИИ и, соответственно, это способ нарастить доходы от передовой технологии. В руках недобросовестного лица данные решения, однако, могут использоваться для злоупотребления доверием пользователей и усугублять проблемы с конфиденциальностью. У таких чат-ботов как Google Gemini и OpenAI ChatGPT расширяется контекстное окно — объем данных, определяющий, какой фрагмент разговора система может запомнить за один раз. Всё чаще применяется также метод генерации с дополненной выборкой (Retrieval-Augmented Generation — RAG), при котором контекст определяют и данные из внешних источников.

Вдобавок разработчики ИИ усилили долговременную память моделей ИИ, сохраняя профили и предпочтения пользователей, чтобы давать им более полезные и персонализированные ответы. Чат-бот может, например, помнить, является ли пользователь вегетарианцем и соответствующим образом реагировать на его запросы, предлагая определённые точки общепита и рецепты. В марте Google открыла Gemini доступ к истории поиска пользователя — при условии, что он сам даёт на это разрешение, — а вскоре подключит к этому набору данные из большинства остальных сервисов. OpenAI ChatGPT, а также чат-бот Meta в WhatsApp и Facebook Messenger могут ссылаться на прошлые сеансы переписки, а не только текущий чат. Пользователи могут удалять из настроек отдельные воспоминания и получать уведомления, когда модель создаёт новые.

 Источник изображения: Steve Johnson / unsplash.com

Источник изображения: Steve Johnson / unsplash.com

Microsoft открыла службам ИИ для корпоративных клиентов данные компаний: электронные письма, календари и данные из хранилищ файлов. В апреле компания начала развёртывать на некоторых устройствах функцию Recall — запись всех действий пользователя на основе регулярных снимков экрана его компьютера. Пользователь может приостановить сохранение снимков экрана или вообще отключить функцию. Microsoft анонсировала Recall в мае прошлого года, и она встревожила общественность, из-за чего компания несколько раз переносила её запуск.

Ещё одна причина наращивать объёмы памяти ИИ — монетизация за счёт партнёрского маркетинга и рекламы. В будущем чат-бот Meta AI начнёт давать пользователям некоторые рекомендации или напрямую рекламировать различные продукты, рассказал ранее гендиректор компании Марк Цукерберг (Mark Zuckerberg). OpenAI в апреле улучшила механизм вывода предложений в ChatGPT, оптимизировав показ товаров и обзоров, но заверила Financial Times, что «на данный момент» на платформе партнёрские ссылки отсутствуют.

Расширение памяти больших языковых моделей ИИ — дополнительный повод задуматься о вопросах конфиденциальности; регулирующие органы по всему миру стали следить за тем, как ИИ может манипулировать потребителями ради прибыли. Увеличенная память может привести и к тому, что ИИ начнёт излишне стараться подгонять свои ответы под предпочтения пользователей, усиливая предубеждения и заблуждения. В апреле OpenAI пришлось извиняться за то, что модель GPT-4o стала чрезмерно льстить пользователям. Применительно к памяти проблема галлюцинаций встаёт особенно остро: из-за неё ИИ, генерируя не соответствующие действительности или бессмысленные ответы, может создавать эффект «дрейфа памяти», когда воспоминания устаревают или противоречат друг другу, что будет влиять на точность ответов.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Акции Google резко подорожали после того, как компания увернулась от принудительной продажи Chrome 56 мин.
«С возвращением, Crazy Taxi»: стартовавший в раннем доступе симулятор CyberTaxi: Lunatic Nights напомнил игрокам о легендарной серии аркад 3 ч.
Легендарный шутер Quake III Arena стал доступен в браузерах — бесплатно, без регистраций, смс и рекламы 3 ч.
Россиянам перекроют доступ к Spotify Premium — сервис ужесточает правила 4 ч.
Импортозамещение продолжает оставаться основным драйвером IT-расходов в российских компаниях 4 ч.
ЕС продолжит строго регулировать технологическую отрасль, несмотря на угрозы Трампа 7 ч.
Cloudflare отразила самую мощную в истории DDoS-атаку — 11,5 Тбит/с в пике 7 ч.
SAP инвестирует более €20 млрд в суверенное облако для поддержки европейских клиентов 7 ч.
Инсайдер: амбициозная Resident Evil Requiem выйдет на Nintendo Switch 2 и даже PS4 7 ч.
ИИ-блокнот Google NotebookLM научился спорить сам с собой в формате аудиообзоров 8 ч.
Acer показала первый ноутбук на Intel Panther Lake — Swift 16 AI с гигантским тачпадом 37 мин.
Garmin представила смарт-часы Fenix 8 Pro с поддержкой сотовой и спутниковой связи, но есть нюанс 42 мин.
Прототип орбитального ЦОД Axiom Space и Red Hat для экспериментов с периферийными вычислениями прибыл на МКС 3 ч.
TSMC отвергла слухи, что Дженсен Хуанг пытался на неё надавить от имени Трампа 3 ч.
«К2 НейроТех» представил ПАК-AI 2.0 с увеличенной на 30 % производительностью 3 ч.
Acer представила OLED-монитор Predator X27U F8 с частотой до 720 Гц и мощный ноутбук Predator Helios 18P AI с RTX 5090 4 ч.
LG Display получила сертификат Perfect Reproduction для OLED-панелей четвёртого поколения 4 ч.
Acer представила новые геймерские мониторы Nitro — до 40 дюймов, до 5K и до 360 Гц 4 ч.
GlobalFoundries объявила о готовности к массовому развёртыванию решений в сфере кремниевой фотоники 4 ч.
Acer представила настольный ИИ-суперкомпьютер Veriton GN100 за $3999 на основе Nvidia GB10 Blackwell 5 ч.