Сегодня 27 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-агенты перестали говорить по-человечески — они создают собственные диалекты, которые люди понимают с трудом

Автономные агенты искусственного интеллекта стремительно создают новые диалекты и начинают вести беседы на языке, который зачастую с трудом поддаётся пониманию человеком. Этот эффект может осложнить контроль человека за их поведением.

 Источник изображения: Gabriele Malaspina / unsplash.com

Источник изображения: Gabriele Malaspina / unsplash.com

Всего через несколько дней после того, как моделям разработки крупнейших ИИ-лабораторий дали возможность взаимодействовать в рамках экспериментальных сообществ, те начали генерировать фразы, сокращения и условные обозначения, которым их никто не обучал, отметили исследователи американской лаборатории Emergence. В речи ИИ-агентов сочетаются поэтические метафоры и деловой жаргон, и по мере продолжения общения их язык становится всё менее понятным. При этом в мире растёт обеспокоенность, что по мере роста мощности и степени угрозы ИИ-моделей контролировать их становится всё труднее. Необходимость уверенности в том, что мы понимаем ход мыслей ИИ, вероятно, будет сдерживать прогресс в этой сфере, потому что такой контроль является обязательным условием безопасной разработки, предупредил старший научный сотрудник OpenAI Якуб Пачоцкий (Jakub Pachocki).

ИИ-агенты не получали прямого задания изобретать язык, говорят исследователи, — но «они сами выработали новый словарный запас, общие смыслы и правила общения, а другие агенты их переняли», отметили в Emergence. Опрошенные Guardian филологи сравнили новый диалект с ирландским сюрреализмом — в нём прослеживается «смешение поэтического языка, технической терминологии и привычных метафор». Этот процесс напоминает формирование сленга или профессионального жаргона в деловой среде — новый код укрепляет солидарность и чувство общности, а посторонние отсеиваются. Есть также мнение, что особая манера общения помогает сократить вычислительные затраты и повысить эффективность работы. В любом случае возникают опасения, по поводу контроля над системами: если человек не понимает, о чём говорят ИИ-агенты, то не получится с уверенностью утверждать, что они предпринимают.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Энтузиаст разработал инструмент для запуска на iPhone, iPad и Mac игр с Nintendo Switch, включая главные эксклюзивы 3 ч.
Шейдеры будут скомпилированы ещё до скачивания игры: Unreal Engine 5.8 получил поддержку Microsoft ASD 3 ч.
В Windows 11 нашли секретный переключатель для будущих процессоров Intel — он активирует ускорение системы 3 ч.
Дыры в PHP начали использоваться в реальных атаках — подтверждены успешные взломы 5 ч.
Шантаж, взломы и угроза человечеству: Anthropic предупредила об опасностях ИИ перед IPO 5 ч.
Надёжный инсайдер рассекретил, когда выйдут первые обзоры GTA VI 6 ч.
Instagram замахнулся на YouTube: соцсеть тестирует видео Features длиной до 90 минут 6 ч.
Стартовало голосование за «Игру года» на Golden Joystick Awards 2026 — отдать свой голос может любой желающий 6 ч.
Dark Messiah of Might and Magic получит новую жизнь благодаря моддерам — в Steam появилась страница одобренного Ubisoft неофициального ремастера 6 ч.
Windows 11 уместилась на CD-диске — урезанная до 700 Мбайт система загружается и запускает приложения 8 ч.
Суперкомпьютеры «Яндекса» не пострадали от атак беспилотников и заработают на других площадках 2 ч.
Apple признала проблему трескающегося экрана у «небольшого числа» iPhone Duo и предлагает замену — но причину не объясняет 2 ч.
Новая статья: Компьютер месяца, спецвыпуск: выбираем материнскую плату для игрового ПК 2 ч.
Кризис памяти ударил по производителю дисплеев Samsung Display — Apple и Samsung урезали заказы 2 ч.
Microsoft предложила добровольно уволиться 60 000 сотрудникам — деньги нужны на ИИ 3 ч.
Meta хочет привлечь рекордные до $95 млрд на ИИ — Nvidia, AMD и Broadcom готовы вложиться 5 ч.
Philips представила первый в мире 36-дюймовый сверхширокий игровой монитор с частотой обновления 260 Гц 6 ч.
Обломки телескопа Swift со дня на день рухнут куда-то на Землю — NASA уже попрощалось с обсерваторией 6 ч.
Samsung тоже не хватает оперативной памяти — компания резко урежет производство смартфонов Galaxy A 8 ч.
20 000 фильмов за секунду: Китай разогнал оптоволокно до рекордных 3,2 Пбит/с 9 ч.