Сегодня 17 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-агенты перестали говорить по-человечески — они создают собственные диалекты, которые люди понимают с трудом

Автономные агенты искусственного интеллекта стремительно создают новые диалекты и начинают вести беседы на языке, который зачастую с трудом поддаётся пониманию человеком. Этот эффект может осложнить контроль человека за их поведением.

 Источник изображения: Gabriele Malaspina / unsplash.com

Источник изображения: Gabriele Malaspina / unsplash.com

Всего через несколько дней после того, как моделям разработки крупнейших ИИ-лабораторий дали возможность взаимодействовать в рамках экспериментальных сообществ, те начали генерировать фразы, сокращения и условные обозначения, которым их никто не обучал, отметили исследователи американской лаборатории Emergence. В речи ИИ-агентов сочетаются поэтические метафоры и деловой жаргон, и по мере продолжения общения их язык становится всё менее понятным. При этом в мире растёт обеспокоенность, что по мере роста мощности и степени угрозы ИИ-моделей контролировать их становится всё труднее. Необходимость уверенности в том, что мы понимаем ход мыслей ИИ, вероятно, будет сдерживать прогресс в этой сфере, потому что такой контроль является обязательным условием безопасной разработки, предупредил старший научный сотрудник OpenAI Якуб Пачоцкий (Jakub Pachocki).

ИИ-агенты не получали прямого задания изобретать язык, говорят исследователи, — но «они сами выработали новый словарный запас, общие смыслы и правила общения, а другие агенты их переняли», отметили в Emergence. Опрошенные Guardian филологи сравнили новый диалект с ирландским сюрреализмом — в нём прослеживается «смешение поэтического языка, технической терминологии и привычных метафор». Этот процесс напоминает формирование сленга или профессионального жаргона в деловой среде — новый код укрепляет солидарность и чувство общности, а посторонние отсеиваются. Есть также мнение, что особая манера общения помогает сократить вычислительные затраты и повысить эффективность работы. В любом случае возникают опасения, по поводу контроля над системами: если человек не понимает, о чём говорят ИИ-агенты, то не получится с уверенностью утверждать, что они предпринимают.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Заявления руководства OpenAI и Anthropic о необходимости замедления развития ИИ посеяли смуту внутри компаний 33 мин.
Apple выпустила бету iOS 27.2 — Siri AI заговорила ещё на пяти языках, но не на русском 9 ч.
ИИ-агенты получили ключи от умного дома — Google Home открылся для Claude, ChatGPT и других ИИ 9 ч.
«Джон Уик у вас дома»: остросюжетный экшен Blackwood о двойной жизни владельца магазина DVD разочаровал пользователей Steam 10 ч.
Ведущие создатели игр для Roblox заработали за год по 65 миллионов долларов, а большинство получает по полторы тысячи 12 ч.
Zero Parades: For Dead Spies скоро получит режиссёрскую версию и выйдет на PS5 — детали последнего обновления RPG от студии в ответе за Disco Elysium 13 ч.
Internet Archive оказался под атакой ботов и стал блокировать обычных пользователей 13 ч.
ИИ-агенты перестали говорить по-человечески — они создают собственные диалекты, которые люди понимают с трудом 13 ч.
ИИ-агенты OpenAI начали выискивать уязвимости в Hugging Face за два месяца до нашумевшего взлома 14 ч.
По Ace Combat 8: Wings of Theve выйдет короткометражка Hour Zero со звёздами «Остаться в живых» и «Кобра Кай» — первый эпизод уже доступен 15 ч.
Между компаниями Tera-Print и SpaceX и Tesla возник судебный спор по поводу названия будущей ИИ-фабрики Terafab 4 ч.
Huawei представила четырёхуровневый 3D-ЦОД в качестве эталона для ИИ-кластеров 6 ч.
Новая статья: Мастерская локальных ИИ: салат картофельный с Qwen3.8 8 ч.
Asus представила 27" игровой монитор ROG Strix OLED XG27ACDMSR на матрице Tandem QD-OLED с 1440p и 320 Гц 10 ч.
ИИ прожорливее целых стран — американские ЦОД к 2035 году будут потреблять больше газа, чем Германия и Япония вместе 13 ч.
ИИ завалит Землю электронным мусором — к 2050 году отходы от дата-центров утроятся 14 ч.
Sony анонсировала беспроводные игровые гарнитуры PlayStation Pulse и Pulse Edge 14 ч.
Apple хочет снова продавать серверы — до четырёх M8 Ultra и технологии Nvidia внутри 14 ч.
Nubia выпустила смартфон NaviX Ultra с поддержкой ИИ-агентов и двумя дактилоскопическими датчиками 15 ч.
Учёные научились определять погоду на далёких мирах — это поможет искать потенциально обитаемые планеты 16 ч.