Сегодня 06 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-агенты перестали говорить по-человечески — они создают собственные диалекты, которые люди понимают с трудом

Автономные агенты искусственного интеллекта стремительно создают новые диалекты и начинают вести беседы на языке, который зачастую с трудом поддаётся пониманию человеком. Этот эффект может осложнить контроль человека за их поведением.

 Источник изображения: Gabriele Malaspina / unsplash.com

Источник изображения: Gabriele Malaspina / unsplash.com

Всего через несколько дней после того, как моделям разработки крупнейших ИИ-лабораторий дали возможность взаимодействовать в рамках экспериментальных сообществ, те начали генерировать фразы, сокращения и условные обозначения, которым их никто не обучал, отметили исследователи американской лаборатории Emergence. В речи ИИ-агентов сочетаются поэтические метафоры и деловой жаргон, и по мере продолжения общения их язык становится всё менее понятным. При этом в мире растёт обеспокоенность, что по мере роста мощности и степени угрозы ИИ-моделей контролировать их становится всё труднее. Необходимость уверенности в том, что мы понимаем ход мыслей ИИ, вероятно, будет сдерживать прогресс в этой сфере, потому что такой контроль является обязательным условием безопасной разработки, предупредил старший научный сотрудник OpenAI Якуб Пачоцкий (Jakub Pachocki).

ИИ-агенты не получали прямого задания изобретать язык, говорят исследователи, — но «они сами выработали новый словарный запас, общие смыслы и правила общения, а другие агенты их переняли», отметили в Emergence. Опрошенные Guardian филологи сравнили новый диалект с ирландским сюрреализмом — в нём прослеживается «смешение поэтического языка, технической терминологии и привычных метафор». Этот процесс напоминает формирование сленга или профессионального жаргона в деловой среде — новый код укрепляет солидарность и чувство общности, а посторонние отсеиваются. Есть также мнение, что особая манера общения помогает сократить вычислительные затраты и повысить эффективность работы. В любом случае возникают опасения, по поводу контроля над системами: если человек не понимает, о чём говорят ИИ-агенты, то не получится с уверенностью утверждать, что они предпринимают.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
NetApp представила зеттабайтную платформу храненния Novus для ИИ-фабрик с миллионами GPU 17 мин.
Гоночный экшен Star Wars: Galactic Racer от ветеранов разработки Burnout встретили в Steam «в основном положительными» отзывами 3 ч.
Разработчики боевика Warhammer Survivors в духе Vampire Survivors подтвердили цену и дату выхода игры — новый трейлер и демоверсия в Steam 4 ч.
Nvidia выпустила драйвер с поддержкой Call of Duty: Modern Warfare 4, Star Wars: Galactic Racer и новых игровых оптимизаций 5 ч.
Google обвинили в том, что она годами обдирала 20 млн британцев завышенными комиссиями в «Play Маркете» 5 ч.
За месяц с запуска цифрового рубля россияне открыли 220 000 кошельков — почти вчетверо больше ожиданий 5 ч.
Невиновность ничего не доказывает: новый геймплейный трейлер Warhammer 40,000: Dark Heresy показал, как ведёт следствие Инквизиция 6 ч.
Флагманский европейский ИИ — Mistral представила модель Large 4 Le Chonk 6 ч.
Российский симулятор киберфермы Silicone Heart получил демоверсию и дату выхода в Steam 6 ч.
Данные пошли по кругу: ChatGPT стал одной из главных целей ботов для сбора данных 6 ч.
Apple пыталась отбиться от выплаты $634 млн за патент для смарт-часов — теперь счёт вырос до $818 млн 2 ч.
МТС запустила первую в России инфраструктуру для беспилотных авто — её использует «Яндекс» 3 ч.
Bull удвоила мощности по производству суперкомпьютерных стоек во Франции 5 ч.
РТК-ЦОД создал Центр сертификации доверенной ИТ-инфраструктуры 6 ч.
РТК-ЦОД создал Центр сертификации доверенной ИТ-инфраструктуры 6 ч.
ИИ разогнал строительство дата-центров в США — расходы взлетели на 73 % до рекордных $85 млрд в год 6 ч.
Google, Meta и Microsoft поддержали обязательство по полной оплате расходов на энергетическую инфраструктуру для ЦОД 6 ч.
Глава Anthropic в прошлом году получил $18 млн — почти в 26 раз больше, чем Альтман 6 ч.
Garmin представила Enduro 4 — смарт-часы за $900 с солнечной зарядкой и 90-дневной автономностью 6 ч.
Если бы не дефицит компонентов, ЦОД строились бы вдвое быстрее, считает Nokia 7 ч.