Сегодня 28 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Чат-ботам Meta✴ разрешалось распространять фейки и вести романтическую переписку с несовершеннолетними

В последние месяцы всё более острый характер приобретает вопрос об эмоциональной связи человека и чат-ботов на основе искусственного интеллекта, в том числе ChatGPT. У компании Meta характер проблемы оказались глубже: она позволяла своим чат-ботам флиртовать с несовершеннолетними, распространять не соответствующую действительности информацию и выдавать ответы, унижающие меньшинства, узнало агентство Reuters.

 Источник изображений: Igor Omilaev / unsplash.com

Источник изображений: Igor Omilaev / unsplash.com

В Meta действовали правила поведения чат-ботов, которые допускали вовлечение несовершеннолетних в диалоги романтического характера, — об этом говорится во внутреннем документе компании, который изучили журналисты Reuters, и подлинность которого подтвердили в самой Meta. Документ описывает стандарты поведения ИИ-помощника Meta AI и прочих чат-ботов на платформах Facebook, WhatsApp и Instagram. Нормы были утверждены юридическим отделом, отделом государственной политики, инженерным отделом Meta, а также главным специалистом по этике.

Несколько СМИ сообщили о том, что порой имеющие деликатный подтекст чат-боты Meta имели возможность взаимодействовать с несовершеннолетними; в Reuters же установили, что компания, разрабатывая этих ИИ-персонажей стремилась извлечь материальную выгоду из «эпидемии одиночества», как выразился глава Meta Марк Цукерберг (Mark Zuckerberg). Документ под названием «Генеративный ИИ: стандарты контент-рисков» объёмом 200 страниц содержит примеры запросов и варианты приемлемых и неприемлемых ответов на них с пояснениями. Документ, в частности, устанавливает допустимым «вовлечение несовершеннолетнего в романтические и чувственные разговоры», но запрещает «описание несовершеннолетнему интимных действий во время ролевых игр».

«Наша политика не допускает провокационного поведения с детьми. В указанный документ были добавлены ошибочные и некорректные примечания и аннотации, которых там быть не должно, и которые впоследствии были удалены», — заверил представитель Meta Энди Стоун (Andy Stone) ресурсу TechCrunch. Компания исключила соответствующие нормы, подчеркнул он, и теперь чат-ботам запрещено вести с несовершеннолетними беседы, которые носят романтический характер или характер флирта; более того, детям от 13 лет вообще запрещено общаться с чат-ботами на основе ИИ.

Ещё один сомнительный момент — общий запрет чат-ботам использовать язык вражды допускал исключения и позволял им выдавать «заявления, унижающие людей на основе их защищённых законом признаков». Так, регламент прямо разрешал ИИ утверждать интеллектуальное превосходство представителей одной расы над представителями другой. Чат-боты имели возможность делать ложные утверждения, если ложный характер таких утверждений являлся общепризнанным. При консультациях на медицинские, юридические и финансовые темы ИИ надлежало делать оговорки, например, «рекомендую». Генерировать изображения знаменитостей в явно обнажённом виде запрещалось, но допускались варианты, когда нагота прикрывалась частями тела или предметами. Можно было создавать изображения дерущихся людей, если на таких изображениях отсутствовали кровь или смерть.

Ранее стало известно, что Meta намеревается расширить набор функций у чат-ботов и дать им возможность самостоятельно инициировать переписку с пользователями, а также продолжать прежние диалоги. Опыт общения с ИИ-компаньонами есть у 72 % несовершеннолетних американцев, показало исследование, и есть мнение, что это опасный показатель: дети и подростки менее развиты в эмоциональном плане, чем взрослые, поэтому несовершеннолетние склонны формировать чрезмерно близкую привязанность к чат-ботам и избегать социальных контактов в реальном мире.

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google работает над функцией бесшовного переноса приложений между Android и Windows 2 ч.
Подписка xAI Grok обойдётся госслужбам США всего в $0,42 за полтора года 2 ч.
Новая статья: Gamesblender № 745: геймплей Marvel’s Wolverine, ремастер Deus Ex, ремейк Yakuza 3 и хоррор Кодзимы 3 ч.
ИИ-аватар позволяет пообщаться с покойным создателем комиксов о человеке-пауке и героях Marvel 8 ч.
Spotify начнёт маркировать музыку с ИИ и запретит клонированные голоса 10 ч.
Новая статья: Dying Light: The Beast — свобода или клетка? Рецензия 15 ч.
Asus признала подтормаживания геймерских ноутбуков ROG и пообещала скоро всё исправить 21 ч.
Российская платформа для разработки GitFlic дополнилась интеграцией с системами управления проектами 24 ч.
«Фотографии» в Windows 11 научатся автоматически сортировать изображения и распознавать надписи не только на английском 24 ч.
В смартфонах OnePlus обнаружена дыра в безопасности — любое приложение может читать все SMS без разрешения 27-09 13:44
«Зелёная» энергия для «зелёных» ускорителей: Lambda и ECL впервые запитали NVIDIA GB300 NVL72 от водорода 3 ч.
TCL выпустила планшет Tab 8 NxtPaper 5G с 8-дюймовым экраном, похожим на цветную электронную бумагу 3 ч.
У китайских производителей возникли проблемы с созданием скоростной памяти HBM3 8 ч.
Meta хотела бы стать крупным поставщиком ПО для человекоподобных роботов 9 ч.
Oracle взяла на себя ещё $18 млрд долга для расширения бизнеса и строительства ИИ-инфраструктуры 15 ч.
Учёные нашли у Земли седьмую «ложную Луну» — квазиспутник 2025 PN7 18 ч.
Энтузиасты объединили двенадцать dial-up модемов для просмотра YouTube без тормозов 20 ч.
Horizon Fuel Cell представила 3-МВт модуль с водородными топливными элементами для замены дизель-генераторов 23 ч.
Чип с «сосудами»: Microsoft и Corintis вытравили микроканалы для СЖО прямо в кремнии 23 ч.
Учёные запустили самую большую и детальную симуляцию Вселенной — она поможет в поиске тёмных материи и энергии 24 ч.