OpenAI заблокировала аккаунты пользователей из Китая и Северной Кореи, которые, якобы, использовали технологии компании в злонамеренных целях, включая слежку и кампании по влиянию на общественное мнение. В заявлении OpenAI говорится, что авторитарные режимы могут применять искусственный интеллект во вред США и собственным гражданам. Отмечается, что для выявления подозрительной активности был задействован специальный ИИ-алгоритм.
Источник изображения: Dima Solomin / unsplash.com
Компания не сообщила, сколько аккаунтов было заблокировано, а также не уточнила, как давно ведётся поиск учётных записей, владельцы которых потенциально занимаются злонамеренной деятельностью. В заявлении сказано, что в одном из таких случаев пользователь ChatGPT генерировал новостные статьи на испанском языке с целью очернить США. Эти материалы впоследствии публиковались новостными изданиями в Латинской Америке от имени китайской компании.
Во втором случае злоумышленники, предположительно связанные с Северной Кореей, использовали искусственный интеллект для создания резюме и онлайн-профилей фиктивных соискателей с целью трудоустройства в западные компании. Также была выявлена группа аккаунтов, принадлежащих пользователям из Камбоджи и связанных с финансовым мошенничеством. Они использовались для перевода и публикации комментариев в разных соцсетях, включая X и Facebook✴.
Правительство США выразило обеспокоенность тем, что Китай якобы использует искусственный интеллект для контроля над общественным мнением в стране, а также распространения дезинформации и подрыва безопасности США и их союзников. Напомним, ChatGPT от OpenAI является самым популярным ИИ-ботом с 400 млн еженедельно активных пользователей. Компания ведёт переговоры о привлечении инвестиций в размере до $40 млрд при оценке OpenAI в $300 млрд, что может стать рекордным раундом финансирования для частной компании.
