Сегодня 25 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI по-тихому отключила детектор текстов, написанных ИИ — он всё равно работал плохо

OpenAI без лишнего шума приостановила работу инструмента, призванного отличить текст, сгенерированный искусственным интеллектом, от написанного человеком. Компания признала, что причиной тому «низкая точность» срабатывания алгоритма.

 Источник изображения: Lukas / pixabay.com

Источник изображения: Lukas / pixabay.com

В OpenAI заверили, что отзывы пользователей будут учтены, и сейчас изучаются более эффективные методы классификации материалов. Более того, компания «взяла на себя обязательство» разработать аналогичный инструмент для выявления созданных ИИ аудио- и визуальных материалов. Платформа для анализа текстов вышла в январе 2023 года — OpenAI подчеркнула важность создания систем, способных обнаруживать не соответствующие действительности утверждения, сделанные ИИ.

Тогда же компания при поддержке учёных Стэнфордского и Джорджтаунского университетов опубликовала статью, в которой анализируется риск целых дезинформационных кампаний, проводимых с помощью ИИ. В работе говорится, что языковые модели сделали большой шаг вперёд, а создаваемый ими текст трудно отличить от написанного человеком. Убедительный и вводящий в заблуждение текст может генерироваться ИИ в огромных масштабах, становясь оружием в руках злоумышленников. «Злоумышленниками» в данном случае могут выступать нерадивые студенты и маргинальные политические силы. Авторы работы делают вывод, что с учётом общедоступности технологий ИИ сейчас почти невозможно что-то сделать для предотвращения таких инцидентов.

Одним из способов борьбы с потенциально опасными ИИ-моделями могли быть специализированные инструменты выявления материалов, созданных генеративными нейросетями. Правда, в исполнении OpenAI этот инструмент предлагал ограниченные возможности и низкую точность: он требовал вручную ввести текст длиной от тысячи символов, чтобы потом оценить, был он написан человеком или ИИ. Он успешно относил 26 % образцов к «вероятно написанным ИИ» и в 9 % случаев присваивал эту же оценку текстам, написанным человеком. Компания не рекомендовала использовать систему как «основной инструмент принятия решений», но всё-таки сделала её общедоступной. Платформа была отключена 20 июля, а сроки выхода её улучшенной версии не уточняются.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Редактор модов Zone Kit для S.T.A.L.K.E.R. 2: Heart of Chornobyl требует 659 гигабайт для установки — GSC объяснила аномалию 24 мин.
Вдохновлённое Disco Elysium мистическое приключение Pera Coda отправит исследовать сюрреалистический Стамбул и глубины собственной психики 2 ч.
Google представила Chrome 138 с новыми ИИ-функциями, исправлениями уязвимостей и синхронизацией групп вкладок 3 ч.
Живой мир, больше разнообразия и ещё несколько лет до релиза: основатель Mundfish поделился новыми подробностями Atomic Heart 2 4 ч.
Audi и Mercedes-Benz отказались от платформы Apple CarPlay Ultra, но обычный CarPlay оставят 4 ч.
Xbox подтвердила дату выхода Senua's Saga: Hellblade II на PS5 и анонсировала улучшения для игры на PC и Xbox 5 ч.
Chrome для Android наконец научился переносить адресную строку в нижнюю часть экрана 6 ч.
Nvidia завершила бета-тестирование DLSS Transformer — с ней игры пойдут в 4K и 240 FPS 6 ч.
Diablo IV возглавила июльскую подборку игр для подписчиков PS Plus, а Sony готовится к празднику 6 ч.
HPE делает ставку на повсеместное использование ИИ-агентов 7 ч.
Philips представила 27-дюймовый IPS-монитор Evnia 27M2N3501PA с разрешением 1440p и частотой до 260 Гц 17 мин.
Huawei представит флагманы Pura 80 на международном рынке раньше, чем ожидалось 44 мин.
Asus анонсировала GeForce RTX 5050 Prime и RTX 5050 Dual с заводским разгоном и без 49 мин.
Samsung не рассчитывает на оглушительный успех XR-гарнитуры Project Moohan на старте продаж 51 мин.
Vivo представила беспроводные наушники TWS Air3 Pro с мощным шумоподавлением и автономностью до 52 часов 56 мин.
Toshiba создала литиевые аккумуляторы, которые заряжается до 80 % за 6 минут и выдерживает 20 000 циклов 2 ч.
Vivo выпустила смарт-часы Watch 5 с поддержкой eSIM за $140 — есть и версия подешевле 2 ч.
TCL выпустила 57-дюймовый игровой монитор 57R94 с разрешением 8K2K и частотой обновления 120 Гц 3 ч.
HPE представила новые решения для частных ИИ-фабрик на базе решений NVIDIA 5 ч.
Представлен Fairphone 6 — смартфон с повышенной ремонтопригодностью, 8 годами обновлений и модульными аксессуарами 5 ч.