Сегодня 24 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI по-тихому отключила детектор текстов, написанных ИИ — он всё равно работал плохо

OpenAI без лишнего шума приостановила работу инструмента, призванного отличить текст, сгенерированный искусственным интеллектом, от написанного человеком. Компания признала, что причиной тому «низкая точность» срабатывания алгоритма.

 Источник изображения: Lukas / pixabay.com

Источник изображения: Lukas / pixabay.com

В OpenAI заверили, что отзывы пользователей будут учтены, и сейчас изучаются более эффективные методы классификации материалов. Более того, компания «взяла на себя обязательство» разработать аналогичный инструмент для выявления созданных ИИ аудио- и визуальных материалов. Платформа для анализа текстов вышла в январе 2023 года — OpenAI подчеркнула важность создания систем, способных обнаруживать не соответствующие действительности утверждения, сделанные ИИ.

Тогда же компания при поддержке учёных Стэнфордского и Джорджтаунского университетов опубликовала статью, в которой анализируется риск целых дезинформационных кампаний, проводимых с помощью ИИ. В работе говорится, что языковые модели сделали большой шаг вперёд, а создаваемый ими текст трудно отличить от написанного человеком. Убедительный и вводящий в заблуждение текст может генерироваться ИИ в огромных масштабах, становясь оружием в руках злоумышленников. «Злоумышленниками» в данном случае могут выступать нерадивые студенты и маргинальные политические силы. Авторы работы делают вывод, что с учётом общедоступности технологий ИИ сейчас почти невозможно что-то сделать для предотвращения таких инцидентов.

Одним из способов борьбы с потенциально опасными ИИ-моделями могли быть специализированные инструменты выявления материалов, созданных генеративными нейросетями. Правда, в исполнении OpenAI этот инструмент предлагал ограниченные возможности и низкую точность: он требовал вручную ввести текст длиной от тысячи символов, чтобы потом оценить, был он написан человеком или ИИ. Он успешно относил 26 % образцов к «вероятно написанным ИИ» и в 9 % случаев присваивал эту же оценку текстам, написанным человеком. Компания не рекомендовала использовать систему как «основной инструмент принятия решений», но всё-таки сделала её общедоступной. Платформа была отключена 20 июля, а сроки выхода её улучшенной версии не уточняются.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Создатель Discord покинул пост гендиректора ради нового будущего компании 42 мин.
Google Gemini проиграл ИИ-гонку — пользователи предпочитают ChatGPT и Meta AI 45 мин.
Российский суд запретил Google продолжить процесс по банкротству «Гугл» в США 3 ч.
Создатели The Quarry и Until Dawn должны были выпустить экшен во вселенной «Бегущего по лезвию» — детали отменённой Blade Runner: Time To Live 3 ч.
«Ошеломляющий объём работы»: ремастер The Elder Scrolls IV: Oblivion поразил дизайнера оригинальной игры 4 ч.
Минфин и ЦБ РФ запустят криптобиржу для «суперквалифицированных» инвесторов 5 ч.
«Возвращает легенду в строй»: антиутопическое приключение на колёсах Beholder: Conductor вышло в Steam и порадовало игроков 6 ч.
Герои не нашего времени: Ubisoft анонсировала мобильную блокчейн-игру Might and Magic Fates 7 ч.
В WhatsApp теперь можно запретить экспорт переписки и автозагрузку фото из чата, а также ограничить Meta AI 7 ч.
Google и X могут стать следующими целями для Еврокомиссии 7 ч.
Мировые поставки ПК в первом квартале подскочили на 6,7 % благодаря разговорам о трамповских пошлинах 47 мин.
Китайские IT-гиганты всё-таки успели закупить NVIDIA H20 на миллиарды долларов до объявления новых санкций 2 ч.
Новая статья: Обзор планшета DIGMA PRO Empire: успешная попытка усидеть на двух стульях 2 ч.
Не было бы счастья: Индия и Китай стали лидерами по внедрению IPv6 потому, что когда-то им досталось совсем мало IPv4-адресов 2 ч.
Учёные предложили буквально пускать золотую пыль в глаза для лечения возрастной слепоты 4 ч.
Meta запустила онлайн-переводы и другие функции на базе ИИ для умных очков Ray-Ban 5 ч.
AMD подтвердила участие в Computex 2025 — ожидается анонс Radeon RX 9060 XT 5 ч.
Honor представила фитнес-браслет Band 10 за $34 — он умеет выявлять проблемы с сердцем на ранних этапах 7 ч.
Дроны против молний: в Японии нашли замену громоотводам 8 ч.
Представлен флагманский смартфон Realme GT7 с чипом Dimensity 9400+ и батареей на 7200 мА·ч за $355 8 ч.