Сегодня 16 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google стала маркировать тексты, сгенерированные ИИ

Google представила технологию для маркировки и распознавания текстов, созданных генеративными моделями ИИ. Инструмент под названием SynthID Text не повлияет на качество и скорость генерации контента, и будет доступен совершенно бесплатно для разработчиков и компаний.

 Источник изображения: Copilot

Источник изображения: Copilot

SynthID Text работает следующим образом. При генерации текста модель предсказывает, какой «токен» (символ или слово) будет следующим, основываясь на вероятности появления каждого токена, и добавляет дополнительную информацию в распределение этих вероятностей, модулируя скорректированные символы. В конечном итоге из них формируется водяной знак (watermark), который помогает определить, был ли текст создан ИИ. «Окончательный паттерн вероятностей слов, выбранных моделью, в сочетании с изменёнными оценками вероятностей будет считаться водяным знаком», — объясняется в блоге компании.

Google утверждает, что SynthID Text, который уже весной был интегрирован в Gemini, не влияет на качество, точность или скорость генерации. При этом текст, который был обрезан, перефразирован или изменён может обрабатываться несколько хуже. Что касается фактов, то «в ответах на слишком определённые и однозначные вопросы меньше возможностей для корректировки распределения токенов без ущерба для фактической точности».

Стоит отметить, Google — не единственная компания, работающая над технологией нанесения водяных знаков на текст, созданный ИИ. Например, OpenAI также разрабатывала методы нанесения «вотермарков», но отложила их запуск из-за технических препятствий и коммерческих соображений.

Если технология будет широко внедрена, то возможно получится переломить ситуацию с неточными, но все более популярными «детекторами ИИ», которые ошибочно определяют студенческие работы или эссе как сгенерированные нейросетью. Как пишет TechCrunch, «вопрос остаётся открытым». Однако в некоторых странах уже принимаются меры. Например, правительство Китая ввело обязательную маркировку контента, созданного ИИ, а штат Калифорния (США) собирается последовать этому примеру.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Samsung объявила большой список устройств Galaxy, которые получат OneUI 8 до конца года 2 ч.
Энтузиасты портировали FSR 4 на Radeon RX 7000 и Nvidia GeForce RTX 30 — благодаря утечке из AMD 3 ч.
Google меняет подход к обновлениям безопасности Android, но пользователи это вряд ли заметят 4 ч.
Borderlands 4 «работает хуже обычного для игры на Unreal Engine 5» — эксперты Digital Foundry раскритиковали новый шутер от Gearbox 4 ч.
TikTok в США продолжит использовать китайские алгоритмы, а за инфраструктуру будет отвечать Oracle 5 ч.
«Игра превратилась в монстра»: даже Ubisoft признала, что в Assassin’s Creed Valhalla было слишком много контента 5 ч.
«Яндекс» научил «Алису» оживлять фото 5 ч.
OpenAI приняла на работу сбежавшего из xAI финансового директора 5 ч.
Хакеры украли данные миллионов клиентов Gucci и Balenciaga, включая информацию о покупках 5 ч.
Диски уходят: продажи игр на физических носителях в прошлом году принесли Sony только 3 % от общего объёма выручки 6 ч.
Google сообщила об инвестициях £5 млрд в развитие ИИ в Великобритании 36 мин.
Eaton представила решение для обнаружения скачков энергопотребления в ИИ-системах 2 ч.
Представлен доступный фотофлагман Meizu 22 с Snapdragon 8s Gen 4 и четырьмя 50-Мп камерами 2 ч.
Основатель Alibaba Джек Ма успешно пережил пять лет гонений и вернулся к управлению своей компанией 2 ч.
Решительные действия и наука спасли озоновый слой, но ускорили глобальное потепление 3 ч.
Первый в отрасли квантовый компьютер на полупроводниковых чипах заработал в Великобритании 4 ч.
ATP выпустила индустриальные SSD серий N701/N601 вместимостью до 960 Гбайт 4 ч.
Китайский регулятор обвинил NVIDIA в нарушении антимонопольного законодательства при покупке Mellanox 4 ч.
Сделанный для Китая ускоритель Nvidia RTX 6000D провалился в продаже — GeForce RTX 5090 лучше 5 ч.
Смартфон Xiaomi 17 Pro показался на видео — у него будет второй дисплей в блоке камер 5 ч.