Сегодня 10 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google стала маркировать тексты, сгенерированные ИИ

Google представила технологию для маркировки и распознавания текстов, созданных генеративными моделями ИИ. Инструмент под названием SynthID Text не повлияет на качество и скорость генерации контента, и будет доступен совершенно бесплатно для разработчиков и компаний.

 Источник изображения: Copilot

Источник изображения: Copilot

SynthID Text работает следующим образом. При генерации текста модель предсказывает, какой «токен» (символ или слово) будет следующим, основываясь на вероятности появления каждого токена, и добавляет дополнительную информацию в распределение этих вероятностей, модулируя скорректированные символы. В конечном итоге из них формируется водяной знак (watermark), который помогает определить, был ли текст создан ИИ. «Окончательный паттерн вероятностей слов, выбранных моделью, в сочетании с изменёнными оценками вероятностей будет считаться водяным знаком», — объясняется в блоге компании.

Google утверждает, что SynthID Text, который уже весной был интегрирован в Gemini, не влияет на качество, точность или скорость генерации. При этом текст, который был обрезан, перефразирован или изменён может обрабатываться несколько хуже. Что касается фактов, то «в ответах на слишком определённые и однозначные вопросы меньше возможностей для корректировки распределения токенов без ущерба для фактической точности».

Стоит отметить, Google — не единственная компания, работающая над технологией нанесения водяных знаков на текст, созданный ИИ. Например, OpenAI также разрабатывала методы нанесения «вотермарков», но отложила их запуск из-за технических препятствий и коммерческих соображений.

Если технология будет широко внедрена, то возможно получится переломить ситуацию с неточными, но все более популярными «детекторами ИИ», которые ошибочно определяют студенческие работы или эссе как сгенерированные нейросетью. Как пишет TechCrunch, «вопрос остаётся открытым». Однако в некоторых странах уже принимаются меры. Например, правительство Китая ввело обязательную маркировку контента, созданного ИИ, а штат Калифорния (США) собирается последовать этому примеру.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Microsoft уменьшит зависимость от OpenAI, подключив ИИ Anthropic к Office 365 57 мин.
Ультражестокий шутер Pigface, который выглядит как смесь Manhunt и Hotline Miami, получил новый трейлер и дату выхода в раннем доступе Steam 2 ч.
Исследование мира, сражения с ёкаями и демонический хорёк: журналисты показали почти 20 минут геймплея Nioh 3 2 ч.
Утечка раскрыла названия пародий WhatsApp, Uber и других компаний в GTA VI 3 ч.
Минцифры добавит в список доступных во время отключений сайты медиа, банков и аптек, но это не точно 4 ч.
«Эпидемия ещё далека от завершения»: создатели Dead Island 2 похвастались успехами игры и намекнули на Dead Island 3 5 ч.
Microsoft сократит зависимость от OpenAI, расширив сотрудничество с Anthropic 7 ч.
Apple выпустит macOS Tahoe с интерфейсом Liquid Glass 15 сентября 10 ч.
«До сих пор отходим от похмелья»: разработчики Ghost of Yotei с размахом отпраздновали перенос GTA VI 18 ч.
Нейросеть Google Veo 3 научилась создавать вертикальные видео для соцсетей 19 ч.
Межзвёздная комета 3I/ATLAS отрастила большой хвост 11 мин.
Arm представила платформу Lumex: четыре типа ядер на Armv9.3, акцент на ИИ и улучшенная графика 12 мин.
NVIDIA представила соускоритель Rubin CPX со 128 Гбайт GDDR7 для масштабных задач ИИ-инференса 14 мин.
Tesla теряет позиции на рынке электромобилей Китая уже шестой месяц подряд 19 мин.
В облаке Vultr по всему миру стали доступны ускорители AMD Instinct MI355X 2 ч.
Apple внедрила в iPhone 17 улучшенную защиту от взлома — похожая есть в Windows 11 2 ч.
«Великий китайский файрвол» отправили на экспорт — теперь он ограничивает интернет в разных странах 2 ч.
Intel вовлекла клиентов в разработку техпроцесса 14A на ранней стадии — чтобы не повторить ошибки 18A 2 ч.
Intel заявила, что процессоры Arrow Lake Refresh выйдут только в 2026 году — Nova Lake придётся подождать 2 ч.
QNAP представила сетевые хранилища серии QuNAS на базе Intel Twin Lake 2 ч.