Сегодня 29 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google стала маркировать тексты, сгенерированные ИИ

Google представила технологию для маркировки и распознавания текстов, созданных генеративными моделями ИИ. Инструмент под названием SynthID Text не повлияет на качество и скорость генерации контента, и будет доступен совершенно бесплатно для разработчиков и компаний.

 Источник изображения: Copilot

Источник изображения: Copilot

SynthID Text работает следующим образом. При генерации текста модель предсказывает, какой «токен» (символ или слово) будет следующим, основываясь на вероятности появления каждого токена, и добавляет дополнительную информацию в распределение этих вероятностей, модулируя скорректированные символы. В конечном итоге из них формируется водяной знак (watermark), который помогает определить, был ли текст создан ИИ. «Окончательный паттерн вероятностей слов, выбранных моделью, в сочетании с изменёнными оценками вероятностей будет считаться водяным знаком», — объясняется в блоге компании.

Google утверждает, что SynthID Text, который уже весной был интегрирован в Gemini, не влияет на качество, точность или скорость генерации. При этом текст, который был обрезан, перефразирован или изменён может обрабатываться несколько хуже. Что касается фактов, то «в ответах на слишком определённые и однозначные вопросы меньше возможностей для корректировки распределения токенов без ущерба для фактической точности».

Стоит отметить, Google — не единственная компания, работающая над технологией нанесения водяных знаков на текст, созданный ИИ. Например, OpenAI также разрабатывала методы нанесения «вотермарков», но отложила их запуск из-за технических препятствий и коммерческих соображений.

Если технология будет широко внедрена, то возможно получится переломить ситуацию с неточными, но все более популярными «детекторами ИИ», которые ошибочно определяют студенческие работы или эссе как сгенерированные нейросетью. Как пишет TechCrunch, «вопрос остаётся открытым». Однако в некоторых странах уже принимаются меры. Например, правительство Китая ввело обязательную маркировку контента, созданного ИИ, а штат Калифорния (США) собирается последовать этому примеру.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Базис» представляет программно-определяемую систему хранения данных Basis SDS 2.0 37 мин.
«Призовите силу альтернативного метала начала 2000-х»: новый трейлер Elden Ring Nightreign зарядил фанатов ностальгией 58 мин.
Илон Маск ушёл из DOGE и плотнее займётся проблемами Tesla, X и xAI 2 ч.
Ежемесячная аудитория ИИ-бота Meta AI превысила 1 млрд человек, похвастался Цукерберг 2 ч.
Salesforce приобрела за $8 млрд Informatica ради улучшения платформы ИИ-агентов Agentforce 2 ч.
«Базис» представляет Basis Workplace 3.0: новое поколение платформы виртуализации рабочих мест 2 ч.
Создатели новой Painkiller пригласили игроков на техническое тестирование в Steam — доступный контент и системные требования 3 ч.
Маск опроверг заявление Дурова о сделке по интеграции Grok в Telegram, но история ещё не окончена 3 ч.
«Базис» представляет Basis SDN — первое полностью российское решение для управления программно-определяемыми сетями 4 ч.
Instagram стал быстро разряжать Android-смартфоны, но Meta уже всё починила 4 ч.
Перегрев, протечки и нестабильность затормозили массовый выпуск NVIDIA GB200 NVL72, но теперь все проблемы решены 19 мин.
Samsung до сих пор выбрасывает половину выпускаемых 3-нм чипов 33 мин.
NASA спасло межпланетную станцию «Психея», переключив на запасную топливную магистраль в двигателях 2 ч.
После ухода из политики Маск пообещал запустить беспилотное такси Tesla в Техасе раньше сроков 2 ч.
Новая статья: Обзор смартфона realme 14 5G: мощность на каждый день 2 ч.
Федеральный суд США признал незаконными и заблокировал большинство трамповских пошлин 3 ч.
Дебютировали российские серверы «Аквариус» AQserv RS на базе Intel Xeon Emerald Rapids 3 ч.
Илон Маск пытался сорвать создание мощнейших ИИ-суперкомпьютеров OpenAI на Ближнем Востоке 3 ч.
Количество роботов на российских предприятиях планируется увеличить впятеро к 2030 году 3 ч.
AAEON выпустила одноплатные компьютеры UP Squared TWL / Pro TWL на базе Intel Twin Lake 4 ч.