Сегодня 12 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → synthid text

Google стала маркировать тексты, сгенерированные ИИ

Google представила технологию для маркировки и распознавания текстов, созданных генеративными моделями ИИ. Инструмент под названием SynthID Text не повлияет на качество и скорость генерации контента, и будет доступен совершенно бесплатно для разработчиков и компаний.

 Источник изображения: Copilot

Источник изображения: Copilot

SynthID Text работает следующим образом. При генерации текста модель предсказывает, какой «токен» (символ или слово) будет следующим, основываясь на вероятности появления каждого токена, и добавляет дополнительную информацию в распределение этих вероятностей, модулируя скорректированные символы. В конечном итоге из них формируется водяной знак (watermark), который помогает определить, был ли текст создан ИИ. «Окончательный паттерн вероятностей слов, выбранных моделью, в сочетании с изменёнными оценками вероятностей будет считаться водяным знаком», — объясняется в блоге компании.

Google утверждает, что SynthID Text, который уже весной был интегрирован в Gemini, не влияет на качество, точность или скорость генерации. При этом текст, который был обрезан, перефразирован или изменён может обрабатываться несколько хуже. Что касается фактов, то «в ответах на слишком определённые и однозначные вопросы меньше возможностей для корректировки распределения токенов без ущерба для фактической точности».

Стоит отметить, Google — не единственная компания, работающая над технологией нанесения водяных знаков на текст, созданный ИИ. Например, OpenAI также разрабатывала методы нанесения «вотермарков», но отложила их запуск из-за технических препятствий и коммерческих соображений.

Если технология будет широко внедрена, то возможно получится переломить ситуацию с неточными, но все более популярными «детекторами ИИ», которые ошибочно определяют студенческие работы или эссе как сгенерированные нейросетью. Как пишет TechCrunch, «вопрос остаётся открытым». Однако в некоторых странах уже принимаются меры. Например, правительство Китая ввело обязательную маркировку контента, созданного ИИ, а штат Калифорния (США) собирается последовать этому примеру.


window-new
Soft
Hard
Тренды 🔥
Китайский стартап Moonshot выпустил открытую ИИ-модель Kimi K2, превосходящую GPT-4 2 ч.
Microsoft представила рассуждающую ИИ-модель Phi-4-mini-flash-reasoning— в 10 раз быстрее аналогов и запустится даже на смартфоне 9 ч.
ИИ-боты оказались никудышными психотерапевтами — они давали вредные советы и отказывались общаться с алкоголиками 9 ч.
Meta не откажется от бизнес-модели «плати или соглашайся», несмотря на угрозу штрафов в ЕС 10 ч.
Российские учёные усовершенствовали MP3 10 ч.
Meta пополнила коллекцию ИИ-талантов, поглотив специализирующийся на голосовом ИИ стартап PlayAI 10 ч.
Поглощение ИИ-стартапа Windsurf компанией OpenAI сорвалось и специалистов тут же переманила Google 11 ч.
В Windows 11 появилась функция быстрого самовосстановления 11 ч.
OpenAI снова отложила выпуск «феноменальной» открытой ИИ-модели 11 ч.
Новая статья: Обзор рейтингового режима Warface: просто освоиться, сложно оторваться 12 ч.
SpaceX добилась, чтобы спутники Starlink не мешали работе обсерватории им. Веры Рубин 8 мин.
Intel сократит 2400 работников в своём крупнейшем центре разработки в Орегоне 5 ч.
Китайская многоразовая ракета из нержавейки отправится в полёт в четвёртом квартале 5 ч.
Нет чипов — нет ЦОД: строящиеся ради ИИ электростанции могут так и не пригодиться 6 ч.
От 100GbE до 800GbE, недорого: стартап TORmem обещает трансформировать рынок ЦОД-коммутаторов 8 ч.
Tesla попытается выбраться из кризиса, запустив продажи электромобилей в Индии 9 ч.
Зонд NASA Parker сфотографировал Солнце с рекордно близкого расстояния 11 ч.
Главный дизайнер Xiaomi пояснил, что внешность электромобилей должна оставлять эмоциональный след 16 ч.
Глава Nvidia стал седьмым самым богатым человеком в мире 16 ч.
Сенаторы рекомендовали главе Nvidia не встречаться в Китае с представителями компаний, которые США пытаются душить санкциями 17 ч.