Сегодня 07 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Google стала маркировать тексты, сгенерированные ИИ

Google представила технологию для маркировки и распознавания текстов, созданных генеративными моделями ИИ. Инструмент под названием SynthID Text не повлияет на качество и скорость генерации контента, и будет доступен совершенно бесплатно для разработчиков и компаний.

 Источник изображения: Copilot

Источник изображения: Copilot

SynthID Text работает следующим образом. При генерации текста модель предсказывает, какой «токен» (символ или слово) будет следующим, основываясь на вероятности появления каждого токена, и добавляет дополнительную информацию в распределение этих вероятностей, модулируя скорректированные символы. В конечном итоге из них формируется водяной знак (watermark), который помогает определить, был ли текст создан ИИ. «Окончательный паттерн вероятностей слов, выбранных моделью, в сочетании с изменёнными оценками вероятностей будет считаться водяным знаком», — объясняется в блоге компании.

Google утверждает, что SynthID Text, который уже весной был интегрирован в Gemini, не влияет на качество, точность или скорость генерации. При этом текст, который был обрезан, перефразирован или изменён может обрабатываться несколько хуже. Что касается фактов, то «в ответах на слишком определённые и однозначные вопросы меньше возможностей для корректировки распределения токенов без ущерба для фактической точности».

Стоит отметить, Google — не единственная компания, работающая над технологией нанесения водяных знаков на текст, созданный ИИ. Например, OpenAI также разрабатывала методы нанесения «вотермарков», но отложила их запуск из-за технических препятствий и коммерческих соображений.

Если технология будет широко внедрена, то возможно получится переломить ситуацию с неточными, но все более популярными «детекторами ИИ», которые ошибочно определяют студенческие работы или эссе как сгенерированные нейросетью. Как пишет TechCrunch, «вопрос остаётся открытым». Однако в некоторых странах уже принимаются меры. Например, правительство Китая ввело обязательную маркировку контента, созданного ИИ, а штат Калифорния (США) собирается последовать этому примеру.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Наконец-то игра про Джона Уика»: мрачный боевик Blackwood расскажет историю владельца магазина DVD, который ведёт двойную жизнь 34 мин.
Всё, к чему прикасается OpenAI, начинает расти — раньше такой сверхспособностью обладала только Nvidia 2 ч.
Олдскульное приключение Mina the Hollower не выйдет 31 октября — смесь Bloodborne, «Зельды» и Castlevania от авторов Shovel Knight задерживается 3 ч.
Консалтинговый гигант Deloitte вернёт австралийским властям часть средств за аналитику с фейковыми ИИ-цитатами 3 ч.
Gex, Road Rash, Doom и другие хиты: в Telegram появился эмулятор легендарной консоли Panasonic 3DO 4 ч.
Верховный суд США не дал Google отсрочки в споре с Epic Games 4 ч.
OpenAI не исключает появления рекламы в ChatGPT Pulse в будущем 5 ч.
Microsoft снова закрыла возможность установки Windows 11 без подключения к интернету 5 ч.
Слухи: опубликованный по ошибке трейлер раскрыл дату выхода PowerWash Simulator 2 раньше времени 7 ч.
Новым финансовым директором xAI и X станет выходец из Morgan Stanley 8 ч.
Китайские компании укрепляют позиции на местном рынке ИИ-ускорителей — часть основана выходцами из AMD и NVIDIA 8 мин.
Лучшая роль второго плана: чипы AMD недостаточно хороши, чтобы стать ядром инфраструктуры OpenAI 2 ч.
xAI потратит $18 млрд на ускорители NVIDIA для ИИ-кластера Colossus 2 2 ч.
В России начались продажи смартфона iQOO Z10R 5G с Dimensity 7360-Turbo, ёмкой батарей и быстрым AMOLED 2 ч.
Джони Айв признался, что уже придумал для OpenAI от 15 до 20 разных ИИ-гаджетов 3 ч.
«Нужно верить в то же, что и мы», — OpenAI объяснила, зачем она закупает столько ИИ-ускорителей 3 ч.
Ветер и солнце стали давать больше электричества, чем сжигание угля 3 ч.
Fermi America бывшего министра энергетики США успешно дебютировала на бирже, хотя пока не построила ни одного ИИ ЦОД 3 ч.
TSMC произвела первую пробную партию 2-нм чипов — с опережением графика 3 ч.
OpenAI запланировала проекты на общую сумму $1 трлн, но не подумала, где взять на них деньги 4 ч.