Google сделала общедоступным свой детектор ИИ-контента SynthID Detector. Это бесплатный сайт, куда можно загрузить фото, видео или аудио и узнать, не создала ли его нейросеть. Раньше инструментом могли пользоваться только журналисты и медиа, теперь он открыт всем.

Как пользоваться

  1. Зайти на сайт synthid.com.
  2. Войти через аккаунт Google, OpenAI или Apple. Подписка не нужна.
  3. Загрузить файл и посмотреть результат.

Сервис работает по всему миру.

Что он умеет проверять

  • Типы файлов: изображения, видео и аудио. Тексты сайт не проверяет.
  • Чьи нейросети распознаёт: Google, OpenAI, Nvidia и корейской Kakao. Скоро добавится Apple, например картинки из Image Playground.

Google говорит, что договаривается и с другими компаниями, так что список будет расти.

Как это работает

SynthID не пытается «угадать» ИИ по внешнему виду, как многие детекторы. Он ищет невидимый водяной знак, который нейросеть вшивает в файл при создании. Глазом его не увидеть, и он рассчитан на то, чтобы пережить обычное редактирование файла.

Отсюда и главное ограничение: детектор видит только те файлы, где такой знак есть. Если картинку сделала нейросеть без водяных знаков SynthID (например, открытая модель, запущенная на домашнем компьютере), сайт ничего не найдёт.

Чего от него не ждать

  • «Знака нет» не значит «это настоящее фото». Это значит только, что знака нет.
  • Водяной знак иногда удаётся стереть, если сильно переделать файл.
  • Детектор не отличает полностью сгенерированную картинку от обычного фото, которое немного подправили ИИ. И не показывает, какая именно часть изображения искусственная.

Зачем это нужно

Сгенерированных картинок и видео в соцсетях и мессенджерах становится всё больше, и отличить их на глаз уже почти невозможно. SynthID Detector не решит эту проблему целиком, но даёт простой способ быстро проверить подозрительное фото. Например, «снимок» с места происшествия, который вам переслали в чате.

Похожий подход теперь используют и для текста: OpenAI начала помечать водяными знаками тексты ChatGPT в Евросоюзе. Мы разбирали, как это работает.

Если хотите знать, на какие признаки ИИ-фото смотреть самому, загляните в наш гайд о том, как распознать снимки и видео от нейросети.

Источник: Engadget.