Фото Reuters
Результаты тестирования Reuters вновь поставили под вопрос надежность существующих технологий маркировки ИИ-контента на фоне стремительного развития генеративных моделей.
Reuters протестировало инструмент Meta AI Image Detector, который предназначен для определения изображений, созданных искусственным интеллектом. В ходе эксперимента выяснилось, что сервис уверенно распознает оригинальные изображения, созданные с помощью моделей Meta, однако после незначительного кадрирования (cropping) часть файлов перестала определяться, как сгенерированные ИИ.
По данным агентства, аналогичный эффект наблюдался и при некоторых других простых изменениях изображений, не затрагивающих их визуальное содержание. Это свидетельствует о том, что существующие механизмы идентификации ИИ-контента могут быть чувствительны даже к минимальной обработке файлов.
Проблема выходит далеко за рамки Meta
Тест Reuters затрагивает одну из ключевых проблем современной цифровой экономики — возможность достоверно отличить реальное изображение от созданного искусственным интеллектом.
По мере распространения генеративных моделей правительства, технологические компании и медиаплатформы пытаются внедрить инструменты маркировки ИИ-контента. Предполагается, что такие решения помогут бороться с дезинформацией, дипфейками и мошенничеством.
Однако результаты тестирования показывают, что существующие технологии пока не гарантируют надежного распознавания. Даже минимальная обработка изображения может привести к утрате части технических метаданных или других признаков, которые используются системой для идентификации.
Гонка между генерацией и обнаружением
Эксперты отмечают, что рынок вступает в новую фазу технологической гонки. Пока разработчики совершенствуют инструменты генерации изображений, одновременно развивается и рынок средств их обнаружения. Однако обе технологии эволюционируют практически одновременно.
Для бизнеса эта проблема имеет прикладное значение. Банки, страховые компании, государственные органы, СМИ и цифровые платформы все чаще используют автоматические системы проверки изображений при модерации контента, идентификации пользователей и борьбе с мошенничеством.
Если подобные инструменты допускают ошибки после элементарного редактирования файлов, компаниям придется использовать сразу несколько уровней проверки, а не полагаться на один алгоритм.
Реакция Meta
После публикации Reuters компания Meta заявила, что инструменты определения ИИ-контента продолжают совершенствоваться и не являются безошибочными. В компании отметили, что развитие генеративного искусственного интеллекта требует постоянного обновления методов обнаружения, поскольку изображения могут изменяться после создания и публикации.
История с Meta показывает более широкую тенденцию: по мере распространения генеративного ИИ задача подтверждения подлинности цифрового контента становится столь же важной, как и создание самих моделей. Именно поэтому все больше внимания уделяется развитию стандартов цифрового происхождения контента (content provenance), криптографической подписи изображений и международных механизмов маркировки ИИ-материалов.
