Сообщается, что Google работает над новой функцией для Google Photos, которая поможет пользователям определить, было ли изображение создано или улучшено с помощью искусственного интеллекта. Согласно недавнему отчету Android Authority, приложение для обмена и хранения фотографий вскоре будет отображать теги, которые будут показывать, создано ли изображение искусственным интеллектом или обработано цифровыми методами, с целью борьбы с распространением дипфейков. Эта функция была замечена в последней версии Google Фото 7.3, хотя пользователям она пока недоступна.
Сообщается, что эта функция будет использовать теги ресурсов в метаданных приложения, в частности, новые идентификаторы, такие как «ai_info» и «digital_source_type», которые будут указывать, было ли изображение создано инструментом искусственного интеллекта, и потенциально называть конкретную используемую модель, например Gemini или Midjourney. Эти теги предоставят пользователям прозрачность относительно происхождения изображений в их галерее, помогая им различать подлинный контент и контент, созданный искусственным интеллектом.
Этот шаг происходит на фоне растущей обеспокоенности по поводу дипфейков — формы цифровых манипуляций, в которой используется искусственный интеллект для создания реалистичных, но ложных медиа. Дипфейки могут включать изображения, видео и аудиоклипы, которые часто используются для распространения дезинформации или обмана аудитории. Недавно болливудский актер Амитабх Баччан подал иск против компании за то, что она якобы использовала технологию deepfake в рекламе без его согласия, подчеркнув риски, связанные с такими манипуляциями.
В настоящее время неясно, как Google намерен отображать эту информацию, связанную с ИИ. Одним из возможных подходов является встраивание информации в данные EXIF изображения, что делает ее более защищенной от несанкционированного доступа, но менее видимой для пользователей, если они не просматривают метаданные изображения. В качестве альтернативы Google Photos может выбрать более прямой подход, например, значок на изображении, указывающий на участие ИИ — аналогично тому, что Meta реализовала в Instagram.
Потенциальное добавление функций атрибуции ИИ согласуется с более широкими усилиями отрасли по повышению прозрачности контента, создаваемого ИИ.
