Google начал развернуть новую функцию безопасности для своего приложения для сообщений, чтобы предоставить пользователям больший контроль над потенциально явным контентом. Система предупреждений контента, впервые анонсированная в прошлом году, автоматически размывает изображения, подозреваемые в сдерживании наготы, помогая пользователям, особенно несовершеннолетним, более безопасно ориентироваться в цифровой связи.
Используя актуальную систему AIS-AI-II от Android SafeTycore, функция анализирует изображения локально на телефоне пользователя. Это означает, что данные изображения не отправляются на серверы Google, сохраняя конфиденциальность пользователей и поддержание целостности сквозных зашифрованных сообщений.
Как это работает
При включении изображения, помечаемые как потенциально явные, автоматически размыты, с видимым приглашением предупреждения. Пользователям представлены четкий выбор:
- Узнайте, почему обнаженные образы могут быть рискованными
- Заблокировать отправителя
- Решить, просматривать ли изображение
- Повторно-блорируйте изображение позже, используя опцию «Удалить предварительный просмотр»
Система также входит, когда пользователи пытаются отправить или пересылать флагменное изображение. Появится подсказка о подтверждении, побуждая пользователей паузу и пересмотреть перед отправкой: «Да, отправить» или «Нет, не отправляйте». Этот нежный «скорость скорости» предназначен для уменьшения импульсивных решений без прямого блокирования действия.
В настоящее время эта система обнаружения ограничена изображениями (не видео) и функционирует только в сообщениях Google, когда включена настройка предупреждения контента контента. Другие приложения должны интегрироваться с SafeTycore индивидуально, чтобы извлечь выгоду из той же защиты.
Адаптировано для возрастных групп
Чтобы защитить молодых пользователей, Google дифференцировал между подростковыми и неконтролируемыми подростками:
- Наблюдаемые пользователи (дети с родителями) будут включать функцию по умолчанию, и ее нельзя отключить. Родители могут управлять настройкой через приложение Family Link.
- Неконтролируемые подростки в возрасте 13-17 лет также увидят функцию, включенную по умолчанию, но у них будет возможность отключить ее через настройки учетной записи Google.
- Взрослые должны выбирать функцию вручную, так как по умолчанию она остается отключенной для пользователей в возрасте 18 лет и старше.
На данный момент ограниченная доступность
Хотя Google официально анонсировал эту функцию в октябре 2024 года, ее развертывание началось на этапах с февраля 2025 года. На данный момент настройка появилась только на ограниченном количестве устройств с последней бета -версией сообщений Google. Он расположен в сообщениях> Защита и безопасность> Управление предупреждениями контента. Ожидается, что в ближайшие месяцы будет продолжена более широкая доступность в Android 9 и выше, включая устройства Android GO.
Хотя Google признает, что функция «не идеальна», она знаменует собой значительный шаг в более широкой инициативе компании по продвижению более безопасных, более вдумчивых цифровых взаимодействий без ущерба для конфиденциальности.
