Стоит прочитать: Правительство Индии ставит под сомнение Meta по поводу модерации контента и говорит, что платформы должны следовать законам
Почему Мете предстоит еще один судебный процесс по безопасности детей в США?
Последняя судебная тяжба произошла через несколько дней после того, как суд штата Нью-Мексико обязал Meta выплатить 567 миллионов долларов в фонд психического здоровья подростков и обеспечить более строгую защиту молодых пользователей в Facebook и Instagram. Решение последовало за обвинениями в том, что платформы Meta были разработаны для привлечения молодых пользователей, но не смогли защитить их от вредоносного контента.
Meta заявила, что подаст апелляцию на это решение, и опровергла обвинения в том, что она ввела пользователей в заблуждение или не смогла защитить подростков. Суд распорядился принять меры, включая более строгую проверку возраста, ограничения на использование подростков и более строгие меры защиты в отношении контактов взрослых и взаимодействия чат-ботов с искусственным интеллектом с несовершеннолетними.
Стоит прочитать: Марк Цукерберг из Meta говорит, что ИИ создает рабочие места по мере расширения центров обработки данных
Отдельный федеральный судебный процесс с участием 29 штатов США должен начаться 12 августа в Калифорнии. Штаты утверждают, что Meta разработала Facebook и Instagram для того, чтобы они пристрастились к детям, и ввела пользователей в заблуждение относительно безопасности своих платформ.
Что случилось с публикацией премьер-министра Моди в Facebook в Индии?
Мета также сталкивается с вопросами в Индии после того, как Facebook ненадолго ограничил публикацию, опубликованную премьер-министром Нарендрой Моди в июле.
Мета сообщила, что пост был заблокирован случайно из-за операционной ошибки. Директор по международным связям компании Джоэл Каплан позже извинился перед министром информационных технологий Индии за инцидент. Этот эпизод побудил правительство вызвать руководителей Meta и потребовать объяснений.
Инцидент поднял вопросы о том, как автоматизированные системы модерации могут ошибочно ограничивать законный контент, включая сообщения известных общественных деятелей.
Индия хочет усилить мониторинг вредного контента
По данным Reuters, проверка выходит за рамки поста премьер-министра Моди. Индийские чиновники выразили обеспокоенность по поводу материалов о сексуальном насилии над детьми и фейкового контента на платформах Meta. Генеральный директор Meta Марк Цукерберг извинился перед правительством Индии за эту проблему и другие операционные упущения. Meta придерживается политики абсолютной нетерпимости к материалам о сексуальном насилии над детьми и заявляет, что укрепляет свои системы обнаружения.
Индия также изучает способы ужесточения своих правил в социальных сетях. MeitY предложила новое ИТ-правило для социальных платформ, позволяющее удалять незаконный или помеченный судом контент в течение трех часов вместо прежних 36 часов.
Стоит прочитать: после удаления видео премьер-министра Моди из Facebook глава Meta India сталкивается с FIR из-за видео, созданных ИИ
Почему эти события имеют значение
Случаи в США и Индии вызывают разные проблемы, но оба оказывают давление на системы Meta по защите пользователей и модерации контента.
Для Meta задача становится все более двоякой: обеспечить безопасность своих платформ для уязвимых пользователей и одновременно сделать автоматическую модерацию достаточно точной, чтобы избежать неправомерных ограничений. Поскольку правительства ужесточают надзор, сбои могут повлечь за собой дальнейшие судебные иски, действия регулирующих органов и требования внести изменения в платформы компании.
