Линия сообщений WhatsApp стала надежным ресурсом для повышения осведомленности общественности о дипфейках в Индии в то время, когда в стране проходят крупнейшие выборы. Он был создан Отделом анализа дипфейков (DAU) Альянса по борьбе с дезинформацией (MCA). Tipline был запущен в Индии еще в марте 2024 года и получил сотни сообщений, в которых пользователи просили помочь расшифровать, настоящее изображение или фейковое.
WhatsApp сообщает, что пользователи могут отмечать в WhatsApp контент, обработанный искусственным интеллектом, с помощью аудиозаметок или видео и отправлять их на линию подсказок. Подсказки WhatsApp доступны на нескольких языках, таких как хинди, тамильский, телугу и английский.
Далее выяснилось, что большая часть манипулируемого контента, который они получили от пользователей WhatsApp, представляла собой подделанные видео, в которых исходный голос человека был изменен на говорящее что-то другое с помощью искусственного интеллекта. В этих видеороликах снимались известные личности, такие как актеры, бизнесмены, политики и телеведущие. В дополнение к этому, мемы политиков и их подобий, созданные с помощью ИИ, «включали в себя методы смешивания лиц или более дешевые, но не сложные методы».
В сообщении WhatsApp также проанализировано, что рот субъекта был воссоздан с использованием генеративного искусственного интеллекта, так что его губы синхронизировались с измененным звуком, который они встроили в видео, чтобы создать дипфейк.
Как использовать подсказку WhatsApp?
- Вот шаги, которые вы можете использовать, чтобы узнать, является ли видео поддельным или оригинальным.
- Отправьте сообщение на номер WhatsApp Tipline, +91 9999025044.
- Поделитесь аудио или видео, о котором идет речь, чтобы проверить
Затем вы получите отчет об оценке того, создан ли медиафайл с помощью искусственного интеллекта или содержит ли он его элементы.
Пампош Райна, глава DAU, заявил: «Сила DAU заключается в модели сотрудничества, которую он строит, сотрудничая с экспертами по обнаружению и судебно-медицинской экспертизе, что, в свою очередь, помогает партнерам DAU по проверке фактов, которые являются неотъемлемой частью этого процесса. проект. В конце концов, наша цель — привлечь внимание общественности к проблеме изготовления на основе алгоритмов, и я уверен, что такого рода симбиотическая модель может быть воспроизведена по всему миру для борьбы с дезинформацией, распространяемой через аудио- и видеоконтент, созданный с использованием генеративный ИИ»
