В пятницу было объявлено о знаковом шаге: консорциум из 20 ведущих технологических компаний объявил о совместных усилиях, направленных на противодействие вводящему в заблуждение контенту искусственного интеллекта (ИИ), который угрожает манипулировать выборами во всем мире в этом году.
Распространение генеративного искусственного интеллекта, способного быстро создавать текст, изображения и видео на основе подсказок, усилило опасения по поводу его потенциального неправильного использования для влияния на ключевые результаты выборов. Поскольку более половины населения мира готово принять участие в предстоящих опросах, опасения по поводу вмешательства, вызванного искусственным интеллектом, становятся все более серьезными.
Технический пакт, представленный на престижной Мюнхенской конференции по безопасности, может похвастаться впечатляющим количеством подписавших сторон. Среди них — отраслевые гиганты, находящиеся в авангарде разработки моделей генеративного искусственного интеллекта, в том числе OpenAI, Microsoft и Adobe. Такие гиганты социальных сетей, как Meta Platforms, TikTok и X (ранее Twitter), также заявили о своей приверженности, признавая необходимость ограничения вредного контента на своих платформах.
Центральное место в соглашении занимают согласованные усилия по разработке инструментов для обнаружения и противодействия вводящему в заблуждение контенту, созданному искусственным интеллектом, в различных форматах, включая изображения, видео и аудио. Кроме того, планы включают широкомасштабные кампании по повышению осведомленности общественности, направленные на обучение избирателей распознаванию обманного контента, а также решительные действия по смягчению его распространения на цифровых платформах.
Технологические решения, предназначенные для борьбы с обманом, создаваемым искусственным интеллектом, могут включать в себя водяные знаки и встраивание метаданных, как обрисовали участвующие компании. Однако сроки выполнения этих обязательств и конкретные условия их реализации остаются неопределенными.
Ник Клегг, президент по глобальным вопросам Meta Platforms, подчеркнул важность коллективных действий, заявив: «Полезность этого соглашения заключается в широте его подписантов». Подчеркнув необходимость единого подхода, Клегг предостерег от разрозненных усилий, приводящих к фрагментированному ответу на растущую угрозу.
Уже появились примеры использования генеративного ИИ для влияния на политические настроения. В январе избирателям в Нью-Гэмпшире был совершен звонок от робота, содержащий сфабрикованную аудиозапись президента США Джо Байдена, призывающую их воздержаться от участия в первичных выборах в штате.
Несмотря на популярность инструментов генерации текста, таких как ChatGPT от OpenAI, коалиция по-прежнему сосредоточена на борьбе с неблагоприятными последствиями визуальных и аудио-изображений, управляемых ИИ. Дана Рао, директор по доверительному управлению Adobe, разъяснила эту позицию, сославшись на присущее человеческой психике доверие, приписываемое мультимедийному контенту.
«В отличие от текста, существует эмоциональный резонанс со звуком, видео и изображениями», — заметил Рао. «Наш мозг предрасположен относиться к таким средствам массовой информации с большим доверием».
Алексей Петров – увлеченный пионер и основатель Richwenews. Обладая острым экономическим умом и глубоким пониманием мировых рынков, Алексей начинал как финансовый аналитик, прежде чем превратить свою страсть в создание инновационного медиа. Его преданность исследованию истины и предоставлению честной аналитики привели к формированию команды одаренных журналистов. Петров известен тем, что стоит за журналистской этикой и образованием аудитории, чтобы каждый гражданин мог принимать обоснованные экономические решения.