Meta AI может клонировать ваш голос на другом языке: вот как это работает

Meta представила новый инструмент перевода голоса, способствующего искусственному интеллекту для создателей в Instagram и Facebook, предназначенного для того, чтобы помочь контенту охватить аудиторию за пределы языковых барьеров. В этой функции используется ИИ для автоматического дублирования видео на разных языках при сохранении тона и доставки создателя, и даже синхронизировать движения губ.

При запуске инструмент поддерживает двусторонние переводы между английским и испанским языком, причем компания подтверждает, что в будущем будут добавлены дополнительные языки. Развертывание применяется ко всем публичным аккаунтам Instagram и создателям Facebook с более чем 1000 подписчиками, хотя он не будет доступен в определенных регионах, включая Европейский союз, Великобритания, Южная Корея, Бразилия, Австралия, Нигерия, Турция, Южная Африка и некоторые штаты США, такие как Техас и Иллинойс.

Создатели могут активировать эту функцию при публикации катушки, выбрав опцию «Перевести свой голос с помощью Meta AI». Они могут выбрать, включить ли синхронизацию губ, чтобы дублированная версия соответствовала их движениям рта. Как только процесс будет завершен, создатели получают уведомление о пересмотре перевода, утверждения его или отключения таких функций, как синхронизация Lip, перед публикацией. В финальном видео появляется тонкий индикатор, чтобы показать зрителям, что Meta AI обрабатывает перевод.

Meta говорит, что его система предназначена для того, чтобы сделать дублированное контент чувствовать себя подлинным, клонируя голос создателя, а не заменив его общим рассказчиком. Зрители также могут скорректировать свои предпочтения, если они предпочли бы не увидеть дублированные видео на определенных языках.

Компания добавила новые аналитические инструменты, чтобы дать создателям более глубокое представление о том, как их контент работает на разных языках, показывая разбивки взглядов по переводу. Meta также имеет лучшие практики, поощряя создателей встречаться с камерой, четко говорить и минимизировать фоновый шум для более точных переводов. В настоящее время инструмент поддерживает до двух динамиков на видео, если они не говорят друг о друге.

В дополнение к AI Dubbing, создатели Facebook могут загружать до 20 своих собственных дублированных аудиоуроков для одной катушки через платформу Meta Business Suite. Этот ручный вариант позволяет создателям добавлять переводы даже после публикации видео.

Мета впервые дразнила инструмент перевода Voice AI на конференции Connect Developer в прошлом году, прежде чем провести пилотные тесты на барабанах. Глава Instagram Адам Моссери сказал, что эта функция направлена на то, чтобы помочь создателям вырастить свою аудиторию, общаясь со зрителями по границам языка.

Запуск поступает, поскольку Meta продолжает реструктурировать свое подразделение ИИ, с обновлением внимания на исследованиях, инфраструктуре, продуктах и его долгосрочных амбициях в отношении передовых систем ИИ. Для создателей, однако, непосредственное влияние ясно: их катушки теперь могут поговорить с более широкой глобальной аудиторией.